萨摩耶云科技集团董事长
林建明
刊首语
PERFACE
【制作出品】品牌管理部
【特别鸣谢】人力行政中心
Thank You For Your Attention
04/9
城邦大事记
10/15
城外风云
国家金融监督管理总局：坚持金融服务实体经济 推动金融高质量发展
关于警惕涉金融领域“代理维权”风险的提示
维信金科2023年度ESG报告：金融科技赋能可持续发展
奇富科技获《机构投资者》“最受尊敬公司”等多项殊荣
度小满“轩辕70B”金融大模型正式开源
16/21
AI空间站
22/29
天空城荣誉塔
30/38
天空城小剧场
出发吧！好耶友谊村—田野日记大放送
热 AI出 ZONG:端午礼福礼派送
本期互动：聊聊你的时间管理
萤火微光，因AI向善：萨摩耶云科技集团精准帮扶，温暖乡村振兴路
萨摩耶云科技集团：新航海时代，用AI重塑企业竞争力
萨摩耶云科技集团荣获：2024创新发展论坛“AIGC金融行业创新应用奖”
时光飞逝 我们即将迎来下半年的征程
天赋可以让我们走得更快
但努力能让我们走得更远
711科研作息 让薛其坤从7年硕博到国家科学最高奖获得者
他说99分的努力非常非常重要
但坚持往前需要志气
生正逢时 赌一口不辜负这个时代的气
我们每人都可以做一个完美的自己
“大模型高考状元”花落谁家？高考前夜这个AI火了
AI大潮下，搭建本地大模型的成本在急速降低
至少在未来5年里，Scaling Law仍将是大模型产业发展的主要方向
如何玩转时间管理？满电员工的时间管理公式大揭秘！
倾请推荐：超级干货的时间管理书籍、视频集合来啦
心向光芒，种下希望。适逢芒种和世界环境日双节，6月5日-6日，萨摩耶云科技集团再度走进广西南宁市马山县，完成为期两天的实地走访与田野调查。通过同马山县粤桂协作办公室、当地村委、企业、农户的深度交流，探讨如何通过数字化创新方式，更好地推进“好耶友谊村”的结对帮扶工作。此次走访恰逢萨摩耶云科技集团9周年发布ESG“萤火”计划，在“微振乡村”可持续发展实施路线上，萨摩耶云科技集团用实际行动点亮“振兴之光”，推动乡村振兴与企业发展，为建设美丽中国添砖加瓦。
数字化塑造新乡村帮扶样本
微光点亮真情，天空渐渐放晴。走访期间马山县结束了连日的大雨，萨摩耶云科技集团与龙岗村相向而行，乡村振兴研讨会在村委火热召开，就后续帮扶事宜达成共识，未来双方将坚持从实际出发，深化开展志愿服务、助学帮扶、爱心捐赠等工作，助力乡村振兴。
座谈研讨后，萨摩耶云科技集团对党群服务中心的“扶志超市”进行了2.0升级，并为升级后的“好耶供
销社”捐赠了首批物资。据悉，“扶志超市”旨在培育良好的村风民风，激发村民参与共建美丽乡村。萨摩耶云科技集团将用数字化技术，通过机制创新，让“好耶供销社”形态更为完整，作为一扇愈发明亮的精神文明窗口，引导更多的村民提升素养，多劳多得。
乡村振兴既要“塑形”，更要“铸魂”。“扶志超市”的此番升级，也是萨摩耶云科技集团创新性地将“正爱、激情、真诚、信赏”企业价值观与乡村精神文明建设打通，打造乡村结对帮扶新样本，实现“浇水浇在根上、扶贫扶在志上”。
对于萨摩耶云科技集团的全体员工来说，远在广西大山之中的“好耶友谊村”也一直牵动着他们的心。为更好向马山县提供有温度的精准帮扶，集团同步发起内部公益社群，成立好耶友谊村“编外村委会”，广大员工纷纷围绕赋能乡村振兴，为友谊村的绿色发展和IP建设出谋划策。
此外，萨摩耶云科技集团一行还先后走访了两家广西乡村振兴企业：广西马山南华糖业有限责任公司，广西金天地农业发展有限公司。详细了解老字号糖厂发展历程、红糖古法工艺，以及优质农产品的良种繁育、生产销售、数字管理和品牌建设工作，并了解企业生产经营困难瓶颈，同时前往加乐村实地考察黄金瓜棚、村民蚕房、参观党建活动室、开展联合党建。
萤火微光温暖乡村振兴路
2024年成立9周年之际，萨摩耶云科技集团强化顶层设计，擎稳高质量发展大旗，推出ESG“萤火”计划。这一计划旨在实践可持续发展理念，分为公益之光、振兴之光、普惠之光、成长之光和生态之光五个实施路线。其中，振兴之光以微振乡村为使命，致力于开展结对帮扶，助推乡村振兴。
萨摩耶云科技集团与龙岗村的结对帮扶始于2021年11月，在深圳市福田区对口办牵头下双方签订五年帮扶协议，建立第一个“好耶友谊村”。自签署协议以来，每一次帮扶与爱心都见证了萨摩耶云科技集团的责任和努力。无论是设立助学金和升学基金，采购助销中秋特产礼盒，捐赠电脑设备，还是产业帮扶甜瓜销售，走访慰问村民，公益反诈宣传栏建设以及村容村貌提升，都取得了显著成效。
结对帮扶不仅是一份真挚的情感，更是一种坚定的信念。萨摩耶云科技集团与“好耶友谊村”携手共同书写乡村振兴和可持续发展新的一页。一条从基础建设到产业帮扶再到乡村文旅的探索之路，正在勾勒出好耶友谊村的范本和马山模式的新图景，一束温暖的光正在乡村间冉冉升起。
城邦大事记
萤火微光，因AI向善：萨摩耶云科技集团精准帮扶，温暖乡村振兴路
01
萤火微光，因AI向善：萨摩耶云科技集团精准帮扶，温暖乡村振兴路
点击跳转阅读全文
城邦大事记
点击跳转阅读全文
新航海时代，用AI重塑企业竞争力
02
新航海时代，用AI重塑企业竞争力
有一个比喻说，人们看新兴科技就像看火车从远处驶来。离得远，感觉速度似乎很慢到不了眼前。当真的靠近时，刹那间呼啸而过有些措手不及。或许现在就是AI列车逼近的一刻。今天，ChatGPT、Sora、人形机器人以前所未有的方式影响着人机关系。AI在许多领域的能力正在逼近甚至超越人类。AI正在与人形机器人技术融合，作为一种功能强大的硅基智能体，引发了一系列值得深思的问题：人与AI的关系是近乎单向地创造与被创造吗？企业该如何用这种智能新科技重塑竞争力？在企业出海时代，我们该如何做？
站在AI飞轮上的人形机器
人形机器人引发新的人机关系，笔者以为，不应该过度担心它抢人类的饭碗，毕竟人的情感和创意无法被替代。理查德·道金斯的名言“鸡是一枚鸡蛋制造另一枚鸡蛋的工具”提醒我们，机器与生命在很多方面都存在相似之处，两者的关系应当视为一种共生关系。也如爱德华·阿什福德·李所说“模仿人类可能并非机器的终点，与人类互补或许才是科技发展的正道。”身处AI时代，每个人都应积极拥抱变革，持续学习与时俱进。让人形机器人代替人类去做危险、枯燥、机械的工作，人类则专注于创造性地工作，何尝不是一种好的方式。
弄潮大模型：金融业的创新与平衡发展
第五，保持灵活的战略调整，根据市场反馈和业务发展动态调整策略，以实现长期可持续发展。
金融业对科技创新应用的合规性和安全性要求极高，目前大模型技术尚不成熟，在金融领域的应用还处于初级阶段。推动金融大模型高质量发展，核心在于做好创新与合规安全的平衡关系。
一要平衡大小模型协同共生的关系。建议整合行业内外部技术能力，建立国家级、行业级大模型训练和推理平台，确保技术应用的合规性和安全性，避免不同大小金融机构之间出现“模型鸿沟”。
二要推动模型能力与语料输入的协同共融。保证模型的持续优化，分级分类推行数据开放共享，改进语料质量。
三要注重应用与金融监管协同共进。制定适应大模型应用的监管标准和法规，确保监管有效性和一致性，防止大模型应用带来的潜在风险和挑战。
出海是突破内卷的利器
面对经济周期性挑战和人口红利消退、行业内卷加剧，无论是巨头企业，还是创业公司，都面临着艰难抉择。一是转型，从过去的粗放模式转向精细化运营；另一个是“出海”。特别对于许多科技企业而言，出海不再是可选项，而是必选项，成为寻求新突破、实现持续发展的关键战略之一。
擘画航海新地图
中国企业在海外市场不仅需要带去产品、服务、品牌和消费方式，还需要制定针对性的策略来应对潜在风险。
第一，深入了解目标市场的法规、文化和消费者需求，定制明确可实施的出海路径。
第二，注重本地化发展，加强与当地金融机构和企业的合作，化解地缘政治负面影响，提升市场接受度和客户满意度。
第三，重视安全合规和风险管理，遵守当地的数据法规，保护用户数据隐私安全。
第四，持续投入技术研发，保持产品技术的领先地位，与本地伙伴建立紧密合作关系，共同推动创新和市场扩展。
近期，由中国社会科学院信息化研究中心、《互联网周刊》、eNet研究院、德本咨询评选的2024（第六届）创新发展论坛金i奖正式发布，中国AI决策领先企业萨摩耶云科技集团凭借在前沿科技领域的持续创新和突出贡献，获评“AIGC金融行业创新应用奖”。
创新AIGC应用，发展金融新质生产力
科技兴则民族兴，科技强则国家强。新时期，技术创新进入前所未有的密集活跃期，人工智能、量子技术等前沿技术集中涌现，引发链式变革。与此同时，百年未有之大变局加速演进，全球科技创新风起云涌，为人类社会带来深刻变革和重大影响，新一轮科技革命和产业变革正在重构全球创新版图、重塑全球经济结构。在新形势下，日前，最高领导人在全国科技大会、国家科学技术奖励大会的讲话持续引发热烈反响，为抢占未来科技发展制高点提供了根本遵循和行动方向。
作为新质生产力的核心技术，以大模型为代表的人工智能不仅正在催生新的产业形态，还在显著重
塑着我们的生活方式和生产力。“察势者智，驭势者明”。一直以来，萨摩耶云科技集团高度重视科技发展，坚持以“金融+科技”战略为引领，不断夯实人工智能技术底座，积极开展AIGC前沿技术探索，构建领先端到端云原生解决方案，为发展新质生产力、推动经济社会高质量发展提供新动能。
扎实推动科技创新和产业创新深度融合，关键在于强化企业科技创新主体地位。萨摩耶云科技集团持续深化科技创新，集中优势资源进行人工智能技术研发和应用，目前已经累积申请了500项知识产权。其以云原生、SaaS化、全链路的端到端云原生解决方案，正在帮助金融机构高端化、智能化、绿色化转型。在探索AIGC发展战略层面，萨摩耶云科技集团注重将AIGC技术和AI决策智能进行深度融合，尝试在金融、跨境电商等领域落地应用，培育和发展新质生产力。
在金融领域，萨摩耶云科技集团调用Embedding、Fine-tuning等API接口，让解决方案更加精准地贴合业务场景。例如在风控建模领域，利用Embedding接口对客户对话内容进行向量化解码，捕捉客户语义、沟通礼貌程度等综合素质信息。不仅大幅丰富了模型特征变量，还有效提升模型预测能力和准确性，增强对客户需求的理解。同时，通过将结构化数据嵌入到猎户座反欺诈模型，Hunter反欺诈系统等产品，指导模型方案设计和调优，动态调整风险评估策略，精准评估用户信用风险，自动监控用户交易行为，识别异常模式，显著提高了金融机构的风控能力和反欺诈效果。
加快前瞻性布局，提升价值创造能力
海外跨境电商是萨摩耶云科技集团探索AIGC应用的又一重要领域，其调用Chat、Fine-tuning和Embedding等API接口组合，高效生成商品文案，结合海量用户数据，挖掘潜在客户画像，进行智能推荐提升商品转化率。同时，利用智能分析销售数据，预测市场需求周期性波动，及时调整供应链，辅助商户实现稳健运营，让跨境交易更加简单高效。
为持续夯实温暖金融的底色，萨摩耶云科技集团于2024年在香港设立国际业务中心。借助香港在“一带一路”倡议中的桥头堡地位，引进高端人才，加大对AIGC等领域的创新突破。未来2年内，萨摩耶云科技集团将集中精力，致力于把AIGC技术与AI决策智能相结合，深度融合到核心业务中，通过关键性的创新突破提升金融竞争力。
人工智能时代的大门已经敞开。加快“人工智能+”发展、推动产业升级，我国人工智能发展正驶入快车道、迈向新阶段。萨摩耶云科技集团将坚持以国家战略需求为导向，加快前瞻性基础研究和引领性原创成果突破，构建产学研联动创新生态，通过自身不断地迭代进化，推动人工智能技术与实体经济深度融合，创造更大价值。
点击跳转阅读全文
03
向“新”而行，萨摩耶云科技集团荣获：
2024创新发展论坛“AIGC金融行业创新应用奖”
萨摩耶云科技集团获 ——“AIGC金融行业创新应用奖”
城邦大事记
城外风云
01
国家金融监督管理总局：坚持金融服务实体经济 推动金融高质量发展
新华社北京5月21日电 全国地方党委金融办主任会议5月21日在京召开。中共中央政治局常委、国务院总理、中央金融委员会主任李强日前对做好地方金融工作作出重要批示。批示指出：2023年以来，各级党委金融委、金融办坚持以习近平新时代中国特色社会主义思想为指导，认真贯彻党中央决策部署，锚定金融强国建设目标，全面加强金融系统党的领导和党的建设，有序推进金融管理体制改革，大力防范化解金融风险，加强金融监管，推动金融高质量发展，各项工作取得积极进展。金融关系经济社会发展大局。要深入学习贯彻中央金融工作会议精神，坚持党中央对金融工作的集中统一领导，坚定不移走中国特色金融发展之路。要坚持金融服务实体经济的根本宗旨，做好金融“五篇大文章”，统筹金融开放和安全，加快建设中国特色现代金融体系。要如期完成地方金融管理体制改革任务，加快形成央地工作合力，强化地方金融机构日常监管，牢牢守住不发生系统性金融风险的底线，以金融高质量发展助力强国建设、民族复兴伟业。
中共中央政治局委员、中央金融委员会办公室主任何立峰出席会议并讲话。他强调，各地要认真学习深刻领会习近平经济思想金融篇，落实李强总理重要批示要求，切实增强做好新时代新征程金融工作的政治自觉、思想自觉、行动自觉。要坚持目标导向和问题导向，锚定建设金融强国长期目标和牢牢守住不发生系统性风险底线的近中期目标，直面金融领域存在的风险隐患，按照防风险、强监管、促发展的工作主线，讲求策略方法，坚持实事求是、因地制宜，扎实做好金融领域重点工作。当前，要统筹做好房地产风险、地方政府债务风险、地方中小金融机构风险等相互交织风险的严防严控，严厉打击非法金融活动。要全面加强地方金融组织监管，协同强化中小金融机构监管。要找准金融支持实体经济切入点着力点，加大对重大战略、重点领域和薄弱环节的支持，着力促进经济社会高质量发展，并在这一过程中实现金融自身高质量发展。要切实加强地方党委金融办自身建设，全面完成机构改革任务，把加强党对金融工作的领导落到实处，积极打造模范机关，大力弘扬中国特色金融文化，狠抓工作落实，高效履行职责。
点击跳转阅读全文
关于警惕涉金融领域“代理维权”
风险的提示
近年来，以“减免债务”“代理退保”为代表的涉金融领域“代理维权”乱象持续蔓延，有的已形成有组织的黑色产业链、非法利益链，侵害消费者合法权益，扰乱金融市场正常秩序。国家金融监督管理总局发布消费者权益保护风险提示，提醒广大消费者应通过正规渠道表达诉求，依法理性维权。为保护广大消费者合法权益，国家金融监督管理总局金融消费者权益保护局提示广大消费者：
一、理性选择适当产品和服务。请消费者根据实际需求、自身经济情况和风险承受能力，从正规渠道选择适当的金融产品和服务，提高风险防范意识，勿受“更高收益”“全额退保”等诱惑，购买或换购超出自身风险承受能力的产品和服务，避免产生不必要纠纷。
二、依法维护自身合法权益。消费者因购买产品或接受服务与金融机构产生纠纷时，请通过与金融机构协商、向行业调解组织申请调解、向金融监管部门反映、向人民法院提起诉讼等渠道提出诉求，不可轻信不法分子虚假承诺，切勿受怂恿参与违法违规活动，避免陷入法律风险陷阱。
三、注重保护个人信息及财产安全。消费者应妥善保管个人身份证件、银行卡、金融账户等，不轻易委托他人代为办理相关手续，避免个人信息被非法利用、泄露或买卖，避免个人财产遭受损失。如发现自身合法权益受到侵害，应保存相关证据，及时向公安机关报案。
02
点击跳转阅读全文
6月18日，全球领先的企业管治及投资者关系研究公司《机构投资者》（Institutional Investor）2024年度亚洲（除日本）最佳管理团队（Asia (ex-Japan) Executive Team）排名结果揭晓。奇富科技（纳斯达克：QFIN；港交所：3660）凭借其在信息披露的透明度、公司治理的完善性、资本市场沟通的有效性，荣获了“最受尊敬公司”(Most Honored Companies)、“最佳首席执行官”（Best CEO） 、“最佳首席财务官”（Best CFO） 、“最佳投资者关系专业人员”（Best IR professional）等多项荣誉，并均在相关榜单中名列前茅。
《机构投资者》创立于1967年，是目前全球资本市场最具权威研究机构之一，每年邀请经过认证的金融行业专业人士对上市公司管理团队做出评选投票，榜单评审阵容庞大且具有权威性，榜单含金量高，受到业内人士的广泛认可。
维信金科2023年度ESG报告：金融科技赋能可持续发展
政策之风
奇富科技获《机构投资者》“最受尊敬公司”等多项殊荣
04
点击跳转阅读全文
本年度，维信金科确立了以提供可信赖的金融科技服务为核心，以科技和数据双引擎驱动，以打造负责任、有温度、可持续的责任治理为方向的“一核心、双引擎、三方向”ESG发展战略，坚定推进可持续经营，为可持续发展贡献维信力量。
报告显示，维信金科正在着力推动将该ESG战略作为集团可持续发展的实施框架和行动引领，相应地制定及完善了多项相关的管理制度及实施细则，并将信息安全与隐私保护、金融科技创新、合规运营、商业道德、客户服务质量等16个可持续发展议题全面融入集团的日常运营当中，以持续提升 ESG 管理的系统性及有效性。
2023年，维信金科积极推进合规运营，重视企业内控风险管理和信贷服务风险管理，建立了完善的合规管理制度体系，专设风险管理委员会，推进集团风险管理的规范化、标准化和透明化。
2023年，公司持续提高客户服务效率及服务质量，并建立全渠道客户反馈体系，全年服务客户620万余人次，人工服务接通率95%，客户服务好评率98%。维信金科采用多元顺畅、简洁高效的客户投诉处理流程，全年投诉当天响应率100%，投诉处理完结率100%，平均结案时效2.42天。同时，公司将消费者权益保护明确提升至战略层面，并持续推进信息安全管理工作，进一步夯实了消费者权益保护工作。
点击跳转阅读全文
03
城外风云
度小满“轩辕70B”金融大模型正式开源
政策之风
05
XuanYuan-70B的总成绩达到71.9分；在CMMLU榜单中，以71.05分的高分位居榜首，在两大权威榜单上的所有开源模型中排名第一，也是国内首个同时在两大权威榜单排名第一的金融大模型。
C-Eval榜单是由清华大学、上海交通大学和爱丁堡大学合作构建的综合性考试评测集，几乎囊括了所有国内外的主流模型，覆盖人文、社科、理工、其他专业四个大方向的52个学科，共有13948个多项选择题和中学、本科、研究生、职业等四个难度级别,是目前对模型潜力判断最具权威性的大模型榜单之一。
CMMLU 数据集是一个综合性的中文评估基准，由MBZUAI、上海交通大学、微软亚洲研究院共同推出，专门用于评估语言模型在中文语境下的知识和推理能力，共涵盖了67个主题，涉及自然科学、社会科学、工程、人文以及常识等。
度小满以前沿科技促进金融行业突破性革新
金融行业场景丰富，数字化程度高，是大模型落地应用的最佳场景之一。但金融又是一个高合规要求的行业，业务决策复杂，大模型真正在金融业务中做到实际应用还面临不少挑战。
度小满CTO许冬亮表示，“相比通用大模型，‘轩辕70B’金融大模型经过度小满业务场景中沉淀的海量金融数据训练，对金融知识理解更专业、更精准，可控性、安全性更高。我们把大模型开源，希望能够降低大模型在金融行业的部署和应用门槛，促进金融行业服务效率和服务体验的突破性革新”。
“轩辕70B”将在社区同时开源金融大模型和50G高质量金融语料。
今年5月份，度小满开源了国内首个千亿参数的金融大模型，已经有上百家金融机构申请试用。本次发布的新版大模型相较于上一个版本能力全面提升：在增量预训练和指令微调阶段，加入了度小满业务场景中的海量金融数据，对金融问题回复更专业，金融知识理解能力提升明显；同时在预训练阶段，"轩辕70B”的模型上下文长度扩充到8k，能够处理更长的金融报告、研究和分析。
度小满抢先布局大模型，在大模型技术领域有着深厚积淀。随着大模型新技术、新成果不断落地金融行业，大模型也将为推动金融行业创新变革注入活力。度小满将积极攻克大模型技术难题，将大模型应用到金融风控、智能客服等场景中，持续推动金融大模型产业又快又稳落地。
金融行业是大模型落地的高潜场景。近年来，度小满聚焦金融大模型产业落地的痛点，紧抓新一轮信息技术带来的行业机遇，加快对大模型的研究和应用布局，不断巩固自身技术实力。近期，度小满正式发布“轩辕70B”金融大模型。据度小满公布显示：“轩辕70B”在两大权威榜单所有开源模型中排名第一。
度小满宣布“轩辕70B”金融大模型开源
9月22日，度小满宣布“轩辕70B”金融大模型开源，所有用户均可自由下载和试用，并公布了“轩辕70B”在C-Eval、CMMLU两大权威大语言模型评测基准的成绩。数据显示， 在C-Eval榜单上，
度小满“轩辕70B”金融大模型正式开源
城外风云
近人类。模型学会对齐人类价值观，它也随之变得更加对人类有帮助、诚实以及安全。
开源，正在让AI迭代得更快、更智能，也更“通情达义”。可以看到，大模型的开源除了能加快模型落地应用，还能收获开源社区海量的优质反馈，从而反哺到模型本身的迭代升级中。阿里云就多次表示，通义千问持续不断地性能升级，很大程度得益于开发者社区的驱动。
谈及选择开源策略的原因，阿里云首席技术官周靖人曾表示，大模型的落地应用需要先有繁荣的生态，而开源是打造生态的最佳途径。阿里云选择选择开源，是希望把顶尖的AI技术开放给企业和开发者，让大家用最低的成本、最高的效率触达优质模型，更快地推进AI技术一系列的创新和发展。
周靖人认为，未来的大模型市场“一定不是one size fits all”，不可能由一个模型服务万物，也不会只有一种服务方式。只有把选择权交到开发者，交给企业，
点击跳转阅读全文
“大模型高考状元”花落谁家？高考前夜这个AI火了
“大模型高考元年”来了！2024高考刚刚落幕，市面上的大模型几乎都被提溜出来，在公众围观下角逐“AI高考状元”。
就在高考前夜，有一家大模型公司放了大招。6月7日凌晨0点左右，阿里云发布通义千问第二代开源模型Qwen2。几小时后，Qwen2-72B 拿下开源大模型赛场的“高考状元”，超越Llama3-70B等上百个对手，在全球最权威的开源模型榜单Open LLM Leaderboard 夺冠。
网友还用AI来做数学题、写代码，Qwen2的表现也胜过绝大部分闭源模型。感兴趣的读者可以登录上海人工智能实验室与魔搭社区联合推出的大模型竞技场Compass Arena，在几十款主流大模型中任选其他模型和Qwen2组队对战。
这非常符合Qwen系列模型的中文含义，“通义”，本意就为“通情，达义”。相比于上一代模型，Qwen2不仅有了更强的代码、数学、推理、指令遵循、多语言理解等能力。通义千问团队在技术博客中透露，大规模预训练后，团队对模型进行了精细的微调，以提升其智能水平，让其表现更接近
Qwen2-72B在十多个权威测评中获得冠军，超过美国的Llama3-70B模型
才能更加有效地让AI能力落地在各个业务场景里。
AI空间站
01
“大模型高考状元”花落谁家？
高考前夜这个AI火了
AI大模型，成为了科技圈的香饽饽。
用户需求的日益增长，推动了AI技术的进化。随着大语言模型的应用场景日益增多，它们开始在我们的生活中扮演着越来越重要的角色。
不过，随着大语言模型的高速普及下，云端大模型的局限性逐渐显现出来。
连接缓慢，成本高昂，还有成为热议话题的数据隐私问题，没有人可以轻易忽视。最重要的是，基于各种制度和伦理道德的云端审核制度，进一步限制了大语言模型的自由。本地部署，似乎为我们指引了一条新的道路。
So，本地部署对我们的AI体验来说，到底是锦上添花，还是史诗级增强？
现阶段比较火的大模型应用，例如国外的ChatGPT、Midjourney等，还有国内的文心一言、科大讯飞、KIWI这些，基本都是依赖云端服务器实现各种服务的AI应用。它们可以实时更新数据，和搜索引擎联动整合，不用占用自家电脑资源，把运算过程和负载全部都放在远端的服务器上，自己只要享受得到的结果就可以了。换句话说，有网，它确实很牛逼。可一旦断网，这些依赖云端
点击跳转阅读全文
的AI服务只能在键盘上敲出「GG」。作为对比，本地大模型，自然是主打在设备本地实现AI智能化。除了不用担心服务器崩掉带来的问题，还更有利于保护用户的隐私。
不过，目前想要在自己的电脑上搭建本地大模型其实并不是一件容易的事情。
较高的设备要求是原因之一，毕竟本地大模型需要把整个运算过程和负载全部都放在自家的电脑上，不仅会占用你的电脑机能，更会使其长时间在中高负载下运行。其次嘛…从Github/Huggingface上琳琅满目的项目望去，要达成这一目标，基本都需要有编程经验，最起码你要进行很多运行库安装后，在控制台执行一些命令行和配置才可以。
那么有没有什么比较「一键式」的，只要设置运行就可以开始对话的本地应用呢？
还真有，Koboldcpp。
工具用得好，小白也能搞定本地大模型.简单介绍一下，Koboldcpp是一个基于GGML/GGUF模型的推理框架，和llama.cpp的底层相同，均采用了纯C/C++代码，无需任何额外依赖库，甚至可以直接通过CPU来推理运行。当然，那样的运行速度会非常缓慢就是了。
只要你的配置足够，你完全可以把大语言模型、AI语音、AI绘图和2D数字人连接在一起，搭建起属于自己的本地数字人，看着在屏幕中栩栩如生的AI角色，多少让人有种《serial experiments lain》那样的恍惚感。
不过这类开源大模型，通常数据都会比较滞后，因此在专业性知识上会有比较明显的欠缺，实测大部分知识库都是到2022年中旬为止，也没有任何调用外部网络资源的办法，辅助办公、查阅资料时会遇到很大的局限性。
在我看来，理想的大语言模型体验应该是端云互动的。
即我可以在本地，利用自己的大模型建立自己的知识库，但是需要用到时效性信息的时候，又能借助互联网的力量获取最新资讯，这样既可以保护个人资料的隐私性，也算是有效解决了开源大模型信息滞后的问题。
AI空间站
02
热门话题讨论：AI大潮下，搭建本地大模型的成本在急速降低
AI大潮下，搭建本地大模型的成本在急速降低
张亚勤则从大模型“三个做对了”的和“三个目前需要改进”的来展开。
在大模型“三个做对了”方面，他认为，规模定律Scaling Law的实现，主要得益于对海量数据的利用以及算力的显著提升。再加上现在的Diffusion和Transformer架构能够高效地利用算力和数据，使得“飞轮效应”得以正循环。至少在未来5年里，它仍将是产业发展的主要方向。
其次在大模型中，“Token”是一个基本元素。无论是文本、语音、图像、视频，还是自动驾驶中的激光雷达信号，甚至是生物领域的蛋白质和细胞，最终都可以抽象为一个Token。Token之间的训练、学习和生成是核心环节，这与人们大脑中的神经元工作原理相似，无论执行何种任务，其基础机制都是相同的。
第三，大模型现在的通用性不仅体现在文本处理上，还扩展到了多模态领域，甚至可以生成如蛋白质等复杂结构。此外，它在物理世界（如具身智能）和生物世界（如生物智能）中也有着广泛的应用前景。
在现阶段大模型存在的主要问题上，他认为，首先是效率较低。特别是大模型的计算效率低下问题，与人类大脑的高效性形成了鲜明的对比。人类大脑拥有860亿个神经元，每个神经元又有数千个突触连接，却只需要20瓦的能量，重量还不到三斤；而GPT4这个万亿参数模型则需要巨大的算力和能源，与人脑相比相差1000倍之多。此外，人脑能够根据不同的情境灵活调用不同区域的神经元，而大模型却每次输入一个问题都要调用和激活几乎大量参数。因此，如何借鉴人类大脑的计算方法，在降低计算耗能、提高效率方面进行探索和创新，是一个值得关注的方向。
其次，大模型目前还未能真正理解物理世界，相关的推理能力、透明性以及幻觉等问题都还在深入研究中。大模型它在生成式表述与对真实世界的描绘之间仍存在矛盾。因此，我们需要探索如何将生成式的概率大模型与现有的“第一性原理”或真实模型、知识图谱相结合。张亚勤预测，在未来五年内，将会有一个全新的架构出现，这个架构有望取代目前的Transformer和Diffusion模型。
第三个欠缺的地方是边界问题。现在大模型无法知道“我不知道什么”，这是目前要解决的问题，是它的边界效应。
点击跳转阅读全文
大模型是至今为止人工智能发展最成功的一个技术方向。那么，是什么原因使得大模型如此成功？还有哪些欠缺的地方需要进一步发展？
AI 2.0是有史以来最伟大的科技革命和平台革命，大模型Scaling Law的重要性在这个时代得以凸显，人类能够用更多计算和数据不断增加大模型的智慧，且还远没有触达天花板。
但是，大模型正面临着一些挑战。比方说，如果“仅仅用更多算力就能把它往前推动”是主要方向的话，就会导致只有那些GPU资源丰富的公司和国家能够在这方面胜出。但是，很多国内大模型在部分案例里接近、打平或者偶尔超过了美国的大模型。所以，当下需要关注的是算法和工程创新一体化的推进，以及怎么以这种能力避免进入“盲目堆算力推动模型性能提升”的状态。
大模型还存在记忆的问题、窗口长度的问题、幻觉问题等等，但可以看到的是，当全球如此多聪明的大脑涌入这个领域后，大部分问题不能说被完美地解决，但是都在逐步被攻克的过程中，所以对大模型的未来相当乐观。
AI空间站
03
至少在未来5年里，Scaling Law仍将是
大模型产业发展的主要方向
Scaling Law仍将是大模型产业发展的主要方向
天空城荣誉塔
如何玩转时间管理？满电员工的时间管理公式大揭秘！
研发部 王建强
天空城荣誉塔
如何玩转时间管理？满电员工的时间管理公式大揭秘！
研发部 王安乔
法律合规部 杨萌
天空城荣誉塔
如何玩转时间管理？满电员工的时间管理公式大揭秘！
运营部 孟雨果
风险管理部 龚秋桃
天空城荣誉塔
倾请推荐：超级干货的时间管理书籍、视频集合来啦
出发吧！好耶友谊村—田野日记大放送
天空城小剧场
出发吧！好耶友谊村—田野日记大放送
天空城小剧场
热 AI出 ZONG:端午礼福礼派送
天空城小剧场
每月话题讨论
萨摩耶云科技集团-品牌管理部
微信公众号
微信视频号
增值电信业务经营许可证：陕B2-20210327 | 
陕公网安备 61102302611033号