360智脑产品资深专家：设定有角色的数字人是用好大模型的技巧

8月16日，以“大模型见真章”为主题，北京商报深蓝智库举行AI专题分享会，360智脑产品资深专家葛灿辉分享了360智脑大模型的应用落地情况以及自己在大模型领域的思考。在他看来，大模型关乎国家生产力发展水平，中国要多方协力发展产业，未来中小微模式有望成为国内大模型发展的主流形式，通过模型压缩和优化，力争用有限资源达到近似性能。

　　网络安全起家的360是国内少数持续深耕人工智能核心技术的公司。2015年360成立人工智能研究院，目前该研究院是360集团算法中枢，在自然语言理解、机器视觉与运动、语音语义交互等方面达到行业领先。
　　2023年3月29日，360发布智脑大模型1.0版本，并将相应能力落地在搜索场景。6月13日360智脑大模型升级至4.0，数字人、多模态应用、360全端应用等成果落地。8月9日，360智脑与奇富科技等八家企业签署合作协议，基于360智脑大模型共创企业级大模型解决方案，次日发布安全大模型。紧锣密鼓的布局让360成为国内大模型竞赛第一梯队成员。
　　进入大模型赛道之初，360就确定了“四路齐发”场景布局，即面对消费者推出用户个人AI助理；面向中小微企业提供SaaS（软件即服务）化垂直应用；面对企业、政府和城市类客户支持私有化部署；面对行业客户推出垂直类大模型。
　　整个场景布局中的核心是API（应用程序编程接口），这一平台的任务是赋能千行百业、打造开发者业务。
　　“API主要提供各种能力，比如翻译、对话能力等，简单说就是API接入大模型可以做新应用。”葛灿辉这样介绍基于大模型开发行业应用的过程，“底层是360多个基础大模型，基于底层能力、API开发者工具和360智脑API开放平台，客户可以开发各种行业应用，比如知识管理、医疗问答、智能客服等。”
　　在葛灿辉看来，API的开放和兼容对快速推进上述流程至关重要。他强调，“API一定要做到开放，360对外对内的API能力完全一致。兼容性在大模型时代也非常关键，360智脑的API和OpenAI的API是完全兼容的，用户只需要改一个API的地址，再改一个API Key，就可以用OpenAI原生的官方客户端调用360智脑的API，所以我们不需要开发客户端，第三方客户端可以直接用，这会让客户接入360智脑的效率大大提升”。
　　谈到未来大模型技术层面的趋势，他认为中小微模式有望成为国内主流。怎么理解中小微模式？葛灿辉解释，即在保持较高预测准确性的同时，大幅度减小模型的大小和计算成本，优化计算效率，以实现高效的模型预测在较小的设备上运行。
　　360强调的大模型垂直化也有相似的特点，即助力中小型企业数智化转型。目前360面向生态伙伴开放千亿参数大模型API，360 AI商店已推出超20个行业解决方案、吸引超300家GPT服务商。

来源： 北京商报

360助力中小型企业数字化转型