李星冶 端侧模型大有可为

　　新京报贝壳财经讯 （记者韦英姿）7月3日，在2024新京报贝壳财经年会“‘通’往未来 向新有AI”主题论坛上，商汤科技数字文娱事业部副总裁李星冶出席并在特别分享环节中表示，服务应用代表了当前大模型行业的痛点和难点。

　　“我们讲大模型、讲AI这么久，大模型新势力做了一两年，到底该往什么方向变现？”李星冶抛出这样的问题。

　　他认为，首先，没有算力储备谈大模型就是空中楼阁。数据显示，商汤人工智能超算中心目前有45000卡，峰值算力12000P。

　　其次，大模型厂商需要有较强的产品能力。以商汤为例，其大语言模型具备MoE（混合专家模型）结构、上下文文本等能力，“能够与创业媒体合作，生成短期和深度报道”。

　　他还提出端侧模型的重要性，并基于数据安全、成本、咨询链的角度认为“端侧大有可为”。

　　他表示，将模型能力移植到端侧应用，几B的模型代替上百B的，将产生更快速度等意义。例如，商汤日日新大模型功能移植到秒画APP（AI内容创作社区平台）后，生成一张512K图片仅需2秒。

　　如何发展端侧应用？李星冶建议，兼顾更多国内主流互联网应用，上下兼容更多手机机型，对模型生产厂商来说，则是在算力平台的兼容性上向下兼容。他提出，AR、MR、汽车等都属于典型的应用场景。

　　李星冶认为，多模态模型的应用对影楼或电商行业来说是很大的颠覆。

　　他表示，目前的技术上传5-20张照片就可以生成一个人风格化的照片或视频，完成图像创作，“只要拿到形象授权，就能自动生成图片、完成多人合影等”。他表示，以前修一张图很贵，现在修一张图只需要几分钱到几毛钱。“很多用户在互联网平台创作文章时也运用这些（文生图、图生图）软件生成图片，成本大幅降低。”

　　“数字人行业仍然良莠不齐，既有新贵，也有鱼龙混杂的小公司。”李星冶表示，网信办出台了对生成式AI的监管规则，厂商也需要在具体路径上做到合规，符合技术监管要求，包括认证和授权等，“做可信数字人还是有意义的”。

　　值得注意的是，商汤科技也在近期成为新京报贝壳财经“AI小贝”数字人技术合作伙伴。

　　同时，在7月3日主题论坛发布的《中国AI大模型测评报告——公众及传媒行业大模型使用与满足研究》中，商汤AI数字人技术也入选为经典案例。当天，“AI小贝”在贝壳财经年会开幕式上发布了《2024上半年中国企业家信心指数》。

　　金句

　　李星冶：数字人行业仍然良莠不齐，既有新贵，也有鱼龙混杂的小公司。

　　网信办出台了对生成式AI的监管规则，厂商也需要在具体路径上做到合规，符合技术监管要求，包括认证和授权等，做可信数字人还是有意义的。