关闭广告

琶洲“模术”秀专访:大模型不必“大而全”,也可“小而美”

南方都市报2025-08-22 12:00:02157人阅读

百花齐放般的大模型深刻展示着人工智能技术的魅力。南都·琶洲π特别策划琶洲“模术”秀系列人物专访,专访位于广州海珠琶洲的国内首个人工智能大模型应用示范区的大模型专家,揭秘大模型背后的技术原理,走进人工智能技术的最新应用场景。

张胜是广州灵聚信息科技有限公司(下称“灵聚信息”)创始人兼CEO,是南都·琶洲π少有的二次采访的嘉宾。两年前,AI大模型的发展正暗流涌动,DeepSeek还没面世,张胜在采访中介绍了他公司的NLP(注:自然语言处理)及ChatBot(注:聊天机器人)相关技术,它们被应用于服务机器人、玩具、智能家居、数字人等多个领域,不乏一些知名的头部公司的产品。

两年后,市面上的AI大模型产品越来越多,既有通用的文生文、文生视频大模型,也有解决细分行业具体场景的垂类大模型。灵聚信息也推出了自己的AI大模型——灵聚灵脑迅灵大模型,在“小而美”的路线上,追求灵活部署和快捷响应。


广州灵聚信息科技有限公司创始人兼CEO 张胜

AI技术发展迅速

掌握应用场景才是硬道理

张胜是我国IT行业的早期从业者。1997年,他利用周末时间到学校“回炉”,深入学习计算机专业并在IT媒体里打拼。1999年,他在京创办《电脑自做》(PCDIY)杂志;此后进入赛迪集团,先后任中国电脑教育报社副社长兼高级副总编、赛迪网副总裁、《软件世界》杂志社常务副社长兼总编。

张胜的AI创业可追溯至2013年,他与另一合伙人在广州创办灵聚信息。在那个大家还在谈论移动互联网的年代,灵聚信息开始了AI创业,明确了“为未来的服务机器人做大脑”的目标,并决定在NLP技术领域展开攻关。

张胜将公司研发出来的核心自研产品命名为“灵聚人工大脑”。它是可以将语义分析、知识图谱和认知计算等技术有机结合在一起的算法和数据集群,具备生成式和检索式知识表达能力,主要实现自然语言交互、自学习和认知等能力。

“灵聚人工大脑”广泛应用于大中型企业的企业对话式AI应用、个人对话式AI应用、数字人、服务机器人及AIoT产品。他的公司作为NLP技术服务提供方,已为华为、阿里巴巴、软银机器人、小米、思必驰、喜马拉雅、优必选等大中型企业的智能家居、智能音箱、手机、电视、平板、手表、车机、玩具、服务机器人等产品提供智能交互服务。

在这样的技术下,人类与机器的对话不需要靠屏幕输入,只需要通过自然语言对话便可完成。这项技术现在已十分普及,而张胜是这个行业的先行者。

技术的发展是迅速的,尤其是最近两年,张胜对此深有感触。DeepSeek的开源,影响了AI大模型行业的发展模式。一些从事通用文生文大模型的企业突然走到十字路口,是继续投入自家的通用文生文大模型,还是另辟蹊径?一些拥有独立数据和掌握应用场景的企业,开始借力使力,轻巧地开启了AI创业。

经过近两年的观察,张胜意识到,应用场景才是硬道理。对于创业公司而言,应拥有自己独特擅长的技术,结合开源技术,将技术体系落地到具体的应用场景中,这是张胜综合当下AI环境的思考。此外,头部公司对于优质数据的“无上限预算”投入,也让创业公司不得不聚焦细分行业的具体场景。

高并发快速精准生成

聚焦具体场景实际需求

灵聚信息也开发了自己的大模型——灵聚灵脑迅灵大模型。结合灵聚信息在NLP技术、语音交互技术等长达十多年的积淀,该公司形成了对特定场景需求的服务供给能力。

两年前的采访中,张胜就提到了“小模型”的概念。“当前,一些通用大模型的动辄上千亿的参数,但实际上具体的应用场景不需要这么多,只需要十几亿参数即可。”针对具体场景需要,灵聚信息只训练“小模型”。

“小模型”不仅实现了成本可控,也可以灵活部署和快捷响应,实现了“小而美”的效果。据介绍,灵聚人工大脑经典技术基于开放域NLU、三元组知识图谱和精准生成式模型,可以做到精准生成式交互。


灵聚大模型Agent框架。

基于这一能力,灵聚信息对外推出了灵聚Agent(注:智能体)和大模型部署的个性化定制服务,实现了内容的精准生成、高并发下的快速反应、高稳定性等多个效果。

“文生视频大模型可以发散多解,但文生文大模型对于准确度的要求特别高。”张胜介绍,尤其是在无屏幕或不依赖屏幕进行语音交互的过程中,用户只会给你七秒钟的时间,如果没有听到精准答案,便会放弃。“灵聚灵脑迅灵大模型基于20亿组三元组知识图谱,可生成100%精确的结果,弥补了大模型在特定场景下生成内容可靠性不足的缺陷。”


灵聚灵脑大模型简介页面。

高并发下的快速响应也是灵聚信息所追求和实现的效果。张胜介绍,从商业角度看,企业不可能用无限堆算力的方式来提升高并发时的响应速度。“用有限的算力实现大体量用户高并发请求时的快速响应,是近年来灵聚信息将经典NLP技术能力赋能大模型的一项成果。”

一方面提升经典技术能力,一方面结合新兴的大模型技术,灵聚信息将自身在NLP和语音交互技术方面所形成的能力发挥在具体场景中,实现了Agent的快速响应和工作流的强鲁棒性(注:形容功能稳定性)。这些蕴含新技术的产品,已经在多种问答式场景中得到运用。

从通用到垂类,AI大模型将AI技术能力赋能给千行百业。至于接下来的计划,张胜告诉记者,灵聚信息将从行业再深入至具体场景,从B端业务向C端业务延伸,找到AI运用的更多可能性。

谈琶洲

琶洲有好的产业支持性政策,也云集了越来越多的头部公司,对于AI创业公司而言有良好的发展、生存环境,支持企业踏实沉稳做事。

南都广州新闻部出品

采写:南都·琶洲π记者 代国辉

图片:受访者供图

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

媒体:有关石破茂的流言 或是三人在进行"吹气球"试验

新民晚报 浏览 2285 07-25

陈红与前夫恩怨太狗血!男方曾出轨知名女主持,怒闯闺房埋下祸根

萌神木木 浏览 116 09-26

18岁松岛握拳怒吼!2连冠后豪言洛奥成主力 张本一哥席位摇摇欲坠

颜小白的篮球梦 浏览 83 01-27

过渡期临近,银行业首席合规官纷纷“就位”

21金融圈 浏览 88 01-07

中国女孩在巴厘岛疑食物中毒去世 还有人上吐下泻晕倒

扬子晚报 浏览 221 09-24

释永信被查背后,少林寺年入上亿,钱都去哪里了?

数字财经智库 浏览 5706 07-28

成本5亿,超20位明星出演,《南京照相馆》的暑期档冠军对手来了

靠谱电影君 浏览 4663 08-05

TA:墨西哥女裁判遭死亡威胁,国际足联等组织纷纷发声谴责

直播吧 浏览 1967 08-05

上海97-77大胜浙江,李弘权18分,吴前15分,兰道夫27+5

懂球帝 浏览 79 12-24

梅德韦杰夫喊话北约:好戏在后头

扬子晚报 浏览 6431 08-06

20万内唯一中大型插混MPV 星海V9登陆慕尼黑车展

网易汽车 浏览 139 09-10

小学语文教材被指"颠覆性修改" 网友炸锅:震碎认知

极目新闻 浏览 995 08-09

马克龙不加入和平委员会 特朗普:加征关税他就会加入

界面新闻 浏览 86 01-21

全智贤风波持续发酵,品牌方火速切割,业内估算损失超2亿

扒虾侃娱 浏览 147 09-21

隆基绿能:光伏之殇

诗与星空 浏览 140 08-26

救一家三口牺牲的小伙宋士佳下葬 送行队伍蜿蜒百米

极目新闻 浏览 2320 07-28

鲁媒:山东队将与宁波队、海牛与申花进行热身赛

懂球帝 浏览 44 02-24

媒体:高市早苗想见中国领导人 也未必是特别难的事

新民周刊 浏览 97 11-25

特朗普称庞大舰队驶向伊朗 已超委内瑞拉

财联社 浏览 67 02-01

闻泰科技回应:个别外籍高管试图颠覆公司治理结构

澎湃新闻 浏览 145 10-13

熊节:落实务实合作,全球南方亟需搭建多边平台|讲堂176-6⑤

文汇报 浏览 134 08-25
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除沪ICP备20017958号-3