新开传奇私服

传奇私服发布网

当前位置:首页 > 互联网 IT业界 > 除了“内卷”长文本,大模型商业化还有哪些路径?

除了“内卷”长文本,大模型商业化还有哪些路径?

admin 互联网 IT业界 50热度

  Kimi 语音智能助手宣布将长文本的能力从 20 万突破至 200 万字,一时之间,就像一把火点燃了国内大模型行业。资深互联网运营专家称,现阶段各大公司都在“卷”长文本只是因为大家不知道该卷什么领域,现在阶段各个厂商想先跑出来,以用户数量来吸引市场、吸引资金,有了钱才会有下一步。

  在公司成立一周年之际,北京月之暗面科技有限公司(以下简称“月之暗面”)近期宣布将 Kimi 智能助手长文本的能力从 20 万突破至 200 万字超长无损上下文,在一众大模型厂商中脱颖而出。

  Kimi 宣布可以支持 200 万字上下文输入后,大模型纷纷提升长文本输入功能。

  华泰证券研究报告指出,自 Kimi 宣布突破 200 万字超长无损上下文后,根据数据公司 Similarweb 的分析,活跃用户数方面,截至 3 月 22 日,Kimi 网页版日活用户数当前峰值日活达 34.6 万,周活数据环比增长 45%。在客户端下载量方面,根据七麦数据,3 月 22 日单日下载量超 11 万,较 3 月 21 日增长 140%。

  一时间,国内大模型行业掀起了长文本的内卷。日前,阿里云的大模型通义千问、360AI 浏览器先后宣布将支持 1000 万、500 万字的长文本功能。百度也宣布将在本月进行版本升级,开放长文本能力,文字范围会在 200 万至 500 万字。

  Kimi 长文本有优势也有局限

  在这样“卷”的大模型市场,kimi 的长文本能力为何脱颖而出?

  资深互联网运营专家松月有十年的互联网运营经验。她告诉澎湃科技(www.thepaper.cn),长文本是普通人最常用的媒体形式,对普通用户来说,文本比视频、音乐、图片更容易上手。相对于普通用户,企业用户在长文本的应用方面有很多想象空间,比如项目归档、用户聚合和分类、数据统计和分析。支持输入 200 万字也让用户给模型喂养了更多语料,这也有助于大模型的自我进化。

  天津师范大学管理学院副教授王树义专注人工智能领域方向,他尝试用长文本大模型进行网络文章总结、学术文献分析,以及长文翻译。

  王树义用大模型进行网络文章总结、学术文献分析,以及长文翻译

  在实际使用过程中,他发现,支持超长文本会话的大模型可以有效减少会话的中断,使整个工作流程更加流畅。相对于很多大模型应用,Kimi 语音助手的记忆力较强,避免了输出过程中忘记中间段落的情况,也不需要后期进行大量的人工检查、提示和人工补充的工作。

  不过,通过试用,他也发现了一些问题。比如在命令理解方面,他认为 Kimi 语音助手还有改进的空间,比如当他明确要求逐段处理时,Kimi 输出了全部内容。此外,在处理所有输入的 PDF 时,它曾错过了 5 个文档中的 2 个。即便如此,王树义表示,相信随着后期模型的快速迭代,这些问题将会得到有效解决。

  国外已卷过一轮“长文本”

  澎湃科技注意到,早在 Kimi 引发国内大模型长文本“内卷”前夕,美国大模型界已经“卷”过一轮,长文本理解现在已经是主流大模型的基础能力。

  比如,OpenAI 发布的 GPT-4Turbo 已经支持 128K 超长上下文输入,对应的 Claude3 能总结 15 万单词,长文理解准确率超 99%,谷歌的 Gemini 也支持 20 万超长输入文本的理解能力。同时,大模型为了满足多模态输入的要求,比如呈现图片、视频信息等,增加输入 token(生产令牌)也是必须的任务。

  尽管多位业内人士认为 Kimi 在长文本处理能力上确实取得了关键突破,但他们也指出,Kimi 的技术门槛并不算特别高。

  有关注 AI 大模型技术领域的工程师表示,长文本是大模型普遍具有的基础能力,普通的大模型在迭代过程中,增加可输入长度是一个必经过程,是性能提升的体现。至于今后大模型的趋势会不会往长文本方向靠,更多是应用层面的事情,而市场有没有这个需求,现在也不好说,“Kimi 目前也没收费,市场变现能力有待确认”。

  松月也告诉澎湃科技,Kimi 将长文本能力从 20 万字提升到 200 万字,这对于算法的压力很大,“很烧钱,这需要在商业变现能力和算法成本两者之间做平衡和取舍。”

  “大模型商业模式还要探索和试错”

  澎湃科技注意到,当前国内外的大模型技术虽然研发进展迅速,但算力、人才等瓶颈仍待进一步突破,商业模式也还需进一步明晰。从整体上来看,国内 AI 大模型的商业化模式在C端注重重构用户应用场景,在B端则用 AI 技术持续赋能产业升级。

  北京智谱华章科技有限公司旗下的大模型首席执行官张鹏今年早些时候接受媒体采访时将智谱的商业化模式归纳为四条路径:一是最轻量级的 API(主要是专业开发者及公司)用户模式,将模型封装成开放平台,供中小企业通过 API 调用,按使用量付费;二是云端私有化。针对专业壁垒高、数据安全要求严的行业,提供云端算力支持的私有化方案;三是本地私有化,适用于国企或有特殊安全需求的企业;四是软硬件一体化方案,结合模型和国产化硬件,提供一站式销售和部署服务。

  百度在去年 8 月官宣开放“文心一言”之后,一方面在C端用大模型重构用户侧产品,将 AI 功能接入百度搜索、百家号、百度文库、百度输入法等产品;另一方面,百度智能云推出企业级一站式大模型平台“千帆大模型平台”,目前该平台覆盖对话、游戏、编程、写作十余个场景,便于企业用户获得更精准的服务。

  腾讯混元大模型正式对外亮相后,也宣布通过腾讯云对外开放 API(主要是专业开发者及公司)接入服务,探索大模型在各行业的深度应用。

  在旁观国产大模型这波卷起的浪潮中,松月认为,现阶段各大公司都开始“卷”长文本只是因为大家不知道该卷什么领域,现在阶段各个厂商想先把数据跑出来,用用户数量来吸引市场、吸引资金,有了钱才会有下一步。

  “说实话,我觉得大模型的商业化方式都不如卖 AI 课,商业模式还要探索和试错。”松月坦言。

更新时间 2024-05-02 01:05:48