导航菜单
首页
排名 涨幅榜 跌幅榜 24h成交额 新币榜
快讯 机构 观点 人物 专题

Perplexity 微调中国 AI 模型,以三分之一的成本匹配 Claude Opus 4.8

Perplexity 已将中国的开源模型变成了近乎前沿的主力,其成本约为 Claude Opus 4.8 的三分之一。

该公司今天发布了 Z.AI GLM 5.2 训练后版本的研究预览,该版本专为在其计算机代理工具内部运行而构建,现已投入生产。

GLM 5.2 是 Z.ai 的一个大约 7440 亿个参数的模型,Z.ai 的前身是智普 AI,这是一家位于美国的北京实验室。自 2025 年 1 月起实体列表。(参数是模型在训练期间可以处理的所有不同刻度和配置。参数越多,模型就越复杂和强大。)于 6 月份在 MIT 许可下发布,它是目前在长期编码基准上可用的顶级 AI 模型之一,而 API 成本仅为一小部分。

开放权重意味着任何人都可以不受限制地下载、修改和微调它。困惑正是这样做的。

微调实际上是什么

微调是采用已经训练好的人工智能模型并在较小的、集中的数据集上对其进行重新训练的过程,以使其更好地完成特定工作。

把它想象成调整汽车。例如,不同的机械师可以拥有相同的本田思域,使其在飙车中速度更快,视觉上更令人愉悦,使其适应拉力赛等。在人工智能中,开发人员获得一个基本模型并添加不同的设置,以便微调最终获得对特定领域的更多了解、不同的政治偏见、或多或少的限制等。

Perplexity Fine-Tuned a Chinese AI Model to Match Claude Opus 4.8 at One-Third the Cost

Perplexity 使用后训练(模型主要训练运行后应用的类似过程)来教授 GLM 5.2 一项关键技能:知道何时处理任务本身以及何时升级到更强大的任务。

这种升级是他们构建的核心。经过微调的 GLM 5.2 包括 Perplexity 所说的“顾问工具”——一种识别查询何时超出其自身能力并将其移交给第三方前沿模型的本机功能。大多数任务永远不会达到昂贵的模型。只有真正需要它的人才会这么做。

这最终可以节省大量推理费用。

“与顾问配合使用时,该模型可以以极低的成本实现 Opus 4.8 级性能,”首席执行官 Aravind Srinivas 在 X 上写道。

Perplexity 根据正常的 GLM 5.2 对系统进行了基准测试,以建立成本基准。使用公司的内部效率指标来衡量完成复杂任务的成本,结果表明,带有顾问的微调模型的运行成本约为基本版本的两倍。然而,使用顶级 Opus 4.8 型号的所有产品都要昂贵得多(大约贵 600%)。

通过结合这些工具,Perplexity 的系统实现了与 Opus 相同的质量性能,但价格仅为 Opus 的大约三分之一

为何采用中国模式,以及为何开源使其成为可能

中美人工智能竞赛往往被认为是零和博弈。在实践中,开源模型并不局限于国界。 GLM 5.2 的 MIT 许可证使计算变得简单:没有需要违反的 API 合同,政府也没有可以翻转的访问开关。您下载权重,然后可以将它们微调到您需要的任何值。

困惑以前就已经走过这条路了。当 DeepSeek R1 于 2025 年初席卷人工智能世界时,该公司将其微调为 R1-1776,绘制了大约 300 个由于中国政府审查制度而拒绝讨论的原始主题,并重新训练了模型,使其更加偏向于美国。它成为同一推理引擎的西方托管版本。

“如果不先减轻 R1 的偏见和审查制度,我们就无法利用 R1 强大的推理能力,”Perplexity 的团队当时在一篇博文中写道。

因此,GLM 5.2 的举措遵循相同的模板,只不过这次的目标不是政治而是经济。 Perplexity 的计算机产品已经编排了超过 19 个 AI 模型;经过微调的 GLM 被设计为廉价的默认设置,在触及前沿模型之前吸收大量任务。

Srinivas 表示,长期论文很简单:在已经为数百万用户提供服务的代理工具内,对开源模型进行后期训练,以擅长升级。 他写道,Perplexity 具有“独特的定位”来解决这个问题,因为基础设施已经大规模部署。

该模型在美国的 Nvidia B200 GPU 上运行。接下来是 Nemotron 3 Ultra 的后期训练,它将使用美国开源模型复制相同的架构。

完整的基准测试和研究论文预计将在未来几周内发布。该模型可作为研究预览。