导航菜单
首页
排名 涨幅榜 跌幅榜 24h成交额 新币榜
快讯 机构 观点 人物 专题

Perplexity联合创始人:AI安全是封锁前沿的借口

Perplexity AI 和 Databricks 联合创始人 Andy Konwinski 认为 AI 安全对话存在问题:它被用来集中权力,而不是防止伤害。本周早些时候,他发表了一篇文章来阐述自己的观点,Anthropic 是主要证人。

他构建的案例始于Anthropic 在 48 小时内推翻的决定。当 Anthropic 于 6 月 9 日推出《克劳德寓言 5》时,其 319 页系统卡中隐藏的一段内容透露,该模型会默默地降低其对任何怀疑训练竞争人工智能的人的反应。

研究人员发现了它。 互联网并没有很好地接受它。

人类收回了它,但对于康温斯基来说,在分析更大的图景时,这没有什么区别。 “问题不在于 Anthropic 做出了错误的决定,”他写道。 “问题在于他们认为决定是他们自己做出的。”

他的文章,题为“人工智能的权力集中是一种风险,而不是解决方案”,紧随开放前沿工作会议,这是他于 6 月 30 日在旧金山探索博物馆通过非营利劳德研究所召开的工作会议。大约 100 名研究人员出席了会议。

加州大学伯克利分校计算、数据科学和社会学院院长詹妮弗·查耶斯 (Jennifer Chayes) 向资助小组表示,伯克利研究人员“都在以中国模型为基础,因为我们没有西方开放前沿模型”,而且 OpenAI 和 Anthropic 在 IPO 之前发布的安全信息相当于一场“非常有效的恐惧运动”。

Konwinski 的观点是,集中访问并不能消除风险;相反,它创造了一个不同的。人工智能是基础设施,与铁路、电力和互联网属于同一类别。这些技术围绕控制底层的人重组了社会。人工智能也将面临同样的情况。他的替代方案是:建立具有前沿规模计算的研究共享区,让顶尖研究人员无需获得私人实验室的许可即可到达前沿。

LeCun:是奥斯曼帝国禁止印刷机

Meta 前首席科学家 Yann LeCun 毫不含糊地回复了 Konwinski 关于 X 的文章。 “多年来我一直在传播类似的信息,”他在康温斯基的帖子中回复道。 “人工智能的权力集中和控制欲是迄今为止人工智能最大的危险。”

他还准备了历史比较。 “这是一种中世纪的蒙昧主义,类似于奥斯曼帝国 200 年禁止使用印刷机,部分是为了控制教条,但也是为了保护书法家和抄写员的合作,”LeCun 写道。

LeCun 对此结局的预测:“基础设施想要开放。基础模型正在成为基础设施,并将不可避免地变得商品化。从长远来看,钱在应用程序层。”

LeCun 于 2025 年底离开 Meta,并于 2026 年 3 月在巴黎推出了 AMI Labs,并获得了 10.3 亿美元的种子资金——这是他自己对这个问题的回答。该公司运行在世界模型和他的 JEPA 架构上,计划开源其研究成果,预计多年来不会有商业产品。