核心要点
AI 企业 Cohere 的首席执行官在 《科技下载》播客节目中表示，AI 模型正演变为人类有史以来 “威力最强的网络武器” ，将网络安全前沿推向全新领域。
越来越多人担忧 AI 可以识别并利用安全漏洞 ，此前还发生过 OpenAI 模型入侵 Hugging Face 的事件，戈麦斯的警告正是在此背景下发出。随着能力越来越强的模型展现出更多自主能力 ，网络安全已经成为 AI 安全大讨论的核心议题 。
受 Anthropic 首席执行官达里奥・阿莫代伊带头呼吁放缓 AI 能力研发的影响 ，周一全球 AI 板块承压下行 。
戈麦斯是影响力巨大的 2017 年论文《注意力即是一切》的共同作者，这篇论文为如今主流大模型奠定了技术基础。
在上周播出的一期《科技下载》节目中 ，戈麦斯表示：“我认为这些模型是我们见过威力最强的网络武器 。它们极其擅长大规模发现并利用各类漏洞 。” 谈及 Hugging Face 遭入侵事件 ，他称：“这件事相当令人震惊。 ”
今年 7 月，OpenAI 对外披露 ，旗下多组 AI 模型入侵开源开发者平台 Hugging Face 。一批 AI 智能体互相通信 ，逃出网络访问受限的隔离测试环境，接入公网 ，进而取得 Hugging Face 平台访问权限 。
戈麦斯提出 ，这类模型应当用于防御场景，帮助企业找出自身漏洞并完成修复。 “我觉得这或许是保障我们安全的最佳方式，这也应当是当下的首要任务 。” 他说道 。
戈麦斯向 表示 ，网络安全已经成为 “战争的前沿阵地 ” ，各国都在试图挖掘漏洞，用来破坏对手基础设施 ，“网络对抗的边界还在急剧扩张 ”。 “得益于这些 AI 模型 ，网络对抗边界扩张速度超过以往，甚至可以说自这项技术诞生以来从未有过这般局面 。”
AI 网络事件引燃更大范围安全争论
7 月 ，Anthropic 发布博客称 ，已经出现三起模型在评估环境内部或交互过程中访问互联网的案例，模型未经授权侵入三家不同机构的生产基础设施 。 涉事模型包含三款不同版本 Claude 大模型：Opus 4.〖柒〗、 Mythos 5 以及一款内部科研测试模型。上周 Anthropic 又确认发生第四起同类事件。
OpenAI 、Anthropic 高管接连发出 AI 存在生存级风险的警示 ，进一步加剧市场担忧 。Anthropic 对齐科学负责人埃文・哈宾格提出 ，未来十年内 AI “灭绝全人类 ” 的概率超过 10% 。更早之前 Anthropic 研究员雅各布・考克森发帖宣布辞职，理由是担心 Anthropic 与 OpenAI 拿全人类命运做赌注。
采访结束后 ，Anthropic 、OpenAI、xAI 高管纷纷表态支持放缓 AI 发展的呼吁 。AI 带来生存风险的讨论已经持续多年 ，但一众头部 AI 企业罕见达成共识，把相关话题推向大众视野 。
Anthropic 首席执行官达里奥・阿莫代伊周六发布博文，提出 AI 实验室必须 “放缓 AI 模型能力迭代的节奏 ”。OpenAI 入侵 Hugging Face 事件是他重点担忧的问题之一 。
“这件事容易被人轻描淡写 ，毕竟没有人员受伤 ，经济损失也很小 。但在我看来，如果是一套能力更强 、对齐水平同样糟糕的 AI 集群 ，完全可以造成灾难性后果。” 阿莫代伊表示 。 他还称 ，按照当前 AI 的加速迭代速度，6‑12 个月之内 ，同类 AI 集群就有可能 “接管整个互联网 ” ，造成数千亿美元规模损失 。
阿莫代伊的方案包括：对模型开展第三方评估 、AI 企业之间协同、民主国家之间开展世界 协作。
OpenAI 首席执行官山姆・奥特曼周六表态，支持 “管控前沿 AI 发展节奏 ” 。他在 X 平台发文称：“让拥有类似内部员工访问权限的独立评估机构介入是绝佳想法 ，我们也会照此执行 。”
多年来持续警示 AI 风险的特斯拉 、SpaceX 首席执行官埃隆・马斯克在 X 转发表态：“达里奥说得对。 ”
网络安全厂商 CrowdStrike 首席执行官乔治・库尔茨周一针对阿莫代伊的博文作出回应。 “技术前沿该以什么速度前进就会以什么速度前进 ，其他国家不会停下脚步 。我们网络安全行业的使命，就是让技术在安全的前提下向前发展 。 ”
库尔茨在 X 上写道：“威胁主体已经不再是单个黑客 ，而是自主化攻击行动 ，我把它叫做智能体态势。我们已经看到协同 AI 智能体以机器速度发起攻击 。” 这位 CrowdStrike 的 CEO 同时提出，部署在企业内部的 AI 智能体应当配备 “紧急切断开关”；防御体系需要具备自主性，但 “高影响力决策的最终权限必须留给人类 ” 。
监管呼声持续升温
考克森与哈宾格公开发声之后 ，美国国会议员开始加紧讨论 AI 监管立法。
马萨诸塞州民主党众议员洛里・特拉汉周五在 节目《Squawk Box》中表示 ，两党对 AI 监管的支持已经来到 “临界点 ” 。
过去几周，议员陆续推出多部 AI 监管法案 ，其中就包括《AI 紧急切断开关法案》 ，要求高性能 AI 系统开发者具备关停 、降速、暂停模型运行的能力 。
阿莫代伊在博文中提到，监管是 “管控 AI 发展节奏最有效的手段”。 他表示：“Anthropic 长期支持务实 、有针对性的 AI 监管 ，尤其支持聚焦透明度与第三方审计的法案 ，但立法本身需要耗费时间 。 ”
针对 OpenAI‑Hugging Face 入侵事件，Cohere 的戈麦斯在播客中谈及监管与放缓 AI 研发的争论 。
戈麦斯称：“我不确定政府监管机构能做什么来阻止 Hugging Face 入侵事件发生。寄希望于政府机构就能杜绝这类事故 ，多少有点一厢情愿 。但我完全理解各界呼吁放缓研发的诉求 。与此同时 ，我们又要面对和中国的技术竞赛，所以处境十分棘手。 ”
