AI安全報告為業界帶來現實檢驗——所有人都在最嚴苛的測試中不及格

紐約，7月8日 — 美國人工智慧實驗室 Anthropic 在全球人工智慧安全排名中位居榜首，但週二發布的一份報告警告稱，整個行業在應對先進人工智慧帶來的「生存性」風險方面仍然不足。

Meta 在排名中上升兩位至第四名，而 xAI 則下降三位至第七名，僅領先於中國的 DeepSeek 和法國的 Mistral，後者墊底。

該排名由總部位於美國的人工智慧安全智庫「生命未來研究所」（Future of Life Institute）編制，該機構評估了全球九家領先的人工智慧公司。

七名研究人員和治理專家利用公開資訊以及各公司自行提供的數據對這些企業進行了評估。

他們從六個類別評估績效：風險評估、當前危害、安全框架、生存性安全、治理與問責，以及資訊共享。

沒有任何公司在任何類別中獲得「A」級評級。

Anthropic 以「C+」的成績獲得最高總分。

首次出現在排名中的 Mistral 對該評估結果提出異議。

當法新社詢問其墊底的原因時，這家法國公司表示，該報告的框架並不適合其開發人工智慧的方法。

與主要開發封閉式人工智慧系統的競爭對手（如 Anthropic、OpenAI 和 Google DeepMind）不同，Mistral 專注於用戶可以下載和修改的開放模型。

「我很失望發現他們排在最後，特別是考慮到歐洲確實……一直是人工智慧安全的領導者，」麻省理工學院教授兼生命未來研究所所長 Max Tegmark 表示。

「我們聯繫了很多次，」Tegmark 補充道，稱 Mistral 未回應該組織的調查問卷。

據該研究所稱，阿里巴巴、xAI 和 DeepSeek 也拒絕參與。

三家生產開放模型的中國人工智慧開發商也排在榜單的下半部分：DeepSeek 排名第五，阿里雲排名第六，Z.ai 排名第八。

「可疑」行為

報告指出，幾家此前承諾不允許將其技術用於軍事用途的公司已軟化了立場。

報告特別批評 Anthropic 涉及其所稱的「可疑軍事接觸」。

據多家媒體報導，在過去一年中，美國政府在涉及委內瑞拉和伊朗的軍事行動中使用了 Anthropic 的技術。

該公司最近還因與人工智慧安全相關的分歧而被五角大廈禁止合作，儘管該限制後來被解除。

報告總結稱，所有九家公司仍未能充分準備好應對與人工通用智慧（AGI，即能夠達到人類水平智慧的人工智慧系統）相關的「生存性」威脅。

雖然研究人員承認「存在建設性的嘗試」，但他們表示，全行業的努力仍然「完全不足」。

報告還強調了人們對先進人工智慧可能被濫用以發動網路攻擊或執行危害人類的任務的擔憂。

Anthropic 最近因其發布迄今最強大的人工智慧模型 Mythos 而受到關注。

這家總部位於舊金山的公司最初在四月僅向一小群受信任的組織提供該模型，因為擔心其網路能力可能被惡意行為者利用。

6月12日，美國政府以國家安全為由阻止 Anthropic 向外國用戶發布 Mythos。

川普政府於6月30日解除了這一限制。 — 法新社