Palantir 執行長 Alex Karp 對於 Anthropic 和 OpenAI 對大多數企業構成的威脅看法錯誤。這並不意味著他沒有什麼可失去的

您好，歡迎收看《AI 觀察》。本期內容：

• 為何 Palantir 執行長 Alex Karp 對前沿 AI 實驗室的看法是錯誤的。
• 一家網路安全公司聲稱，自主勒索軟體已經出現。
• 中國考慮限制外國存取領先的 AI 模型。
• Anthropic 發現大型語言模型（LLMs）的部分功能類似於人類意識的一個面向。
• 報告指出，AI 安全標準正在下滑。

本週，我們在 Fortune 有一些令人興奮的消息。我們正在推出一個全新的視訊播客節目《Fortune AI Weekly》，由我與 Bea Nolan 共同主持。您可以將其視為我們在《AI 觀察》所做工作的延伸——為您帶來我們對本週最大 AI 新聞的看法，重點介紹 Fortune 的一些精彩 AI 報導，有時還會為您帶來與關鍵 AI 建構者、思想家、創辦人、投資者和領導者的獨家訪談。您可以在這裡的 YouTube 頻道上觀看該視訊。
***
上週登上頭條的 AI 新聞之一是 Alex Karp 對基礎模型公司的猛烈抨擊。Palantir 執行長週三出現在 CNBC 上，表面上是為了討論 Palantir 與 Nvidia 之間的新合作夥伴關係，旨在為美國政府和關鍵產業提供「主權 AI 基礎設施」。這項合作涉及使用 Nvidia 的 Nemotron 開源模型，以及 Palantir 的人工智慧平台（AIP），這是一個將這些模型與數據連接起來的應用層，同時提供數據安全和治理功能。但這並不是最終成為頭條新聞的原因。相反，Karp 在開場白中表示他並非針對 OpenAI 和 Anthropic「發難」後，隨即對前沿 AI 實驗室投下了如魔多般濃重的陰影。
「事情完全搞錯了，」他說。「這個國家的企業普遍觀點是『我要放鬆一下，浪費時間在 token 上，我得不到任何價值，而他們會拿走我的智慧財產權。』」他隨後表示這不是發難，而是「實話實說」。他多次強調這些觀點，稱企業從前沿實驗室購買的 token 中沒有獲得任何價值，並且面臨將其關鍵商業智慧財產權轉移給這些 AI 供應商的风险。
那麼 Karp 說的有道理嗎？嗯，有點道理。但只有當你眯著眼睛看時才成立。而且 Karp 所說的大部分內容要麼是出於私利，要麼是不準確，要麼是自相矛盾——或者三者皆是。

投資回報率滯後，但沒人對此「放鬆警惕」

確實，許多大公司擔心他們尚未從部署 AI 中看到足夠的投資回報，並對 token 的成本感到焦慮，特別是在代理使用案例中使用最先進的 AI 模型時。（許多大公司對此感到擔憂的事實，與 Karp 聲稱他們只是在「放鬆警惕」的說法相矛盾。）但當然，有些公司確實報告了價值——特別是在軟體開發和客戶服務領域。而对于那些沒有看到價值的公司，通常是因為他們沒有優先處理最具戰略意義的使用案例，或者沒有弄清楚如何重新設計整個公司的工作流程以充分利用該技術。
在 CNBC 採訪中，Karp 曾說：「如果它這麼有價值，為什麼他們還要對 token 收費？」他建議，如果基礎模型的效果真的像 AI 模型供應商宣稱的那樣好，那麼更好的做法是為客戶完成整個任務，並收取所產生價值的一定百分比。事實上，這正是 Palantir 对其產品定價的方式（所以這裡就有出於私利的成分）。這也是許多銷售 AI 服務的諮詢公司現在開始做的事情。但這肯定不是軟體傳統的定價方式。對於通用技術來說，採用基於價值的商業模式也沒有什麼意義。畢竟，電力公司是按你使用的每單位電力收費，而不是按你用這些電子所做的事情的價值收費。就此而言，Microsoft 收取固定費用讓你使用 Microsoft Word 和 Excel——它不會因為你的 PowerPoint 簡報在推銷會議中給人留下深刻印象而幫你贏得了交易，就試圖向你收取一定比例的費用。
此外，如果 Karp 說企業對前沿 AI 實驗室的主要抱怨之一是它們正在「竊取超額收益」（即竊取賦予企業競爭優勢的專有知識），那麼在 AI 公司為客戶執行任務而不是向他們出售 token 的商業模式下，這將更令人擔憂。（這是他所說的另一件自相矛盾的事情。）一些諮詢公司和一些雲端供應商確實為客戶提供託管服務——但客戶通常只願意外包他們認為非核心業務的任務。

幾乎沒有證據表明 AI 實驗室在「竊取超額收益」

至於 Karp 關於前沿實驗室從客戶那裡竊取智慧財產權的論點，沒有證據表明這在字面上是真實的，至少不像 Karp 似乎暗示的那樣。領先的 AI 供應商都有政策規定，他們無法直接存取企業客戶的提示、輸出或數據，並且不會使用這些互動來訓練未來的模型，除非這些客戶明確選擇允許供應商這樣做。（稍後會詳細說明這種特殊情況。）

OpenAI 和 Anthropic 都談到使用匿名化和去識別化的客戶數據來進行關於其模型如何使用的情況的經濟研究，但即使如此，這也僅針對進入其面向消費者的服務或直接 API 的消息流量，而不針對通過安全雲端服務（例如 Microsoft Azure、Amazon Bedrock 或 Google Vertex）存取模型的客戶——這也是大多數大型企業存取這些模型的方式。
因此，對於大多數大型企業，特別是大多數本身不在科技行業的大型企業來說，Karp 的說法是無稽之談。如果你是 Archer-Daniels-Midland 或 Boeing，Anthropic 竊取你的智慧財產權並開始生產玉米或製造巨型客機的可能性微乎其微。

尽管如此，仍有少數公司有理由擔心——Palantir 就是其中之一

但有一類企業，Karp 的觀點可能是有道理的。Anthropic、OpenAI 和 Google DeepMind 在各個行業都有「設計合作夥伴」，這些合作夥伴通常能早期存取以幫助測試這些 AI 實驗室正在開發的最新模型。作為這些合作夥伴關係的一部分，實驗室通常能夠更多地存取有關這些企業如何使用模型的資訊。
至少有一個案例表明，其中一個 AI 實驗室可能利用了這種存取權限來建構競爭產品。該案例涉及 Anthropic 和 Figma。正如 The Information 上個月首次報導的那樣，Anthropic 一直與 Figma 和 Canva 合作開發一款名為 Claude for Design 的工具。Anthropic 首席產品官 Mike Kreiger 甚至在 Figma 的董事會中擁有一個席位。但後來 Figma 退出了發布計劃，而在 Figma 發現 Anthropic 正在建構的產品與其自身產品功能的競爭比 Anthropic 至少在其看來所透露的要直接得多之後，Kreiger 突然從董事會辭職。根據 The Information 的報導，Figma 執行長 Dylan Field 在一次由 Sequoia Capital 主辦的私人活動上告訴與會者，Anthropic 在與 Figma 溝通 Claude 設計工具的範圍時「並未始終保持坦誠」。

其他所謂 AI 供應商利用存取客戶數據的機會隨後與這些客戶競爭的案例，來自帶有偏見的來源——其中許多是 Palantir 的投資者。風險投資家 Jason Calacanis 是早期的 Palantir 支持者，他指控 Anthropic 使用了來自 Cursor（一個大量使用 Anthropic Claude 模型的 AI 編碼助手）的數據，以幫助開發 Claude Code，這款病毒式傳播的 Anthropic 產品隨後在受歡迎程度上很大程度上蓋過了 Cursor。風險投資家 Chamath Palihapitiya 指出，Anthropic 與 Eli Lilly 和其他製藥公司建立了合作夥伴關係，然後最近表示打算啟動自己的藥物開發計劃。（Anthropic 將此描述為磨練其自身的 Claude of Science 工具的一种方式，目前尚不清楚 Anthropic 是否會嘗試自行商業化任何候選藥物，還是會與製藥公司合作進行該過程的那部分。）除了是早期的 Palantir 投資者外，Palihapitiya 還是「All In」播客的共同主持人，與 David Sacks 一起主持，而 Sacks 對 Anthropic 也沒有好感。
即便如此，指控 Anthropic 打算實際直接進入所有這些垂直領域，而不是僅僅建構使其模型更容易部署到這些垂直領域的工具——這幾乎不是一回事——似乎有些牽強。再說一次，如果你是大多數《財富》500 強公司，Anthropic 或 OpenAI 不會開始與你正面競爭。
事實上，前沿 AI 實驗室竊取數據以建構競爭產品的最佳例子來自我自己的行業，即媒體業務。在這裡，前沿 AI 實驗室無疑吸走了大量的版權材料，以訓練經常作為事實資訊來源與出版物直接競爭的 AI 模型。（出版、音樂和美術也是如此。）但不知何故，我不認為這就是 Karp 所想到的。
一位金融界的朋友建議，真正讓 Karp 感到惱火的事情——以及一些通常更為冷靜的高管，例如 Microsoft 的 Satya Nadella，有趣的是，他最近也對前沿 AI 實驗室的貪婪性質提出了一些類似的主張——並不是 Anthropic 和 OpenAI 的商業模式，而是它們可能的首次公開募股（IPO）。這些 IPO 無疑會受到高度追捧。為了籌集購買 OpenAI 或 Anthropic 股票所需的流動性，機構投資者可能會尋求出售其他科技股——比如，嗯，Palantir。記住，只是因為你偏執，並不意味著他們不想搞垮你。
至此，以下是更多 AI 新聞。
Jeremy Kahn
jeremy.kahn@fortune.com
@jeremyakahn

本文最初刊登於 Fortune.com