OpenAIはNvidiaの推論ハードウェアに不満を示し、AMD、Cerebras、Groqを検討中

OpenAIはNvidiaのAIチップに不満を抱いており、特にユーザーへの応答速度に関して問題視しています。同社は昨年から他の選択肢を探し始め、現在はAMD、Cerebrasと協議しており、以前はGroqとも交渉していましたが、それは中止されました。

この緊張は、OpenAIがNvidiaのチップがコード記述やソフトウェア間タスクの処理など、特定の作業において十分な速度を持たないことに気づいたときに本格化しました。

内部関係者によると、OpenAIは今後、推論ニーズの少なくとも10%を処理できる新しいチップを求めているとのことです。これは、AIがユーザーに応答する部分であり、学習する部分ではありません。

OpenAIはコーディングとユーザー応答のためにより高速なチップを求めています

OpenAIの現在の作業の大部分は依然としてNvidiaで動作していますが、裏では、すべてをより高速にできるチップをテストしています。

これには、SRAMを搭載したチップが含まれており、プロセッサのすぐ近くにメモリを配置することで処理速度を向上させます。NvidiaとAMDは依然としてチップの外部にあるメモリを使用しているため、処理が遅くなります。

OpenAI内部の関係者は、コードを書くツールであるCodexを、速度の遅さが最大の問題となった場所として指摘しました。一部のスタッフは、パフォーマンスの低さをNvidiaのハードウェアのせいにしています。1月30日の記者会見で、OpenAIのCEOであるSam Altmanは、「当社のコーディングモデルを使用するお客様は、コーディング作業のスピードに大きな価値を置くでしょう」と述べました。

Samは、通常のChatGPTユーザーは速度をそれほど気にしませんが、開発者や企業にとっては1秒1秒が重要だと付け加えました。彼は、OpenAIがスピードアップを支援するためにCerebrasと契約を結んだばかりだと述べました。

同時に、AnthropicやGoogleなどの企業は、独自のチップを使用してより良い結果を得ています。GoogleのTPUは、推論作業に特化して構築されています。そのため、特にClaudeやGeminiのようなモデルでは、応答が速くなっています。

OpenAI-Groqの協議はNvidiaのライセンス契約後に中止

OpenAIは、高速チップを構築している別のスタートアップであるGroqとも協議していましたが、その会話は進展しませんでした。Nvidiaが介入し、Groqと200億ドルのライセンス契約を締結しました。これによりNvidiaはGroqの設計にアクセスでき、OpenAIが彼らと協力する計画は頓挫しました。

事情に詳しい情報筋によると、Groqのチップは正にOpenAIが必要としているものだったとのことです。しかし、Nvidiaが契約を締結すると、その扉は閉ざされました。ライセンスは非独占的でしたが、Groqは現在クラウドベースのソフトウェアに注力しており、NvidiaはGroqのチップ設計者の一部を引き抜きました。

一方、Cerebrasは、Nvidiaが買収しようとした際に拒否しました。代わりに、彼らはOpenAIと独自の契約を結びました。Groqも約140億ドルの評価額で投資提案を受けましたが、Nvidiaと結びついたため、現在はその状況が変わっています。

OpenAIはNvidiaから完全に離れたわけではありません。公式声明で、広報担当者は「推論フリートの大部分を稼働させるためにNvidiaに依存しています」と述べ、彼らのコストパフォーマンスが市場で最高だと評価しました。Nvidiaも「お客様が推論にNvidiaを選び続けるのは、私たちが規模において最高のパフォーマンスと総所有コストを提供しているからです」と述べました。

1000億ドルのNvidia投資契約は依然として宙に浮いたまま

昨年、NvidiaはOpenAIに最大1000億ドルを投資する計画を発表しました。その資金は、OpenAIがより高度なチップを購入するのを支援するためのもので、その見返りにNvidiaは同社の株式を取得する予定でした。ロイターによると、契約は数週間以内に締結される予定でした。しかし、まだ締結されていません。

この契約が停滞している間、OpenAIはAMDなどと契約を結び、Nvidiaのチップと直接競合できるチップをテストしました。しかし、OpenAIが製品計画を変更するにつれて、必要とするハードウェアの種類も変わりました。それにより、協議はさらに遅れたと、事情に詳しい関係者は述べています。

土曜日、NvidiaのCEOであるJensen Huangはこの摩擦について尋ねられました。彼は「それはナンセンスだ」と述べ、NvidiaはOpenAIに大規模な投資を行う計画だと主張しました。しかし、裏では、双方が選択肢を模索していることは明らかです。

同時に、Nvidiaは新しいチップのアイデアを探しています。CerebrasとGroqの両方に連絡を取り、買収に応じるかどうかを確認しました。Cerebrasはそれを断り、OpenAIとの契約を強化しました。

現在、OpenAIはほとんどのサービスを稼働させるためにGPT4oを使用しています。しかし、現在の状況からすると、少なくともその作業の一部は近い将来、AMDまたはCerebrasのチップで実行されるでしょう。同社はNvidiaを完全に捨てようとしているわけではありませんが、システムの動作速度をよりコントロールしたいと考えていることは明らかです。

メンターシップと毎日のアイデアで戦略を磨きましょう - 取引プログラムへの30日間無料アクセス