OpenAI setzt sich weltweit für eine KI-Regulierungsbehörde ein

OpenAI sagt, KI braucht die gleiche Regulierung wie Kernenergie und möchte, dass die USA die Schaffung einer globalen Regulierungsbehörde dafür initiieren. 

Wie Cryptopolitan berichtete, geschieht dies, während Präsident Trump nach Peking reiste, zum ersten US-chinesischen Staatsbesuch seit neun Jahren, bei dem KI-Politik voraussichtlich auf der Tagesordnung stehen sollte.

Laut Chris Lehane, dem Vizepräsidenten für globale Angelegenheiten bei OpenAI, ist Trump und Xi im selben Raum eine seltene Gelegenheit für die beiden Nationen, etwas Dauerhaftes für KI aufzubauen.

„KI übersteigt auf gewisse Weise viele der vorherrschenden oder traditionellen Handelsfragen. Es gibt eine Gelegenheit, wirklich etwas global aufzubauen und Länder auf der ganzen Welt, einschließlich China, potenziell daran zu beteiligen," sagte Chris Lehane während eines Briefings.

Was ist OpenAI, und warum ist seine Meinung zur globalen Politik so bedeutsam?

OpenAI ist das amerikanische Unternehmen, das ChatGPT entwickelt hat, einen beliebten KI-Assistenten/Chatbot, der täglich von Hunderten von Millionen Menschen genutzt wird.

Das Unternehmen hat sich stets an jeder wichtigen Debatte über leistungsstarke KI-Systeme beteiligt. Sein CEO, Sam Altman, trifft sich regelmäßig mit Staatsoberhäuptern, um über KI zu diskutieren, und tritt sogar vor dem Kongress auf, was dem Unternehmen erheblichen Einfluss auf die globale KI-Politik verleiht.

OpenAI befindet sich außerdem in einem separaten Rechtsstreit, nachdem Tesla-CEO Elon Musk das Unternehmen im Jahr 2024 verklagte. Musk ist einer der ursprünglichen Gründer von OpenAI und behauptet, dass Sam Altman und andere Führungskräfte gegen die gemeinnützige Mission des Unternehmens gehandelt und es zu einer gewinnorientierten Organisation gemacht haben. 

Der Prozess läuft noch, aber die größere Geschichte dieser Woche spielt sich in Peking ab.

Was schlug OpenAI vor, und was ist der IAEA-Vergleich?

Chris Lehane, Vizepräsident für globale Angelegenheiten bei OpenAI, schlug vor, zwei Dinge zu verknüpfen, um etwas Neues zu schaffen.

Er möchte, dass das Center for AI Standards and Innovation des US-Handelsministeriums und KI-Sicherheitsinstitute zusammenkommen und ein globales Netzwerk aufbauen. Er nannte die Internationale Atomenergiebehörde (IAEA) als Beispiel dafür, wie Länder ihre Atomregulierer zu einer übergeordneten Behörde zusammengeführt haben. 

Das Center for AI Standards and Innovation des US-Handelsministeriums ist eine Regierungsstelle, die technische Standards für KI-Systeme entwickelt. 

Gleichzeitig gründen Länder weltweit KI-Institute. So hat beispielsweise das Vereinigte Königreich bereits eines, die EU entwickelt Rahmenwerke, und mehrere asiatische Regierungen arbeiten ebenfalls an ähnlichen Institutionen. 

Lehane sagte, eine einheitliche Behörde für KI werde dazu beitragen, sicherere und widerstandsfähigere Systeme aufzubauen, die weniger anfällig für Angriffe sind. Außerdem möchte er, dass die US-Regierung es für die Forscher des Landes zur Pflicht macht, die leistungsstärksten KI-Modelle vor ihrer Bereitstellung zu testen. 

Was ist das Mythos-Modell, und warum beunruhigt es sowohl Washington als auch Peking?

Mythos ist ein neues, leistungsstarkes KI-Modell, das „Tausende" schwerwiegender Schwachstellen in Betriebssystemen und anderer Software gefunden hat. Anthropic (das KI-Sicherheitsunternehmen, das von Google und Amazon unterstützt wird) hat Mythos entwickelt.

Das Ausmaß dessen, was Mythos leisten kann, schockte die Welt, da Banken und Regierungen nach der Ankündigung eilig ihre Sicherheitsverteidigungen verstärkten. Sogar Beamte des Weißen Hauses räumten ein, dass Modelle wie Mythos die Kommunikation mit China wichtiger denn je machen. 

China wurde vom frühen Zugang zu einer Mythos-Vorschau ausgeschlossen, was Bedenken hinsichtlich der Fähigkeit der Entwickler und der Regierung des Landes aufwarf, sich gegen Angriffe zu verteidigen, die das KI-Modell nutzen. 

Das Marktforschungsunternehmen IDC China warnte sogar, dass der Ausschluss Chinas von Mythos eine „generationale Lücke" in den KI-Verteidigungskapazitäten zwischen China und dem Westen erzeugen könnte. 

Laut Forschern könnten Angreifer fortschrittliche KI nutzen, um Biowaffen zu entwerfen, Finanzschocks auszulösen oder autonom ohne menschliche Kontrolle zu handeln. Das Beängstigendste daran ist, dass KI nur leistungsstark, schnell und in die falsche Richtung gelenkt sein muss, um all diese Dinge zu tun. 

Was geschah beim Treffen Trump-Xi, und worüber haben sie gesprochen?

Die US-Delegation nach China umfasste Nvidia-CEO Jensen Huang und den obersten Technologiepolitikberater des Weißen Hauses, Michael Kratsios. Ihre Anwesenheit auf der Reise machte das Treffen zu einer Priorität und einem dringenden Thema, da beide Seiten vorbereitet waren, KI-Fragen direkt zu besprechen. 

China schlug einen formellen Dialog zu KI-Fragen vor, geleitet von Finanzminister Scott Bessent und dem chinesischen stellvertretenden Finanzminister Liao Min. Die Erwartungen an diesen Kanal sind jedoch gering, da keine der beiden Behörden auf KI spezialisiert ist.

Die USA planten außerdem, Bedenken zu äußern, dass chinesische Entwickler Ergebnisse fortschrittlicher KI-Modelle nutzten, um Systeme zu einem Bruchteil der Kosten, aber mit weniger Sicherheitsmechanismen aufzubauen.

Beide Seiten diskutierten auch die Möglichkeit, eine schuldfreie Hotline einzurichten, um mutmaßliche KI-gesteuerte Vorfälle zu melden, ähnlich wie militärische Hotlines.

Analysten schlugen sogar vor, dass beide Regierungen sich zu Leitplanken für frontier KI-Modelle verpflichten könnten, ähnlich dem US-China-Cybersicherheitsabkommen von 2015.

Schließlich könnten die Gespräche auch den MATCH Act berühren, ein vorgeschlagenes US-Gesetz, das darauf abzielt, Chinas Zugang zu Halbleiter-Lieferketten zu begrenzen. 

Sun Chenghao von der Tsinghua-Universität nahm an den US-chinesischen KI-Gesprächen teil und sagte, die USA sollten eine klare Linie ziehen zwischen dem Management von KI-Sicherheitsrisiken und dem bloßen Versuch, Chinas technologische Entwicklung zu blockieren. 

„China hofft wahrscheinlich, dass die USA angemessen zwischen KI-Governance und technologischer Eindämmung unterscheiden werden," sagte Sun Chenghao. 

Wenn Sie das lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie es mit unserem Newsletter.