Republikanischer Abgeordneter erschreckt nach „nichtöffentlicher Demo" neuer Technologie, die „zeigte, wie man einen Gesetzgeber entführt"

Ein prominentes republikanisches Mitglied des Repräsentantenhauses war nach einem ersten Einblick in eine neue Technologie bei einer kürzlichen „Vorführung hinter verschlossenen Türen" „erschrocken", berichtete Punchbowl News am Freitag – eine Technologie, vor der der Abgeordnete warnte, dass die meisten seiner Kollegen die Tragweite davon nicht erfassen würden.

Diese Technologie war Claude Mythos, das neueste große Sprachmodell, das von Anthropic mithilfe generativer künstlicher Intelligenz entwickelt wurde und dessen Fähigkeiten so weitreichend waren, dass die Trump-Regierung dessen Nutzung durch ausländische Staatsangehörige ausgesetzt hat, was einer Blockierung der öffentlichen Veröffentlichung für die unmittelbare Zukunft gleichkommt.

„[Anthropic] hat dem Modell gesagt, es solle eine Schwachstelle in einer Bank finden und Konten leeren, und dann hat es das getan", sagte Abgeordneter Andrew Garbarino (R-NY), der Vorsitzende des Heimatschutzausschusses des Repräsentantenhauses, im Gespräch mit Punchbowl News. „[Mythos] konnte dann diese Schwachstelle finden und beheben."

Über die offensichtliche Fähigkeit von Mythos, Bankkonten zu leeren, hinaus demonstrierte Anthropic auch weitaus bösartigere Einsatzmöglichkeiten seiner neuesten Technologie.

„Ein nicht näher bezeichnetes Modell zeigte in 30 Sekunden einen detaillierten Plan, wie man einen Abgeordneten entführt", heißt es im Bericht von Punchbowl News, der Garbarinos Aussagen paraphrasiert. „Böswillige Akteure könnten die Modelle hacken und sie nutzen, um kritische Infrastruktur anzugreifen", sagte [Garbarino] und wies darauf hin, dass die agentischen Fähigkeiten von KI es Modellen ermöglichen würden, ohne menschliche Aufforderung zu handeln.

Mit konkreten Beispielen, von denen er befürchtete, dass sie von Personen mit Zugang zu Mythos eingesetzt werden könnten, warnte Garbarino, dass Einzelpersonen „diese Gaspipeline abschalten" oder „die Chlormenge" in der Wasserversorgung einer Gemeinde „erhöhen" könnten – und das alles von zu Hause aus.

„Man hat nicht nur die Möglichkeit zu lernen, wie es geht, sondern es auch für sich erledigen zu lassen", sagte Garbarino gegenüber Punchbowl News. „Ich würde sagen, 95 % meiner Kollegen verstehen nicht, was zum Teufel gerade passiert."

Während die Trump-Regierung die öffentliche Veröffentlichung von Mythos für die unmittelbare Zukunft de facto blockiert hat, hat Präsident Donald Trump die Fähigkeit der Bundesstaaten, die aufkommende KI-Technologie zu regulieren, durch eine Durchführungsverordnung eingeschränkt, die er letzten Dezember unterzeichnet hat und die Bundesstaaten daran hindert, eigene Gesetze zur Regulierung der Technologie zu erlassen.