UN-Gremium listet dringende Chancen und Risiken der KI in vorläufigem Bericht auf

MANILA, Philippinen – Das Unabhängige Internationale Wissenschaftliche Gremium der Vereinten Nationen für Künstliche Intelligenz hat einen einzigartigen vorläufigen Bericht veröffentlicht, der die dringendsten Chancen, Risiken und Auswirkungen von KI bewertet.

Das Gremium, bestehend aus 40 Mitgliedern und gemeinsam geleitet von Yoshua Bengio aus Kanada und Maria Ressa von den Philippinen, strebt danach, „eine ausgewogene Analyse" der Risiken und Chancen von KI vorzulegen, und zielt darauf ab, politischen Entscheidungsträgern eine gemeinsame Wissens- und Evidenzbasis bereitzustellen, die sie benötigen, um effektiv und zeitnah zu reagieren.

„Die Technologie ist transformativ, aber wenn die Welt weiterhin auf diesem Kurs bleibt, wird die Menschheit die versprochenen Gewinne nicht realisieren können. Die Risiken – für Gesellschaften, für die Sicherheit und für unsere Spezies – sind zu hoch, und die Kräfte, die KI vorantreiben, sind nicht die Kräfte, die ihre Vorteile liefern werden", sagte Ressa.

„Die KI-Fähigkeiten überholen sowohl das wissenschaftliche Verständnis als auch die Anpassungsfähigkeit der Regierungen. Angesichts wachsender Belege für täuschendes KI-Verhalten kann die Wissenschaft derzeit nicht garantieren, dass KI, wenn ihre Fähigkeiten weiter zunehmen, keinen katastrophalen Schaden anrichten wird – weder eigenständig noch durch böswillige Nutzer. Um effektiv handeln zu können, müssen globale politische Entscheidungsträger diese Systeme verstehen. Dieses Gremium bietet genau das: eine rigorose, gemeinsame wissenschaftliche Grundlage, um unseren kollektiven Weg voranzuweisen", ergänzte Bengio.

In der Zusammenfassung des Berichts schrieb das Gremium: „Durchdacht eingesetzt und angewendet, kann KI den Fortschritt bei der Erreichung der Ziele für nachhaltige Entwicklung unterstützen, die Gesundheitswissenschaft voranbringen und den Zugang zu Bildung verbessern."

„Gleichzeitig stellen das rasante Tempo der technologischen Entwicklung und die Breite der potenziellen Anwendungen politische Entscheidungsträger vor erhebliche Herausforderungen. Der schnelle, unkontrollierte Einsatz der Technologie in großem Maßstab birgt auch erhebliche Risiken, darunter Schäden für die psychische Gesundheit der Nutzer, potenzielle Nutzung als destruktives Werkzeug, Auswirkungen auf soziale, wirtschaftliche und ökologische Systeme sowie Herausforderungen im Zusammenhang mit der Kontrolle der Technologie", fügte das Gremium hinzu.

Die Bedeutung des Gremiums

Das Gremium definiert KI-Systeme als „Maschinensysteme, die im weitesten Sinne wahrnehmen, lernen und handeln. Sie leiten aus Eingaben ab, wie sie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen, Aktionen oder Entscheidungen mit unterschiedlichem Grad an Autonomie und Anpassungsfähigkeit erzeugen."

Das Gremium erklärte, dass seine Analyse aus drei Gründen eine besondere Stellung einnimmt.

Erstens geht es von der Prämisse aus, dass die UN das wichtigste globale Forum für grenzüberschreitende Risiken globalen Ausmaßes ist.

Zweitens ist das Gremium ein UN-Mechanismus mit dem Auftrag, den Stand, die Risiken und die Fähigkeiten von KI wissenschaftlich zu bewerten.

Schließlich erklärt das Gremium, dass es einen wissenschaftlichen und keinen politischen Auftrag hat: „wissenschaftliche Belege, Konsens und Meinungsverschiedenheiten zu dokumentieren und festzustellen, welche Wissenslücken dringend geschlossen werden müssen." Indem es Regierungen und Institutionen die Evidenzbasis liefert, die sie im Laufe der Zeit zum Handeln benötigen, bleiben die Empfehlungen des Gremiums politisch relevant, aber nicht politisch vorschreibend.

„Dieser wissenschaftliche Charakter sollte seine Erkenntnisse regionsübergreifend vergleichbar und gegenüber politischen Zyklen widerstandsfähig machen", fügte das Gremium hinzu.

Was das Gremium sieht und welche Lücken bestehen

Abschnitt zwei des Berichts befasst sich damit, was die Belege für KI zeigen, und das Gremium formulierte folgende Aussagen zu KI, unterstützt durch Beispiele und weitere Kommentare:

• Die Fähigkeiten der künstlichen Intelligenz entwickeln sich schneller als die Fähigkeit, sie zu messen oder zu regulieren
• Nur eine Handvoll Akteure hat Frontier-Modelle der künstlichen Intelligenz trainiert
• Die Eingaben und Ergebnisse der künstlichen Intelligenz sind geografisch und sprachlich ungleich verteilt
• Die digitale Kluft bei künstlicher Intelligenz betrifft nicht nur den Zugang, sondern auch die Kapazität, die Entwicklung künstlicher Intelligenz zu beeinflussen
• Damit künstliche Intelligenz nützlich ist, muss sie durch ein förderliches Umfeld unterstützt werden
• Agentische künstliche Intelligenz ist ein Wendepunkt in der Governance (hinsichtlich Chancen und Risiken)
• Künstliche Intelligenz kann die gemeinsame Realität untergraben
• Künstliche Intelligenz verändert die Menschenrechte, einschließlich der Rechte von Kindern

Abschnitt drei listet derweil potenzielle Chancen und Risiken in verschiedenen Wissensbereichen auf.

Im Allgemeinen stellte das Gremium fest, dass KI „von passiver Mustererkennung zu aktivem Denken und autonomem Handeln übergegangen ist. Das Feld entwickelt sich rasch von aktuellen Reasoning-Modellen hin zu orchestrierten agentischen Netzwerken und letztlich zu sich selbst verbessernden Systemen."

Das Gremium fügte hinzu, dass der Zugang zu KI nicht automatisch einen Nutzen schafft. Stattdessen erklärte es: „Zweckgebundene, aufgabenspezifische KI liefert messbare, evidenzbasierte Gewinne in den Bereichen Wissenschaft, Gesundheit, Bildung und Landwirtschaft. Diese Gewinne sind real, aber bedingt: Sie hängen von lokaler Kontextualisierung, angemessener Infrastruktur und menschlicher Vorbereitung ab."

Darüber hinaus kann KI positiv eingesetzt werden, aber die Gewinne aus der KI-Nutzung sind nicht automatisch. In Bezug auf den wirtschaftlichen Nutzen erklärte das Gremium: „Produktivitätsgewinne erfordern ergänzende Investitionen in Fähigkeiten, Daten und organisatorische Neugestaltung."

Es fügte hinzu: „Die zentrale ungelöste Frage ist distributiver Natur: Wer erfasst den Überschuss und was passiert mit der Arbeit, mit den Entwicklungsländern und mit den regulatorischen Rahmenbedingungen, die für eine andere Ära in verschiedenen Branchen aufgebaut wurden?"

In Bezug auf die globale Sicherheit stellte das Gremium auch fest, dass „KI schädliche Operationen ermöglichen, zum Angriffsziel werden und bestehende Bedrohungen verstärken kann." Dazu gehören Cybersicherheitsbedrohungen, aber das Gremium stellte auch fest, dass die Umweltauswirkungen „erheblich zunehmen".

Das Gremium erklärte auch, dass KI „Menschenrechte, Demokratie und das Informationsökosystem durch systemweite Veränderungen transformiert, die sowohl erhebliche Chancen als auch strukturelle Risiken für die Informationsintegrität und die zivilgesellschaftliche Teilhabe schaffen." Wenn diese Risiken nicht angegangen werden, erklärte das Gremium, werde die Fähigkeit der Gesellschaft, von KI zu profitieren, untergraben.

Es fügte leider hinzu, dass es bereits Belege dafür gibt, dass Institutionen KI-Fähigkeiten als Katalysator für oder Bedrohung von Menschenrechten nutzen, wie etwa Meinungsfreiheit, Zugang zu Informationen, Gerechtigkeit, Gesundheit und Entwicklung sowie andere Menschenrechte.

Abschnitt drei endet mit der Feststellung, dass politische Entscheidungsträger vor einem Evidenzdilemma stehen: Sie könnten entweder jetzt Entscheidungen darüber treffen, wie KI reguliert werden soll, ohne ausreichende wissenschaftliche Grundlage, oder auf Belege warten, die möglicherweise zu spät für eine sinnvolle Intervention kommen.

Abschnitt vier des Berichts skizziert derweil die wissenschaftlichen Lücken – wo die Evidenzbasis zu bestimmten Aspekten der KI ungleichmäßig oder unzureichend bleibt –, was das Gremium dazu veranlasst zu erklären, dass es in diesen Bereichen noch keine gesicherten wissenschaftlichen Schlussfolgerungen ziehen kann.

Dazu gehören nicht schlüssige Belege zu makroökonomischen und Produktivitätseffekten der KI-Einführung, den Umweltaspekten der KI-Einführung, der globalen KI-Lieferkette sowie Auswirkungen auf individueller und kollektiver Ebene, unter anderem.

Das Gremium fügte hinzu, dass der Umfang des vorläufigen Berichts keine militärischen Anwendungen von KI und letale autonome Waffensysteme behandelte.

Eine vollständige Kopie des Berichts sowie eine Zusammenfassung sind auf dieser Seite verfügbar. – Rappler.com