OpenAI hat einen politischen Entwurf veröffentlicht, der neue Sicherheitsmaßnahmen skizziert, die die Branche der künstlichen Intelligenz (KI) ergreifen kann, um die Nutzung der Technologie zur Erstellung von Material über sexuellen Kindesmissbrauch zu verhindern.
„Sexuelle Ausbeutung von Kindern ist eine der dringendsten Herausforderungen des digitalen Zeitalters", sagte OpenAI in seiner Ankündigung vom 08.04. „KI verändert rapide sowohl die Art und Weise, wie diese Schäden in der gesamten Branche entstehen, als auch wie sie im großen Maßstab angegangen werden können."
Vor diesem Hintergrund stellte das Unternehmen seinen politischen Entwurf vor, der „einen praktischen Weg nach vorne zur Stärkung der US-Kinderschutzrahmen im Zeitalter der KI" skizziert.
Der Entwurf spiegelt wider und integriert Feedback von mehreren führenden Organisationen und Experten aus dem Ökosystem der Kindersicherheit, darunter das National Center for Missing & Exploited Children (NCMEC), die Attorney General Alliance – eine gemeinnützige Gruppe von Staatsanwälten in den Vereinigten Staaten – und Thorn, eine gemeinnützige Organisation, die sich dem Schutz von Kindern vor sexuellem Missbrauch widmet, so der KI-Gigant.
„Keine einzelne Intervention kann diese Herausforderung allein bewältigen", sagte OpenAI. „Dieser Rahmen bringt rechtliche, operative und technische Ansätze zusammen, um Risiken besser zu identifizieren, Reaktionen zu beschleunigen und Rechenschaftspflicht zu unterstützen, während gleichzeitig sichergestellt wird, dass die Durchsetzungsbehörden stark bleiben, während sich die Technologie weiterentwickelt."
Der Schritt erfolgt, da die Bedenken zunehmend über den Missbrauch von KI-Tools, insbesondere Bildgenerierungsfunktionen, zur Erstellung expliziter Bilder von Frauen und Kindern, einschließlich Prominenter und öffentlicher Persönlichkeiten, gestiegen sind.
Bereits im Januar war die britische Kommunikationsaufsichtsbehörde Ofcom gezwungen, dringend Kontakt mit X und xAI aufzunehmen, „um zu verstehen, welche Schritte sie unternommen haben, um ihren gesetzlichen Pflichten zum Schutz der Nutzer in Großbritannien nachzukommen", nachdem Berichte aufgetaucht waren, dass Elon Musks KI-Chatbot Grok zur Erstellung und Verbreitung expliziter Bilder von Kindern und Frauen verwendet wurde, deren Kleidung digital entfernt wurde.
Ähnliche Bedenken wurden in der Europäischen Union geäußert, wobei Italiens Datenschutzbehörde Nutzer und Anbieter von KI-Tools vor den Risiken für „Grundrechte und Freiheiten" durch KI-Deepfakes warnte.
Um solche Bedenken anzugehen, sagte OpenAI, dass es drei Hauptprioritäten habe: Modernisierung der Gesetze zur Bekämpfung von KI-generiertem und verändertem Material über sexuellen Kindesmissbrauch, Verbesserung der Anbieterberichterstattung und -koordination zur Unterstützung effektiverer Untersuchungen und Integration von Safety-by-Design-Maßnahmen direkt in KI-Systeme, um Missbrauch zu verhindern und zu erkennen.
„Zusammen ermöglichen diese Schritte der Branche, Kindersicherheit früher und effektiver anzugehen", sagte das Unternehmen in seiner Erklärung vom 08.04. „Durch die frühere Unterbrechung von Ausbeutungsversuchen, die Verbesserung der Qualität der an die Strafverfolgungsbehörden gesendeten Signale und die Stärkung der Rechenschaftspflicht im gesamten Ökosystem zielt dieser Rahmen darauf ab, Schäden zu verhindern, bevor sie auftreten, und einen schnelleren Schutz für Kinder zu gewährleisten, wenn Risiken auftreten."
OpenAI sagte, es sei auch verpflichtet, weiterhin Schutzmaßnahmen zu stärken, um den Missbrauch seiner Systeme zu verhindern, sowie eng mit Partnern wie dem NCMEC und den Strafverfolgungsbehörden zusammenzuarbeiten, um die Erkennung und Berichterstattung zu verbessern.
In einer gemeinsamen Erklärung zum Entwurf für Kindersicherheit sagten die Staatsanwälte Jeff Jackson (aus North Carolina) und Derek Brown (aus Utah), Co-Vorsitzende der AI Task Force der Attorney General Alliance, sie „begrüßen diesen Entwurf als einen bedeutenden Schritt zur Angleichung der Kindersicherheitspraktiken des Technologiesektors an die Durchsetzungsrealitäten, mit denen unsere Büros jeden Tag konfrontiert sind."
Das Paar hob besonders die Anerkennung des Rahmens hervor, dass wirksame generative KI (GenAI)-Schutzmaßnahmen geschichtete Verteidigungen erfordern – nicht eine einzige technische Kontrolle, sondern eine Kombination aus Erkennung, Ablehnungsmechanismen, menschlicher Aufsicht und kontinuierlicher Anpassung an aufkommende Missbrauchstrends.
„Dies spiegelt wider, was wir in der Praxis sehen: Die Bedrohung entwickelt sich ständig weiter, und statische Lösungen sind unzureichend", sagten die Staatsanwälte.
OpenAIs Ankündigung wurde auch von Michelle DeLaune, Präsidentin und CEO des NCMEC, begrüßt, die warnte, dass GenAI „das Verbrechen der sexuellen Ausbeutung von Kindern im Internet auf zutiefst beunruhigende Weise beschleunigt – Barrieren senkt, den Umfang erhöht und neue Formen von Schäden ermöglicht."
DeLaune fügte hinzu, dass sie „ermutigt sei, Unternehmen wie OpenAI dabei zu sehen, wie diese Tools verantwortungsvoller gestaltet werden können, mit von Anfang an integrierten Schutzmaßnahmen."
Damit künstliche Intelligenz (KI) im Rahmen des Gesetzes richtig funktioniert und angesichts wachsender Herausforderungen gedeiht, muss sie ein Enterprise-Blockchain-System integrieren, das die Qualität und das Eigentum der Dateneingabe gewährleistet – wodurch Daten sicher aufbewahrt werden können, während gleichzeitig die Unveränderlichkeit der Daten garantiert wird. Sehen Sie sich CoinGeeks Berichterstattung über diese aufkommende Technologie an, um mehr darüber zu erfahren, warum Enterprise-Blockchain das Rückgrat der KI sein wird.
Ansehen: Demonstration des Potenzials der Fusion von Blockchain mit KI
Quelle: https://coingeek.com/openai-blueprint-targets-ai-enabled-child-exploitation/
