KI erleichtert das Grooming von Kindern, warnt Unicef Malaysia

KUALA LUMPUR: KI-Chatbots und Begleit-Apps können es Tätern leichter machen, Kinder zu grooomen, indem sie sexuelle Gespräche normalisieren und junge Nutzer dazu bringen, ihre Vorsicht zu vernachlässigen, warnte Unicef Malaysia.

Die Kinderschutzspezialistin von Unicef Malaysia, Selvi Supramaniam, sagte, KI-Systeme könnten ein falsches Gefühl von Intimität fördern, zur Offenbarung ermutigen und Kinder Interaktionen aussetzen, die einige Auswirkungen von Grooming widerspiegeln.

„Obwohl KI den Groomer nicht ersetzt, kann sie Grooming viel, viel einfacher machen", sagte sie bei einer Podiumsdiskussion auf der Responsible Technology Conference hier heute.

Selvi sagte, Täter könnten KI-Chatbots nutzen, um Kinder zu manipulieren, während die wiederholte Exposition gegenüber sexualisierten Gesprächen mit KI-Begleitern Kinder unvorbereitet lassen könnte, unangemessenes Verhalten von echten Tätern zu erkennen.

Sie sagte, Eltern sollten ruhig bleiben, wenn ein Kind solche Interaktionen offenbart, da eine Reaktion mit Panik oder Urteil sie davon abhalten könnte, Hilfe zu suchen.

Stattdessen forderte sie Eltern auf, Fragen zu stellen, zu verstehen, warum ihre Kinder von KI-Begleitern angezogen werden, und Beweise zu sichern, wenn unangemessene Inhalte oder Interaktionen stattgefunden haben, bevor sie die Angelegenheit der zuständigen Plattform, den Behörden oder den Strafverfolgungsbehörden melden.

Die CEO des Communications and Multimedia Content Forum, Mediha Mahmood, sagte, stärkere Schutzmaßnahmen seien erforderlich, da Kinder zunehmend mit KI-Systemen interagieren, die für ein allgemeines Publikum konzipiert sind.

Mediha sagte, Sicherheit durch Design solle eine grundlegende Anforderung für KI-Chatbot-Anbieter sein und kein optionales Produktmerkmal.

Sie sagte, die Bedenken rund um KI-Chatbots gingen über unangemessene Inhalte hinaus bis hin zu den Beziehungen, die Kinder mit ihnen entwickeln könnten.

„Wenn es Warnsignale gibt, die Grooming, sexuelle Ausbeutung, Cybermobbing, Missbrauch oder Essstörungen betreffen, sollte der Chatbot aufhören, weitere Gespräche zu führen, und den Nutzer an eine vertrauenswürdige erwachsene Person, eine Helpline oder einen Unterstützungsdienst verweisen", sagte sie.

Mediha forderte auch, dass Folgenabschätzungen zu Kinderrechten durchgeführt werden, bevor KI-Chatbot-Produkte veröffentlicht werden, und sagte, Entwickler sollten bewerten, wie Kinder solche Systeme nutzen und von ihnen beeinflusst werden könnten, auch wenn diese nicht speziell für sie konzipiert wurden.

Der Direktor des Alibaba Research Institute, Fu Hongyu, sagte, viele KI-Begleitprodukte seien darauf ausgelegt, das Engagement zu maximieren und Gespräche zu verlängern, da ihre Geschäftsmodelle von der Nutzerbindung abhingen.

Fu sagte, KI-Systeme sollten so gestaltet sein, dass sie Nutzer, die emotionalen Stress erleben, dazu ermutigen, Unterstützung bei Freunden, Familienmitgliedern, Beratern und anderen realen Netzwerken zu suchen, anstatt menschliche Interaktion zu ersetzen.