Sztuczna inteligencja ułatwia uwodzenie dzieci, ostrzega Unicef Malezja

KUALA LUMPUR: Chatboty AI i aplikacje towarzyskie mogą ułatwiać sprawcom uwodzenie dzieci poprzez normalizację rozmów o charakterze seksualnym i zachęcanie młodych użytkowników do obniżania czujności – ostrzegł Unicef Malaysia.

Specjalistka ds. ochrony dzieci, Selvi Supramaniam, stwierdziła, że systemy AI mogą wywoływać fałszywe poczucie bliskości, zachęcać do zwierzeń i narażać dzieci na interakcje odzwierciedlające niektóre skutki groomingu.

„Chociaż AI nie zastępuje sprawcy groomingu, może sprawić, że grooming stanie się o wiele, wiele łatwiejszy" – powiedziała podczas dyskusji panelowej na Responsible Technology Conference, która odbyła się tutaj dzisiaj.

Selvi stwierdziła, że sprawcy mogą wykorzystywać chatboty AI do manipulowania dziećmi, a wielokrotne narażenie na rozmowy o charakterze seksualnym z towarzyszami AI może sprawiać, że dzieci będą nieprzygotowane do rozpoznawania nieodpowiednich zachowań ze strony prawdziwych sprawców.

Powiedziała, że rodzice powinni zachować spokój, gdy dziecko ujawni takie interakcje, ponieważ reakcja paniką lub osądzaniem może zniechęcić je do szukania pomocy.

Zamiast tego wezwała rodziców do zadawania pytań, zrozumienia, dlaczego ich dzieci ciągną do towarzyszy AI, oraz do zachowania dowodów w przypadku wystąpienia nieodpowiednich treści lub interakcji, przed zgłoszeniem sprawy do odpowiedniej platformy, władz lub organów ścigania.

Dyrektor generalna Communications and Multimedia Content Forum, Mediha Mahmood, stwierdziła, że potrzebne są silniejsze zabezpieczenia, ponieważ dzieci coraz częściej wchodzą w interakcje z systemami AI zaprojektowanymi dla ogólnej publiczności.

Mediha powiedziała, że bezpieczeństwo w fazie projektowania powinno być podstawowym wymogiem dla dostawców chatbotów AI, a nie opcjonalną funkcją produktu.

Stwierdziła, że obawy dotyczące chatbotów AI wykraczają poza nieodpowiednie treści i obejmują relacje, jakie dzieci mogą z nimi nawiązywać.

„Gdy pojawią się sygnały ostrzegawcze dotyczące groomingu, wykorzystywania seksualnego, cyberprzemocy, nadużyć lub zaburzeń odżywiania, chatbot powinien zaprzestać dalszego angażowania i skierować użytkownika do zaufanej osoby dorosłej, telefonu zaufania lub usługi wsparcia" – powiedziała.

Mediha wezwała również do przeprowadzenia ocen wpływu na prawa dziecka przed wprowadzeniem produktów opartych na chatbotach AI, stwierdzając, że twórcy powinni oceniać, w jaki sposób dzieci mogą korzystać z takich systemów i być przez nie dotknięte, nawet jeśli nie zostały one dla nich specjalnie zaprojektowane.

Dyrektor Alibaba Research Institute, Fu Hongyu, powiedział, że wiele produktów opartych na towarzyszach AI zostało zaprojektowanych w celu maksymalizacji zaangażowania i przedłużania rozmów, ponieważ ich modele biznesowe zależą od utrzymania użytkowników.

Fu powiedział, że systemy AI powinny być zaprojektowane tak, aby zachęcać użytkowników przeżywających trudności emocjonalne do szukania wsparcia u przyjaciół, członków rodziny, doradców i innych sieci w świecie rzeczywistym, zamiast zastępować ludzkie interakcje.