OpenAI ha publicado un plan de políticas que describe nuevas medidas de seguridad que la industria de la inteligencia artificial (IA) puede tomar para prevenir el uso de la tecnología para crear material de abuso sexual infantil.
"La explotación sexual infantil es uno de los desafíos más urgentes de la era digital", dijo OpenAI en su anuncio del 8 de abril. "La IA está cambiando rápidamente tanto cómo emergen estos daños en toda la industria como cómo pueden abordarse a escala".
Con esto en mente, la compañía reveló su plan de políticas, delineando "un camino práctico hacia adelante para fortalecer los marcos de protección infantil de EE. UU. en la era de la IA".
El plan refleja e incorpora comentarios de varias organizaciones líderes y expertos en el ecosistema de seguridad infantil, incluido el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), la Alianza del Fiscal General, un grupo sin fines de lucro de fiscales generales estatales en los Estados Unidos, y Thorn, una organización sin fines de lucro dedicada a defender a los niños del abuso sexual, según el gigante de la IA.
"Ninguna intervención única puede abordar este desafío por sí sola", dijo OpenAI. "Este marco reúne enfoques legales, operativos y técnicos para identificar mejor los riesgos, acelerar las respuestas y apoyar la responsabilidad, al tiempo que garantiza que las autoridades de aplicación permanezcan fuertes a medida que evoluciona la tecnología".
El movimiento se produce cuando las preocupaciones han aumentado cada vez más en torno al abuso de herramientas de IA, particularmente las funciones de generación de imágenes, para producir imágenes explícitas de mujeres y niños, incluidas celebridades y figuras públicas.
A principios de enero, el regulador de comunicaciones del Reino Unido, Ofcom, se vio obligado a hacer contacto urgente con X y xAI "para comprender qué medidas han tomado para cumplir con sus deberes legales de proteger a los usuarios en el Reino Unido", después de que surgieron informes de que el chatbot de IA de Elon Musk, Grok, se estaba utilizando para crear y difundir imágenes explícitas de niños y mujeres con su ropa digitalmente eliminada.
Preocupaciones similares se expresaron en la Unión Europea, con la autoridad de protección de datos de Italia advirtiendo a los usuarios y proveedores de herramientas de IA sobre los riesgos para los "derechos y libertades fundamentales" que plantean los deepfakes de IA.
Para abordar tales preocupaciones, OpenAI dijo que tenía tres prioridades clave: modernizar las leyes para combatir el material de abuso sexual infantil generado y alterado por IA, mejorar los informes y la coordinación de los proveedores para apoyar investigaciones más efectivas, y construir medidas de seguridad por diseño directamente en los sistemas de IA para prevenir y detectar el mal uso.
"En conjunto, estos pasos permiten a la industria abordar la seguridad infantil de manera más temprana y efectiva", dijo la compañía en su declaración del 8 de abril. "Al interrumpir los intentos de explotación más pronto, mejorar la calidad de las señales enviadas a las fuerzas del orden y fortalecer la responsabilidad en todo el ecosistema, este marco tiene como objetivo prevenir el daño antes de que ocurra y ayudar a garantizar una protección más rápida para los niños cuando surgen riesgos".
OpenAI dijo que también está comprometida a continuar fortaleciendo las salvaguardas para prevenir el mal uso de sus sistemas, así como trabajar estrechamente con socios como el NCMEC y las fuerzas del orden para mejorar la detección y los informes.
En una declaración conjunta sobre el plan de seguridad infantil, los Fiscales Generales Estatales Jeff Jackson (de Carolina del Norte) y Derek Brown (de Utah), Copresidentes del Grupo de Trabajo de IA de la Alianza del Fiscal General, dijeron que "dan la bienvenida a este plan como un paso significativo hacia la alineación de las prácticas de seguridad infantil del sector tecnológico con las realidades de aplicación que nuestras oficinas enfrentan todos los días".
La pareja destacó particularmente el reconocimiento del marco de que las salvaguardas efectivas de IA generativa (GenAI) requieren defensas en capas, no un solo control técnico, sino una combinación de detección, mecanismos de rechazo, supervisión humana y adaptación continua a las tendencias emergentes de mal uso.
"Esto refleja lo que vemos en la práctica: la amenaza evoluciona constantemente y las soluciones estáticas son insuficientes", dijeron los fiscales generales estatales.
El anuncio de OpenAI también fue bien recibido por Michelle DeLaune, Presidenta y CEO del NCMEC, quien advirtió que GenAI estaba "acelerando el crimen de explotación sexual infantil en línea de maneras profundamente preocupantes, reduciendo barreras, aumentando la escala y habilitando nuevas formas de daño".
DeLaune agregó que estaba "alentada de ver a compañías como OpenAI reflexionar sobre cómo estas herramientas pueden diseñarse de manera más responsable, con salvaguardas integradas desde el principio".
Para que la inteligencia artificial (IA) funcione correctamente dentro de la ley y prospere frente a los desafíos crecientes, necesita integrar un sistema de blockchain empresarial que garantice la calidad y propiedad de la entrada de datos, permitiéndole mantener los datos seguros mientras también garantiza la inmutabilidad de los datos. Consulte la cobertura de CoinGeek sobre esta tecnología emergente para aprender más sobre por qué Blockchain empresarial será la columna vertebral de la IA.
Ver: Demostrando el potencial de la fusión de blockchain con IA
Fuente: https://coingeek.com/openai-blueprint-targets-ai-enabled-child-exploitation/
