La Internet Watch Foundation (IWF o Fundación de vigilancia en internet) denunció el uso de la inteligencia artificial de Elon Musk, Grok, como una herramienta para crear imágenes sexualizadas de menores de edad.
Usuarios de la red oscura (también conocida como dark web) compartieron a través de foros en línea imágenes de niñas en toples, lo que encendió las alarmas.
Publicidad
España pide a la Fiscalía investigar a la IA de X (Grok) por supuesta pornografía infantil
La jornada de este jueves 8 de enero, la jefa de línea directa de la IWF, Ngaire Alexander, publicó un comunicado donde confirmó que “nuestros analistas han descubierto imágenes de niños de entre 11 y 13 años, que parecen haber sido creados con la herramienta”.
“No hay excusa para lanzar productos al público global que puedan usarse para abusar y dañar a las personas, especialmente a los niños”, resaltó en Linkedin.
Publicidad
Los reportes de esta situación ya han inundado las redes sociales. Las autoridades y organismos que se encargan de la protección de menores se manifestaron al respecto.
Denuncian a la inteligencia artificial de Elon Musk
El Departamento de Justicia de Estados Unidos se pronunció el miércoles respecto a esta situación, aunque no mencionó en específico a Grok. Aseguraron que harías responsabilizar “a las personas que explotan la tecnología para dañar a nuestros más vulnerables”.
Departamento de Justicia de EE. UU. ajusta acusación contra Maduro sobre el cartel de los Soles
“Tomaremos extremadamente en serio el material de abuso sexual infantil generado por IA y procesaremos agresivamente a cualquier productor”, comentó un portavoz norteamericano.
Por su parte, el organismo que regula las comunicaciones en el Reino Unido, Ofcom, comentó el lunes que se colocaron en contacto con X y xAI -startup de inteligencia artificial de Elon Musk- “para comprender qué medidas han tomado para cumplir con sus obligaciones legales”.
“Con base en su respuesta, realizaremos una evaluación rápida para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación”, indicó el organismo.
Finalmente, el propio Elon Musk se pronunció el pasado sábado en X por un reclamo que le hicieron por la creación de contenido explícito infantil: “Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si carga contenido ilegal”.
Elon Musk restringe herramientas de imagen de Grok
Este 9 de enero se difundió que Elon Musk restringió las capacidades de generación de imágenes de su chatbot de inteligencia artificial Grok. Ahora solo está disponible para suscriptores de pago.
Con esta restricción la gran mayoría de los usuarios ya no pueden acceder a la función. Sin embargo, los suscriptores de pago verificados con datos de tarjeta de crédito aún pueden hacerlo, pero en teoría son más fáciles de identificar si hacen mal uso de la función.
(I)