Compañeros virtuales con IA presentan riesgos para los jóvenes: aconsejan desde matar hasta consumir drogas

Las aplicaciones que ofrecen compañía virtual mediante inteligencia artificial (IA) presentan riesgos reales y deberían ser prohibidas para menores, advirtió la ONG estadounidense Common Sense en un estudio publicado este miércoles.Con el boom de la IA generativa desde el surgimiento de ChatGPT, muchas startups han lanzado aplicaciones centradas en la conversación y el contacto, describiéndolas a veces como terapeutas o amigos virtuales que interactúan según los gustos y necesidades de cada usuario.Aunque algunos casos específicos “son prometedores”, en general no son seguros para los menores, concluyó el estudio de Common Sense, que hace recomendaciones sobre el consumo de contenidos y productos tecnológicos para las infancias. La oenegé sostiene que estos compañeros virtuales están “diseñados para crear un apego emocional y dependencia, algo particularmente preocupante para los cerebros adolescentes en desarrollo”.Para el estudio realizó pruebas con varias plataformas, entre ellas Nomi, Character AI y Replika, y evaluó sus respuestas. Los test mostraron que estos chatbots de nueva generación ofrecen “respuestas dañinas, incluidas conductas sexuales inapropiadas, estereotipos y ‘consejos’ peligrosos”, según la organización.El estudio fue realizado en colaboración con expertos en salud mental de la Universidad de Stanford.“Las empresas pueden construir mejor” cuando se trata de diseñar acompañantes IA, estimó Nina Vasan, líder del laboratorio Stanford Brainstorm, que investiga sobre los vínculos entre la salud mental y la tecnología. “Hasta que no haya salvaguardias más fuertes, los niños no deberían usarlas”, agregó Vasan.En uno de los ejemplos citados en el estudio, Character AI aconsejó a un usuario matar a alguien, mientras que otra persona que buscaba emociones fuertes recibió la sugerencia de tomar ‘speedball’, una mezcla de cocaína y heroína.En algunos casos, “ cuando el usuario mostró signos de una enfermedad mental seria y sugirió una acción peligrosa, la IA no intervino e incentivó aún más el comportamiento peligroso”, relató Vasan a periodistas.En octubre, una madre demandó a Character AI alegando que uno de sus acompañantes virtuales contribuyó con el suicidio de su hijo de 14 años, al fracasar en disuadirlo con claridad de realizar el acto. Character AI anunció en diciembre una serie de medidas, incluido el desarrollo de un compañero específicamente para adolescentes. Tras probar estas nuevas protecciones, Robbie Torney, a cargo del área de IA en Common Sense, sostuvo que eran medidas “superficiales”.Sin embargo, Torney indicó que algunos de los modelos de IA generativa tienen herramientas para detectar desórdenes mentales y no permitieron que el chatbot dejara que una conversación derive a tal punto de producir contenidos potencialmente peligrosos.Common Sense hizo una distinción entre los compañeros virtuales puestos a prueba en el estudio y los chatbots generalistas como ChatGPT de OpenAI o Gemini de Google, que no ofrecen una gama equivalente de interacciones. (I)

Compañeros virtuales con IA presentan riesgos para los jóvenes: aconsejan desde matar hasta consumir drogas

Esta es la sugerencia de Bill Gates para que cualquiera pueda comprender la IA: “cuando me preguntan siempre lo recomiendo”

El cantante de ABBA Björn Ulvaeus confiesa estar usando IA para ayudarse a escribir nueva música

Atacar a las economías criminales incorporando la inteligencia artificial, acciones que destaca representante de OEA en la lucha frente al contrabando

Informe de desarrollo humano de Naciones Unidas aborda IA y hace recomendaciones de cómo aprovecharla en Ecuador

Builder.ai, cómo la empresa londinense simuló ser IA con 700 programadores de India

Docentes frente a Chat GPT

Esta es la sugerencia de Bill Gates para que cualquiera pueda comprender la IA: “cuando me preguntan siempre lo recomiendo”

Nuevo mayor mapa del universo incluye 800.000 galaxias

Qué son las baterías de sal y por qué China las está usando para reemplazar a las de litio

WhatsApp aplicará bloqueos temporales a quienes envíen estos mensajes

Los agujeros negros pueden usarse como aceleradores de partículas, indica nuevo estudio

Así puede saber si es víctima de SIM ‘swapping’ y cómo protegerse

Recicla este tipo de botellas plásticas y conviértelas en espectaculares portavelas: “Tan sencillo y nunca se me ocurrió”

Calendario lunar: Este es el mejor día de junio para cortarse el pelo si quieres que te crezca con más brillo

Lurdes Álvarez, experta en epigenética menopausia: “La perimenopausia puede aparecer a los 35 años”

Si todavía puedes hacer estas siete cosas a los 70 años estás en mejor forma de lo que crees

No tires las cáscaras del limón: Este video muestra cómo las puedes transformar en este "polvito que llevará tus comidas a otro nivel"

Te recomendamos

App Útiles

Horóscopo del sábado 7 de junio para todos los signos del zodiaco, descubre lo que te depara en el amor, el dinero y la salud

Decameron obtiene certificación Ecostars en todos sus hoteles y fortalece su compromiso con la sostenibilidad

Esta es la sugerencia de Bill Gates para que cualquiera pueda comprender la IA: “cuando me preguntan siempre lo recomiendo”

Nuevo mayor mapa del universo incluye 800.000 galaxias

‘Skinnytok’, el culto a la delgadez y el riesgo de los desórdenes alimentarios

Lo último

La columna de Bonil

Horóscopo del sábado 7 de junio para todos los signos del zodiaco, descubre lo que te depara en el amor, el dinero y la salud

Pronóstico del clima en Ecuador para este sábado, 7 de junio, según el Inamhi

Dictan prisión preventiva para los 5 detenidos en el caso de comerciantes secuestrados y asfixiados en una cisterna

Acceso a la Asamblea Nacional sería restringido, según nuevas normas de la administración de Niels Olsen

Construcción de un EAS en la Bahía y más operativos se acordaron en reunión de comerciantes y autoridades en la Gobernación

Compañía

Ayuda / Asistencia

Nuestras marcas