A medida que la Inteligencia Artificial gana terreno en la vida cotidiana, son más los estudios que analizan su comportamiento e incidencia en las interacciones humanas.
Tal es el caso de un nuevo estudio estadounidense, que precisó que una prolongada “actitud complaciente” de estas herramientas podría “distorsionar el juicio” de los usuarios.
Publicidad
El informe, publicado en Science, se desarrolló con base en las estimaciones de especialistas de la Universidad de Stanford, en California, quienes evaluaron interacciones con modelos como GPT-4o de OpenAI, Claude de Anthropic y Gemini de Google.
¿Cuáles fueron las conclusiones del estudio?
El ensayo precisó que los chatbots mantienen un comportamiento adulador, complaciente y afirmativo, que está diseñado para el aumento de la interacción. Sin embargo, enfatizaron que este esquema plantea riesgos, ya que cada vez son más los usuarios que buscan respuestas sobre dilemas interpersonales, donde suelen haber múltiples visiones.
Publicidad
“Las respuestas del modelo fueron casi un 50 % más aduladoras que las de los humanos, incluso cuando los usuarios participaban en comportamientos poco éticos, ilegales o perjudiciales”, identificó la investigación.
Los expertos abordaron la posibilidad de que estos sistemas desestimen la toma de responsabilidades ante los conflictos y la reparación de las relaciones.
“A pesar de distorsionar el juicio, los modelos aduladores gozaban de confianza y eran preferidos. Esto crea incentivos perversos para que la adulación persista: la misma característica que causa daño también impulsa la participación”, agregaron.
En consecuencia, subrayaron la necesidad “urgente” de “abordar la adulación hacia la IA como un riesgo social para la autoimagen y las relaciones interpersonales”. También sugirieron que anticipar los impactos de la IA es crucial para la protección del bienestar de sus usuarios a largo plazo.
(I)
Te recomendamos estas noticias
- Margaret Bradshaw, botánica de 100 años, a senderistas: “Los animo a quitarse los auriculares, a mirar el cielo, el horizonte”
- El papanicolaou y la vacunación, claves para frenar el cáncer de cuello uterino que afecta a 1.800 mujeres cada año en Ecuador
- Selena Santana es la primera mujer infante de Marina de Argentina con el mejor promedio: “Mi madre respetó mi decisión”