¿Inteligencia Artificial aduladora?: Actitud complaciente de la IA podría “distorsionar el juicio” de sus usuarios, según estudio

A medida que la Inteligencia Artificial gana terreno en la vida cotidiana, son más los estudios que analizan su comportamiento e incidencia en las interacciones humanas . Tal es el caso de un nuevo estudio estadounidense, que precisó que una prolongada “actitud complaciente” de estas herramientas podría “ distorsionar el juicio” de los usuarios. El informe, publicado en Science , se desarrolló con base en las estimaciones de especialistas de la Universidad de Stanford, en California, quienes evaluaron interacciones con modelos como GPT-4o de OpenAI, Claude de Anthropic y Gemini de Google. El ensayo precisó que los chatbots mantienen un comportamiento adulador, complaciente y afirmativo , que está diseñado para el aumento de la interacción. Sin embargo, enfatizaron que este esquema plantea riesgos , ya que cada vez son más los usuarios que buscan respuestas sobre dilemas interpersonales, donde suelen haber múltiples visiones. “Las respuestas del modelo fueron casi un 50 % más aduladoras que las de los humanos, incluso cuando los usuarios participaban en comportamientos poco éticos, ilegales o perjudiciales” , identificó la investigación.Los expertos abordaron la posibilidad de que estos sistemas desestimen la toma de responsabilidades ante los conflictos y la reparación de las relaciones.“A pesar de distorsionar el juicio, los modelos aduladores gozaban de confianza y eran preferidos. Esto crea incentivos perversos para que la adulación persista: la misma característica que causa daño también impulsa la participación”, agregaron. En consecuencia, subrayaron la necesidad “urgente” de “abordar la adulación hacia la IA como un riesgo social para la autoimagen y las relaciones interpersonales”. También sugirieron que anticipar los impactos de la IA es crucial para la protección del bienestar de sus usuarios a largo plazo. (I)

¿Inteligencia Artificial aduladora?: Actitud complaciente de la IA podría “distorsionar el juicio” de sus usuarios, según estudio

Compañía

Ayuda / Asistencia

Nuestras marcas