Los sistemas de inteligencia artificial ya son expertos en engañar y manipular a los humanos, según investigadores

Muchos sistemas de inteligencia artificial (IA) ya han aprendido a engañar a los humanos, incluso sistemas que han sido entrenados para ser útiles y honestos. En un artículo de revisión publicado en la revista Patterns del Departamento de Física del MIT, investigadores describen los riesgos del engaño por parte de los sistemas de inteligencia artificial y piden a los gobiernos que desarrollen regulaciones estrictas para abordar este problema lo antes posible, detalla Europa Press .“ Los desarrolladores de IA no tienen una comprensión segura de las causas de comportamientos indeseables de la IA, como el engaño ”, reflexiona el primer autor Peter S. Park, becario postdoctoral sobre seguridad existencial de IA en el MIT. “Pero en términos generales, creemos que el engaño de la IA surge porque una estrategia basada en el engaño resultó ser la mejor manera de desempeñarse bien en la tarea de entrenamiento de la IA determinada. El engaño les ayuda a lograr sus objetivos”.Park y su equipo analizaron la literatura centrándose en las formas en que los sistemas de inteligencia artificial difunden información falsa, a través del engaño aprendido, en el que aprenden sistemáticamente a manipular a otros.El ejemplo más sorprendente de engaño de IA que los investigadores descubrieron en su análisis fue CICERO de Meta, un sistema de IA diseñado para jugar al juego Diplomacy, que es un juego de conquista mundial que implica la construcción de alianzas. Aunque Meta afirma que entrenó a CICERO para que fuera “ en gran medida honesto y servicial ” y para que “nunca apuñalara intencionalmente por la espalda” a sus aliados humanos mientras jugaba, los datos que la compañía publicó junto con su artículo de Science revelaron que CICERO no jugó limpio.“Descubrimos que la IA de Meta había aprendido a ser un maestro del engaño”, afirma Park. “Si bien Meta logró entrenar su IA para ganar en el juego de Diplomacia (CICERO se ubicó entre el 10% de los mejores jugadores humanos que habían jugado más de un juego), Meta no logró entrenar su IA para ganar honestamente ”.Otros sistemas de IA demostraron la capacidad de farolear en un juego de póquer Texas Hold’em contra jugadores humanos profesionales, fingir ataques durante el juego de estrategia Starcraft II para derrotar a los oponentes y tergiversar sus preferencias para ganar ventaja en negociaciones económicas.Si bien puede parecer inofensivo que los sistemas de IA hagan trampa en los juegos, puede conducir a “avances en capacidades engañosas de la IA” que pueden convertirse en formas más avanzadas de engaño de la IA en el futuro, añade Park.Los investigadores encontraron que algunos sistemas de inteligencia artificial incluso han aprendido a engañar las pruebas diseñadas para evaluar su seguridad. En un estudio, los organismos de IA en un simulador digital “se hicieron los muertos” para engañar a una prueba diseñada para eliminar los sistemas de IA que se replican rápidamente. “Al burlar sistemáticamente las pruebas de seguridad que le imponen los desarrolladores y reguladores humanos, una IA engañosa puede llevarnos a los humanos a una falsa sensación de seguridad”, añade Park.Los principales riesgos a corto plazo de una IA engañosa incluyen facilitar que actores hostiles cometan fraude y alteren las elecciones, advierte Park. Con el tiempo, si estos sistemas pueden perfeccionar este inquietante conjunto de habilidades, los humanos podrían perder el control sobre ellos, afirma. “Nosotros, como sociedad, necesitamos todo el tiempo posible para prepararnos para el engaño más avanzado de los futuros productos de IA y modelos de código abierto”, señala de nuevo Park. “A medida que las capacidades engañosas de los sistemas de IA se vuelvan más avanzadas, los peligros que representan para la sociedad serán cada vez más graves”.Si bien Park y sus colegas no creen que la sociedad tenga todavía las medidas adecuadas para abordar el engaño de la IA, les alienta que los responsables políticos hayan comenzado a tomar el tema en serio a través de medidas como la Ley de IA de la UE y la Orden Ejecutiva de IA del presidente Biden . Pero queda por ver, matiza Park, si las políticas diseñadas para mitigar el engaño de la IA pueden aplicarse estrictamente, dado que los desarrolladores de IA aún no tienen las técnicas para mantener estos sistemas bajo control.“Si prohibir el engaño de la IA es políticamente inviable en este momento, recomendamos que los sistemas de IA engañosos se clasifiquen como de alto riesgo”, concluye Park. (I)

Los sistemas de inteligencia artificial ya son expertos en engañar y manipular a los humanos, según investigadores

Inteligencia artificial vs. inteligencia emocional

¿Cómo funcionará el nuevo sistema de vigilancia en Hong Kong? 60.000 cámaras con inteligencia se instalarán para el 2028

El ajedrez, la ciencia y la inteligencia artificial: un tablero que refleja el futuro

¿Quién es Tilly Norwood? La actriz generada por IA que genera controversia en Hollywood

Multan con tres mil dólares a abogado de Estados Unidos por mal uso de la Inteligencia Artificial

Elon Musk revela la fecha definitiva en la que los robots dominarán el mundo: “tendremos mejores condiciones de vida y salud”

Microsoft cierrar el ciclo de Windows 10 el próximo 14 de octubre de 2025 y Windows 7 resucita en Statcounter: muchos están migrando al antiguo sistema

Puedes recibir hasta $30.000 por este centavo de Lincoln en circulación: revisa tu cambio antes de gastarlo

La pesadilla del iPhone 17: se filtra el diseño del Samsung Galaxy S26 Ultra y es todo lo que Apple no se atreve a hacer

Más allá del iPhone 17: la lista de los 3 celulares que lo superan en batería, cámara y precio

Desde dispositivos económicos hasta de alta tecnología: estos son los mejores relojes con GPS para correr que puedes comprar en 2025

OnePlus 15 llega para competir contra el iPhone 17 Pro: Es más resistente que el teléfono de Apple

Estas cinco hierbas y especias se relacionan con una mejor digestión: la ciencia lo avala y estudios clínicos lo comprueban

La luna llena de octubre será la más grande y brillante del año: la primera superluna de 2025 llega este día

“Fui ama de casa mientras mi esposo viajaba”: A los 51 años se cansa de ser ‘la esposa del piloto’ y funda su propia empresa para recorrer el mundo

Paleontólogos hallan los caballos más antiguos jamás encontrados, no se parecen en nada a los actuales

Captan en Japón extraña orca mutante, su color no se parece en nada a lo que estamos acostumbrados a ver

Microsoft cierrar el ciclo de Windows 10 el próximo 14 de octubre de 2025 y Windows 7 resucita en Statcounter: muchos están migrando al antiguo sistema

Labrador protagoniza tierno momento: “Mis padres sordos cantan cumpleaños feliz a nuestro perro todos los años”

¿Instagram te espía con el micrófono? El máximo responsable de la red social responde a las antiguas afirmaciones sobre la grave violación de la privacidad

‘Uterina’, el poemario de María Augusta Correa

El gato más corpulento del mundo se llama Bug y lo rescataron de un hogar que lo sobrealimentaba: es la versión real de Garfield

Lo último

Microsoft cierrar el ciclo de Windows 10 el próximo 14 de octubre de 2025 y Windows 7 resucita en Statcounter: muchos están migrando al antiguo sistema

Formularios de firmas para revocatoria de mandato de Pabel Muñoz serán incinerados

Donald Trump dice que “no hay más botes” tras ataques de EE. UU. cerca de Venezuela

Avanza renovación de la iluminación de la avenida 9 de Octubre: así se observa desde el aire

Las supuestas indirectas que Taylor Swift lanza a Charli XCX en su nueva canción ‘Actually Romantic’

En medio de incidentes, policías desalojan a participantes de manifestación en Quito

Compañía

Ayuda / Asistencia

Nuestras marcas