El uso de la IA (inteligencia artificial) en el Ecuador para la comisión de delitos como pornografía infantil, acoso a menores, revelación o difusión de contenido íntimo sin consentimiento, violencia sexual, manipulación de contenidos, fraudes financieros, extorsión, secuestros, calumnias y difamación, entre otros, crece cada día, ocasionando daños, muchas veces irreparables. Anualmente se reportan 3.000 casos.
Uno de los más atroces que se registra es el de violencia sexual digital cometido en octubre de 2023, en Quito, donde se investigó la creación de más de 700 fotos y videos íntimos falsos (deepfakes) de estudiantes que utilizaron la IA, que permite a muchos manipular imágenes y afectar la honra o acosar a las víctimas.
Esto lo vemos a diario en las redes. Es impresionante cómo se difama a las personas, sobre todo a quienes están visiblemente expuestas, como los gobernantes y políticos de turno, cuyas imágenes se degradan, sin compasión, por estos abusadores del sistema, cobardes, aprovechando que los ampara la impunidad porque no hay legislación al respecto.
La Asamblea ha tardado en reaccionar ante estos fenómenos que afectan ya a miles de personas; no obstante, sí se han presentado algunos proyectos de leyes. El último es el elaborado por las asambleístas María Paula Villacreses y Karolina Dueñas. Con este se busca sancionar la difusión de contenidos generados con IA sin consentimiento, en casos de afectación a la dignidad de las personas, o cuando constituyen violencia digital, incluyendo el retiro inmediato de contenidos, con las sanciones correspondientes, y las respectivas reformas al COIP. El objetivo es regular, prevenir y penalizar la generación, manipulación y difusión no consentida de contenidos que afectan a las personas.
El proyecto pretende establecer, además, la prohibición y sanción de la creación, manipulación y difusión de imágenes, audios o videos (deepfakes), generados con IA, que representen a una persona sin su consentimiento, especialmente si afectan su honor o reputación; y la regulación en los casos en que el uso de la IA constituya violencia digital, sexual o de género, con especial protección a grupos de atención prioritaria, como niñas, niños y adolescentes.
Las reformas al COIP comprenden la tipificación de nuevos delitos, como la explotación sexual infantil mediante IA, incluyendo la generación de contenido sexual sintético, incorporando, como agravantes, la utilización de herramientas de IA para suplantar identidad, engañar o manipular.
Las penas que se proponen están entre 7 y 19 años de cárcel para la producción y difusión de material de abuso infantil generado por IA. Se establecen medidas urgentes para la eliminación ágil de contenidos simulados o manipulados que violen la dignidad personal. Obliga también a identificar o etiquetar los contenidos generados mediante IA para evitar la desinformación, y cubrir el vacío legal frente a la suplantación de voz o imagen hiperrealista.
Ojalá la Asamblea cumpla con su obligación de legislar y tramite, a la brevedad posible, este nuevo proyecto regulatorio del uso de la IA, para detener el crecimiento de esta ola delictiva que tanto daño causa. (O)
