Un informe confidencial alerta que la IA aumenta el machismo y la misoginia
La rápida expansión de la inteligencia artificial (IA) está transformando numerosos ámbitos de la sociedad, desde la medicina hasta la educación o el mundo empresarial. Sin embargo, el desarrollo de estas tecnologías también ha abierto nuevos debates sobre su posible utilización con fines ilícitos o perjudiciales, especialmente en relación con la creación de deepfakes, el ciberacoso y la explotación sexual digital.
Diversos expertos en tecnología, criminología y derechos digitales alertan de que la IA generativa facilita la creación de imágenes, vídeos y audios falsificados con un grado de realismo cada vez mayor, lo que supone un importante reto para la privacidad, la seguridad y la protección de menores.
El auge de los deepfakes
Uno de los fenómenos que más preocupa es el crecimiento de los deepfakes, contenidos audiovisuales generados mediante inteligencia artificial que permiten recrear el rostro o la voz de una persona sin su consentimiento.
Aunque esta tecnología tiene aplicaciones legítimas en el cine, la publicidad o la investigación, también puede utilizarse para elaborar material falso de carácter sexual, campañas de desinformación o fraudes mediante suplantación de identidad.
Las autoridades de numerosos países han comenzado a desarrollar nuevas herramientas legales para perseguir este tipo de prácticas cuando vulneran derechos fundamentales.
La preocupación por la protección de menores
Los especialistas advierten de que niños y adolescentes constituyen uno de los colectivos más vulnerables frente a estos riesgos.
La facilidad para generar imágenes manipuladas o utilizar herramientas de IA generativa incrementa la necesidad de reforzar la educación digital, la supervisión familiar y los mecanismos de prevención frente al ciberacoso o la difusión no consentida de contenido íntimo.
Diversas organizaciones internacionales insisten en la importancia de promover un uso responsable de la tecnología desde edades tempranas.
El debate sobre la deshumanización
La escritora e investigadora Laura Bates, especializada en violencia digital y desigualdad de género, ha analizado cómo determinados espacios de internet pueden utilizar las nuevas tecnologías para reforzar discursos de odio o comportamientos discriminatorios hacia las mujeres.
Entre los asuntos que aborda se encuentra el uso de sistemas de inteligencia artificial para crear representaciones digitales con fines sexuales o violentos, una cuestión que ha generado un intenso debate ético entre expertos en tecnología y derechos humanos.
Bates sostiene que algunas aplicaciones pueden contribuir a normalizar dinámicas de cosificación cuando se utilizan sin límites ni controles adecuados.
La respuesta de gobiernos y empresas tecnológicas
Ante el crecimiento de estas amenazas, gobiernos y compañías tecnológicas trabajan en nuevas medidas para limitar los usos ilícitos de la inteligencia artificial.
Entre las iniciativas destacan el desarrollo de sistemas capaces de detectar deepfakes, la incorporación de marcas de agua digitales en contenidos generados por IA y el endurecimiento de las sanciones contra quienes difundan material manipulado sin consentimiento.
Al mismo tiempo, expertos en ciberseguridad recuerdan que la mejor herramienta sigue siendo la prevención mediante educación digital y alfabetización tecnológica.
Un desafío para la próxima década
La evolución de la inteligencia artificial plantea enormes oportunidades para la sociedad, pero también obliga a afrontar nuevos retos relacionados con la privacidad, la seguridad y los derechos fundamentales.
El equilibrio entre innovación tecnológica y protección de las personas será uno de los grandes desafíos de los próximos años, especialmente cuando las víctimas potenciales son menores o personas especialmente vulnerables.
Irene Montero: el cambio climático es machista y afecta más a las mujeres
