El avance de la inteligencia artificial ha abierto la puerta a herramientas tan poderosas como peligrosas en manos inadecuadas. Meta, la empresa matriz de Facebook e Instagram, ha alertado sobre el crecimiento de las conocidas como aplicaciones “nudify”, que permiten crear imágenes falsas de desnudos o situaciones sexuales de cualquier persona, a partir de fotografías aparentemente inocentes y sin el consentimiento de los afectados.
¿Qué son las apps “nudify” y por qué son preocupantes?
Las aplicaciones “nudify” utilizan inteligencia artificial para manipular imágenes y generar montajes de desnudos. Lo grave de esta tecnología no solo es la facilidad con la que se puede acceder a ella, sino el impacto psicológico, social y legal sobre las víctimas, que pueden ver su imagen utilizada sin permiso, en muchos casos como forma de acoso o extorsión.
Meta lleva tiempo tomando medidas para combatir la promoción de estas apps en sus plataformas, eliminando anuncios y cuentas relacionadas, bloqueando enlaces a webs que las alojan y limitando los términos de búsqueda asociados. Recientemente, la compañía ha dado un paso más llevando a los tribunales a una de las empresas responsables de estas aplicaciones, Joy Timeline HK Limited, y ampliando la cooperación con otras tecnológicas para atajar el problema a nivel global.
El reto en las aulas y en la sociedad
Para el ámbito educativo, el fenómeno de las apps “nudify” supone un reto mayúsculo. Es fundamental que tanto docentes como familias sean conscientes de los riesgos asociados al uso irresponsable de las nuevas tecnologías y de la importancia de educar a niños y adolescentes en el respeto a la privacidad y la dignidad digital.
Los expertos advierten que, además del daño inmediato, la difusión de imágenes íntimas falsas puede causar un enorme sufrimiento emocional y social, así como desencadenar episodios de acoso escolar o ciberbullying. En este contexto, la labor educativa debe centrarse en:
- Sensibilizar sobre el respeto a la imagen y el consentimiento digital.
- Enseñar a detectar los riesgos y a proteger la privacidad personal y ajena.
- Fomentar el pensamiento crítico ante los contenidos que circulan por internet y redes sociales.
- Informar sobre cómo actuar en caso de ser víctima o testigo de la difusión de imágenes íntimas no consentidas.
Recursos y legislación en marcha
Meta ha puesto en marcha, junto a organizaciones como StopNCII.org y el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), herramientas que permiten a las víctimas solicitar la retirada de imágenes íntimas, ya sean reales o generadas por IA. Además, se están promoviendo leyes en EE. UU. y Europa para reforzar la protección de menores y facilitar a las familias el control sobre las aplicaciones que descargan los adolescentes.
Conclusión: el papel de los educadores
Los docentes, orientadores y responsables de centros educativos desempeñan un papel clave en la prevención y la intervención frente a estos riesgos. La formación en ciudadanía digital debe formar parte de los programas educativos y del acompañamiento familiar. Solo así se podrá construir una comunidad más segura y respetuosa en el entorno digital.
La tecnología avanza, pero la educación debe ir siempre por delante para proteger a los más jóvenes y fomentar una convivencia basada en el respeto y la responsabilidad.
Fuente: Noticias messenger
