Los ‘deepfakes’ son fotos, vídeos o audios generados por una computadora utilizando técnicas de Inteligencia Artificial (IA). Este nombre proviene de las palabras en inglés "deep learning" y "fake". En definitiva es aquel contenido audiovisual y auditivo convincente y engañoso. 

En el mundo ya hay casos de modificaciones de contenido audiovisual. Por ejemplo, en marzo de 2023 circuló en redes sociales las fotos del Papa Francisco con una gruesa chompa de diseñador. Al puro estilo de un cantante de rap.

En Ecuador también ocurrió lo mismo. A inicios de octubre de 2023, en un colegio de Quito se conoció el caso de la modificación de imágenes y videos con contenido sexual. Al parecer unos adolescentes utilizaron inteligencia artificial para sobreponer las caras de al menos 20 de sus compañeras en estas fotos y videos.

Lo explicó Mercedes, nombre protegido y familiar de una de las estudiantes afectadas. Ella relató que una amiga de su hija le contó que una chica le comentó que hay una foto de ella desnuda. Dicha imagen habría sido modificada por unos estudiantes del plantel. “Aún no sabemos si esos videos fueron subidos a la red. Nos preocupa”. 

Sobre el tema, Mario González, docente investigador de la Universidad de Las América (UDLA), explicó que se puede reutilizar alguna fuente real para crear contenido falso que parece auténtico. Esta modalidad apareció hace más de cinco años cuando colocaron la cara de famosos en videos con contenido para adultos. 

“En el caso de los ‘deepfakes’ de imágenes y contenido sexual; estas son bastante común usando rostros de personajes famosos, políticos, y hoy en día, dado la ubicuidad de las herramientas, su uso se está generalizando en adolescentes, para generar contenido que puedan usar en bullying”, alertó González.

Estos son los peligros del uso de la inteligencia artificial sin supervisión de adultos 

González señala que entre los peligros que corren los estudiantes son:

-El acceso a contenido inapropiado a contenido falso (deepfakes, fakenews).

-Afectación al aprendizaje del estudiante, así como la capacidad crítica de consumo y verificación de contenido; así como las habilidades de resolución de problemas. 

-Existe el peligro de la privacidad y la seguridad, es decir, subir fotos, videos, audios a redes sociales puede proveer a personas inescrupulosas de generar contenido falso usando estas fuentes. 

Para el experto, no existen herramientas eficientes para el control parental en el uso de herramientas de Inteligencia Artificial Generativa. La mejor herramienta de control es la comunicación. “Supervisar cómo nuestros hijos utilizan las herramientas de inteligencia artificial generativa y enseñarles a ser cautelosos al consumir y crear contenido de este tipo. Animarlos igualmente a cuestionar la autenticidad de lo que ven y a verificar la fuente antes de compartirlo o creerlo”.