Atentos al uso indebido de la IA que podría suplantar identidades
Lunes, 13 Mayo 2024.
Escrito por Erick Jarquín
Nuestro país no es ajeno al uso de la Inteligencia Artificial para crear “Deepfakes” o videos manipulados.
Entre las novedades de la Inteligencia Artificial y como parte de sus avances más significativos se encuentra una herramienta que permite generar la copia idéntica de un modelo para brindarle características de movimiento o sonido de otro, suplantando así la personalidad de otro.
Los enormes esfuerzos para reducir costos en la industria cinematográfica permitieron que muchos desarrolladores de generación de video sintéticos crearan un mecanismo para que imágenes artificiales lucieran cada vez más reales.
El problema es que esta tecnología hoy se emplea también para provocar engaños entre quienes sueles ver contenidos principalmente en redes sociales.
El término deepfake proviene de la combinación de las expresiones deep learning (aprendizaje profundo, en inglés) y fake (falso, en inglés), y denota, justamente, algo falso que es resultado de la tecnología de aprendizaje profundo.
El problema entre muchos, es que pueden utilizarse para distorsionar la realidad. Por ejemplo los discursos políticos. En el año 2022 se utilizó en las elecciones presidenciales de Brasil entre Lula da Silva y Jair Bolsonaro o con falsas declaraciones del Presidente de Ucrania, Volodimir Zelenski. Como podrá apreciar, su uso indebido podría incluso cobrar la vida de muchas personas inocentes.
Gezer Molina, Director de Ciberseguridad del MICITT hace un llamado a la población nacional a estar atentos y corroborar toda información suministrada a través de medios digitales, pues estas nuevas tecnologías podrían provocar escenarios engañosos en diferentes ámbitos.
Cuando se enfrente a este tipo de publicaciones dudosas es bueno hacer una búsqueda inversa, esto quiere decir que a partir de lo visto, reviso si otros medios serios también publicaron la información para corroborar la veracidad.
Texturas de la piel, arrugas o el cabello también pueden dar pistas de que el video se generó artificialmente. Aunque hay que reconocer los enormes avances de la Inteligencia Artificial.
¿Qué le pareció esta nota?
