Tendencia explota la imagen de personas con Síndrome de Down mediante Inteligencia Artificial

En las últimas semanas, se ha identificado una preocupante tendencia en redes sociales como Instagram, TikTok y YouTube, donde se utilizan herramientas de inteligencia artificial (IA) para crear imágenes y videos sexualizados que simulan representar a personas con síndrome de Down. Estas representaciones, generadas por IA, son utilizadas para atraer seguidores y redirigirlos a plataformas de contenido para adultos como OnlyFans.

Investigaciones han revelado que algunas cuentas han manipulado imágenes de menores de edad, alterando sus rostros con filtros de IA para que parezcan tener síndrome de Down, y luego compartiendo estos contenidos con mensajes sugestivos y enlaces a sitios de suscripción para adultos.

Organizaciones defensoras de los derechos de las personas con discapacidad han condenado esta práctica, calificándola de explotadora y perjudicial. Representantes de la National Down Syndrome Society han expresado su preocupación por la apropiación indebida de las identidades y experiencias de personas con síndrome de Down para obtener beneficios económicos.

Expertos coinciden en que no es solo la manipulación visual, sino el mensaje que transmiten, en donde se invita a los internautas a una fetichización explícita y ofensiva hacia personas con discapacidad intelectual. Los subtítulos que acompañan estos videos no hacen más que reforzar este peligroso mensaje, en donde se leen frases como “¿El síndrome de Down cambia lo que sientes por mí?” o “¿Saldrías con una chica con síndrome de Down?”.

Aunque algunas plataformas han tomado medidas para eliminar cuentas que violan sus políticas, la proliferación de este tipo de contenido persiste, evidenciando la necesidad de una vigilancia más estricta y políticas más claras respecto al uso de IA en la creación de contenido.

Recomendaciones:

• Para el público en general: Mantener una actitud crítica y denunciar contenidos que exploten o tergiversen la imagen de personas con discapacidad.
• Para creadores de contenido: Evitar el uso de tecnologías que puedan resultar en la apropiación o explotación de identidades de grupos vulnerables.
• Para plataformas digitales: Implementar herramientas de detección más efectivas y establecer políticas claras sobre el uso de IA en la creación de contenido, especialmente aquel que involucra representaciones de personas con discapacidad.

Asimismo, recientemente han surgido también otras cuentas que explotan nichos aún más específicos, como mujeres con extremidades amputadas generadas por IA. La cuenta más grande identificada es “Maria Dopari”, con más de 148,000 seguidores, junto con otras cuentas similares. Estos deepfakes pueden ser difíciles de detectar a simple vista, pero presentan fallos típicos de la IA, como texturas demasiado suaves y errores en la boca y dientes.