Millones de personas crean imágenes explícitas de casi cualquier persona en minutos mediante bots de IA
Los chatbots en Telegram están creando imágenes y videos explícitos a pedido de los usuarios, lo que genera preocupación entre los expertos que advierten que los deepfakes pueden generar un “escenario muy aterrador”.
Preocupación entre los expertos
Henry Ajder, un experto en deepfakes, señala que la proliferación de estas herramientas ha generado un aumento exponencial en la creación de contenido perjudicial. La accesibilidad de estas plataformas en Telegram, una de las aplicaciones más grandes del mundo, ha generado un ambiente preocupante.
Acceso a contenidos dañinos
Se estima que alrededor de cuatro millones de usuarios mensuales aprovechan las capacidades de deepfake de estos chatbots. Estos bots prometen ofrecer “cualquier cosa que desees sobre la cara o la ropa de la foto que me des”.
Vulnerabilidad de los jóvenes
La realidad de los deepfakes no se limita a las celebridades; también afecta a los jóvenes. Recientes reportes indican que algunas adolescentes han sido objeto de la creación de fotos desnudas mediante deepfakes, que luego han sido utilizadas en casos de “sextorsión”. Una encuesta reciente reveló que el 40% de los estudiantes en Estados Unidos han estado expuestos a la circulación de deepfakes en sus escuelas.
Inadecuada regulación
Los avances en tecnología de inteligencia artificial han permitido que los sitios de deepfake prosperen, pero también han sido objeto de un escrutinio intenso por parte de los legisladores. Sin embargo, la regulación sobre el uso de estas tecnologías aún se encuentra en pañales, lo que deja a muchos sin protección.
Daños a la salud mental
Emma Pickering, directora de tecnología facilitada por abuso en la organización Refuge, advierte sobre los efectos devastadores que estas imágenes pueden tener en la salud mental de las víctimas. “Estas imágenes falsas pueden dañar la salud y el bienestar de una persona al causar trauma psicológico, sentimientos de humillación, miedo, vergüenza y culpa”.
Falta de responsabilidad
Las plataformas que alojan estos chatbots, como Telegram, enfrentan críticas por su falta de acción. Cuando Wired contactó a Telegram sobre el contenido explícito de los chatbots, la compañía no emitió un comentario, y los bots y canales relacionados desaparecieron rápidamente.
Llamado a la regulación
Dada la gravedad de la situación, expertos en tecnología y defensa de los derechos humanos están pidiendo una mayor regulación y responsabilidad por parte de plataformas como Telegram. Henry Ajder enfatiza que Telegram no solo proporciona la funcionalidad de búsqueda, sino que también ofrece herramientas para alojar y compartir contenido dañino.
Medidas urgentes
La necesidad de una respuesta efectiva es urgente, y muchos abogan por una mayor educación sobre los riesgos de los deepfakes, así como por el desarrollo de tecnologías que ayuden a mitigar el daño causado por estos contenidos. A medida que la tecnología avanza, también lo deben hacer las leyes y regulaciones que protegen a los individuos de abusos en línea.