Millones crean imágenes explícitas de terceros con bots de IA en Telegram

Millones de personas crean imágenes explícitas de casi cualquier persona en minutos mediante bots de IA

Los chatbots en Telegram están creando imágenes y videos explícitos a pedido de los usuarios, lo que genera preocupación entre los expertos que advierten que los deepfakes pueden generar un “escenario muy aterrador”.

Tendencias Los supuestos dobles brasileños de Angelique Boyer y Maite Perroni: ¡Desenmascarados como un engaño digital!Los videos virales que muestran a mujeres brasileñas parecidas a Angelique Boyer y Maite Perroni son deepfakes, una técnica digital que manipula rostros y gestos. Estos engaños destacan la importancia de ser consciente de los deepfakes y consumir contenido en línea con precaución.

Preocupación entre los expertos

Henry Ajder, un experto en deepfakes, señala que la proliferación de estas herramientas ha generado un aumento exponencial en la creación de contenido perjudicial. La accesibilidad de estas plataformas en Telegram, una de las aplicaciones más grandes del mundo, ha generado un ambiente preocupante.

Tendencias Deepfakes: una amenaza creciente para la seguridad y la privacidadLos deepfakes, videos o audios falsificados mediante IA, están siendo utilizados cada vez más para actividades criminales como la pornografía no consentida, el fraude financiero y la suplantación de identidad. Los expertos advierten que estas tecnologías pueden tener consecuencias devastadoras para individuos y empresas.

Acceso a contenidos dañinos

Se estima que alrededor de cuatro millones de usuarios mensuales aprovechan las capacidades de deepfake de estos chatbots. Estos bots prometen ofrecer “cualquier cosa que desees sobre la cara o la ropa de la foto que me des”.

Tendencias Críticas de Durov a la justicia francesa tras su detención por TelegramEl fundador de Telegram, Pavel Durov, critica a la justicia francesa por su detención e imputación por contenido extremista en la plataforma, defendiendo el equilibrio entre privacidad y seguridad.

Vulnerabilidad de los jóvenes

La realidad de los deepfakes no se limita a las celebridades; también afecta a los jóvenes. Recientes reportes indican que algunas adolescentes han sido objeto de la creación de fotos desnudas mediante deepfakes, que luego han sido utilizadas en casos de “sextorsión”. Una encuesta reciente reveló que el 40% de los estudiantes en Estados Unidos han estado expuestos a la circulación de deepfakes en sus escuelas.

Inadecuada regulación

Los avances en tecnología de inteligencia artificial han permitido que los sitios de deepfake prosperen, pero también han sido objeto de un escrutinio intenso por parte de los legisladores. Sin embargo, la regulación sobre el uso de estas tecnologías aún se encuentra en pañales, lo que deja a muchos sin protección.

Daños a la salud mental

Emma Pickering, directora de tecnología facilitada por abuso en la organización Refuge, advierte sobre los efectos devastadores que estas imágenes pueden tener en la salud mental de las víctimas. “Estas imágenes falsas pueden dañar la salud y el bienestar de una persona al causar trauma psicológico, sentimientos de humillación, miedo, vergüenza y culpa”.

Falta de responsabilidad

Las plataformas que alojan estos chatbots, como Telegram, enfrentan críticas por su falta de acción. Cuando Wired contactó a Telegram sobre el contenido explícito de los chatbots, la compañía no emitió un comentario, y los bots y canales relacionados desaparecieron rápidamente.

Llamado a la regulación

Dada la gravedad de la situación, expertos en tecnología y defensa de los derechos humanos están pidiendo una mayor regulación y responsabilidad por parte de plataformas como Telegram. Henry Ajder enfatiza que Telegram no solo proporciona la funcionalidad de búsqueda, sino que también ofrece herramientas para alojar y compartir contenido dañino.

Medidas urgentes

La necesidad de una respuesta efectiva es urgente, y muchos abogan por una mayor educación sobre los riesgos de los deepfakes, así como por el desarrollo de tecnologías que ayuden a mitigar el daño causado por estos contenidos. A medida que la tecnología avanza, también lo deben hacer las leyes y regulaciones que protegen a los individuos de abusos en línea.