La inteligencia artificial y la tecnología deepfake han facilitado la pornografía en las plataformas digitales

Antes de comenzar, es importante aclarar ¿qué es la tecnología deepfake?: “Deepfake utiliza inteligencia artificial, especialmente redes neuronales de aprendizaje profundo, para manipular videos, imágenes y audios, creando contenido altamente realista que hace parecer que una persona está diciendo o haciendo algo que nunca ocurrió en la realidad.”

El crecimiento de la tecnología deepfake ha dado lugar a un tipo de pornografía vengativa que utiliza inteligencia artificial para crear imágenes falsas, y cualquiera puede ser víctima de este abuso, como explica la abogada Carrie Goldberg, especialista en acoso digital y delitos sexuales.

Las personas pueden ver su rostro montado en cuerpos desnudos o en situaciones sexualmente explícitas sin su consentimiento. Este tipo de acoso, antes limitado a la pornografía no consensuada tradicional, se ha intensificado, pues ahora es posible crear imágenes falsas de personas que jamás se tomaron una foto de ese tipo. La facilidad de acceso a herramientas de IA incrementa el peligro y permite a personas malintencionadas dañar la reputación de otros, incluso si nunca existieron imágenes reales.

Deepfake y la facilidad de hacer videos con IA

El problema se agrava cuando las víctimas, muchas veces adolescentes, descubren este tipo de material sobre sí mismas, lo cual resulta aterrador y complicado de enfrentar en el inmenso y difuso mundo de Internet. Goldberg, quien dirige el despacho CA Goldberg Law en Nueva York, afirma que el primer paso para enfrentar este abuso, aunque parezca contradictorio, es capturar evidencia en forma de captura de pantalla. Esto es fundamental para tener una base en caso de denunciar el contenido, pues se requiere una prueba del delito para que las plataformas o las autoridades actúen.

A continuación, es recomendable que las víctimas usen las herramientas de eliminación de contenido explícito que ofrecen grandes plataformas como Google, Meta o Snapchat. Organizaciones como StopNCII.org y Take It Down también brindan ayuda para remover este tipo de imágenes en varias plataformas de manera simultánea. Sin embargo, no todos los sitios colaboran con estas organizaciones, lo que complica la eliminación total del contenido.

El tema ha llamado la atención en el ámbito político en Estados Unidos, logrando apoyo bipartidista. Un grupo de senadores ha pedido formalmente a empresas como X (antes Twitter) y Discord que se sumen a programas de eliminación de contenido explícito. En este contexto, el senador Ted Cruz, junto con la senadora Amy Klobuchar, propuso un proyecto de ley que convertiría en delito federal la publicación de imágenes no consensuadas generadas por inteligencia artificial y exigiría a las redes sociales que las eliminen tras recibir una notificación de la víctima. Este esfuerzo busca combatir el problema a nivel federal, pues actualmente las víctimas deben lidiar con leyes estatales, y no todos los estados ofrecen suficiente protección ante los deepfakes explícitos de adultos. Aunque existen leyes que prohíben el contenido sexual de menores generado con IA, los adultos no siempre tienen el mismo respaldo legal.

Goldberg comenta que es crucial sensibilizar a los posibles infractores sobre las consecuencias éticas de sus acciones. Ella enfatiza que las víctimas no tienen control sobre las decisiones de quienes crean estos contenidos, pero señala que los creadores de contenido explícito deben tener conciencia de los efectos que pueden provocar en la vida de una persona. Según Goldberg, vivimos en una sociedad digital en la que la seguridad total es imposible, pero cada persona tiene la responsabilidad de no dañar a otros con este tipo de acciones.

En última instancia, el crecimiento de la tecnología deepfake y su disponibilidad para generar imágenes explícitas no consensuadas representan un desafío significativo en el ámbito legal, ético y tecnológico. Este nuevo tipo de acoso demanda una respuesta coordinada entre el sistema judicial, las plataformas digitales y la sociedad en general. La necesidad de una legislación más efectiva y la colaboración de las empresas tecnológicas son fundamentales para frenar esta forma de violencia digital.

¿Qué opinas sobre estas posibles opciones legales?.