GettyImagesEuropa intensifica su ofensiva regulatoria frente a los abusos de la inteligencia artificial, y Alemania se coloca a la cabeza con un proyecto de ley pionero, reseña un reportaje de Portafolio.
La ministra de Justicia, Stefanie Hubig, anunció que el gobierno prepara una norma para criminalizar la creación y difusión de deepfakes sexuales, así como para obligar a las plataformas digitales a actuar rápidamente contra este tipo de contenido.
El impulso alemán surge tras un caso mediático que sacudió al país: la actriz y presentadora Collien Fernandes denunció que su exmarido había difundido videos manipulados con su rostro en escenas pornográficas.
Hubig señaló que “algunas de estas imágenes se utilizan para herir a las personas”, dejando claro que el Estado no tolerará que la tecnología se convierta en un instrumento de violencia o difamación.
La propuesta alemana no se limita al material sexual. También incluye contenidos falsos que atenten contra los derechos de cualquier individuo, como el voyeurismo digital: grabaciones de carácter sexual realizadas en espacios públicos sin consentimiento.
Además, se refuerza la protección de víctimas de violencia doméstica, con medidas que permitirían identificar a responsables detrás de perfiles falsos y limitar el acceso de los culpables a plataformas digitales.
Normativas para la Inteligencia Artificial
Paralelamente, el Parlamento Europeo avanza con una normativa para prohibir los servicios de IA que desnuden personas sin su consentimiento, marcando una tendencia clara: Europa quiere un marco legal que establezca obligaciones concretas para las plataformas y trace los límites de la IA generativa.
El crecimiento de los deepfakes es exponencial. Según DeepTrace, en 2019 ya circulaban más de 15.000 videos manipulados en internet, el 96% de ellos con contenido sexual.
La tecnología avanza más rápido que la regulación, y la autorregulación de las plataformas resulta insuficiente frente a un ecosistema global donde software, servicios y demanda cruzan fronteras digitales.
Hubig sintetizó el espíritu de la ley con una frase contundente: “No existe ninguna diferencia entre la violencia en la vida real y la violencia digital”.
Con esta premisa, Europa no solo pretende castigar abusos, sino también garantizar que la innovación tecnológica se alinee con la protección de los derechos individuales y la seguridad de los ciudadanos.