Italia ha dado un paso pionero en Europa al aprobar una ley que convierte en delito punible la creación y distribución de contenidos deepfake —imágenes, audios o vídeos generados con inteligencia artificial sin el consentimiento de las personas afectadas—. El Senado en Roma aprobó por amplia mayoría un nuevo marco legal que regula el desarrollo, la implementación y la gobernanza de los sistemas de inteligencia artificial, asegurando que su uso esté alineado con los derechos fundamentales y en cumplimiento con la reciente Ley Europea de IA.
La normativa contempla penas de hasta cinco años de prisión para quienes produzcan o difundan contenido manipulado sin autorización, especialmente en casos que afecten la dignidad, la privacidad o la reputación de las víctimas. El texto legal establece los principios rectores para el uso responsable, transparente y seguro de la inteligencia artificial, con especial énfasis en la innovación tecnológica, la ciberseguridad, la accesibilidad universal y la protección de datos personales. También obliga al Gobierno italiano a desarrollar regulaciones específicas sobre el uso de datos, algoritmos y modelos matemáticos utilizados en el entrenamiento de sistemas de IA, abarcando incluso ámbitos sensibles como la economía y la defensa.
Según destacó el secretario de Estado Alessio Butti tras la votación, “esta es una decisión que vuelve a poner la innovación al servicio del bien común y alinea la IA con el crecimiento, los derechos y la protección integral de los ciudadanos”. Uno de los principales detonantes de la nueva legislación ha sido el alarmante aumento de contenidos pornográficos falsos creados con IA. “Este es un paso importante y necesario, como también lo exige la Directiva de la Unión Europea sobre la lucha contra la violencia hacia las mujeres.
Con el auge de las técnicas de IA generativa, la cantidad de material pornográfico falso se ha disparado más de un 500 por ciento en los casos reportados, y en el 99 por ciento de los casos las víctimas son mujeres”, advirtió la senadora del Tirol del Sur, Julia Unterberger (SVP), durante su intervención. Unterberger también reclamó la creación de una identidad digital obligatoria para los usuarios de internet, señalando que “es inaceptable que los llamados trolls o ‘leones del teclado’ puedan actuar amparados en un anonimato absoluto”.
La ley, que ahora pasará a debate en la Cámara de Diputados para su aprobación definitiva, es considerada un hito en Europa por establecer un marco nacional específico para la inteligencia artificial. De ser ratificada, convertiría a Italia en el primer país europeo en sancionar penalmente la creación y difusión de deepfakes sin consentimiento, marcando un precedente en la lucha contra los abusos digitales y en defensa de los derechos fundamentales en la era tecnológica.
