El Gobierno aprueba la ley que castiga el contenido sexual de menores creado con IA y el 'grooming'

El Gobierno ha aprobado este martes en el Consejo de Ministros el proyecto de ley para la protección de menores en entornos digitales, que castiga el contenido sexual creado con Inteligencia Artificial y el grooming. Además, incluye órdenes de alejamiento virtual, test pediátricos para detectar usos inadecuados, así como la imposición obligatoria y gratuita de controles parentales en todos los dispositivos digitales y etiquetado informativo, entre otras medidas.

La norma también modifica la Ley de Protección de Datos Personales y eleva de 14 a 16 años la edad para prestar el consentimiento en el tratamiento de los datos de carácter personal para el acceso a redes sociales.

Asimismo, la norma incluye la prohibición del acceso de los menores en los videojuegos a las cajas de recompensa o loot boxes. Se trata de una medida incluida por el Ministerio de Derechos Sociales, Consumo y Agenda 2030. Este punto, según ha incidido Bolaños, ha sido "especialmente trabajado de la mano de la Comisión Europea".

La nueva ley incluirá la obligación de que los nuevos dispositivos digitales que se fabriquen incluyan un control parental por defecto, que será activado en el momento de la configuración del aparato con el fin de limitar el acceso de menores a contenidos, servicios o aplicaciones inadecuadas. Vendrá de fábrica en los nuevos dispositivos será gratuito y fácil de manejar e incluirá un etiquetado que explique los peligros y riesgos potenciales de un uso inadecuado de estos productos y sus efectos para el desarrollo físico, mental y moral de las personas menores de edad.

Asimismo, obligará a regular el uso didáctico y bajo supervisión del profesorado de los ordenadores y tabletas por parte de los alumnos en todos los ciclos de Enseñanza no universitaria, y serán los centros educativos los que realizarán un plan digital anual para adaptar el uso de estos dispositivos en las aulas.

También modifica la Ley General de Comunicación Audiovisual para que los grandes operadores de comunicación y, también, los influencers, que tengan un número muy elevado de seguidores, tengan canales de denuncia ante contenidos "inapropiados o inadecuados" para menores. "También tendrán otras obligaciones, como, por ejemplo, informar inequívocamente del contenido que están proporcionando, que pueda ser potencialmente perjudicial para los menores, utilizar, también, sistemas de verificación de edad que sean efectivos y separar los contenidos que puedan tener algún contenido y que puedan tener alguna naturaleza pornográfica o violenta", ha expuesto Bolaños.

El proyecto de ley orgánica incluye una reforma del Código Penal que castigará con penas de prisión las deepfake o el uso delictivo de la Inteligencia Artificial para menoscabar la imagen de cualquier persona.

El anteproyecto recoge una serie de medidas en distintos ámbitos para proteger a niños y adolescentes de los contenidos digitales, pero también añade una reforma de la Ley Orgánica del Poder Judicial y del Código Penal en cuatro puntos, según ha avanzado el ministro de la Presidencia, Justicia y Relaciones con las Cortes

Contra las 'deepfake'

Se tipifica como delito contra la integridad moral la generación y difusión de imágenes de contenido sexual o gravemente vejatorio contra cualquier persona, no solo menores de edad.

Se trata de contenidos creados con el ánimo de parecer reales y de un alto grado de realismo para vejar a personas, por ejemplo simulando que realizan actividades de naturaleza sexual.

La Fiscalía ya ha reclamado una reforma legal para poder perseguir este tipo de delitos tras la conmoción causada el año pasado por el caso de los adolescentes de Almendralejo (Badajoz) que generaron y difundieron imágenes falsas de compañeras de clase de contenido sexual.

Estas imágenes serán delito cuando por su grado de realismo, pretendan vejar a una persona en concreto.

Órdenes de alejamiento virtuales

Se añaden penas para la prohibición de acceso o de comunicación en los entornos digitales de las víctimas con los agresores, es decir "las órdenes de alejamiento digital".

El objetivo es que las mismas medidas de protección que se adoptan para las víctimas en entornos físicos se apliquen en los digitales.

Pornografía al alcance de menores

El proyecto de ley introduce como delito el poner material pornográfico al alcance de menores de manera indiscriminada.

Actualmente, se castiga a quien venda, difunda o exhiba material pornográfico entre menores de edad, pero con el cambio se pretende incluir a quien lo ponga a su disposición sin adoptar medidas de control para evitar el acceso de menores.

Contra el 'grooming'

La otra pata de la reforma es el combate de los engaños en internet por parte de personas mayores de edad que, mediante perfiles falsos, simulan ser menores de edad para entrar en contacto con niños y niñas, ganar su confianza y pedirles fotografías o vídeos de contenido sexual.

Según Bolaños, el plan es que este comportamiento se castigue como agravante en los delitos contra la libertad sexual.