Países imponen límites a las redes sociales y combaten la pornografía con IA para proteger a menores
Francia busca instaurar la "mayoría de edad digital" a los 15 años antes del próximo curso escolar
Una creciente tendencia internacional busca establecer restricciones estrictas al acceso de adolescentes a las redes sociales y frenar la exposición a contenidos de violencia sexual y pornografía generada por inteligencia artificial (IA). Gobiernos de Europa, Asia y América están impulsando legislaciones pioneras ante la preocupación por el deterioro de la salud mental juvenil y el aumento de delitos digitales como la "porno venganza" y los deepfakes.
El veto a las redes sociales gana terreno
Diversas naciones han comenzado a fijar edades mínimas para el uso de plataformas como TikTok, Instagram y YouTube. Australia marcó un hito al aplicar una prohibición para menores de 16 años, obligando a las tecnológicas a eliminar millones de cuentas. Por su parte, Francia busca instaurar la "mayoría de edad digital" a los 15 años antes del próximo curso escolar, complementada con una "pausa digital" que prohíbe el uso de móviles en las escuelas.
Otros países siguen este camino:
- España planea establecer un límite de 16 años.
- Polonia prepara un proyecto de ley para vetar las redes a menores de 15 años.
- Reino Unido lanzará una consulta pública sobre prohibiciones similares, mientras su primer ministro, Keir Starmer, advierte que está dispuesto a enfrentarse a las grandes compañías tecnológicas para frenar algoritmos adictivos.
- En Estados Unidos, estados como Florida ya aplican un veto para menores de 14 años.
Ofensiva contra la pornografía y la violencia digital
Paralelamente, las autoridades europeas están endureciendo las penas contra la sexualización y la pornografía infantil en línea. La Unión Europea ha abierto investigaciones contra plataformas como X por la difusión de imágenes sexualizadas sin consentimiento creadas con su IA, Grok.
En Reino Unido, la Online Safety Act 2024 ya criminaliza la creación de imágenes sexuales explícitas de adultos sin consentimiento, incluso si no se comparten. En el caso de contenido infantil, operar sitios que faciliten material de abuso sexual puede conllevar hasta 10 años de cárcel. Por su parte, Italia ha tipificado como delito la difusión de contenido alterado con IA, castigándolo con penas de hasta cinco años de prisión.
Salud mental y riesgos algorítmicos
El motor de estas reformas es la evidencia de un incremento en cuadros de ansiedad, depresión y autolesiones vinculados al uso constante de dispositivos. Expertos señalan que los algoritmos personalizan contenidos que pueden encerrar a los menores en experiencias perjudiciales, mientras que la exposición a la porno venganza —difusión de material íntimo sin consentimiento— deja cicatrices emocionales profundas y afecta la reputación de las víctimas.
La respuesta de la industria tecnológica
Las grandes tecnológicas mantienen una postura defensiva. Mark Zuckerberg, CEO de Meta, sostiene que sus plataformas buscan ser útiles y no crear adicción. Otros directivos advierten que las prohibiciones podrían ser contraproducentes, aislando a los adolescentes de comunidades de apoyo o empujándolos hacia aplicaciones menos seguras y sin controles de privacidad.
En Australia, por ejemplo, ya se observa una migración de jóvenes hacia videojuegos multijugador exentos de regulación tras las restricciones en redes sociales.