Horror en EEUU: se recibieron miles de reportes sobre contenido de abuso infantil generado por inteligencia artificial

Riesgo sexual para los niños. Foto: Télam

El Centro Nacional de Estados Unidos para Niños Desaparecidos y Explotados dijo que había recibido 4.700 informes durante 2023 sobre contenido generado por inteligencia artificial que representaba episodios de explotación sexual infantil.

Según la organización de protección infantil más grande e influyente del país norteamericano, la cifra refleja un problema incipiente que se espera que crezca a medida que avanza la tecnología.

Inteligencia Artificial. Foto: Unsplash

Ante esta situación, expertos en seguridad infantil encendieron sus alarmas sobre el riesgo de que la tecnología de inteligencia artificial generativa, que puede crear texto e imágenes en respuesta a indicaciones, pueda exacerbar la explotación de los niños en línea.

Los directores ejecutivos de Meta, X, TikTok, Snap Inc y Discord testificaron en una audiencia en el Senado sobre la seguridad infantil en línea, donde los legisladores cuestionaron a las redes sociales y a las empresas de mensajería sobre sus esfuerzos para proteger a los niños de los depredadores online.

Los CEO de las empresas tecnológicas más importantes, en el Senado. Foto: Reuters

OpenAI, creador del popular ChatGPT, estableció un proceso para enviar informes al centro orientado al cuidado de los niños que, a su vez, está en conversaciones con otras empresas de IA generativa.

Te puede interesar:

Cómo será la nueva tablet de pared de Apple con IA que busca controlar todo el hogar

Instagram y Facebook, más restrictivos para los menores

La tecnológica estadounidense Meta dijo que sus redes sociales, Instagram y Facebook, aplicarán por defecto su configuración de contenidos más restrictiva a los usuarios menores de edad, tanto los nuevos como los ya existentes.

Meta. Foto: Reuters

A finales de 2023, más de 40 fiscales de Estados Unidos habían acusado a Meta de ofrecer características adictivas para los menores, por lo que la empresa aplicará "protecciones adicionales enfocadas en el tipo de contenido" que los niños y adolescentes ven en esas dos redes para que tengan una "experiencia apropiada a su edad".

Los contenidos con temas como la autolesión, los trastornos alimentarios y las enfermedades mentales, que ya no aparecían recomendados a los menores en los apartados "reels" y "explorar", ahora tampoco aparecerán en la página principal ni en las "stories", ni siquiera cuando sean compartidos por los usuarios que siguen.