California protege a los niños de deepfakes: nuevas leyes contra el abuso de IA - NewsAmigo 📰

¡Hey, amigos! ¿Sabían que California está tomando medidas para proteger a los más jóvenes de los peligros de la IA?

El gobernador de California, Gavin Newsom, firmó dos propuestas este domingo que buscan proteger a los menores del uso indebido de herramientas de inteligencia artificial para generar imágenes sexuales perjudiciales de niños.

Estas medidas forman parte de los esfuerzos de California para regular una industria que cada vez tiene más impacto en nuestras vidas diarias, pero que ha tenido poca o ninguna supervisión en Estados Unidos.

A inicios de este mes, Newsom también aprobó algunas de las leyes más estrictas para abordar los deepfakes en elecciones, aunque estas leyes están siendo desafiadas en los tribunales. California se perfila como un posible líder en la regulación de la industria de la IA en EE.UU.

Las nuevas leyes, que recibieron un abrumador apoyo bipartidista, cierran un vacío legal respecto a las imágenes generadas por IA de abuso sexual infantil, y dejan claro que la pornografía infantil es ilegal, incluso si es generada por IA.

Las leyes actuales no permiten que los fiscales persigan a personas que poseen o distribuyen imágenes de abuso infantil generadas por IA si no pueden probar que los materiales representan a una persona real. Bajo las nuevas leyes, tal delito calificaría como un delito grave.

\"El material de abuso sexual infantil debe ser ilegal de crear, poseer y distribuir en California, ya sea que las imágenes sean generadas por IA o de niños reales\", dijo Marc Berman, miembro demócrata de la Asamblea que redactó uno de los proyectos de ley.

Newsom también firmó otras dos leyes para reforzar las normas sobre \"revenge porn\" con el objetivo de proteger a más mujeres, adolescentes y otros de la explotación sexual y el acoso habilitados por herramientas de IA. Ahora será ilegal que un adulto cree o comparta deepfakes sexualmente explícitos generados por IA de una persona sin su consentimiento en virtud de las leyes estatales. Las plataformas de redes sociales también están obligadas a permitir que los usuarios denuncien dichos materiales para su eliminación.

Sin embargo, algunos sostienen que las leyes no van lo suficientemente lejos. George Gascon, fiscal de distrito del condado de Los Ángeles, cuya oficina patrocinó algunas de las propuestas, dijo que las nuevas penas por compartir pornografía vengativa generada por IA deberían haber incluido también a los menores de 18 años.

\"Tiene que haber consecuencias; no obtienes un pase libre porque tienes menos de 18 años\", dijo Gascon en una entrevista reciente.

Los problemas con los deepfakes no son nuevos, pero los expertos dicen que están empeorando a medida que la tecnología para producirlos se vuelve más accesible y fácil de usar. Investigadores han estado alertando durante los últimos dos años sobre la explosión de material de abuso sexual infantil generado por IA que utiliza representaciones de víctimas reales o personajes virtuales.

En marzo, un distrito escolar en Beverly Hills expulsó a cinco estudiantes de secundaria por crear y compartir fotos falsas desnudas de sus compañeros de clase.

La cuestión ha impulsado acciones bipartidistas en casi 30 estados para ayudar a abordar la proliferación de materiales abusivos sexualmente generados por IA. Algunos de ellos incluyen protección para todos, mientras que otros solo prohíben materiales que representan a menores.

Newsom ha promocionado a California como un adoptante temprano y regulador de la tecnología de IA, diciendo que el estado pronto podría desplegar herramientas de IA generativa para abordar la congestión vial y brindar orientación fiscal, incluso mientras su administración considera nuevas reglas contra la discriminación de IA en prácticas de contratación.