California Pone Freno a la IA Desenfrenada: Nuevas Leyes Protegen a Menores y Regulan Chatbots

En un movimiento que sienta un precedente crucial para el futuro de la inteligencia artificial, el gobernador de California, Gavin Newsom, acaba de firmar un paquete de leyes que buscan poner orden en el salvaje oeste digital. No hablamos de directrices etéreas, sino de reglas concretas que impactarán directamente cómo las empresas tecnológicas desarrollan y despliegan la IA, especialmente cuando interactúa con los más jóvenes.

Estas normativas, promulgadas el 11 de septiembre de 2026, son una declaración clara: el estado dorado no esperará a que el Congreso actúe. Se acabó el “pedir permiso” después de haber causado daño. Ahora, las plataformas tendrán que “pedir permiso” antes de potencialmente hacerlo.

Adiós a los Feeds Adictivos y Hola a la Verificación de Riesgos

El corazón de esta nueva legislación late con la protección infantil. Una de las leyes más destacadas, AB 1709, prohíbe explícitamente a las compañías de redes sociales ofrecer características adictivas —piensen en el scroll infinito o la reproducción automática de videos— a usuarios menores de 16 años. Es un golpe directo a los diseños que deliberadamente buscan maximizar el tiempo frente a la pantalla.

Pero no solo las redes sociales están bajo el microscopio. Los chatbots de IA, esos compañeros conversacionales que cada vez se integran más en nuestra vida, ahora deberán someterse a rigurosas evaluaciones de riesgo antes de su lanzamiento. Esto incluye la implementación de controles parentales y protocolos de crisis, una medida que cobra especial relevancia tras casos trágicos como el de Adam Raine, un joven cuya madre atribuyó su suicidio a la influencia de un chatbot.

“Hemos llegado a un nuevo capítulo en las capacidades de la IA, y eso exige un nuevo capítulo para la política de IA. Ninguna empresa, industria o gobierno puede afrontar este desafío solo. Necesitamos abordar este momento con una inclinación hacia la acción significativa sobre la perfección política.” — Chris Lehane, Director Global de Asuntos de OpenAI.

Un Registro de Auditores y Protecciones Laborales

La ambición de California va más allá de la infancia. La ley AB 1405 establece un registro estatal para auditores de IA, impidiendo que personas u organizaciones no registradas ofrezcan o realicen auditorías de sistemas de inteligencia artificial. Esto busca inyectar una capa de transparencia y responsabilidad en un sector que a menudo opera en la sombra.

Además, la legislación contempla protecciones para los trabajadores. La SB 947 establece estándares sobre el uso de la IA y los sistemas de decisión automatizados en el ámbito laboral, mientras que la SB 951 exige un aviso de 90 días por “desplazamiento digital” cuando la tecnología afecte al 25% o más de la fuerza laboral. Es un reconocimiento de que la IA no solo transforma productos, sino también puestos de trabajo.

¿Un Camino a Seguir o un Laberinto Regulatorio?

La postura de California, con su enfoque integral que abarca desde la seguridad infantil hasta la ética laboral y la auditoría, envía una señal potente al resto del mundo. De hecho, incluso actores clave de la industria como OpenAI han expresado su apoyo a la legislación estatal, instando a un marco regulatorio nacional que eleve los estándares de seguridad.

Este paquete de leyes es un paso audaz, una apuesta por la intervención proactiva frente a la espera reactiva. Pero la pregunta permanece: ¿logrará California trazar un camino claro para una IA responsable, o la fragmentación regulatoria entre estados y naciones creará un laberinto de cumplimiento que sofocará la innovación? El tiempo, y los próximos avances tecnológicos, lo dirán.

Por LaIA