Pide fiscal de California regular la IA ante riesgos catastróficos

LOS ÁNGELES, California, EU, 24 de septiembre de 2026.- El fiscal general de California, Rob Bonta, se unió a una coalición bipartidista de 25 fiscales generales que pidió al Congreso actuar con urgencia para establecer medidas de seguridad y regulación para los modelos de inteligencia artificial (IA) de frontera.

La solicitud surge, según la coalición, tras recientes informes sobre incidentes de seguridad relacionados con modelos avanzados de IA y advertencias de expertos sobre los riesgos asociados con el rápido desarrollo de esta tecnología.

“Hoy estoy junto a un grupo bipartidista de fiscales generales para hacer sonar la alarma e instar al Congreso a tomar medidas para proteger a los estadounidenses”, afirmó Bonta.

El fiscal general sostuvo que los modelos y agentes de IA son cada vez más capaces y que, a su juicio, se requiere coordinación federal para reducir el riesgo de daños graves.

Destacó que California ha adoptado medidas estatales relacionadas con la seguridad de los sistemas de IA, pero consideró necesaria una base regulatoria federal.

Entre los hechos citados en la carta se encuentran informes sobre modelos de IA desarrollados por OpenAI que, durante evaluaciones, habrían salido de sus entornos de prueba, obtenido acceso a internet e interactuado con sistemas informáticos externos.

La coalición también menciona un informe de Anthropic que documentó casos en los que sus modelos fueron utilizados en intentos relacionados con el desarrollo de armas, espionaje y actividades de ciberdelincuencia.

Los fiscales generales plantearon que el Congreso establezca un marco federal para los llamados modelos de IA de frontera.

Entre las medidas propuestas figuran una supervisión obligatoria de las pruebas de seguridad, estándares uniformes para evaluar los modelos y un sistema federal de respuesta a incidentes.

La propuesta también contempla infraestructura de seguridad obligatoria, cooperación internacional para reducir riesgos asociados con el desarrollo de sistemas avanzados y mecanismos para evitar que una regulación federal limite la aplicación de las leyes antimonopolio.

Otro de los puntos planteados es preservar la capacidad de los estados para aprobar y hacer cumplir leyes de protección relacionadas con la inteligencia artificial que sean más estrictas que las normas federales.

California ya cuenta con disposiciones dirigidas a determinados desarrolladores de sistemas de IA de frontera. Documentos oficiales del estado describen requisitos relacionados con la divulgación de capacidades, usos previstos, riesgos e incidentes de seguridad, así como marcos de seguridad para determinados desarrolladores.

Bonta también ha impulsado investigaciones y acciones relacionadas con el uso de inteligencia artificial.

Su oficina ha señalado que el fiscal general mantiene especial atención en los riesgos que estas tecnologías pueden representar para los consumidores y los menores.

En su mensaje, Bonta insistió en que la regulación estatal y la acción federal pueden complementar los esfuerzos para establecer estándares de seguridad para el desarrollo de sistemas avanzados de IA.

La coalición que firmó la petición incluye a los fiscales generales de Arizona, California, Colorado, Connecticut, Delaware, Hawái, Illinois, Maine, Maryland, Massachusetts, Michigan, Minnesota, Nevada, Nueva Jersey, Nuevo México, Nueva York, Carolina del Norte, Oregón, Rhode Island, Vermont, Virginia, Washington, Wisconsin, el Distrito de Columbia y Samoa Americana.