El estado de California aprobó recientemente un proyecto de ley que exige a las empresas desarrolladoras de inteligencia artificial divulgar y certificar los resultados de sus pruebas de seguridad, particularmente para los modelos de IA de frontera («frontier AI»).

Esta ley sitúa a California como pionero en regulación estatal de IA en EE.UU., acercándose al modelo europeo que busca equilibrar innovación tecnológica y protección de derechos, privacidad y seguridad.

Las obligaciones no serán iguales para todos: la ley define requisitos diferentes dependiendo del tamaño de la empresa y los ingresos, lo que indica que no todas las compañías tendrán el mismo peso regulatorio. Esto podría favorecer que startups y empresas medianas puedan adaptarse sin la carga de las grandes corporaciones, aunque también presenta retos para definir qué se considera “modelo de frontera”.

El proyecto se discutió con aportes de actores diversos: empresas de IA, organizaciones de seguridad, reguladores y sociedad civil, buscando un punto medio entre responsabilidad y capacidad de innovación.

Si el gobernador Gavin Newsom lo firma, California podría establecer estándares que otras jurisdicciones estatales o federales en EE.UU. podrían adoptar como referencia, generando un efecto cascada regulatorio.

Para los consumidores y usuarios, esta ley podría aumentar la transparencia, permitiendo saber qué tan seguros son los modelos que usan, qué riesgos podrían existir, y cómo se gestionan internamente los problemas de seguridad.

Empresas grandes de IA podrían necesitar reorganizar sus procesos internos de pruebas, auditorías de seguridad, documentación técnica, y posibles certificaciones externas, lo que conlleva costos, retrasos y adaptación técnica.

También esta ley podría incentivar el desarrollo de herramientas, metodologías y servicios de auditoría de IA y de certificación que antes no estaban tan explorados localmente, creando oportunidades de mercado.

En paralelo, los reguladores deben resolver cómo supervisar cumplimiento, aplicar sanciones, y asegurar calidad de las certificaciones; faltan definiciones claras sobre penalizaciones, estándares exigidos, periodicidad de auditorías, etc.

Finalmente, este tipo de regulación estatal abre el debate sobre la necesidad de un marco federal unificado en EE.UU., para evitar fragmentación normativa que complique la expansión tecnológica o el cumplimiento de empresas que operan en múltiples estados.(T)

Fuente: evafm.net – politico.com