La nueva ley de IA de California: transparencia sin pruebas de seguridad
Gavin Newsom acaba de firmar una nueva ley para regular la IA en California y, como suele ocurrir con la legislación tecnológica, se queda a medio camino de lo que prometía. La Ley de Transparencia en Inteligencia Artificial Fronteriza obliga a las empresas a revelar sus prácticas de seguridad, pero no exige que realmente prueben si sus sistemas son seguros. Es como pedir a un fabricante de coches que explique cómo diseña sus airbags, pero sin obligarle a chocar ni un solo vehículo contra un muro para comprobar si funcionan.
De pruebas obligatorias a simple transparencia
La historia de esta ley tiene su miga. El año pasado, el senador Scott Wiener propuso una normativa mucho más ambiciosa (SB 1047) que habría exigido pruebas de seguridad y «botones de apagado» para sistemas de IA. Pero tras un intenso lobbying del sector tecnológico, Newsom la vetó. Ahora vuelve con esta versión descafeinada (SB 53) que básicamente pide a las empresas:
- Publicar sus protocolos de seguridad en sus webs
- Reportar incidentes a las autoridades estatales
- Describir cómo incorporan «estándares nacionales e internacionales»
Eso sí, solo afecta a empresas con ingresos anuales superiores a 500 millones de dólares. Y lo mejor: no especifica cuáles son esos estándares ni exige verificación independiente. Vamos, que cada empresa puede interpretar lo que son «buenas prácticas» a su manera.
Los riesgos catastróficos según California
La nueva ley define un «riesgo catastrófico» de manera curiosamente estrecha: incidentes que potencialmente causen más de 50 muertes o daños por valor de 1.000 millones de dólares mediante asistencia en armamento, actos delictivos autónomos o pérdida de control.
Si una empresa no informa de estos incidentes potenciales, se expone a multas de hasta 1 millón de dólares por infracción. Pero seamos sinceros, probar que una empresa sabía de un riesgo potencial y decidió no informar es complicadísimo sin acceso a sus sistemas internos.
El poder del lobby tecnológico
¿Y por qué este cambio de pruebas obligatorias a simple transparencia? Pues porque la industria ha presionado con todo. Según el New York Times, Meta y la firma de capital riesgo Andreessen Horowitz han prometido hasta 200 millones de dólares a super PACs que apoyan a políticos favorables a la industria de la IA.
Las grandes tecnológicas consideraban que los requisitos originales eran «demasiado vagos» y las cargas de información «demasiado onerosas». Traducción: no querían que nadie les obligara a frenar su carrera por ser los primeros en lanzar nuevos modelos de IA cada vez más potentes.
CalCompute: lo único que sobrevive
El único elemento que ha sobrevivido del proyecto original es la creación de CalCompute, un consorcio dentro de la Agencia de Operaciones Gubernamentales para desarrollar un marco de computación pública.
El senador Wiener ha descrito esta ley como el establecimiento de «barreras de sentido común», mientras que Jack Clark, cofundador de Anthropic, calificó las salvaguardas como «prácticas». Aunque seamos sinceros: los requisitos de transparencia probablemente ya son estándar en las principales empresas de IA.
¿Por qué importa lo que pasa en California?
La relevancia de esta ley va mucho más allá de las fronteras del estado. California alberga 32 de las 50 principales empresas de IA del mundo, y más de la mitad de la financiación global de capital riesgo para startups de IA y machine learning fue a empresas del Área de la Bahía el año pasado.
Esto significa que, aunque sea legislación estatal, tendrá un impacto mucho más amplio: por precedente legislativo y porque afecta a empresas que desarrollan sistemas de IA utilizados en todo el mundo.
¿Qué significa para los usuarios de IA?
Para quienes usamos generadores de imágenes IA o nos preocupa que un detector de IA pueda fallar, esta ley no cambia mucho las cosas a corto plazo. Las empresas seguirán desarrollando sus modelos a toda velocidad, con la única diferencia de que ahora tendrán que publicar documentos sobre cómo piensan en la seguridad.
Lo que sí podría ocurrir es que, si otras regiones siguen el ejemplo pero con más dientes, veamos una fragmentación en el desarrollo de la IA: sistemas más regulados en algunos lugares y menos en otros. Y siendo realistas, las empresas podrían ubicar sus operaciones más arriesgadas donde la regulación sea más laxa.
El dilema entre innovación y seguridad
«California ha demostrado que podemos establecer regulaciones para proteger a nuestras comunidades mientras nos aseguramos de que la creciente industria de la IA siga prosperando», dijo Newsom en un comunicado. Aunque las medidas de protección reales siguen siendo en gran parte voluntarias más allá de los requisitos básicos de información.
El debate de fondo sigue siendo el mismo: ¿cómo equilibramos la innovación tecnológica con la seguridad pública? California ha optado claramente por favorecer la innovación, con algunas concesiones mínimas a la seguridad.
Lo que está claro es que, mientras los reguladores siguen debatiendo qué hacer, las empresas de IA continúan desarrollando sistemas cada vez más potentes. Y al ritmo actual, para cuando se imponga una regulación realmente efectiva, la tecnología ya habrá avanzado varios pasos más.
La transparencia es un buen primer paso, pero sin verificación independiente y requisitos específicos, corremos el riesgo de quedarnos en declaraciones de buenas intenciones. La pregunta es: ¿tendremos que esperar a que ocurra algo grave para tomar medidas más firmes?
