Anthrope respalda la nota de seguridad de IA de California, SB 53

El lunes, Anthropic anunció su respaldo oficial al SB 53, un proyecto de ley de California propuesto por el senador estatal Scott Wiener. Este plan de ley tiene como objetivo imponer los requisitos de transparencia más estrictos en la nación para los desarrolladores de modelos de inteligencia artificial (IA) más grandes del mundo. Este respaldo de Anthropic representa un logro significativo para SB 53, especialmente en un contexto donde importantes grupos tecnológicos como la Consumer Technology Association (CTA) y la Cámara para el Progreso están presionando en contra de la legislación.

En una publicación de blog, Anthropic expresó que, aunque se podría argumentar que la seguridad de la IA debería ser abordada a nivel federal, los avances en IA no pueden esperar a que haya un consenso en Washington. “La pregunta no es si necesitamos gobernanza de IA, es si lo desarrollaremos cuidadosamente hoy o de manera reactiva mañana”, afirmó Anthropic, destacando que SB 53 ofrece un camino sólido hacia la regulación.

Si se aprueba, SB 53 requeriría que los desarrolladores de modelos de IA, como OpenAI, Anthropic, Google y XAI, establezcan marcos de seguridad y publiquen informes de seguridad pública antes de implementar modelos de IA potentes. Además, el proyecto de ley incluiría protecciones para denunciantes que reporten problemas de seguridad. Este plan se centra en prevenir modelos de IA que puedan causar “riesgos catastróficos”, definidos como la muerte de al menos 50 personas o daños que superen los mil millones de dólares.

El Senado de California ya aprobó una versión inicial de SB 53, pero aún necesita una votación final antes de que pueda ser enviado al escritorio del gobernador Gavin Newsom. Hasta ahora, Newsom ha mantenido silencio sobre el proyecto, a pesar de haber vetado previamente el SB 1047, otro plan de seguridad de IA propuesto por Wiener.

Los proyectos de ley que regulan a los desarrolladores de IA han enfrentado una fuerte oposición tanto de Silicon Valley como de la administración Trump, que argumentan que tales regulaciones podrían obstaculizar la innovación de Estados Unidos en la carrera contra China. Inversores como Andreessen Horowitz y Y Combinator han liderado la resistencia contra el SB 1047, y la administración Trump ha amenazado con impedir que los estados implementen regulaciones sobre IA.

Uno de los argumentos más comunes en contra de estos proyectos de ley es que los estados deberían dejar la regulación de la IA a los gobiernos federales. Matt Perault, líder de política de IA de Andreessen Horowitz, y Jai Ramaswamy, director procesal, publicaron un blog argumentando que muchos proyectos de ley estatales podrían violar la cláusula de comercio de la Constitución, que limita a los gobiernos estatales de aprobar leyes que trasciendan sus fronteras y afecten el comercio interestatal.

Sin embargo, Jack Clark, cofundador de Anthropic, defendió la necesidad de establecer un marco regulatorio, afirmando que la industria tecnológica desarrollará potentes sistemas de IA en los próximos años y no puede esperar a que el gobierno federal actúe. Chris Lehane, director de Asuntos Globales de OpenAI, envió una carta a Newsom en agosto, advirtiendo que no se debería aprobar ninguna regulación que expulse a las startups de California, aunque no mencionó SB 53 específicamente.

A pesar de las críticas, expertos en políticas como Dean Ball, miembro senior de la Fundación para la Innovación, creen que SB 53 es un enfoque más modesto en comparación con proyectos de ley anteriores y tiene una buena oportunidad de convertirse en ley. Ball elogió a los redactores de SB 53 por su respeto hacia la efectividad técnica y por su enfoque restrictivo.

El senador Wiener ha indicado que el proyecto de ley fue influenciado por un panel de expertos convocado por Newsom, co-liderado por Fei-Fei Li, destacado investigador de Stanford. La mayoría de los laboratorios de IA ya tienen políticas de seguridad internas que se alinean con SB 53, pero el proyecto de ley busca establecer requisitos legales con repercusiones financieras para aquellos que no cumplan.

A principios de septiembre, se enmendó SB 53 para eliminar una sección que requería auditorías de terceros, una medida que las compañías tecnológicas han rechazado en otras discusiones sobre políticas de inteligencia artificial, argumentando que son excesivamente gravosas.

¿QUIÉN DIJO QUE LA REGULACIÓN DE LA IA NO PODÍA SER UN JUEGO DE PODER ENTRE GIGANTES TECNOLÓGICOS Y POLÍTICOS?

—

«`
APARECEN EN EL ARTÍCULO ORIGINAL:
Andreessen Horowitz, Anthropic, CTA, Chris Lehane, Dean Ball, Fei-Fei Li, Gavin Newsom, Google, Jack Clark, Jai Ramaswamy, Matt Perault, Miles Brundage, OpenAI, Scott Wiener, SB 1047, SB 53, Y Combinator.
«`

Fuente: ButterWord Spain | URL: Ver noticia original