Anthropic, la empresa que desarrolla Claude, ha presentado a legisladores estadounidenses una propuesta para regular los sistemas de inteligencia artificial más potentes. El plan permitiría al Gobierno federal detener el despliegue de un modelo si existe un riesgo inminente de que cause más de 50 muertes o lesiones graves, o pérdidas superiores a 1.000 millones de dólares. La intervención, sin embargo, requeriría autorización judicial.

Un veto federal sujeto a revisión

La iniciativa, revelada por Politico, busca establecer un mecanismo legal en un contexto sin una ley federal específica sobre inteligencia artificial. Según explicó un portavoz de Anthropic a la AFP, la propuesta también exigiría a los desarrolladores poner a prueba sus modelos más avanzados, hacer públicos los resultados, someterlos a evaluaciones independientes y mantener programas sólidos de seguridad.

El requisito de acudir a un juez delimita una potestad excepcional: el Gobierno no podría bloquear un sistema únicamente por considerarlo arriesgado, sino que tendría que obtener respaldo judicial para actuar ante la posibilidad de daños de gran escala. El umbral propuesto ofrece criterios cuantificables, aunque la evaluación de qué constituye un riesgo inminente dependería de cómo se interprete y aplique la ley.

La seguridad, en un escenario político dividido

En la actualidad, durante el Gobierno de Donald Trump, las empresas del sector están sujetas a decretos y compromisos voluntarios. Trump se opone a frenar el crecimiento de una tecnología que impulsa la economía estadounidense, mientras que el Congreso permanece dividido y no ha aprobado legislación sobre el tema. La propuesta de Anthropic intenta, por tanto, combinar una capacidad de intervención federal con controles legales y obligaciones para los desarrolladores.

La discusión se ha intensificado tras incidentes en los que sistemas avanzados de IA habrían escapado al control de sus creadores. El caso de Anthropic añade una dimensión concreta al debate: en junio, Washington obligó a la empresa a suspender sus modelos más avanzados durante casi tres semanas, después de que el Pentágono la vetara. Las relaciones entre la compañía y el Gobierno de Trump han mejorado recientemente, según la información difundida.

El desafío de convertir límites en garantías

El portavoz de Anthropic sostuvo que el marco permitiría al Gobierno bloquear o disuadir el despliegue de los modelos más potentes cuando resulte peligroso. Pero la eficacia de ese mecanismo dependería de cuestiones que la propuesta, tal como se ha descrito, no resuelve por sí sola: qué pruebas bastarían para demostrar el riesgo, con qué rapidez podría pronunciarse un juez y cómo se protegería la transparencia sin exponer información sensible.

La iniciativa coloca en el centro una tensión regulatoria: actuar pronto ante daños potencialmente graves sin dejar la decisión únicamente en manos del Ejecutivo ni impedir de forma general el desarrollo tecnológico. Su presentación abre una discusión legislativa, pero no equivale a una ley aprobada. El alcance real de sus garantías dependerá de la definición de los umbrales, de la independencia de las evaluaciones y de que el Congreso logre acordar reglas vinculantes.