La empresa de IA Anthropic está presionando a los estados para que adopten normativas más estrictas sobre la inteligencia artificial. Aunque puede parecer contradictorio que una startup valorada en casi un billón de dólares esté a favor de la regulación, Anthropic considera que es necesario para garantizar la seguridad y la transparencia en el desarrollo de la IA.
Anthropic, una de las empresas de inteligencia artificial (IA) más valoradas del mundo, está llevando a cabo una campaña para que los estados de EE UU adopten regulaciones más estrictas sobre la IA. Aunque puede parecer extraño que una startup tan grande esté a favor de la regulación, la empresa considera que es necesario para garantizar la seguridad y la transparencia en el desarrollo de la IA.
El año pasado, Anthropic respaldó las primeras leyes sobre seguridad de la IA en Estados Unidos, logrando que se aprobaran nuevos requisitos de transparencia en California y Nueva York. Sin embargo, la empresa considera que esas leyes ya están desfasadas y está presionando a los estados para que adopten normativas aún más estrictas.
«Los proyectos de ley de seguridad centrados en la transparencia de 2025 fueron un comienzo muy importante, pero a medida que las capacidades de los sistemas de IA siguen avanzando rápidamente, las respuestas políticas deben estar a la altura», declaró César Fernández, director de relaciones con gobiernos estatales y locales de EE UU de Anthropic. «Creemos que la transparencia y la autodeclaración ya no son medidas de seguridad suficientes para los sistemas de IA más potentes».
Anthropic ha apoyado varias regulaciones propuestas en diferentes estados, incluyendo una medida en Illinois que exige que los laboratorios de IA sometan sus procesos de seguridad a la evaluación de auditores externos. La empresa también ha respaldado una política en Massachusetts que exigiría auditorías externas para los laboratorios de IA y facultaría al fiscal general del estado para solicitar medidas cautelares contra las empresas que no cumplan con la normativa.
La agenda a favor de la regulación de Anthropic ha sido elogiada por grupos de seguridad de la IA, sindicatos y otros aliados de la empresa. Sin embargo, algunos líderes de Silicon Valley interpretan sus esfuerzos políticos desde una perspectiva más perversa. David Sacks, exresponsable de la IA de la Casa Blanca y actual asesor tecnológico del presidente Donald Trump, ha afirmado que Anthropic está intentando que se aprueben leyes para atrapar a las pequeñas empresas emergentes de IA en trámites burocráticos, asegurando así su propia posición como líder en la carrera de la IA.
Fernández niega rotundamente la acusación, señalando que Anthropic solo ha apoyado proyectos de ley estatales sobre IA que se aplican a «grandes desarrolladores de modelos de IA», un término que se define de manera diferente en cada proyecto de ley, pero que generalmente se refiere a empresas que han invertido cientos de millones de dólares en el desarrollo de IA y tienen más de 500 millones de dólares en ingresos anuales.
La empresa considera que cualquier empresa lo suficientemente grande como para desarrollar un modelo de IA potente debería estar sujeta a las mismas regulaciones, ya que los riesgos subyacentes de la tecnología son los mismos. Fernández señala que parte del objetivo de Anthropic es «inspirar una carrera hacia la excelencia en el desarrollo de los sistemas de IA más seguros», lo que implica impulsar la legislación gubernamental.
Anthropic también ha estado activa en el ámbito federal, enviando una carta al gobierno estadounidense acusando a la gigante china Alibaba de un ataque de extracción de datos. La empresa ha sido criticada por algunos investigadores de IA, que consideran que sus acusaciones son una forma de captura regulatoria encubierta.
En resumen, Anthropic está desempeñando un papel fundamental en la configuración del futuro de las políticas de IA en EE UU. Aunque sus esfuerzos políticos han sido criticados por algunos, la empresa considera que es necesario para garantizar la seguridad y la transparencia en el desarrollo de la IA.
