La empresa Anthropic defiende que la IA solo será segura si permanece bajo su control, mientras avanza en el desarrollo de tecnologías de vanguardia y se enfrenta a críticas sobre su enfoque y responsabilidad.
Anthropic, una de las empresas líderes en el desarrollo de inteligencia artificial (IA), ha estado advirtiendo durante cinco años sobre los riesgos potenciales de una IA avanzada. A pesar de esto, la empresa sigue impulsando el avance de las capacidades de la IA y atrae a clientes como el ejército de EE UU. Recientemente, se le ha valorado en casi un billón de dólares.
La empresa opera basándose en dos creencias fundamentales: que la IA es la tecnología más transformadora de la historia de la humanidad, y que Anthropic debe mantenerse a la vanguardia de la carrera por la IA para garantizar que se desarrolle de forma segura. Los directivos y empleados de la empresa se refieren a sí mismos como «los buenos», aquellos que gestionan de forma responsable la tecnología de la IA.
Helen Toner, directora ejecutiva del Centro de Seguridad y Tecnologías Emergentes de Georgetown, compara la IA poderosa con un bosque repleto de tesoros mágicos y monstruos peligrosos. Según ella, Anthropic quiere adentrarse más en el bosque que nadie, al tiempo que invierte fuertemente en domar a los monstruos. «Lo que distingue a Anthropic es que piensan: ‘La gente va a adentrarse en el bosque de todos modos, así que tenemos que ser los primeros en hacerlo'», afirma Toner.
El CEO de Anthropic, Dario Amodei, describe este enfoque con claridad: «Hay que encontrar la manera de ser realmente competitivo, de liderar el sector en algunos casos, y aun así hacer las cosas de forma segura. Si eres capaz, la fuerza de atracción que ejerces es enorme». Amodei también ha reconocido públicamente los peligros de permitir que se concentre demasiado poder sobre la IA en manos de unos pocos laboratorios, incluido el suyo.
Sin embargo, la empresa ha sido criticada por su enfoque y responsabilidad. Algunos críticos argumentan que Anthropic cree conocer la «verdad sobre la situación en la que se encuentra la humanidad» mejor que los demás, y que su enfoque puede ser demasiado restrictivo y controlador. La empresa también ha sido criticada por su asociación con Palantir para proporcionar servicios de IA a las agencias de defensa y inteligencia estadounidenses.
En respuesta a estas críticas, Amodei ha afirmado que la empresa está comprometida con la seguridad y la responsabilidad en el desarrollo de la IA. «La humanidad está a punto de recibir un poder casi inimaginable, y no está nada claro si nuestros sistemas sociales, políticos y tecnológicos tienen la madurez necesaria para ejercerlo», escribe en un ensayo. «Es responsabilidad de quienes están más cerca de la tecnología decir simplemente la verdad sobre la situación en la que se encuentra la humanidad, algo que yo siempre he intentado hacer».
A pesar de las críticas, Anthropic sigue avanzando en el desarrollo de tecnologías de vanguardia. La empresa recientemente lanzó un modelo de IA de vanguardia, Claude Fable 5, con una medida de seguridad integrada particularmente restrictiva. Sin embargo, esta medida fue criticada de inmediato por investigadores de toda la industria de la IA, y Anthropic rectificó unos días después, anunciando que haría visible la medida de seguridad.
En resumen, Anthropic defiende que la IA solo será segura si permanece bajo su control, mientras avanza en el desarrollo de tecnologías de vanguardia y se enfrenta a críticas sobre su enfoque y responsabilidad. La empresa sigue siendo una de las líderes en el desarrollo de IA, y su enfoque y decisiones tendrán un impacto significativo en el futuro de la tecnología.
