La carrera armamentista en inteligencia artificial entre China y Estados Unidos podría llevar a un desastre similar al de Chernóbil. Expertos en IA de ambos países abogan por la cooperación para mitigar los riesgos de ciberseguridad y desarrollar normas técnicas comunes.
Recientemente, asistí a una conferencia sobre inteligencia artificial (IA) en Zhongguancun, el distrito de alta tecnología de Pekín. La conferencia, organizada por la Academia de Inteligencia Artificial de Pekín, contó con la presencia de destacados expertos en el campo, como Whitfield Diffie, coinventor de la criptografía de clave pública, y Andrew Barto, ganador del Premio Turing por su trabajo en el aprendizaje por refuerzo.
Una de las conclusiones más destacadas de la conferencia fue la necesidad de que Estados Unidos y China dejen a un lado su rivalidad en materia de IA y colaboren para abordar los riesgos sistémicos y de ciberseguridad asociados con esta tecnología. Stephen Casper, informático del MIT, destacó que «la IA es una tecnología global con beneficios globales, perjuicios globales y una tendencia constante a que las nuevas capacidades acaben proliferando».
Hasta ahora, Estados Unidos ha considerado los avances de China en IA como una amenaza económica y para la seguridad nacional. Sin embargo, la conferencia destacó que tanto EE UU como China saldrían perdiendo si la IA se desarrollara de forma demasiado rápida e imprudente. Los riesgos de que la IA se utilice para llevar a cabo ciberataques o falle de forma catastrófica aumentarán a medida que la tecnología se vuelva más potente y autónoma.
Casper se refirió a estudios que demuestran que los beneficios de la colaboración internacional frente a los peligros de la IA superan con creces cualquier riesgo para la seguridad nacional derivado de trabajar juntos. Comparó la situación actual con la forma en que Estados Unidos y la Unión Soviética se vieron obligados a colaborar en materia de amenazas nucleares, incluso mientras intentaban superar al otro en el armamento nuclear.
Una sesión de la conferencia expuso la universalidad de los retos cibernéticos que plantea una IA más avanzada. Entre ellos se incluyen nuevos tipos de vulnerabilidades en el código generado por la IA, formas novedosas de atacar sistemas gracias al uso de herramientas agénticas y métodos automatizados para llevar a cabo ataques de phishing.
Lin Yun, profesor de la Universidad Jiaotong de Shanghái, destacó que, aunque la competencia complique la cooperación internacional, esta debería seguir siendo una prioridad. «Si los distintos países entienden los riesgos de manera similar, resulta más fácil desarrollar principios de seguridad y normas técnicas comunes», afirmó.
La cuestión más delicada para ambas naciones es cómo equilibrar la apertura con el riesgo. Los modelos abiertos se han vuelto cruciales para la investigación y la innovación, y los modelos chinos han demostrado ser populares en Estados Unidos. Sin embargo, a medida que estos avanzan, será más difícil garantizar que no ayuden a los hackers a identificar vulnerabilidades de seguridad y que no puedan utilizarse como armas cibernéticas.
En los últimos años, las empresas chinas han liderado la oferta de modelos de IA de código abierto altamente capaces, como Kimi de Moonshot, Qwen de Alibaba y GLM de Z.ai. Estados Unidos ha relanzado su propia iniciativa de IA de código abierto con modelos como Nemotron de Nvidia. Sin embargo, nos acercamos a un punto de inflexión donde incluso los modelos abiertos menos potentes podrían resultar peligrosos si se les priva de medidas de seguridad.
La próxima generación de modelos de IA de código abierto podría ser tan capaz como Fable o Mythos, lo que plantea un desafío significativo para la seguridad. Yun destacó que el sector tendrá que idear nuevas formas de garantizar que los modelos abiertos estén actualizados, libres de puertas traseras y vulnerabilidades, y que cumplan con las normas de seguridad.
En resumen, la cooperación entre Estados Unidos y China en materia de IA es crucial para mitigar los riesgos de ciberseguridad y desarrollar normas técnicas comunes. La carrera armamentista en IA podría llevar a un desastre similar al de Chernóbil, por lo que es fundamental que ambos países trabajen juntos para abordar los desafíos asociados con esta tecnología.
