La creciente rivalidad entre Estados Unidos y China en el ámbito de la inteligencia artificial (IA) plantea riesgos significativos para la ciberseguridad global. Expertos en IA de China proponen una cooperación bilateral para abordar estos desafíos y prevenir un posible «momento Chernóbil» en la IA.
Recientemente, asistí a una importante conferencia sobre IA en Zhongguancun, el distrito de alta tecnología de Pekín. El evento contó con la presencia de destacados expertos en el campo, como Whitfield Diffie y Andrew Barto, y abordó temas como la superación recursiva y los robots humanoides. Sin embargo, lo que más me llamó la atención fue la necesidad de cooperación entre Estados Unidos y China en materia de IA.
Según Stephen Casper, informático del MIT, «la IA es una tecnología global con beneficios globales, perjuicios globales y una tendencia constante a que las nuevas capacidades acaben proliferando». Casper enfatizó que la cooperación internacional es crucial para abordar los riesgos sistémicos y de ciberseguridad asociados con la IA de vanguardia.
Hasta ahora, Estados Unidos ha considerado los avances de China en IA como una amenaza económica y para la seguridad nacional. Sin embargo, la conferencia en Pekín destacó que tanto EE UU como China saldrían perdiendo si la IA se desarrollara de forma demasiado rápida e imprudente. Los riesgos de ciberataques y fallos catastróficos aumentarán a medida que la IA se vuelva más potente y autónoma.
Casper se refirió a estudios que demuestran que los beneficios de la colaboración internacional superan con creces cualquier riesgo para la seguridad nacional derivado de trabajar juntos. Comparó la situación actual con la forma en que Estados Unidos y la Unión Soviética se vieron obligados a colaborar en materia de amenazas nucleares.
Una sesión de la conferencia expuso la universalidad de los retos cibernéticos que plantea una IA más avanzada. Entre ellos se incluyen nuevas vulnerabilidades en el código generado por la IA y formas novedosas de atacar sistemas gracias al uso de herramientas agénticas.
Lin Yun, profesor de la Universidad Jiaotong de Shanghái, destacó que la competencia entre países complica la cooperación internacional, pero que esta debería seguir siendo una prioridad. «Si los distintos países entienden los riesgos de manera similar, resulta más fácil desarrollar principios de seguridad y normas técnicas comunes», afirmó.
La cuestión más delicada para ambas naciones es cómo equilibrar la apertura con el riesgo. Los modelos abiertos han demostrado ser cruciales para la investigación y la innovación, pero también plantean riesgos para la seguridad. Las empresas chinas han liderado la oferta de modelos de IA de código abierto altamente capaces, mientras que Estados Unidos ha relanzado su propia iniciativa de IA de código abierto.
En resumen, la cooperación entre Estados Unidos y China en materia de IA es crucial para abordar los riesgos sistémicos y de ciberseguridad asociados con la IA de vanguardia. Los expertos en IA de China proponen una cooperación bilateral para prevenir un posible «momento Chernóbil» en la IA y garantizar un desarrollo seguro y responsable de esta tecnología.
