Es hora de tomar en serio el riesgo de la IA
En noviembre de 2024, el presidente de Estados Unidos, Joe Biden, y el presidente de China, Xi Jinping, emitieron su primera declaración conjunta sustantiva sobre los riesgos de seguridad nacional que plantea la inteligencia artificial, afirmando la necesidad de mantener el control humano sobre el uso de armas nucleares. Aunque el acuerdo parece básico, fue resultado de más de un año de negociaciones y marcó un avance significativo al demostrar que ambas superpotencias de la IA pueden cooperar en la gestión de riesgos pese a su intensa competencia tecnológica y geopolítica. El texto advierte que el rápido desarrollo de la IA incrementa amenazas como ciberataques, armas biológicas, desinformación, drones autónomos y posibles escaladas militares o crisis financieras, además del riesgo futuro de sistemas desalineados. Sostiene que, aunque la competencia entre ambos países continuará, es esencial una diplomacia directa y sostenida para mitigar estos peligros, ya que los desafíos de la IA —como la verificación, el uso dual, la participación del sector privado y la incertidumbre sobre su evolución— son más complejos que los del control de armas nucleares tradicional y requieren enfoques innovadores y acción inmediata.
ARTÍCULO COMPLETO