Entre los participantes se encuentran Sam Altman, director ejecutivo de OpenAI; Dario Amodei, CEO de Anthropic; y Clément Delangue, cofundador de Hugging Face. También fueron invitadas empresas chinas como DeepSeek y Moonshot, en un encuentro que busca abordar las implicaciones de la IA para la seguridad internacional. 

Altman ha planteado la necesidad de establecer referencias comunes para medir las capacidades de los modelos de IA y evaluar las medidas de seguridad implementadas por las compañías durante su desarrollo. Ante el Consejo de Seguridad, además, pidió actuar con cautela y evitar asumir riesgos tecnológicos únicamente por los posibles beneficios económicos o sociales. 

Una de las principales preocupaciones planteadas por expertos y funcionarios es que sistemas cada vez más autónomos puedan mejorar sus propias capacidades, interactuar entre sí y generar consecuencias difíciles de anticipar. Un diplomático europeo citado por Reuters señaló que uno de los escenarios que preocupa es que algoritmos puedan desencadenar situaciones con impacto sobre la seguridad internacional. 

La ONU viene impulsando desde hace varios años una mayor coordinación internacional sobre inteligencia artificial. Su Panel Científico Internacional Independiente ha advertido sobre riesgos que incluyen la desinformación, la discriminación y el desarrollo de una eventual “superinteligencia” difícil de controlar. 

El debate también refleja diferencias entre las principales potencias. Mientras algunos gobiernos y expertos plantean mayores mecanismos internacionales de seguridad, Estados Unidos ha defendido continuar impulsando el desarrollo de la tecnología. China, por su parte, ha cuestionado algunos llamados a ralentizar la IA, al considerar que pueden utilizarse para limitar su desarrollo tecnológico.