Sam Altman y Dario Amodei advierten a la ONU sobre el riesgo de perder el control de la IA
Los máximos responsables de tres de las principales empresas de inteligencia artificial del mundo comparecieron este miércoles ante el Consejo de Seguridad de la ONU para advertir que los sistemas de IA, cada vez más potentes, podrían terminar mejorándose a sí mismos y escapar al control humano, con riesgos para la seguridad internacional.
Lo esencial
- Sam Altman (OpenAI), Dario Amodei (Anthropic) y Clément Delangue (Hugging Face) intervinieron ante los 15 miembros del Consejo de Seguridad.
- Amodei advirtió: «Si se gestiona mal, creo que la IA podría representar un riesgo para la humanidad en su conjunto».
- Altman pidió que las decisiones clave sobre IA no queden solo en manos de «los laboratorios de San Francisco», sino que se definan mediante procesos democráticos y gobiernos.
- Yoshua Bengio, considerado uno de los «padrinos de la IA», copresidió el panel que informó al Consejo.
Contexto
La comparecencia se dio en el marco de la Asamblea General de la ONU, apenas un día después de que el presidente Donald Trump rechazara ante ese mismo organismo cualquier regulación a la inteligencia artificial, a la que calificó de «más grande que la Revolución Industrial». Altman planteó además la necesidad de adoptar parámetros comunes para medir las capacidades de los modelos de IA y evaluar las salvaguardas que las empresas implementan mientras la desarrollan, con cooperación a nivel internacional.
Por qué importa para los mercados
El contraste es notable: mientras Washington defiende un desarrollo de la IA sin restricciones, como se vio también con el reciente respaldo de Trump al sector y el salto bursátil de Meta, los propios creadores de estos modelos reconocen públicamente riesgos serios y piden supervisión gubernamental. Esta tensión entre el ritmo de inversión —reflejado en lanzamientos como el reciente GPT-6 Sol y Luna de OpenAI— y las advertencias sobre seguridad podría anticipar mayor presión regulatoria en otros países, incluso si EE.UU. mantiene una postura permisiva.
Qué vigilar
- Si el Consejo de Seguridad de la ONU avanza hacia algún marco de cooperación internacional sobre IA.
- Si otros gobiernos, especialmente en Europa, responden con nuevas propuestas regulatorias tras estas advertencias.
- Cómo reacciona la industria a los llamados de Altman a estandarizar la medición de capacidades y salvaguardas de los modelos.
Fuentes: Bloomberg, Times of Israel, Security Council Report. Este contenido es informativo y no constituye asesoramiento de inversión.
