'La ciencia ya está aquí': el primer panel mundial de IA de la ONU advierte que las salvaguardas no dan abasto

Mientras la industria pasó la última semana discutiendo sobre chips a medida, el racionamiento de tokens y qué laboratorio de frontera le arrebató a quién sus investigadores, un acontecimiento más silencioso pero posiblemente de mayor peso aterrizó en las Naciones Unidas. El 1 de julio, el recién creado Panel Científico Internacional Independiente sobre Inteligencia Artificial dio a conocer su primera evaluación, y su mensaje central es contundente: las salvaguardas destinadas a mantener segura la IA no pueden seguir el ritmo de lo que la IA es capaz de hacer hoy.

Qué ocurrió realmente

El panel publicó su Informe Preliminar del Panel Científico Internacional Independiente sobre IA: evaluación basada en evidencia de las oportunidades, los riesgos y los impactos de la IA el 1 de julio de 2026. Se presenta como la primera evaluación científica independiente de su tipo sobre las capacidades, oportunidades y riesgos de la IA, elaborada por un órgano de 40 expertos procedentes de todas las regiones de la ONU que actúan a título personal y no como representantes de sus gobiernos. La composición abarca a informáticos, economistas, académicos y expertos en derechos humanos.

El panel está copresidido por Yoshua Bengio, de Canadá —una de las figuras más citadas del aprendizaje profundo y ahora copresidente de la organización sin fines de lucro LawZero—, y Maria Ressa, de Filipinas, periodista y premio Nobel de la Paz. Según el propio relato del panel, ambos fueron elegidos para dirigirlo en la reunión inaugural del grupo, el 3 de marzo de 2026. El informe se estructura en torno a siete dominios, que van desde la ciencia de la IA y sus implicaciones económicas hasta los derechos humanos, la democracia, la seguridad infantil y la gobernanza.

El momento no es casual. Las conclusiones están pensadas para alimentar directamente el primer Diálogo Mundial de la ONU sobre la Gobernanza de la IA, que reunirá a los gobiernos en Ginebra los días 6 y 7 de julio. Está previsto que un informe anual de seguimiento nutra un segundo diálogo en Nueva York en mayo de 2027.

La conclusión central

La conclusión principal del informe es que "las salvaguardas actuales no pueden seguir el ritmo del crecimiento de las capacidades de la IA." El panel plantea una trampa de gobernanza que reconocerá cualquiera que haya seguido los últimos dos años de lanzamientos de modelos: los responsables políticos necesitan evidencia científica sólida para regular bien la IA, pero, para cuando esa evidencia sea inequívoca, quizá sea demasiado tarde para actuar sobre ella.

Detrás de esto subyace una afirmación sobre el propio ritmo de las capacidades. El panel señala que los "agentes" autónomos de IA completan cada vez más tareas complejas con una supervisión humana mínima, y que la complejidad de las tareas se ha duplicado cada pocos meses, según el resumen de UN News. Se abstiene, sin embargo, del registro apocalíptico que domina parte del discurso sobre los riesgos de la IA. Su postura declarada es que "la IA no es intrínsecamente buena ni mala. Su impacto dependerá de las decisiones que gobiernos, empresas y sociedades tomen hoy", y que "la ventana para establecer una gobernanza mundial eficaz sigue abierta, pero puede no permanecer así por mucho tiempo".

Las cifras sobre la concentración

Donde el informe se vuelve concreto es en quién controla la capacidad de cómputo. Según la cobertura, el panel concluye que aproximadamente el 75 % de la principal potencia de supercomputación de IA se encuentra en Estados Unidos, cerca del 15 % en China y solo alrededor del 10 % en el resto del mundo. El relato de Inter Press Service añade una cifra sobre la participación en la gobernanza: 118 países, predominantemente del Sur Global, están en gran medida ausentes de las principales discusiones de gobernanza de la IA que están dando forma a las reglas de la tecnología.

Ese enfoque importa porque replantea la "seguridad de la IA" como, en parte, una cuestión de distribución del poder. La advertencia del panel de que la IA podría "concentrar el poder en unos pocos gobiernos y empresas" no es abstracta cuando un solo país controla tres cuartas partes del cómputo de frontera del mundo. Es el hilo conductor que conecta el informe con los demás titulares de la semana —chips a medida, acuerdos de cómputo multimillonarios, controles de exportación—, todos los cuales tratan, en el fondo, sobre quién puede ejecutar los modelos más grandes.

Por qué importa

La forma más útil de leer este panel es como lo más parecido que existe hasta ahora a un "IPCC de la IA": un órgano científico permanente e independiente cuya tarea es producir una base de evidencia compartida y autorizada desde la cual los gobiernos puedan discutir, en lugar de discutir sobre ella. Eso es algo genuinamente nuevo. Hasta ahora, el debate sobre los riesgos de la IA lo han arbitrado en gran medida los laboratorios que construyen los sistemas y los gobiernos que intentan cortejarlos o contenerlos. Una evaluación científica neutral, convocada por la ONU, cambia los términos de la conversación, aunque no cambie nada más.

El secretario general António Guterres resumió el efecto buscado en una frase citada por IPS: "La ciencia ya está aquí. Ya no podemos decir que no lo sabíamos." El informe está diseñado para privar a los gobiernos de la defensa de "nos faltaba evidencia" de cara a Ginebra.

Expectativa frente a realidad

Ahora, la parte que baja las expectativas. Se trata de un informe preliminar, y el panel —según IPS— optó deliberadamente por no emitir recomendaciones de política para proteger su credibilidad científica. Eso es intelectualmente honesto, pero también significa que el documento diagnostica sin prescribir. No tiene poder de ejecución, ni autoridad presupuestaria, ni mecanismo alguno para obligar a ningún laboratorio o Estado a hacer nada.

Las cifras sobre la concentración del cómputo subrayan esa limitación. Si Estados Unidos controla ~75 % del cómputo de frontera y China ~15 %, entonces una gobernanza significativa depende casi por completo de la adhesión de dos gobiernos, ninguno de los cuales ha permitido históricamente que los órganos multilaterales restrinjan su tecnología estratégica. Un diálogo en Ginebra al que los mayores actores asisten por cortesía es algo muy distinto de uno que los vincule.

Hay también un patrón familiar que conviene nombrar: informes como este tienden a generar una ráfaga de cobertura, una ronda de discursos y luego se desvanecen mientras la curva subyacente de capacidades sigue trepando. El propio panel esencialmente admite este riesgo con su lenguaje de que "la ventana puede no permanecer abierta". Los escépticos señalarán que hemos escuchado versiones de "actúen ahora o será demasiado tarde" en cada cumbre de IA desde 2023, y el cómputo no ha hecho sino concentrarse aún más.

Lo que sí es real, y no debería descartarse: la existencia de una institución duradera con el mandato de informar cada año. Un solo documento cambia poco. Un órgano creíble que emita evidencia con una cadencia fija, con figuras como Bengio y Ressa asociadas a él, es el tipo de infraestructura que puede importar a lo largo de los años, del mismo modo en que las evaluaciones climáticas terminaron por hacerlo: despacio y luego de golpe.

Qué observar en Ginebra

La prueba inmediata son los días 6 y 7 de julio. Las preguntas que vale la pena seguir: ¿Enviarán Estados Unidos y China a altos funcionarios o a suplentes de bajo rango? ¿Surgirá algún mecanismo concreto de gobernanza, o solo un comunicado que prometa diálogos futuros? Y el enfoque del panel sobre la concentración del cómputo —la idea de que la gobernanza de la IA es inseparable de la distribución del poder de la IA—, ¿será asumido por los Estados que hoy salen perdiendo en ese reparto del 75/15/10, o quedará discretamente apartado por quienes salen ganando?

En resumen

El primer panel científico independiente sobre IA de la ONU ha hecho exactamente lo que un órgano así debería hacer al inicio: establecer una base de evidencia neutral y afirmar sin rodeos que nuestras salvaguardas están siendo superadas por los sistemas que se supone deben gobernar. Ese es un paso institucional real y largamente pendiente. Pero un informe que diagnostica sin prescribir, dirigido a un diálogo sin poder vinculante, sobre una tecnología cuyo cómputo está concentrado en dos capitales, es una línea de salida, no una de meta. El valor de este panel no se juzgará por el documento del 1 de julio, sino por si, dentro de unos cuantos informes anuales, alguien con el poder de actuar estaba realmente escuchando.