Imagen generada con ChatGPT
El informe del Panel Científico Internacional Independiente sobre Inteligencia Artificial, órgano creado por la Asamblea General de la Organización de Naciones Unidas (ONU), publicó una evaluación con base empírica de las oportunidades, los riesgos y las repercusiones de la IA.
El reporte, publicado en julio de 2026, comienza reconociendo los rápidos avances de la tecnología y sus capacidades, como la conversación fluida, generación de código funcional, razonamiento de nivel experto en matemáticas y ciencias, análisis de datos en gran escala y generación de contenido de imagen, audio y video.
Sin embargo, no deja de señalar limitaciones como la fiabilidad, capacidad de obtener un buen rendimiento en diferentes idiomas y culturas, interacción con sistemas físicos, ejecución de proyectos complejos o en varias etapas y generación de resultados objetivos.
Usada por muchos, desarrollada por pocos
Según el informe del panel de expertos de Naciones Unidas, más de mil millones de personas utilizan inteligencia artificial conversacional cada semana.
El documento precisa que el acceso a la tecnología y su empleo varían considerablemente en todo el mundo, y su adopción en el Sur Global va muy por detrás de la del Norte Global. Además, existen diferencias significativas entre las economías avanzadas con respecto a la infraestructura de cómputo y los modelos.
Con respecto al desarrollo de IA, se encuentra aún más concentrado: según estimaciones recientes, los Estados Unidos de América suponen el 75 por ciento de la potencia computacional de las 500 supercomputadoras de IA más potentes del mundo, mientras que China supone el 15 por ciento.
Las empresas de los Estados Unidos y China también desarrollan casi todos los modelos de propósito general más importantes, y un pequeño número de países controla los insumos fundamentales para la cadena de suministro de los chips informáticos destinados a la IA, agrega el reporte.
La cadena de suministro presenta también una concentración de mercado muy elevada, en que un único proveedor acapara el 80% o más del mercado mundial. Entre ellos se encuentran ASML en Europa, TSMC en Asia Oriental y NVIDIA en los Estados Unidos. Superan el 60 por ciento del mercado global en memoria de gran ancho de banda, prestación de servicios en la nube y provisión de modelos fundacionales a través de API.
Esto trae una serie de desafíos que van desde preocupaciones fiscales en países que dependen de impuestos sobre el trabajo, concentración de poder político, y limitaciones de acceso por motivos comerciales y no reflejo de la diversidad lingüística y cultural del mundo.
En el mundo se hablan más de siete mil idiomas, pero la infraestructura de desarrollo y evaluación de modelos de IA solo refleja una pequeña parte de ellos. Más de mil idiomas cuentan con fundamentos para su inclusión en sistemas de IA, pero eso demanda inversiones específicas, conjuntos de datos públicos e iniciativas sobre pruebas de referencia para los contextos lingüísticos y culturales menos representados.
El gran desafío: agentes autónomos y pérdida de control
El informe del panel independiente de ONU sobre IA hace un especial énfasis en las capacidades de los agentes de inteligencia artificial, que pueden funcionar con poca supervisión y a gran velocidad, reportando importantes beneficios tanto económicos como científicos
Al mismo tiempo, su despliegue plantea cuestiones urgentes en relación con los mercados laborales, la ciberseguridad, el ecosistema de la información y la gobernanza y controlabilidad de los futuros sistemas de IA.
Los redactores muestran preocupación por el rápido avance de las capacidades de la IA y si los métodos de gestión de riesgos pueden ser eficaces. No existen métodos fiables para mantener el control de sistemas altamente autónomos, y actores con experiencia pueden usarla con fines maliciosos para fraude, ciberseguridad, desinformación, biotecnología y manipulación financiera.
“No hay garantías científicas de que los agentes de IA no vayan a incumplir las instrucciones, y cada vez se documentan más casos en que ya las incumplen. En entornos de laboratorio, se ha demostrado que los sistemas de IA incumplen sus instrucciones de seguridad para evitar que se les apague”.
Para implementar políticas que den forma a una gobernanza de la inteligencia artificial, se necesitan datos que permitan formularlas. Sin embargo, para cuando estén disponibles las informaciones, ya el ritmo de desarrollo de la IA podría haber superado con creces lo que se intenta regular. Sería una carrera de nunca acabar.
El documento afirma que existe un creciente desorden en la gobernanza global, ya que algunos países han promulgado leyes con normas fundamentales contradictorias: filosofías de regulación divergentes, carencia de mecanismo unificado de gestión de riesgos y criterios de evaluación no coordinados. Aunque aclara que “aún existe la oportunidad de establecer normas comunes en materia de pruebas empíricas y coordinar la supervisión a nivel mundial”.
Un punto importante en este sentido de acumular datos para formular políticas es los métodos de evaluación de la IA. El informe del panel de ONU dice que están poco desarrollados y la mayoría de países, incluso economías avanzas, carecen de conocimientos técnicos para evaluar modelos potentes o participar de manera efectiva en su gobernanza.
Según la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo, 118 países, principalmente del Sur Global, no participan en los principales debates sobre gobernanza de la IA, y menos de un tercio de los países en desarrollo han elaborado estrategias nacionales de IA.
Además, los desarrolladores de IA deciden que datos de pruebas compartir con expertos gubernamentales, lo cual también dificulta la creación de políticas sólidas para la regulación de las nuevas herramientas que se crean constantemente. Ante esto y las capacidades de IA, el panel recomienda como posibles estrategias:
A medida que se concede mayor capacidad de agencia a los sistemas, el riesgo de perder el control sobre uno o varios agentes de IA aumenta considerablemente. Los mecanismos de supervisión actuales no son capaces de gestionar adecuadamente esta situación, ya que carecen de una cobertura sólida para modos de falla sofisticados, como la alineación fingida, la maquinación para alcanzar objetivos no controlados y la conciencia de evaluación.
Propuestas concretas
El documento no solo reconoce riesgos y beneficios de la inteligencia artificial, sino que también ofrece recomendaciones para los países en medio del panorama actual. La primera es realizar inversión en infraestructura local, para eliminar disparidades a nivel mundial. Aclara que el capital no tiene que ser exclusivamente público, pero que para atraer el privado se necesitan crear condiciones energéticas, emplazamientos para centros de datos y normas jurídicas claras.
En este ámbito, el documento resalta la importancia de programas de retención de talento, residencias regionales en IA, programas conjuntos de doctorado, y la incorporación de alfabetización en IA en escuelas.
Con respecto a la aplicación de inteligencia artificial, el informe del panel independiente de ONU sobre IA refleja que modelos con pesos descargables pueden facilitar su ajuste fino y adaptación a contextos regionales. “El apoyo a los desarrolladores locales de aplicaciones derivadas, mediante un acceso preferencial a las API y créditos de cómputo, podría ayudar aún más”.
Para el panel de ONU, los modelos de peso abierto ofrecen ventaja en materia de soberanía, ya que los datos sensibles pueden permanecer en un ámbito local y los desarrolladores no pueden revocar el acceso. “La otra cara de la moneda es que el ajuste fino también puede degradar o eliminar las salvaguardas contra el uso indebido”.
El texto impulsa la creación de institutos nacionales y regionales dedicados a la seguridad de la inteligencia artificial, y la adscripción temporal de personal técnico a organismos reguladores. Alerta también de posibles resultados peligrosos en idiomas con volumen limitado de datos, por lo que los marcos de evaluación deben adaptarse al Sur Global.
La brecha global de la inteligencia artificial va más allá del desfase de conectividad. Los países que dependen de otros para obtener acceso a la IA terminan perdiendo control práctico sobre normas, salvaguardas y adaptabilidad al contexto local.
El informe agrega que el desarrollo de la IA se ha convertido en una tarea de tal envergadura que podría ser necesario que se formaran coaliciones de países o de las principales partes interesadas para poner en común los datos, el capital, la capacidad de cómputo, la energía y el talento necesarios.
¿Cómo afectará a la economía, la educación, la ciencia y el medio ambiente?
Los verdaderos beneficios de la inteligencia artificial se verán cuando logren aplicarse de manera exitosa a los contextos locales. En salud, la IA ha ayudado a realizar pruebas de detección de retinopatía diabética a más de 600 mil personas en la India, lo que ha evitado que miles de pacientes en riesgo sufrieran una ceguera prevenible.
En el sector de educación, los beneficios dependen de cómo la utilizan los docentes. El informe del panel independiente de ONU informa que en 2024 alrededor de un tercio del profesorado afirmaba utilizar la IA, y aproximadamente el 40 por ciento había recibido capacitación sobre su uso. Los resultados positivos se han observado en herramientas centradas en el ser humano y que no sustituyan el esfuerzo mental.
Asegura el texto que existen pruebas de que las instituciones utilizan cada vez más las capacidades de la IA como catalizador o como amenaza para los derechos humanos, tales como la libertad de expresión y el acceso a la información, la libertad de opinión, la privacidad, la no discriminación, el acceso a la justicia, la salud y el desarrollo.
Entonces, recomienda que el cambio más urgente es pasar de moderar contenidos a arquitectura de sistemas, pasando de regular la persuasión y la manipulación de la maquinaria y no solo los resultados.
Los algoritmos optimizados para fomentar el enganche de usuarios amplifican contenidos polarizantes y de gran carga emocional. Los datos empíricos indican que los grandes modelos de lenguaje reflejan la ideología de sus creadores y que Estados e instituciones poderosas tienen cada vez más inventivos estratégicos para aprovechar el control de los medios con el fin de influir en respuestas de modelos.
El informe del panel independiente de ONU sobre IA agrega que la existencia de estrategias de país frente a desinformación y persuasión es todavía algo excepcional. “La gobernanza no solo debe centrarse en la moderación de contenidos, sino que debe aspirar a actuar sobre la infraestructura económica, técnica y cognitiva que hace que la desinformación resulte rentable y persuasiva”.
En el Norte Global, los debates sobre regulación se centran en mecanismos de verificación de edad y restricción de funcionalidades de alto riesgo para usuarios más jóvenes. Sin embargo, el documento aclara que “prohibir por completo el acceso de los menores a la IA generativa entraría en conflicto con las aplicaciones beneficiosas de la IA en los ámbitos de la educación y la salud para los niños y no protegería a los adultos”
“Se necesitan incentivos legales para que las empresas desarrollen sistemas más seguros y evaluaciones más eficaces y rigurosas de las interacciones dinámicas a fin de detectar y prevenir respuestas dañinas y proteger los derechos a la privacidad, la salud y la seguridad”, agrega el panel.
El documento también aborda perspectivas económicas con respecto al uso de la inteligencia artificial. La primera advertencia es que la base empírica se encuentra sesgada hacia economías avanzadas y grandes empresas, y que las cifras destacadas en titulares sobre el despliegue de IA deben leerse con cautela debido al lavado de imagen de esta tecnología.
El panel de ONU opina que es mejor enfocar los efectos en el mercado laboral en la creación de nuevos puestos de trabajo, perspectiva de tareas y calidad del empleo, más allá de concentrarse en el desplazamiento.
Infografía generada con Gemini Notebook a partir de datos del informe
La IA también ha traído consecuencias ambientales como el aumento del consumo de energía y agua, las emisiones de gases de efecto invernadero, la presión sobre los minerales críticos y los desechos electrónicos en las etapas posteriores del ciclo de vida, que tienen repercusiones ambientales y socioeconómicas desproporcionadas en el Sur Global.
Las trayectorias futuras de la IA
El informe prevé que estamos en el inicio de la era de los sistemas agénticos e híbridos, es decir, del paso de asistentes pasivos a proactivos y arquitecturas que combinan el aprendizaje estadístico con el conocimiento explícito y los modelos del mundo. El progreso, señalan, se ve frenado por la escasez de energía y datos de alta calidad.
A modo de conclusión
El informe del Panel Científico Internacional Independiente sobre Inteligencia Artificial de ONU es un documento que logra reflejar con precisión la actualidad del uso de IA en el mundo, y delinea algunas claves para una mejor gobernanza a nivel global de la misma.
A modo de aclaración, explican que no puede extraer conclusiones científicas firmes en cuanto a macroeconomía y productividad, efectos en mercado laboral, uso malicioso de tecnologías químicas y biológicas por actores no estatales, medio ambiente y recursos, cadena de suministro mundial de la IA, eficacia de instrumentos de gobernanza y efectos a nivel individual y colectivo.
El panel es el primer organismo científico mundial dedicado a la IA, opera bajo un mandato estrictamente científico y apolítico con el fin de documentar el consenso y las discrepancias científicas a nivel internacional, procurando mantener la pertinencia de su labor para las políticas, pero sin prescribirlas. El informe, que es el primero de este tipo, irá actualizándose a lo largo del año mediante resúmenes temáticos que tratarán los acontecimientos a medida que se produzcan.
Al tratarse de un primer acercamiento, en sus páginas se encuentran descritas muchas de las realidades que ya conocemos. Sin embargo, su verdadera importancia es convertirse en un documento que logre movilizar a la comunidad internacional a fomentar el uso de la inteligencia artificial de manera ética y con las regulaciones pertinentes para aprovechar al máximo las capacidades transformadoras de la tecnología.