Más de 200 firmas ha recibido la iniciativa “Llamado mundial para establecer líneas rojas en la IA”, entre las que se encuentran antiguos jefes de estado, premios Nobel, líderes en inteligencia artificial, así como investigadores y científicos. El documento exige un acuerdo global sobre “líneas rojas claras y verificables para evitar riesgos universalmente inaceptables” antes de que culmine el año 2026.
Quienes dejaron su rúbrica en el documento reconocen que la IA tiene amplio potencial para mejorar el bienestar humano, pero alertan de que la trayectoria actual presenta “peligros sin precedentes”. Aunque el texto no menciona explícitamente las líneas rojas del título, si apunta a que puede agravar la desinformación, manipulación, problemas de seguridad nacionales y globales, desempleo masivo y violaciones de derechos humanos.
Entre los firmantes se encuentran Geoffrey Hinton y Yoshua Bengio, ganadores del Premio Turing, Wojciech Zaremba, cofundador de OpenAI, Jason Clinton, Oficial de Seguridad de la Información de Anthropic, e Ian Goodfellow, científico investigador de Google.
Alertan que algunos sistemas de IA han mostrado comportamientos engañosos y dañinos. Y a pesar de eso, cada vez reciben más autonomía para la toma de decisiones. Esta preocupación les lleva a advertir que será cada vez más difícil ejercer control humano significativo en los próximos años.
Y esta misma semana, OpenAI ha puesto en el punto de mira las maquinaciones de IA, que explican a partir de un corredor de bolsa. Puede tener más ganancias infringiendo la ley y cubriendo sus huellas. Los creadores de ChatGPT se asociaron con Apollo Research para estudiar el fenómeno y opciones de mitigarlo.
“Utilizando las acciones encubiertas como indicador de la maquinación, detectamos comportamientos problemáticos en los modelos de frontera actuales, como OpenAI o3 y o4-mini, Gemini-2.5-pro y Claude Opus-4”, explicaron. El dictamen de la investigación es que el sector no está preparado para modelos que presenten razonamiento opaco, e insta a preservar la transparencia de la IA hasta que tengamos mejores métodos para estudiar y eliminar maquinaciones.
Las líneas rojas en IA continuarán surgiendo a medida que las capacidades de los modelos de lenguaje evolucionen. Y es algo que está ocurriendo prácticamente por día. Si antes podíamos identificar con mayor facilidad el contenido generado por inteligencia artificial, ahora se dificulta debido a los ajustes a modelos existentes y los nuevos que van surgiendo.
Flash del día
NVIDIA y OpenAI anunciaron una carta de intención para una asociación estratégica con el fin implementar al menos 10 gigavatios de sistemas NVIDIA para la infraestructura de IA de próxima generación de OpenAI.
“La infraestructura computacional será la base de la economía del futuro, y utilizaremos lo que estamos desarrollando con NVIDIA para crear nuevos avances en IA y empoderar a las personas y las empresas con ellos a gran escala”, dijo Sam Altman, cofundador y director ejecutivo de OpenAI..
Prompt de la semana
La inteligencia artificial puede ser tu entrenador de gimnasio si la usas con este prompt:
“Meta: [pérdida de grasa + retención muscular]. Equipo: [mancuernas + peso corporal]. Constrúyeme un plan de 12 semanas con sobrecarga progresiva (conjuntos, repeticiones, aumentos de peso).