Foto: Anthropic
El pasado 9 de junio, Anthropic anunció con bombo y platillos el lanzamiento de dos nuevos modelos: Claude Fable 5 y Claude Mythos 5. Conscientes de que las capacidades del primero en materia de ciberseguridad podrían emplearse con malas intenciones, la empresa puso medidas de protección. Por ejemplo, algunas respuestas vendrían del modelo previo, Claude Opus 4.8. Esto no fue suficiente para el gobierno de Estados Unidos.
Apenas tres días después de la salida de la herramienta al público, la administración de Donald Trump ordeno a la empresa que limitara el acceso a Mythos 5 y Fable 5 a ciudadanos estadounidenses. Esto significaba que incluso los empleados extranjeros de Anthropic tenían prohibido usar los modelos. Anthropic optó por retirar los modelos del mercado por completo ante las preocupaciones por su seguridad.
“Sin embargo, no estamos de acuerdo en que el descubrimiento de una posible vulnerabilidad limitada deba ser motivo para retirar un modelo comercial implementado para cientos de millones de personas. Si este criterio se aplicara a toda la industria, creemos que paralizaría prácticamente todos los nuevos lanzamientos de modelos para todos los proveedores de modelos de vanguardia”, publicó la empresa en su página web.
La capacidad de Mythos de detectar errores en código podría explotarse por actores no éticos. Anthropic lo sabe, y lanzó Fable 5 con medidas de seguridad para impedir su uso con esos fines. Una forma de saltarse esos controles es con un jailbreak (un procedimiento para liberar restricciones en dispositivos o softwares). Anthopic descartó que esa posibilidad ocurra con estos productos.
Según The Wall Street Journal, el director ejecutivo de Amazon, Andy Jassy informó al secretario del Tesoro Scott Bessent y a otros funcionarios que sus investigadores utilizaron Fable 5 para obtener información que podría usarse en ciberataques.
David Sacks, actual copresidente del Consejo de Asesores Presidenciales en Ciencia y Tecnología, dijo que “un socio de confianza, altamente creíble, tanto de Anthropic como del gobierno estadounidense, presentó una vulnerabilidad”. La administración le pidió a Dario Amodei, director ejecutivo de Anthropic, que solucionara la vulnerabilidad o que retirara el modelo. “Dario se negó”, dijo Sacks.
Lo que ha hecho Estados Unidos no es más que, alegando preocupaciones de seguridad, apropiarse del modelo más potente hasta la fecha. La carrera de la IA ya no solo se juega en el acceso a procesadores, sino también del software. Y las empresas no pueden hacer nada para evitarlo. China sigue siendo una amenaza, aunque opta por liberar sus modelos a todo público. Dos aproximaciones distintas al mismo punto.
Flash del día
SpaceX seguirá adelante con la adquisición de Cursor por 60.000 millones de dólares. Desarrollada por la startup Anysphere de San Francisco, es un popular asistente de programación con IA. La amplia distribución de Cursor entre ingenieros de software expertos probablemente fue uno de los factores que la hicieron atractiva para la compañía de Elon Musk.
Cursor compite con otras herramientas de programación como Claude Code de Anthropic y Codex de OpenAI, pero también ha dependido en gran medida de las alianzas con estas grandes empresas de investigación en IA para el desarrollo de su tecnología.
Prompt de la semana
Redecora tu casa (y mira cómo queda) usando este prompt de inteligencia artificial:
Primero envía una foto de tu habitación con este texto: “Odio [la iluminación, el color de la pared, el sofá, la disposición]. Cambia solo esa cosa y muéstrame cómo es. Mantén todo lo demás exactamente igual”.