Foto: ZDNet
Una de las noticias más destacadas de esta semana en lo referente al sector de la inteligencia artificial es la filtración del código fuente de Claude Code, la herramienta de programación de Anthropic. Ocurrió por un descuido técnico en el paquete público de Claude Code, desarrollado por Anthropic.
Dentro de ese paquete se incluyó un archivo de “mapa de código” (source map), que normalmente se usa para depurar errores. Este tipo de archivo permite reconstruir el código original escrito en TypeScript. El mapa contenía una referencia a un archivo .zip almacenado en un sistema de Cloulflare R, sin la protección adecuada.
Al acceder, se podía descargar un paquete con alrededor de 1900 archivos de TypeScript y más de 500 000 líneas de código, incluyendo herramientas internas y comandos completos del sistema. En otras palabras, no se filtró solo una parte del código, sino una porción significativa del funcionamiento interno de la herramienta.
Observadores que analizaron las líneas filtradas descubrieron referencias a funciones deshabilitadas, ocultas o inactivas. Entre ellas destaca Kairos, que puede operar en segundo plano incluso con la ventana de la herramienta cerrada. Enviaría avisos regulares para revisar si se necesitan nuevas acciones o mostrar información que el usuario necesita ver de inmediato, aunque no la haya solicitado.
El sistema está diseñado para tener una visión completa de quién es el usuario, cómo prefiere colaborar, qué comportamientos evitar o repetir y el contexto del trabajo que le proporciona. El código fuente que conocemos con motivo de la filtración indica que Claude Code incluye referencias a un sistema, denominado AutoDream, que le notifica a la herramienta que está realizando un sueño: un recorrido reflexivo por sus archivos de memoria.
Un «modo encubierto» independiente parece estar inactivo, lo que permite a los empleados de Anthropic contribuir a repositorios públicos de código abierto sin revelar su identidad como agentes de IA. Las indicaciones de referencia para este modo se centran principalmente en proteger los «nombres en clave de modelos internos, nombres de proyectos u otra información interna de Anthropic» para que no se hagan públicos accidentalmente a través de confirmaciones de código abierto.
Un portavoz de Anthropic dijo que tras la filtración del código fuente de Claude Code no se vieron expuestos datos ni credenciales de clientes. “Fue un problema de empaquetado de la versión causado por un error humano, no una brecha de seguridad. Estamos implementando medidas para evitar que esto vuelva a suceder”.
Anthropic lleva unas semanas ajetreadas, y la filtración solo complica más la situación. A su conflicto con el gobierno de Estados Unidos se suman informes de la vulnerabilidad de Claude a la inyección de prompts (pensados para burlar los límites de la herramienta) y ataques similares, como el detectado en la extensión de Claude Code para Google Chrome. Denominada ShadowPrompt, podría haber permitido la extracción de datos confidenciales. En este panorama, Anthropic ha limitado el rendimiento de sus herramientas durante algunos horarios para enfrentar la demanda.
Los problemas de seguridad que enfrentan Claude y su casa matriz Anthropic podrían ser un reflejo del apuro en el lanzamiento de nuevas versiones de sus herramientas. La carrera de la IA es un hecho y un término que se repite mucho, pero el entusiasmo por querer llevar la delantera no debe llevar a después estar corrigiendo brechas de seguridad. Alguna vez será demasiado tarde.
Flash del día
OpenAI afirmó que el rápido avance de la IA requeriría reformas económicas y políticas de gran alcance, incluyendo un fondo público para la gestión de la riqueza, impuestos sobre el trabajo automatizado y una posible semana laboral de cuatro días.
El documento, disponible aquí, señala que “ofrece ideas iniciales para una agenda de política industrial que priorice a las personas durante la transición hacia la superinteligencia. Está organizado en dos secciones: 1) construir una economía abierta con amplio acceso, participación y prosperidad compartida; y 2) construir una sociedad resiliente mediante la rendición de cuentas, la alineación y la gestión de los riesgos fronterizos”.
Prompt de la semana
Esta semana no te traemos un prompt de IA específico, sino un consejo para obtener mejores resultados. Incluye esto en tus instrucciones:
“Antes de responder, hazme 5 preguntas para que puedas darme la mejor respuesta posible.”
En lugar de adivinar lo que necesitas, ChatGPT te entrevista primero. La respuesta que obtengas después de esas 5 preguntas será completamente diferente de la que obtendrías sin ellas.