En la película Lucy (2014) Scarlett Johansson interpreta a una joven con ese nombre que con el paso de los minutos va aumentando el porciento que utiliza de su cerebro, hasta llegar a 100. Algo similar acaba de advertir Anthropic con respecto a la creación de un modelo de IA capaz de auto-mejora recursiva (RSI, por sus siglas en inglés).
La auto-mejora recursiva (RSI, por sus siglas en inglés) es un proceso en el que un sistema de inteligencia artificial participa en el desarrollo de versiones sucesivas de sí mismo. Si cada nueva generación adquiere mayores capacidades para investigar, diseñar y entrenar a su sucesora, podría producirse un ciclo de mejoras acumulativas que aceleraría considerablemente el desarrollo de la IA.
La empresa creadora de Claude delega cada vez una mayor parte de su trabajo a los propios sistemas de inteligencia artificial.
“Una IA capaz de autoconstruirse representaría un avance trascendental en la historia de la tecnología, con un potencial enorme para el mundo en ciencia, salud y otros ámbitos. Sin embargo, la auto-mejora recursiva completa también podría aumentar el riesgo de que los humanos pierdan el control sobre los sistemas de IA”, escribieron en una publicación de blog.
En mayo de 2026, más del 80 por ciento del código incorporado a la base de código de Anthropic había sido escrito por Claude. Además, sus modelos podían igualar o superar a expertos humanos en la ejecución de experimentos con objetivos y parámetros previamente definidos.
No obstante, todavía persisten diferencias importantes en su capacidad para decidir qué investigar, identificar objetivos relevantes y determinar qué problemas merecen atención, tanto en ingeniería como en investigación científica.
Esas brechas son precisamente las que se podrían cerrar en caso de que futuros modelos de Anthropic si tengan auto-mejora recursiva. Claude podría ayudar a crear a su sucesor, teniendo en cuenta las fallas que posee y lo “aprendido” durante su uso y entrenamiento, además de nuevas capacidades adquiridas.
En el artículo, se insiste en la necesidad de poner un freno al desarrollo de la inteligencia artificial. Este punto ha sido recurrente en el discurso reciente de Anthropic, y no deja de ser llamativo. ¿Por qué una empresa líder de IA propone una pausa?
Una aclaración. Anthropic en ningún momento afirmó que uno de sus modelos de IA alcanzó la auto-mejora recursiva. En el artículo reflejaron con datos que sus modelos poseen cada vez mejores prestaciones y advirtió de esa posibilidad. Cabe preguntarnos, como en la película mencionada al inicio, qué pasará cuando la IA “alcance el 100 % de su cerebro”.
En un formulario S-1 presentado ante la Comisión de Bolsa y Valores de Estados Unidos, la empresa declaró que “nuestro creciente uso de sistemas de IA para acelerar nuestra propia investigación y desarrollo puede provocar que las capacidades de nuestros modelos avancen más rápidamente que nuestra capacidad para desarrollar, validar e implementar las medidas de seguridad, alineación y protección correspondientes”.
Flash del día
OpenAI afirma que está reforzando los controles de ChatGPT en lo que respecta a la violencia. Las cuentas de adolescentes tendrán mayores limitaciones para recibir información relacionada con armas del chatbot, “incluso cuando una pregunta parezca inofensiva”.
También se están implementando restricciones adicionales para todos los usuarios sobre cómo ChatGPT responde a preguntas acerca de ataques masivos pasados, compartiendo menos detalles sobre quiénes los portaban, las armas utilizadas y cómo se obtuvieron.
Prompt de la semana
Los chats demasiado largos con una herramienta de inteligencia artificial terminan perdiendo calidad. Utiliza este prompt para resolver ese problema:
“Este chat ha llegado a ser demasiado largo. Escribe un documento completo de traslado para un nuevo chat: el objetivo, todo el contexto necesario para entenderlo desde cero, cada decisión que tomamos y por qué, lo que ha terminado, lo que queda en orden, y el siguiente paso exacto. Detallado lo suficiente para que una nueva IA sin memoria reciba justo donde nos detuvimos.”