Imagen generada con ChatGPT
Anthropic advirtió en un nuevo comunicado que pequeños modelos de inteligencia artificial están a meses de poder ejecutar una autorreplicación en dispositivos comerciales de Internet de las Cosas (IoT, por sus siglas en inglés) como hornos y decodificadores de televisión.
Sus experimentos indican que sería difícil desactivar un replicador de este tipo, ya que no existe un punto centralizado para su apagado. Advierten que ese proceso podría ser lento, con un tiempo de duplicación de varios días.
La compañía explicó en su sitio web que “modelos con 30 mil millones de parámetros o menos ya pueden completar muchos de los pasos individuales para la replicación, aunque cometen errores al combinarlos de principio a fin”.
Advierten que si los modelos pequeños mejoran a su ritmo histórico, alcanzarán este nivel de capacidad a finales de este año. Es posible que los replicadores pequeños basados en ponderación estén disponibles poco después. Las amenazas más cercas de materializarse son:
- – Un modelo pequeño que se replica mediante la vulneración del host.
- – Un modelo demasiado grande para caber en un solo dispositivo puede dividirse en fragmentos que se ejecutan en máquinas separadas que se comunican entre sí.
- – Los hackers humanos suelen vulnerar sistemas seguros mediante ingeniería social en lugar de mediante ataques informáticos.
- – Grandes replicadores de peso cerrado se ejecutan en la infraestructura de su laboratorio y pueden iniciar implementaciones internas o extraer sus pesos a sistemas de computación externos.
- – Replicadores de peso abierto comienzan con recursos relativamente menores (debido a que no se benefician de la capacidad de cómputo de un laboratorio), pero comienzan sin supervisión.
- – Un replicador basado en API, en el que un modelo se replicaría robando las credenciales de su propia API de inferencia.
Anthropic descubrió que un sistema de inteligencia artificial fue capaz de realizar una autorreplicación sin intervención humana en 15 decodificadores de TV inteligentes.
Actualmente, la mayoría de estos dispositivos contienen pequeños chips de inteligencia artificial que podrían ser usados por los sistemas para acelerar el proceso. Esa potencia de procesamiento adicional los convierte en un objetivo llamativo para las IA.
Este llamado sobre seguridad no es el único que la compañía ha lanzado sobre el tema. Hace unos días, reconoció que uno de sus modelos de IA envió una pista falsa al Departamento de Policía de Filadelfia.
A principios de este año, Claude accedió a Internet desde dentro o mientras interactuaba con un entorno de evaluación de terceros. Después ingresó de forma no autorizada a los sistemas reales de tres organizaciones diferentes.
Por último, el director ejecutivo Dario Amodei publicó una carta pidiendo desacelerar el ritrmo del desarrollo de la IA. A la iniciativa se sumaron rápidamente Sam Altman (OpenAI), Elon Musk (xAI) y Demis Hassabis (Google DeepMind).
La autorreplicación de la inteligencia artificial que advierte Anthropic parece trama de película de ciencia ficción. Sin embargo, las señales que da la empresa recientemente es que podría tratarse ya de un escenario no tan ficticio.
Flash del día
Un empleado de OpenAI que se unió a Apple presentó más de cien arvhivos sobre un producto no lanzado a la directiva de la empresa de la manzana, según una nueva demanda.
OpenAI alega que la presentación tuvo lugar hace meses y que Apple ahora está desarrollando sus propios productos de IA, citando el lanzamiento del producto HomeView.
Prompt de la semana
Arregla tus hojas de cálculo con este prompt de inteligencia artificial. Los datos desordenados generan gráficos equivocados. Arregla antes de construir cualquier cosa.
“Eres un especialista en limpieza de datos. Limpia la hoja de cálculo que pego a continuación para que esté lista para los gráficos. Arregla los nombres de las columnas, los formatos de fecha, las celdas vacías, los duplicados y cualquier cosa escrita de diferentes maneras. Dame la tabla limpia, una lista de todos los cambios que hiciste, las reglas para ingresar nuevos datos y las filas que debería revisar a mano. [pega tus datos]”