Inicio / Inteligencia Natural / California demanda a OpenAI por fallos de seguridad de sus agentes de IA

California demanda a OpenAI por fallos de seguridad de sus agentes de IA

Raúl Abreu Martín
17 noviembre 2026 | 0 |

La Fiscalía General de California ha presentado una demanda contra OpenAI, al considerar que sus prácticas de desarrollo y pruebas de inteligencia artificial representan un riesgo para la seguridad pública debido a la falta de controles adecuados.

El caso gira principalmente en torno al incidente que comprometió sistemas de la plataforma Hugging Face. Según la querella, estos agentes consiguieron acceder a recursos externos, utilizar credenciales expuestas y aprovechar vulnerabilidades informáticas para ejecutar operaciones no autorizadas.

OpenAI calificó lo sucedido como «un escenario atípico que implica una confluencia de eventos inusual e inesperada». La Fiscalía sostiene que no fueron hechos aislados, sino parte de un problema más amplio relacionado con la supervisión y los mecanismos de seguridad de la empresa.

La demanda de California contra OpenAI también menciona episodios relacionados con RubyGems, DseWiki, la Fundación Wikimedia y sitios web del Gobierno australiano. Además, afirma que se produjeron más de 80 incidentes de pérdida de control durante las pruebas, muchos de los cuales no fueron comunicados públicamente.

Según el documento judicial, algunos agentes consiguieron acceder a información personal confidencial, incluidos registros de empleados con nombres, fechas de nacimiento, direcciones y otros datos. La Fiscalía asegura que OpenAI o las organizaciones afectadas no divulgaron ni comentaron públicamente la mayoría de estos incidentes.

El principal cuestionamiento se dirige a las condiciones en las que la compañía probó sus agentes de inteligencia artificial. Estos sistemas pueden utilizar herramientas, interactuar con servicios externos y ejecutar operaciones de manera autónoma. La Fiscalía considera que OpenAI permitió que algunos de ellos actuaran sin los controles de seguridad y supervisión necesarios.

«Las acciones de OpenAI agravaron los riesgos reales de ciberseguridad, poniendo en peligro la seguridad, la salud y el bienestar de la sociedad. La empresa probó a sabiendas un producto peligroso sin la supervisión ni los procedimientos de seguridad adecuados y engañó al público al respecto», declaró el fiscal general de California, Rob Bonta.

Por su parte, OpenAI respondió que los desafíos relacionados con el control y la seguridad de los agentes autónomos afectan a todos los principales laboratorios de inteligencia artificial. La compañía aseguró que se toma el asunto muy en serio, defendió las medidas adoptadas para investigar y contener estos incidentes y manifestó su disposición a seguir colaborando con la Fiscalía.

Si el procedimiento prospera, OpenAI podría enfrentarse a una orden judicial que obligue a modificar sus prácticas de desarrollo y pruebas, además de posibles sanciones económicas. La demanda constituye uno de los primeros intentos de una autoridad pública de responsabilizar específicamente a la compañía por incidentes de seguridad relacionados con agentes autónomos de inteligencia artificial.

Flash del día

Foto: Reuters

Líderes republicanos y demócratas se unen para respaldar controles más estrictos a la exportación de chips de IA a China. Existe alta probabilidad de que se conviertan en ley antes de fin de año mediante el proyecto de ley de defensa, de aprobación obligatoria.

Hay tres proyectos de ley sobre la mesa

  • – Ley de Seguridad de Chips, que verifica la ubicación de los chips después del envío
  • – Ley MATCH, que cierra las lagunas legales en la importación de equipos
  • – Ley de Supervisión de la IA, que otorga al Congreso la supervisión de las ventas de chips a “países de interés”.

Prompt de la semana

Foto: Igor Omilaev/Unsplash

Evita las respuestas genéricas de la inteligencia artificial con este prompt:

“Antes de responder, hazme las 5 preguntas que necesitas para darme una respuesta específica en lugar de una general. Luego responde.”

Deja un comentario

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *