(Foto: Anthropic.)
Anthropic, la empresa detrás del chatbot Claude, publicó las indicaciones del sistema que dan a sus modelos de IA (Claude 3 Opus, Claude 3.5 Sonnet y Claude 3.5 Haiku), lo que deben/no deben hacer, y una guía del tono general de las respuestas del modelo.
Según las últimas indicaciones del sistema (con fecha del 12 de julio) los tres modelos recibieron restricciones claras como: Abrir URL, enlaces o vídeos; identificar o nombrar a ningún humano en las imágenes, y empezar las respuestas con palabras de relleno, como «sin duda» o «absolutamente».
La base de conocimientos de Claude 3.5 Sonnet se actualizó en abril, y Claude 3 Opus y Claude 3.5 Hailku se actualizaron en agosto de 2023, lo que significa que los modelos pueden responder a preguntas utilizando datos conocidos en ese período. Si los modelos no pueden responder a una consulta porque la información no se puede encontrar fácilmente en internet, no se disculparán, sino que advertirán al usuario de que, aunque intentarán dar respuestas precisas, pueden alucinar.
Esto sienta un precedente en el mundo de la inteligencia artificial, pues hasta el momento ninguna otra empresa de este tipo (es decir, OpenAI, Google, Meta y Mistral) ha publicado nunca las indicaciones de sus sistemas, ya sea por razones competitivas o para evitar que los hackers utilicen inyecciones de indicaciones para intentar burlar sus modelos.
El movimiento de Anthropic puede, sin embargo, ser un intento para presentarse como más transparente y ética, y podría desencadenar que otros hagan lo mismo.
Flash del día
Según el Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown, China lidera el volumen mundial de artículos de investigación sobre IA, con la Academia China de las Ciencias a la cabeza.
Mientras, EE.UU. se centra en el desarrollo ético de la IA, asumiendo un papel central en el Observatorio de Políticas de IA de la OCDE, en tanto China prioriza la eficiencia y la escala en sus avances en IA.
Ambos países han invertido mucho en tecnologías militares basadas en IA, como sistemas autónomos, drones y capacidades de análisis geoespacial.
Prompt de la semana
Usaremos Chat GPT para tomar mejores decisiones:
¿Cuáles son algunas estrategias para mejorar la toma de decisiones en situaciones de mucha presión?
Inteligencia Natural es el blog del periodista Ernesto Guerra, para la revista Juventud Técnica. Cada semana trae novedades, herramientas y avisos relacionados con la inteligencia artificial. Comparte el artículo para llegar a más personas.
Si quieres contratar nuestra asesoría en IA, puedes escribirnos en nuestras redes sociales por mensaje directo.