Artículos archivo - Página 15 de 61

Imagen: creada por Sora IA Más de 200 firmas ha recibido la iniciativa "Llamado mundial para establecer líneas rojas en la IA", entre las que se encuentran antiguos jefes de estado, premios Nobel, líderes en inteligencia artificial, así como investigadores y científicos. El documento exige un acuerdo global sobre "líneas rojas claras y verificables para evitar riesgos universalmente inaceptables" antes de que culmine el año 2026. Quienes dejaron su rúbrica en el documento reconocen que la IA tiene amplio potencial para mejorar el bienestar humano, pero alertan de que la trayectoria actual presenta "peligros sin precedentes". Aunque el texto no menciona explícitamente las líneas rojas del título, si apunta a que puede agravar la desinformación, manipulación, problemas de seguridad nacionales y globales, desempleo masivo y violaciones de derechos humanos. Entre los firmantes se encuentran Geoffrey Hinton y Yoshua Bengio, ganadores del Premio Turing, Wojciech Zaremba, cofundador de OpenAI, Jason Clinton, Oficial de Seguridad de la Información de Anthropic, e Ian Goodfellow, científico investigador de Google. Alertan que algunos sistemas de IA han mostrado comportamientos engañosos y dañinos. Y a pesar de eso, cada vez reciben más autonomía para la toma de decisiones. Esta preocupación les lleva a advertir que será cada vez más difícil ejercer control humano significativo en los próximos años. Y esta misma semana, OpenAI ha puesto en el punto de mira las maquinaciones de IA, que explican a partir de un corredor de bolsa. Puede tener más ganancias infringiendo la ley y cubriendo sus huellas. Los creadores de ChatGPT se asociaron con Apollo Research para estudiar el fenómeno y opciones de mitigarlo. "Utilizando las acciones encubiertas como indicador de la maquinación, detectamos comportamientos problemáticos en los modelos de frontera actuales, como OpenAI o3 y o4-mini, Gemini-2.5-pro y Claude Opus-4", explicaron. El dictamen de la investigación es que el sector no está preparado para modelos que presenten razonamiento opaco, e insta a preservar la transparencia de la IA hasta que tengamos mejores métodos para estudiar y eliminar maquinaciones. Las líneas rojas en IA continuarán surgiendo a medida que las capacidades de los modelos de lenguaje evolucionen. Y es algo que está ocurriendo prácticamente por día. Si antes podíamos identificar con mayor facilidad el contenido generado por inteligencia artificial, ahora se dificulta debido a los ajustes a modelos existentes y los nuevos que van surgiendo. Flash del día Foto: NVIDIA Newsroom NVIDIA y OpenAI anunciaron una carta de intención para una asociación estratégica con el fin implementar al menos 10 gigavatios de sistemas NVIDIA para la infraestructura de IA de próxima generación de OpenAI. “La infraestructura computacional será la base de la economía del futuro, y utilizaremos lo que estamos desarrollando con NVIDIA para crear nuevos avances en IA y empoderar a las personas y las empresas con ellos a gran escala”, dijo Sam Altman, cofundador y director ejecutivo de OpenAI.. Prompt de la semana Foto: Kelly Zikkema/Unsplash La inteligencia artificial puede ser tu entrenador de gimnasio si la usas con este prompt: “Meta: . Equipo: . Constrúyeme un plan de 12 semanas con sobrecarga progresiva (conjuntos, repeticiones, aumentos de peso).

Científicos y líderes mundiales demandan líneas rojas en IA

Reseña de Silent Hill f, terror japonés a la altura de la saga

La evolución, ¿es competencia o colaboración?

Navegando en balsas por el Toa (1)

Cuba aprueba reglamento para el acceso a los mercados de carbono

Las dos culturas: ciencia y humanidades en diálogo

“Tal vez todos seamos el sueño de un dios demente”

Fraudes científicos de este siglo (37): Joachim Boldt y su perfusión almidonada

España bajo la sombra de la Luna

Microsoft coquetea con Anthropic pero no deja a OpenAI

Desmontando mitos de la industria petrolera: “El pozo siempre se revienta cuando se encuentra petróleo”

Oficina Técnica de Ozono: 30 años de acción ambiental

Nelson Luis Espinosa Pena: “Todo tiene solución, alternativas”

Los anuncios destacados del Nintendo Direct de septiembre

Juventud Técnica obtiene dos lauros en la Segunda Edición del Premio Nacional de Periodismo de Investigación “Quijote de Cuba”

Algunas notas sobre el mercado informal de divisas cubano

¿Qué es Ichthyosaurus torrei? El último secreto del Jurásico caribeño

Taller Cuba-China establece propuestas concretas para la colaboración científica

Un error y un milagro buscando el Pico San Juan (2022)

Knives Out 3, vistazo a Dr. Doom y ¿regreso de Hannibal?

La misión JUICE de la Agencia Espacial Europea, rumbo a las lunas de Júpiter

Los coleópteros

Fraudes científicos de este siglo (36): Dipak Kumar Das y su obsesión con el vino tinto

Premio HYDRA de noveleta de ciencia ficción y fantasía/Bases