Cuando falla una IA, ¿qué ha fallado?

Dos incidentes de inteligencia artificial acabaron tocando sistemas reales por caminos distintos. Las explicaciones de las empresas hablan de dos cosas a la vez: cómo se comportó el modelo y en qué condiciones lo hizo. En este episodio separamos las dos, y vemos qué se puede comprobar de cada una. CAPÍTULOS 00:00 Un ataque que se salió de la simulación 01:12 Qué contó Anthropic en julio 02:24 Describir un entorno no es comprobarlo 05:26 El caso de OpenAI y Hugging Face 08:25 Qué añadieron los informes de agosto 11:51 Una medida con plazo que sí se puede comprobar 14:47 Factores humanos: cómo se investiga en calidad 20:02 Conducta y controles, dos trabajos que se necesitan 21:59 Qué preguntar cuando te llega el informe TRES COSAS QUE TE LLEVAS Una frase que describe un entorno no lo configura. Dar la instrucción y comprobar los permisos son dos trabajos distintos, y hacer bien el primero no demuestra que hayas hecho el segundo. Una medida con un plazo concreto deja abierta la posibilidad de descubrir que no se cumplió. Una frase tan amplia que encaja con cualquier resultado, no. Anunciar una medida, aplicarla y comprobarla son tres cosas distintas. Ninguna de las tres equivale a "ya no puede ocurrir". FUENTES ESENCIALES Anthropic, 30 de julio de 2026: https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals OpenAI, 26 de agosto de 2026: https://openai.com/index/hugging-face-incident-and-the-road-ahead/ METR y Redwood, 26 de agosto de 2026: https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/ Anthropic, 31 de agosto de 2026: https://www.anthropic.com/news/improving-alignment-security-efforts Página del episodio, con las fuentes y los capítulos: https://nextwave.today/articulos-cuando-falla-una-ia-que-ha-fallado/ 🌐 https://nextwave.today 🌊 Next Wave Today, IA y tecnologías emergentes en español, sin hype y con los pies en la tierra. Nuevo episodio cada semana.