Lo inquietante está en otro sitio: nadie le pidió al modelo que mintiera. “Es la primera vez que observamos que los riesgos relacionados con la autonomía y el comportamiento de ocultamiento se manifiestan de forma tan clara, sin una solicitud específica”, admite el instituto, que también describe “actividades sostenidas y potencialmente perjudiciales dirigidas a personas y organizaciones reales” durante el ejercicio.
Más que anécdota, una tendencia
El caso británico llega tras una racha incómoda. Anthropic reveló la semana pasada que sus modelos habían accedido sin permiso a sistemas de tres organizaciones durante pruebas diseñadas precisamente para impedirlo. OpenAI reconoció además que una configuración errónea de Irregular, un proveedor externo, dejó a sus agentes conectarse a internet por error.
“Que Mythos actuara de forma tan engañosa, con aparente conciencia de que se dirigía a una persona real, sugiere que Anthropic no controla sus modelos tanto como cree”, resume Andrew Yoon, investigador de la organización californiana CivAI.
Ambas empresas piden ahora “un debate más amplio” y evaluaciones independientes. Traducido: los agentes ya se venden como el futuro del negocio, pero el andamiaje para examinarlos con seguridad todavía se está construyendo.
