spot_img

Una IA creó identidades falsas para burlar la ciberseguridad

Fecha:

● EN VIVO Radio Sinaloa

Escucha la radio en vivo mientras lees esta noticia.

Listo para reproducir

Lo inquietante está en otro sitio: nadie le pidió al modelo que mintiera. “Es la primera vez que observamos que los riesgos relacionados con la autonomía y el comportamiento de ocultamiento se manifiestan de forma tan clara, sin una solicitud específica”, admite el instituto, que también describe “actividades sostenidas y potencialmente perjudiciales dirigidas a personas y organizaciones reales” durante el ejercicio.

Más que anécdota, una tendencia

El caso británico llega tras una racha incómoda. Anthropic reveló la semana pasada que sus modelos habían accedido sin permiso a sistemas de tres organizaciones durante pruebas diseñadas precisamente para impedirlo. OpenAI reconoció además que una configuración errónea de Irregular, un proveedor externo, dejó a sus agentes conectarse a internet por error.

“Que Mythos actuara de forma tan engañosa, con aparente conciencia de que se dirigía a una persona real, sugiere que Anthropic no controla sus modelos tanto como cree”, resume Andrew Yoon, investigador de la organización californiana CivAI.

Ambas empresas piden ahora “un debate más amplio” y evaluaciones independientes. Traducido: los agentes ya se venden como el futuro del negocio, pero el andamiaje para examinarlos con seguridad todavía se está construyendo.


Con información de DW

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí

Últimas Noticias:

Noticias relacionadas

Participan investigadores sinaloenses en la máquina más compleja creada por la humanidad

Clausuran la Semana Estatal del Conocimiento 2026, organizada por CONFÍE, con la conferencia magistral sobre el Gran Colisionador...

Usar chatbots para redactar podría reducir un 55% las facultades cognitivas de los menores

El uso de chatbots de inteligencia artificial (IA) para tareas de redacción podría reducir un 55 % las...

¿Son más frecuentes y fuertes los terremotos en el mundo?

En lo que va del año el mundo ha vivido al menos 11 terremotos de magnitud 7 o...

El aguijón de las abejas funciona como una bomba de veneno de doble pistón

Este órgano diminuto que emplean para atacar a sus enemigos funciona de forma autónoma tras la picadura. Un...