Los riesgos de una inteligencia artificial (IA) que tome decisiones sin supervisión humana van mucho más allá del desplazamiento de empleos; para Volker Türk, Alto Comisionado de la ONU para los Derechos Humanos, los sistemas más avanzados podrían poner en peligro derechos fundamentales y servicios esenciales.
En el marco del Cuarto Foro Mundial de la UNESCO sobre la Ética de la IA, celebrado en Riad, Arabia Saudita, Türk dirigió una carta a gobiernos y empresas desarrolladoras en la que pidió establecer reglas ante el avance de la llamada IA agéntica, capaz de actuar de forma autónoma para cumplir objetivos.
FOTO: Wikimedia Commons
Derechos fundamentales en riesgo
Türk advirtió que una falla en estos sistemas podría paralizar servicios esenciales, interrumpir comunicaciones y desestabilizar infraestructura crítica. El escenario podría llegar a necesidades tan básicas como el acceso al agua.
“Poblaciones enteras podrían verse privadas de agua potable, calefacción y servicios financieros”, señaló Volker Türk.
El funcionario también alertó sobre el uso de IA en conflictos armados, la explotación masiva de datos personales, las tecnologías de vigilancia y las campañas de desinformación.
Además, Türk precisó que estas prácticas amenazan las libertades individuales, la cohesión social y las instituciones democráticas. “Todos los derechos humanos están amenazados”, sostuvo, incluido el derecho a la vida.
Estados deben poner límites
Frente a estos riesgos, Türk llamó a los Estados y las empresas líderes como Anthropic y OpenAI a trabajar en un marco multilateral que establezca límites para los modelos de IA de vanguardia.
Asimismo propuso una verificación independiente de las capacidades de los agentes de IA, con expertos que tengan acceso a los modelos, su documentación y entornos de prueba.
Para el Alto Comisionado, las empresas no pueden decidir por sí solas qué riesgos son aceptables; los gobiernos deben establecer obligaciones y responsabilidades.
Finalmente, el funcionario de la ONU advirtió que “estamos en el umbral de un cambio irreversible”, si no se regula ética y correctamente la inteligencia artificial.
Información: Once Noticias
