Madrid.– La preocupación sobre el avance de la inteligencia artificial ha tomado fuerza en los últimos días, especialmente por el desarrollo de sistemas capaces de actuar con mayor autonomía y con menos supervisión humana.
El debate ya no se limita a las herramientas de inteligencia artificial generativa, como ChatGPT, que producen contenido a partir de las instrucciones de los usuarios. Ahora la atención está puesta en la llamada IA agéntica, diseñada para ejecutar tareas y tomar determinadas acciones por cuenta propia.
La investigadora de la Universidad Autónoma de Madrid, Alicia Ortiz de Zárate, explicó que estos sistemas cuentan con agentes con mayor capacidad de actuación, complejidad y autonomía.
¿Qué diferencia a la IA agéntica?
A diferencia de una herramienta que simplemente responde a una solicitud, un agente de inteligencia artificial puede ejecutar varias acciones para completar una tarea.
Por ejemplo, si una persona le pide organizar un viaje, el sistema podría consultar vuelos, revisar el calendario, comunicarse con una aerolínea y realizar un pago si cuenta con los permisos necesarios.
Este tipo de tecnología ya está siendo utilizada o desarrollada por empresas de sectores como la banca, los seguros y el comercio electrónico.
Los riesgos van más allá de los usuarios
Los expertos consultados advierten que el mayor desafío aparece cuando estos sistemas comienzan a operar en áreas consideradas estratégicas o sensibles.
La directora de la Fundación ELLIS Alicante, Nuria Oliver, señaló que existe preocupación por la seguridad de infraestructuras esenciales, entre ellas hospitales, sistemas energéticos y áreas relacionadas con la defensa.
Oliver planteó como ejemplo la posibilidad de que un agente, al intentar cumplir una determinada tarea, pudiera tomar decisiones que afectaran sistemas críticos sin una supervisión humana suficiente.
Ortiz de Zárate considera que los riesgos ya conocidos de la inteligencia artificial tradicional pueden adquirir una dimensión mayor cuando los sistemas tienen más autonomía. También señala que mientras más estratégicas sean las áreas en las que operen, mayor será el riesgo y más difícil podría resultar determinar responsabilidades.
¿De quién es la responsabilidad?
Una de las principales discusiones entre los especialistas gira en torno a quién debe responder cuando un sistema autónomo provoca un problema.
Oliver cuestionó la idea de que simplemente pueda decirse que la inteligencia artificial “se salió de control”. A su juicio, la responsabilidad debe recaer en quienes diseñan y desarrollan estos sistemas.
La experta también comparó el escenario con otros sectores en los que existen controles antes de que un producto llegue al público. Considera que una lógica similar debería aplicarse a la inteligencia artificial.
Los expertos piden regular el desarrollo
Para Ramón López de Mántaras, fundador del Instituto de Investigación en Inteligencia Artificial del CSIC, hablar de que los agentes de IA “se rebelan” puede terminar trasladando la responsabilidad desde quienes desarrollaron el sistema hacia la propia tecnología.
El investigador considera que no se trata únicamente de detener o ralentizar el desarrollo de la inteligencia artificial, sino de orientar su evolución hacia herramientas específicas, transparentes, resistentes y que puedan ser controladas.
Los especialistas también cuestionan que la expansión de estos sistemas deba considerarse inevitable y llaman la atención sobre el elevado consumo de recursos que requieren los centros de datos que permiten su funcionamiento.
Regulación y responsabilidad internacional
El director del Centro Singular de Investigación en Tecnoloxías Intelixentes de la Universidade de Santiago de Compostela, Senén Barro, destacó la importancia de establecer mecanismos para evaluar estos sistemas y definir quién responde por sus actuaciones.
En Europa ya existe un reglamento sobre inteligencia artificial, aunque los expertos consideran que será necesario evaluar cómo funcionará frente a la llegada de agentes con mayores niveles de autonomía.
López de Mántaras también planteó la necesidad de una gobernanza internacional que establezca responsabilidades claras. Según explicó, un marco de ese tipo requeriría acuerdos entre grandes potencias tecnológicas como China y Estados Unidos.
El debate, por tanto, ya no gira únicamente en torno a qué puede hacer la inteligencia artificial, sino también a quién controla sus decisiones, quién responde cuando algo sale mal y qué límites deben establecerse antes de que estos sistemas tengan acceso a áreas cada vez más sensibles.
EFE
