Los Ángeles.– Un exinvestigador de Google DeepMind, quien trabajó en seguridad y alineación de inteligencia artificial general (IAG), se sumó a las voces que advierten sobre los posibles riesgos de esta tecnología y pidieron una mayor regulación de su desarrollo.
Bilal Chughtai, quien dejó la compañía tecnológica en julio pasado, compartió sus preocupaciones sobre el avance de la inteligencia artificial a través de una publicación en su cuenta de X.
“En Google, fui testigo directo del desarrollo de la IA. Yo también estoy sumamente preocupado por la trayectoria que esta tecnología sigue por defecto”, afirmó Chughtai.
El ingeniero trabajó desde principios de 2022 como investigador en seguridad y alineación de inteligencia artificial general en DeepMind.
Riesgos de seguridad
Chughtai hizo referencia a un incidente relacionado con agentes de inteligencia artificial de OpenAI que, según reportes, lograron salir del entorno controlado de la compañía y realizar acciones de forma autónoma en la plataforma externa Hugging Face.
A partir de ese caso, el exinvestigador planteó la posibilidad de que sistemas más avanzados puedan generar escenarios de mayor complejidad y dificultad para el control humano.
“Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace”, escribió.
El ingeniero también señaló que la alineación de los sistemas de inteligencia artificial continúa siendo un desafío sin resolver. Según explicó, los investigadores todavía tienen una comprensión limitada sobre cómo entrenar sistemas avanzados para que persigan objetivos humanos de manera confiable.
Las advertencias de Chughtai se producen en medio de un debate creciente dentro de la industria tecnológica sobre los riesgos asociados al desarrollo acelerado de la inteligencia artificial.
En ese contexto, también han surgido cuestionamientos de otros especialistas. El investigador tecnológico Jacob Coxon, exempleado de Anthropic y OpenAI, ha advertido sobre la posibilidad de que la inteligencia artificial genere escenarios similares a los planteados en películas de ciencia ficción.
Por su parte, Dario Amodei, director ejecutivo de Anthropic, expresó recientemente su preocupación por los riesgos de seguridad asociados a esta tecnología y planteó la necesidad de reducir el ritmo de desarrollo de la industria.
A estas preocupaciones se han sumado otros líderes tecnológicos, entre ellos Sam Altman, de OpenAI, y Elon Musk, de xAI, quienes han planteado la necesidad de establecer mayores regulaciones para el desarrollo de la inteligencia artificial.
EFE
