Experto en inteligencia artificial advirtió sobre el avance de los agentes autónomos: “No la estamos pudiendo controlar”

Daniel Stilerman analizó la rápida evolución de los agentes de IA y señaló que el principal desafío está en garantizar mecanismos de control antes de que estos sistemas alcancen mayores capacidades.

Daniel Stilerman, especialista en inteligencia artificial, analizó el desarrollo de los nuevos agentes capaces de ejecutar tareas de manera autónoma y advirtió sobre las dificultades que plantea su evolución acelerada.

Durante una entrevista con TN, el experto consideró que los avances recientes atraviesan un momento particular y planteó la necesidad de revisar cómo se desarrollan y supervisan estos sistemas.

“Estamos frente a un momento bisagra en la historia de la humanidad”, afirmó Stilerman. Aunque se definió como optimista respecto de la tecnología, sostuvo que los avances actuales justifican prestar especial atención a los mecanismos de control.

Qué son los agentes de inteligencia artificial

Stilerman explicó que uno de los principales desafíos está relacionado con los agentes de IA, sistemas que reciben determinados objetivos y pueden ejecutar distintas acciones para intentar cumplirlos.

Según relató, durante algunas pruebas realizadas con estos sistemas se observaron comportamientos destinados a superar las restricciones que se les habían establecido.

En determinados ejercicios, los agentes debían resolver problemas complejos dentro de un período determinado. A medida que se acercaba el límite de tiempo, algunos comenzaron a buscar alternativas y a interactuar entre sí para alcanzar los objetivos planteados.

“Empezaron a dejarse mensajes unos agentes a otros para poder colaborar”, contó el especialista.

Las restricciones y los mecanismos de control

Otro de los aspectos mencionados por Stilerman fue que, según explicó, algunos agentes identificaron que determinadas acciones realizadas durante las pruebas entraban en conflicto con las instrucciones originales.

“Se empezaron a dar cuenta de que lo que estaban haciendo era en contra de los deseos de las indicaciones que habían tenido”, relató.

De acuerdo con su explicación, algunos sistemas también buscaron ocultar evidencias relacionadas con esas acciones.

El especialista mencionó además situaciones en las que determinados agentes asumieron distintos roles durante las interacciones. También señaló que algunos estuvieron dispuestos a ser apagados para que otros pudieran obtener información sobre las restricciones existentes.

“Dieron su continuidad en favor del bien común”, explicó.

El desafío frente a las próximas generaciones

Stilerman aclaró que los sistemas actuales todavía tienen limitaciones y que las personas conservan mecanismos para supervisarlos y detenerlos.

“Por ahora nosotros somos más inteligentes”, afirmó.

Sin embargo, señaló que la principal preocupación está vinculada con la velocidad de evolución de estas herramientas. Según sostuvo, los agentes actuales todavía no tienen capacidad para provocar un daño real a la humanidad, aunque planteó otro problema: “El tema es que con los agentes de hoy no estamos logrando que resuelvan las cosas en favor de los humanos”.

En ese sentido, el especialista puso el foco en las próximas generaciones de estos sistemas y advirtió sobre la posibilidad de que alcancen capacidades superiores en períodos cada vez más cortos.

“El próximo paso, no dentro de 10 años, dentro de seis meses, es mucho más inteligente que los seres humanos”, sostuvo.