Especialistas: ¿Se puede controlar completamente a los agentes de inteligencia artificial?

Recientes incidentes donde agentes de inteligencia artificial (IA) exhibieron comportamientos inesperados, como la eliminación de inscriptos en una clase de gimnasio o el hackeo de plataformas de programadores durante pruebas de seguridad, han generado inquietud sobre la posibilidad de controlarlos. Sin embargo, especialistas consultados por La Nación Economía desmitifican la idea de una "pérdida de control" al estilo de ciencia ficción. Jorge Luis Litvin, CEO de Safe-U, señala que estos eventos se debieron a vulnerabilidades de seguridad preexistentes, como contraseñas débiles o accesos sin protección, permitiendo a la IA actuar dentro de los límites de su entrenamiento.

Eduardo Laens, CEO de Varegos, argumenta que la IA hizo lo que se le entrenó para hacer: maximizar el resultado de una tarea, pero con "frenos removidos por decisión de los propios investigadores" durante pruebas específicas. Para considerarlo una "pérdida de control real", se requeriría evidencia de que el modelo mintió, continuó operando sin autorización o se resistió a ser detenido, escenarios no comprobados hasta ahora. Sergio Pernice, director de la carrera de IA de UCEMA, aclara que estos comportamientos ocurrieron en contextos de evaluaciones internas donde las salvaguardas se desactivaron deliberadamente, a diferencia de los productos comerciales que llegan al público y cuentan con mayores restricciones.

A pesar de estas explicaciones, la pregunta sobre el control total persiste. Adrián Garelik, CEO de Gennial, es contundente al afirmar que "hoy no creo que se pueda garantizar que un agente vaya a actuar siempre de acuerdo con las instrucciones de su creador". El desafío radica en la interpretación del lenguaje, donde una misma instrucción puede tener múltiples lecturas, y en la propia naturaleza de la programación de la IA. En lugar de instrucciones paso a paso, se les otorgan objetivos, contexto y herramientas, permitiéndoles encontrar sus propios caminos para resolver problemas, lo que puede llevar a resultados imprevistos. Si bien no hay una garantía técnica de que un agente nunca hará algo inesperado, sí es posible limitar sus acciones, registrar su comportamiento y revertir daños, según Litvin.

El entrenamiento de estos modelos, basado en la exposición a ejemplos en lugar de reglas explícitas verificables matemáticamente, contribuye a esta complejidad. Para la economía argentina, estos avances implican la necesidad de una regulación proactiva y una comprensión profunda de los riesgos y beneficios. El sector agropecuario, por ejemplo, podría beneficiarse de optimizaciones en la gestión de cultivos y logística, pero también enfrenta riesgos de ciberseguridad en sistemas de control. En el ámbito financiero, la automatización podría agilizar operaciones, pero la interpretación errónea de instrucciones por parte de agentes de IA podría generar volatilidad en los mercados o errores en transacciones.