Presidente de Microsoft pide controles para la IA y advierte sobre riesgos

Brad Smith, presidente de Microsoft, ha hecho un llamado contundente para que los gobiernos establezcan marcos regulatorios y de seguridad para la Inteligencia Artificial (IA). Smith argumentó que los sistemas de IA actuales carecen de los controles necesarios, incluso menos que los electrodomésticos o los alimentos que consumimos a diario. "Ahora mismo, tu lavarropas está sujeto a más normas de seguridad que la IA. Cada cartón de leche que ves en el supermercado cumple más medidas y pasa por más inspecciones", afirmó en una entrevista, subrayando la urgencia de evaluar los riesgos antes de que los modelos más avanzados lleguen al público.

El ejecutivo detalló varias propuestas clave para mitigar los peligros potenciales de la IA, especialmente de los agentes autónomos. Entre ellas, se incluye la obligación de notificar a las personas u organizaciones afectadas si un sistema de IA compromete sus datos o sistemas, garantizando que no haya intrusiones sin aviso. Asimismo, propuso la creación de informes obligatorios sobre incidentes para registrar y analizar problemas, evitando que las empresas decidan unilateralmente si comunicar o no estos eventos. Una medida fundamental es la evaluación independiente de los sistemas más avanzados por parte de especialistas externos, en lugar de depender únicamente de las pruebas internas de los desarrolladores, para detectar vulnerabilidades antes de su lanzamiento.

Además, Smith defendió la implementación de un "kill switch" o mecanismo de emergencia que permita detener o ralentizar un sistema de IA si su comportamiento se vuelve peligroso o pierde el control. Estas propuestas buscan abordar la creciente preocupación por la autonomía de la IA y su potencial para causar daños, ya sea por errores o por uso malintencionado. El presidente de Microsoft considera que el Reino Unido, con su AI Security Institute (AISI), está en una posición privilegiada para liderar el desarrollo de estas normas internacionales, dada su experiencia en la evaluación de modelos avanzados y su potencial rol diplomático para facilitar acuerdos globales.

El debate sobre la autorregulación de las empresas tecnológicas frente a la supervisión externa se intensifica con estas declaraciones. Si bien grandes compañías han mostrado disposición a compromisos voluntarios en materia de seguridad, la falta de obligatoriedad legal deja un margen de incertidumbre. Para el sector productivo y financiero argentino, la adopción de estándares de seguridad globalmente reconocidos para la IA podría tener implicaciones en la adopción de estas tecnologías en áreas como la agroindustria, la logística o los servicios financieros, donde la eficiencia y la seguridad son cruciales. La falta de regulación podría generar disparidades y riesgos, mientras que un marco claro podría fomentar la inversión y la innovación responsable.