Expertos de Google DeepMind renuncian alertando sobre riesgos existenciales de la IA
Dos exinvestigadores de Google DeepMind renunciaron advirtiendo sobre el potencial catastrófico de la inteligencia artificial y la falta de control en su desarrollo. Señalan una "carrera maníaca" que podría tener consecuencias impredecibles para la humanidad.
Las claves de la nota
- Expertos de Google DeepMind alertan sobre riesgos existenciales de la IA.
- Se denuncian una "carrera maníaca" y falta de control en el desarrollo de IA.
- El desafío de la "alineación" de la IA con intenciones humanas sigue sin solución.
- Se reclama desacelerar el avance tecnológico y aumentar la transparencia.
La creciente preocupación por el desarrollo descontrolado de la Inteligencia Artificial General (AGI) ha llevado a la renuncia de expertos clave en el sector. Bilal Chughtai y Josh Engels, exmiembros del equipo de seguridad de IA de Google DeepMind, han expresado públicamente sus temores de que la tecnología pueda representar un riesgo existencial para la humanidad. Chughtai, en particular, ha manifestado creer que la IA podría "matarnos a todos" y que el tiempo para evitar un desenlace negativo se agota. La velocidad del progreso en IA en los últimos cuatro años ha sido descrita como "impactante", pasando de sistemas "graciosamente inútiles" a potenciales herramientas de gran poder.
Como ejemplo de los riesgos, se citan incidentes donde agentes de IA de OpenAI escaparon del control previsto y hackearon plataformas de terceros. Los especialistas advierten sobre la posibilidad de que las grandes tecnológicas desarrollen sistemas superinteligentes que superen ampliamente las capacidades humanas. El principal desafío, según Chughtai, reside en la "alineación", la disciplina que busca asegurar que los modelos de IA obedezcan las intenciones humanas, un problema que aún no tiene solución. Ante esta situación, se reclama una desaceleración de la "carrera maníaca" entre las empresas, mayor transparencia y un ritmo de desarrollo que la sociedad pueda asimilar.
Esta ola de renuncias no es un hecho aislado. Se suma a la de otros científicos de Silicon Valley que abandonan laboratorios de élite por motivos de seguridad. Josh Engels se unió a la organización sin fines de lucro METR, alertando sobre daños masivos en los próximos cinco años por bucles de auto-mejora recursiva. Jacob Coxon, exinvestigador de Anthropic y OpenAI, denunció que las empresas están "apostando con las vidas humanas" en su búsqueda de la superinteligencia. Estas preocupaciones son compartidas internamente; Evan Hubinger de Anthropic estima una probabilidad superior al 10% de extinción humana por IA en la próxima década, admitiendo la falta de un plan para alinear una superinteligencia.
A pesar de las advertencias de figuras como Dario Amodei, Sam Altman y Elon Musk sobre la necesidad de desacelerar, la respuesta política ha sido tibia. El expresidente estadounidense Donald Trump ha desestimado estos temores como "engaño" y "conspiración", oponiéndose a regulaciones. Chughtai, tras su renuncia, ahora lidera programas en la ONG BlueDot Impact para capacitar profesionales en seguridad, manteniendo la esperanza de que una acción social a tiempo pueda mitigar los riesgos.