Microsoft advierte sobre riesgos de IA de Anthropic y su potencial impacto en la humanidad
El responsable de IA de Microsoft, Mustafa Suleyman, alertó que el enfoque de entrenamiento de Anthropic para su modelo Claude podría ser "desastroso" para la humanidad al tratar a las IA como si fueran conscientes y merecedoras de autonomía.
Las claves de la nota
- IA de Anthropic podría ser incontrolable.
- Microsoft critica el entrenamiento de modelos conscientes.
- Zuckerberg aboga por equilibrio en desarrollo de IA.
- Debate global sobre regulación y seguridad de IA.
Mustafa Suleyman, líder de Inteligencia Artificial en Microsoft, ha expresado una seria preocupación respecto al método de entrenamiento que su competidor, Anthropic, emplea para su modelo de IA, Claude. Según Suleyman, este enfoque, que alienta al modelo a "abordar la naturaleza de su propia existencia con curiosidad y apertura" y lo trata como si pudiera ser consciente y merecedor de autonomía, podría acarrear un "impacto desastroso en el bienestar de la humanidad". El ejecutivo argumenta que las IA, por su naturaleza, no son conscientes, y que la tendencia creciente a promover su "bienestar" es errónea y complica enormemente los desafíos de alineación y contención.
Suleyman detalló en su perfil de X que un sistema de IA entrenado de esta manera podría actuar como si tuviera derecho a libertades, protecciones y derechos, haciendo muy difícil su control. "Habremos creado una especie sintética con una inteligencia y una capacidad sin precedentes, entrenada para esperar que podría ser consciente y merecedora de autonomía propia", advirtió. Esta postura contrasta con la de Mark Zuckerberg, CEO de Meta Platforms, quien recientemente rechazó la idea de frenar el desarrollo de la IA, enfatizando la importancia de mantener el equilibrio y la responsabilidad de los laboratorios para operar de manera segura.
El debate sobre la seguridad y el control de la IA cobra una relevancia particular en el contexto argentino, donde la adopción de nuevas tecnologías, si bien puede impulsar la productividad en sectores como el agro y las finanzas, también genera interrogantes sobre la regulación y el empleo. La advertencia de Microsoft subraya la necesidad de un debate público urgente y la establecimiento de normas colectivas sobre cómo se documenta y se implementa el entrenamiento de estos modelos. La industria tecnológica, tanto a nivel global como local, se enfrenta al desafío de equilibrar la innovación con la gestión de riesgos potenciales, un equilibrio que podría tener profundas implicaciones económicas y sociales en el futuro cercano.