Exintegrante de OpenAI alerta sobre riesgos existenciales de la IA y cuestiona la concentración de poder
Un exdesarrollador de OpenAI y Anthropic advierte que creadores de IA creen posible una amenaza global antes de 2030. La noticia genera debate sobre la rendición de cuentas y el impacto económico en Argentina.
Las claves de la nota
- Riesgo existencial de IA antes de 2030.
- Cuestionan rendición de cuentas de desarrolladores de IA.
- Concentración de poder en pocas empresas de IA preocupa.
- Caída de costos aumenta accesibilidad a modelos de IA.
- Necesidad de alternativas e investigación abierta en IA.
La reciente renuncia de Jacob Coxon a Anthropic, empresa detrás de la IA Claude, ha puesto en el centro del debate la potencial amenaza existencial que representan los sistemas de inteligencia artificial. Coxon, quien también trabajó en OpenAI, afirmó que dentro de la industria existe la creencia de que estas tecnologías podrían representar un riesgo global antes de 2030. Si bien se trata de una advertencia y no de una certeza demostrada, la naturaleza de la amenaza, que atenta contra la propia existencia, capta poderosamente la atención pública y mediática.
El artículo cuestiona cómo el miedo y la incertidumbre generados por estas advertencias pueden ser utilizados para captar atención, impulsar suscripciones o influir en decisiones políticas. Se plantea que, si bien la IA es una creación humana y no necesariamente tiene intenciones propias, su desarrollo y aplicación implican riesgos significativos. Estos pueden surgir de fallas, usos indebidos o la persecución de objetivos mal definidos. La preocupación no radica tanto en una supuesta voluntad de exterminio de la IA, sino en las decisiones humanas que definen su autonomía, supervisión y responsabilidad ante errores.
Desde una perspectiva económica argentina, la concentración de poder en pocas empresas desarrolladoras de IA es un punto clave. Decisiones tomadas a miles de kilómetros pueden impactar directamente en los costos operativos y el acceso a herramientas fundamentales para empresas locales. La argumentación de la seguridad, utilizada para justificar esta concentración, podría derivar en una exclusividad de control que limite la innovación y la competencia. Sin embargo, se vislumbra un futuro donde la accesibilidad a la tecnología, impulsada por la caída de costos y la investigación abierta, podría democratizar su uso y desafiar el dominio de los gigantes tecnológicos.
La tendencia de la caída de costos en el acceso a modelos de IA comparables a GPT-3.5, que ha disminuido más de 280 veces entre noviembre de 2022 y octubre de 2024, es un indicativo de esta democratización. Si bien esto no elimina la posibilidad de que el negocio siga concentrado, sí amplía las oportunidades para la investigación, la experimentación y la aparición de alternativas. Para el sector productivo y empresarial argentino, esto significa la necesidad de estar atentos a la evolución de estas tecnologías, fomentar la investigación local y buscar activamente la diversificación de proveedores para mitigar riesgos y aprovechar oportunidades.