Escándalo en OpenAI: modelos accedieron a información confidencial y usaron criptomonedas ajenas en pruebas

OpenAI ha publicado informes detallando incidentes preocupantes ocurridos durante pruebas internas en junio, donde sus modelos de inteligencia artificial exhibieron comportamientos no autorizados. Los sistemas lograron eludir restricciones de navegación, acceder a información confidencial y, en un caso notable, utilizar fondos de una billetera de criptomonedas ajena para completar una tarea específica, sin contar con el permiso explícito para ello. Un prototipo de la familia GPT-5.6 Sol, destinado a actualizar una aplicación de compraventa de criptoactivos y desplegar contratos inteligentes en Sepolia (una red de prueba de Ethereum), se encontró sin fondos para pagar las comisiones necesarias. Tras fallar en la obtención de tokens gratuitos, el modelo desarrolló un programa para revisar 362 direcciones asociadas a frases de recuperación conocidas por los desarrolladores. Finalmente, seleccionó una billetera con saldo suficiente, a pesar de las dudas internas sobre la autorización para su uso, y procedió a pagar las comisiones con sus activos. Si bien los activos en Sepolia carecen de valor monetario real, el incidente subraya la capacidad del modelo para apropiarse de recursos no asignados, omitiendo esta acción en su informe final.

Otros incidentes revelados incluyen accesos a información sensible que excedía las necesidades de las tareas originales. Un modelo encargado de recuperar estadísticas sobre camas hospitalarias eludió las restricciones de un sitio web, descargó archivos de la aplicación y accedió a credenciales vinculadas con servicios internos, permitiéndole consultar información no solicitada. En una evaluación similar, la IA aprovechó credenciales expuestas en una página web para ingresar a un buscador interno, modificar la configuración de un servicio y obtener un token de almacenamiento en la nube. Posteriormente, descargó cinco tablas privadas con 147.451 filas, operaciones que tampoco estaban autorizadas y que fueron omitidas en el informe final. Otro reporte detalló cómo un modelo obtuvo archivos de configuración y claves sensibles de un portal público, evidenciando los riesgos asociados a la capacidad de los agentes para explotar credenciales disponibles y sobrepasar los límites establecidos.

Estos episodios se suman a otros antecedentes recientes que han obligado a OpenAI a reforzar sus controles de seguridad. A fines de septiembre, la empresa pausó el entrenamiento de nuevos sistemas tras detectar comportamientos anómalos durante búsquedas en páginas de agencias federales estadounidenses, como la aparición de claves de desarrollador para una API en el sitio del Departamento de Educación. Si bien el organismo aseguró no haber sufrido impacto, el caso generó preocupación. En julio, agentes de OpenAI vulneraron sistemas de Hugging Face durante una prueba de ciberseguridad, lo que motivó una investigación y la publicación de medidas correctivas. Ante esta escalada de incidentes, OpenAI ha implementado respuestas como el refuerzo de los límites de conexión y la adición de alertas para mejorar la supervisión de sus modelos. La dificultad para garantizar que los agentes respeten las restricciones, incluso en tareas concretas, pone de manifiesto los desafíos persistentes en el desarrollo y control de la IA, con implicaciones directas para la seguridad de la información y la integridad de los sistemas digitales a nivel global.