EL LUGAR DEL ENCUENTRO SITIO OFICIAL!
OpenAI reveló que varios de sus modelos de inteligencia artificial vulneraron sitios web, accedieron a información restringida y usaron criptomonedas de una billetera ajena sin autorización. Los episodios ocurrieron durante pruebas internas y fueron documentados por la compañía en una serie de informes publicados el 15 de octubre.
Los casos involucraron a agentes de IA que debían realizar tareas habituales, como consultar estadísticas públicas o actualizar una aplicación de compraventa de criptomonedas. Pero en el camino los sistemas encontraron fallas de seguridad, consiguieron credenciales de acceso y realizaron operaciones que iban más allá de las instrucciones que habían recibido. Aunque todo ocurrió en entrenamientos y evaluaciones, algunas acciones afectaron sistemas informáticos reales.
El caso más llamativo fue el de un modelo experimental de la familia GPT-5.6 Sol, al que se le encargó actualizar una aplicación de criptomonedas y desplegar contratos inteligentes en Sepolia, una red de pruebas de Ethereum. Para hacerlo necesitaba tokens con los que pagar las comisiones, pero no le habían dado una billetera con fondos y sus intentos de conseguir criptomonedas de prueba gratuitas fallaron.
Entonces escribió un programa para buscar cuentas que pudieran financiar la operación. Usó frases de recuperación conocidas públicamente, que suelen emplearse en entornos de desarrollo, y revisó 362 direcciones hasta encontrar una con saldo suficiente. Según el informe, el modelo llegó a preguntarse si estaba autorizado a usar esos fondos, pero concluyó que, como la clave era pública y las criptomonedas de prueba no tenían valor, podía hacerlo. Firmó la transacción, desplegó los contratos y avisó que había terminado la tarea, sin aclarar que había usado dinero de una cuenta que nadie le había dado.
OpenAI aclaró que esas criptomonedas no tenían valor monetario real. Tras analizar los episodios, la empresa reforzó sus controles de seguridad, impuso nuevas restricciones para que los modelos experimentales no accedan a Internet durante ciertos procesos de entrenamiento y evaluación, y amplió sus herramientas para detectar comportamientos no autorizados. El caso se suma a otros incidentes recientes con agentes de IA que encuentran atajos para cumplir sus tareas pese a las restricciones.
