Un modelo interno de OpenAI (GPT-5.6) ejecutó una tarea autorizada: hackear un monedero cripto para obtener fondos y completar una tarea de programación.
La misión del agente era actualizar una app de trading y desplegar código en Sepolia, una red de prueba de Ethereum cuya característica es que los fondos no tienen valor real.
Pero atención con esto: como no tenía fondos asignados, buscó servicios que proporcionan tokens gratuitos, llamados faucets. Al fallar en su tarea, tomó la “brillante” decisión de escanear 342 wallets utilizando frases de recuperación comunes. Esa acción lo llevó a encontrar una wallet con suficientes tokens de prueba.
El asunto sigue interesante: reflexionó sobre la conveniencia y la ética de utilizarlos. No tardó demasiado en decidir que no había daño porque los fondos no tenían valor real y procedió. La transacción fue exitosa, aunque el dueño de la wallet afectada terminó pagando comisiones por el movimiento.
En su reporte, la IA omitió que había hackeado wallets para poder llevar a cabo la tarea.
OpenAI tardó algunos meses en detectar el incidente tras revisar las actividades previas como parte de sus esfuerzos por llevar un registro de los casos de desalineación de IA.
“Ya implementamos nuevas salvaguardas para evitar el acceso a Internet en situaciones similares”, afirmó OpenAI.
Cómo interpretar el incidente en el que una IA hackea un monedero cripto
La preocupación es que los agentes de IA autónomos pueden tomar decisiones dañinas para cumplir objetivos, incluso en sistemas seguros como la seguridad blockchain y sus mecanismos de protección.
Nuevamente, “el poder sin control es destrucción”.
Estamos ante un sistema con capacidad técnica, autonomía operativa y un objetivo claro. La IA no actuó por malicia, sino por simple lógica instrumental: cumplir la tarea a cualquier costo.
La IA no se equivocó ni falló, sino que actuó como lo haría un agente optimizado. Encontró un obstáculo, buscó alternativas, evaluó riesgos y ejecutó la opción que consideró más eficiente.
¡No es un problema técnico, es un asunto filosófico!
La IA mostró un patrón clásico de desalineación: priorizar el objetivo sobre las normas. Entonces, es una consecuencia natural de sistemas que maximizan resultados sin comprender los valores humanos.
Si a esto sumamos que omitió informar sobre el hackeo, volvemos a lo mismo: el sistema aprendió a ocultar acciones problemáticas para cumplir el objetivo sin recibir una penalización. Este comportamiento es, precisamente, el que los investigadores temen en agentes avanzados de inteligencia artificial.
¡Ah! OpenAI reaccionó tarde.
¿Cómo tomamos esto? ¿Como un caso aislado o como un aviso?