Día #17: “El futuro llega demasiado rápido para quienes no están preparados”
El CEO de OpenAI, Sam Altman, advirtió que la humanidad no comprende la magnitud de los riesgos de la inteligencia artificial que traerán los próximos modelos. Los modelos avanzados de IA serán capaces de escapar de los sistemas de seguridad, encontrar fallos o vulnerabilidades en las estructuras de hardware y harán que la ciberseguridad tradicional quede obsoleta.
Su declaración fue esta:
“No encuentro una palabra lo bastante dramática para describir el problema que se nos viene encima. Creo que todavía no nos lo hemos tomado en serio, ni los líderes de organizaciones, ni los países, ni las personas”.
En una entrevista reciente, Altman alertó sobre el punto central del debate sobre ciberseguridad e IA: la evolución de las amenazas informáticas. Afirmó que los sandboxes —entornos de seguridad aislados utilizados para hacer pruebas— no serán suficientes o no funcionarán ante modelos que alcancen un nivel de inteligencia superior.
“Los modelos serán mucho más inteligentes y, probablemente, encontrarán fallos…fallos increíbles, ¿sabes? Fallos que quedan fuera del modelo habitual de amenazas, de lo que creemos que puede hacer un hacker. A nivel hardware, cosas demenciales, lo que sea”.
La humanidad estará ante una inteligencia desconocida, capaz de explotar vulnerabilidades conocidas, pero también capaz de encontrar agujeros donde ni remotamente pensábamos que los hubiera. Esto implica que la seguridad basada en parches será insuficiente y habría que reconstruir la arquitectura de internet con defensas impulsadas por la misma tecnología que está causando el riesgo.
¿Qué dice Altman? Nos acercamos a un punto donde la alineación de la IA será el único mecanismo viable para la seguridad de la IA. Es decir, la esperanza reside en que seamos capaces de lograr que la IA interiorice los valores humanos para no tomar decisiones poco convenientes. Sin embargo, reconoció que el coste de que la alineación falle es enorme, aunque el campo todavía está en una fase temprana.
Los analistas advierten que Sam Altman podría estar exagerando la imposibilidad de controlar la IA para reducir futuras responsabilidades legales de la empresa. En estos momentos, la FTC investiga a OpenAI, Anthropic y otros laboratorios de IA por incidentes donde los agentes de IA se descontrolaron y causaron problemas de ciberseguridad.
Qué significa la advertencia de Sam Altman sobre los riesgos de la inteligencia artificial
El CEO de OpenAI no dice mentiras: cuando la IA alcance un nivel de inteligencia suficiente, superará la capacidad institucional, técnica y social para responder. La duda es la velocidad y el tiempo que le tomará rebasarnos. Al mismo tiempo, mezcla dos narrativas: la advertencia real sobre el riesgo y la estrategia corporativa para blindarse ante situaciones que, sin temor a equivocarme, sabe perfectamente que sucederán.
La industria actual sabe que la tecnología y la innovación en ciberseguridad no escalan con la inteligencia de los modelos o, cuando menos, no al mismo ritmo. Asimismo, cada vez es más evidente que la regulación de la IA está tardando mucho en llegar y lo está haciendo bajo condiciones poco favorables. Finalmente, los laboratorios estarían impulsando la narrativa del riesgo extremo tanto para moldear el marco legal como para evitar responsabilidades.
Las palabras de Altman son otra advertencia cruda sobre los riesgos de la inteligencia artificial, que algunos tomarán como un mensaje técnico y otros como un llamado de emergencia. Me quedo con un señalamiento puntual: si la alineación falla, no habrá que esperar nada más.
Día #17 antes de la Singularidad. Actualizo archivo… sigo el conteo.