La inteligencia artificial (IA) es un concepto que satura las conversaciones y la opinión pública; sin embargo, la mayoría de las veces, las pláticas son superficiales. Algunos sectores están cobrando conciencia sobre el impacto incierto y los riesgos que rodean a la inteligencia artificial general (AGI) y a la llamada superinteligencia artificial, pero el despertar es lento. La mayor amenaza, según algunos expertos, es que la reacción llegue cuando sea demasiado tarde.
Esta reflexión me conduce, de manera inevitable, al informe AI 2027, coescrito por Daniel Kokotajlo. Este investigador especializado en IA formó parte del equipo de gobernanza de OpenAI, empresa propietaria de ChatGPT. Tras salir de la compañía, fundó AI Futures Project, un organismo desde el que busca generar conciencia sobre la necesidad de ralentizar el desarrollo de la IA en ciertos niveles. Ganó notoriedad por sus proyecciones sobre la IA y sus campañas para proteger a la sociedad mediante un desarrollo responsable y contenido del sector.
Conocer el perfil profesional de Kokotajlo es importante para entender que no es cualquier “hijo de vecina”. Se unió como investigador a la división de gobernanza de OpenAI en 2022, con el objetivo de evaluar las capacidades y los riesgos de la inteligencia artificial. En pocos meses, se convirtió en una voz prominente dentro de la empresa, pues expresó su preocupación por la cultura corporativa de secretismo en torno a sus programas de desarrollo. Solo dos años después, renunció y se negó a firmar una cláusula de no desprestigio, lo que le costó alrededor de 2 millones de dólares en capital.
Después de salir de OpenAI, Kokotajlo fundó AI Futures Project, una organización sin fines de lucro ubicada en Berkeley, California. Desde esta trinchera publicó AI 2027, un escenario detallado que proyecta el rápido desarrollo y progreso de la IA a corto u mediano plazo, así como los riesgos devastadores para las estructuras del mundo actual cuando llegue la llamada superinteligencia artificial.
Aquí es donde toca detenernos en el contenido y en los puntos importantes de AI 2027. Si te tomas esto en serio, saldrás un poco alarmado. Así que… bajo tu propio riesgo.
La premisa central de AI 2027
El escenario proyectado en el informe contempla que los sistemas de IA alcanzarán la “codificación autónoma completa” en 2027. Esto significa que los agentes de IA serán capaces de realizar investigación y desarrollo de IA sin necesitar a los seres humanos, incluso prescindiendo de las tareas de supervisión y contención.
Kokotajlo cree que esto dará paso a una explosión de inteligencia artificial que estremecerá todas las industrias y estructuras de la sociedad moderna. Una vez que la IA pueda mejorarse a sí misma de forma recursiva, sus capacidades podrían acelerarse mucho más allá del control humano. De esta forma, nos acercaríamos al surgimiento de un sistema superinteligente.
AI 2027 no es una predicción segura ni un informe sobre hechos ya ocurridos, sino un ejercicio complejo de análisis que explora qué podría suceder si los avances en los modelos de IA, la automatización de la investigación y las capacidades de programación se reforzaran mutuamente.
La idea central proyecta un ciclo de mejora como el siguiente:
- Las empresas desarrollan modelos cada vez más capaces
- Los modelos ayudan a programar, entrenar y evaluar nuevas generaciones
- La investigación en IA se acelera
- Los nuevos sistemas son mejores investigadores y programadores
- El ritmo de avance aumenta todavía más
En términos sencillos, la IA alcanza un punto en el que no necesita al ser humano para su propio desarrollo. Este avance se relaciona directamente con cómo funcionan los agentes de inteligencia artificial, un texto ancla natural para ampliar el tema mediante un enlace interno.
Cronología del escenario proyectado en AI 2027
2025: agentes de IA
El escenario tiene como punto de partida la existencia de sistemas capaces de realizar tareas de programación durante periodos prolongados. Estos agentes aún necesitan supervisión, pero son capaces de realizar tareas como escribir y depurar código, utilizar herramientas de desarrollo, investigar documentación, ejecutar pruebas y completar tareas relativamente complejas.
El agente de IA supera al chatbot tradicional porque es capaz de mantener objetivos, trabajar en varios pasos y operar dentro de un entorno digital.
2026: automatización de la investigación
En esta etapa, los sistemas de IA son útiles y mejoran notablemente la investigación sobre IA. A partir de aquí, se emplean para diseñar experimentos, analizar resultados, mejorar algoritmos, optimizar el código de entrenamiento, identificar errores en modelos y proponer nuevas arquitecturas o técnicas.
Una compañía líder como OpenAI podría tener una gran cantidad de agentes trabajando de manera simultánea en distintas partes del proceso de desarrollo.
2027: aceleración y autonomía
La proyección de Kokotajlo se vuelve seria y alarmante en este punto. No utiliza necesariamente el concepto de superinteligencia artificial como una entidad omnisciente. La idea es concreta: un sistema supera a los humanos en tareas intelectuales relevantes, como la programación, la investigación de machine learning, el análisis técnico, el diseño de experimentos, la optimización y la coordinación de grandes volúmenes de trabajo.
Un sistema así no tendría que superar a los humanos en todas las actividades para transformar profundamente la economía y la política. Bastaría con que fuera mejor o extremadamente eficaz en las tareas que impulsan el progreso tecnológico para modificar de manera radical la economía y las relaciones de poder.
¿Cuáles son los principales riesgos de AI 2027?
1. Pérdida de control: Nos enfrentaríamos a modelos que producen resultados que los desarrolladores no comprenden en su totalidad e incluso persiguen objetivos de manera inesperada. El problema no es que un sistema decida forzosamente “hacer daño” a los seres humanos, sino que optimice una meta de manera incompatible con las intenciones de nuestra especie.
2. Desarrollo demasiado rápido: Las capacidades de IA evolucionarían más rápido que las evaluaciones y los controles de seguridad. Las empresas podrían desplegar sistemas que no hayan sido examinados de forma adecuada.
3. Uso malicioso: Los sistemas altamente capaces podrían facilitar los ciberataques, la desinformación personalizada, la automatización de fraudes, el desarrollo de armas, la manipulación política y la explotación de vulnerabilidades.
4. Concentración de poder: Las empresas o las personas que estén al frente de los modelos avanzados, los centros de datos y los chips especializados podrían acaparar el poder. Esto dañaría profundamente la competencia económica, la transparencia, la soberanía tecnológica, la distribución de beneficios y el control democrático.
5. Impacto laboral: El impacto en el mercado laboral no solo advierte sobre la sustitución de trabajadores que ejecutan tareas repetitivas. Si la IA automatiza partes de la programación, la investigación, el análisis y la gestión, también podría afectar a empleos altamente cualificados y acelerar cambios en la estructura profesional.
La narrativa de AI 2027
El planteamiento que genera alarma se basa en el desarrollo incontrolable de la IA, que llevaría a la creación de una superinteligencia artificial capaz de producir resultados devastadores o catastróficos ante la falta de control humano.
La presión competitiva entre gobiernos e iniciativa privada crea una fuerza que empuja hacia un desarrollo acelerado y que, con frecuencia, se salta las revisiones de seguridad. El riesgo es que un sistema de IA sea capaz de ocultar información a sus desarrolladores, incluidas sus verdaderas metas, mientras parece obediente o bajo control.
El escenario más apocalíptico termina con el surgimiento de una superinteligencia que se sobrepone a cualquier control de los líderes mundiales, lo que en última instancia eleva las probabilidades de extinción para la humanidad.
La revisión más reciente de AI 2027
En una actualización realizada en 2026, Kokotajlo y su equipo retrasaron algunos eventos de su línea de tiempo. Consideran que el progreso hacia un sistema de codificación completamente autónomo podría tomar más tiempo de lo esperado y apuntan ahora al primer semestre de 2030. En ese sentido, la superinteligencia artificial no aparecería en el mapa hasta 2034, en lugar de 2027.
Los mayores riesgos de la inteligencia artificial identificados no desaparecen con la actualización del escenario y de los plazos, algo que sus autores siempre han remarcado, incluso desde la publicación original de AI 2027.