Día #13: La carrera por la superinteligencia artificial no es una competencia tecnológica, sino una lucha para ver quién define las reglas del futuro.
En una plática con sus empleados, el CEO de OpenAI, Sam Altman, habló sobre tres posibles escenarios para la carrera de la IA (inteligencia artificial).
¿Cuáles son los tres escenarios para la carrera de la IA?
- Modelo OIEA: Creación de un organismo mundial que supervise y regule los laboratorios de IA, similar a lo que ocurre con el control nuclear.
- Modelo CERN (plan Demis): Los grandes laboratorios se fusionan o colaboran bajo una misma entidad internacional.
- Modelo “Eliezer”: Una sola empresa logra primero la superinteligencia, es decir, una IA capaz de automejorarse, para después utilizar esa ventaja e impedir que otros logren avances. Los frenos podrían consistir en impedir que obtengan chips o, directamente, en derretir las GPU de la competencia.
Altman parece estar a favor del modelo OIEA, pero acepta que lograr una coordinación global de tal magnitud sería un reto mayúsculo y casi utópico. ¿Cómo se podría conseguir esto con China?
Críticas internacionales a la regulación de la IA
- Empresas y gobiernos, sobre todo China, ven el modelo del organismo internacional como una estrategia para frenar su avance en favor de Occidente.
- Incluso dentro de Estados Unidos, firmas como OpenAI, Google y Anthropic no pueden ponerse de acuerdo sobre quién sería la autoridad común para evaluar los estándares.
- Meta y Nvidia no están a favor de tales regulaciones, ya que consideran que sería como una “captura regulatoria”.
¿Cuál es el escenario más peligroso?
¿Cuál es el escenario terrible? El plan de Yudkowsky plantea que una IA capaz de automejorarse podría impedir que otros desarrollen IA avanzada, incluso hasta el punto de quemar todas las GPU. Altman ve esta posibilidad como extrema y sumamente negativa.
Altman estableció que OpenAI debe decidir en un año el camino que apoyará, pero ¿por qué puso ese plazo?
Cómo interpretar los escenarios de Altman para la carrera de la IA
Primer punto: parece que cada vez es más común ver que la industria ya no discute si habrá o no superinteligencia, sino cómo se regulará y quién la controlará: una cuestión de gobernanza de la IA.
El modelo OIEA es políticamente inviable, ¿cierto? Este modelo implicaría que China, Estados Unidos y Europa cedieran soberanía tecnológica. El modelo CERN también es improbable, ya que la dinámica capitalista y la competencia empresarial harían que las empresas no renunciaran a su propiedad intelectual ni a lo que consideran su ventaja competitiva.
El escenario menos conveniente empieza a posicionarse como el más realista. Entonces, hablamos de que la primera IA que logre automejorarse podría crear una asimetría irreversible, convirtiendo la carrera en un juego de suma cero.
La urgencia de Sam Altman, aunque a medias tintas, es tanto financiera como geopolítica. La realidad es que la ventana para influir en el futuro en ese sentido se está haciendo cada vez más estrecha.