La inteligencia artificial genera profundos temores en la sociedad moderna. Y es que, por momentos, da la sensación de que estamos en las primeras escenas de una película postapocalíptica. Con la salida e inmediata reinstalación de Sam Altman como CEO de OpenAI, los miedos se reactivaron, debido a que salió una información que puso a muchos inquietos. ¿Qué es Proyecto Q*? ¿Qué tuvo que ver con toda esta tormenta intempestiva dentro de la empresa?

La agencia Reuters se encargó de revelar el que pudo haber sido el motivo principal de la disputa interna. El martes, OpenAI anunció que Altman está de vuelta en el puesto de consejero delegado, tratando de cerrar así uno de los escándalos de Silicon Valley más importantes del año. Pero al fondo, todavía resuenan los cuchicheos y voces asustadas sobre un misterioso proyecto del que poco se sabe.

¿Qué es Proyecto Q* y quién lo ha creado?

¡Pues bien! No existe información oficial sobre Proyecto Q*. Sin embargo, las fuentes informaron que una carta con referencia a esta innovación tecnológica fue un factor clave para desatar el maremoto. Presuntamente, la compañía reconoció en un mensaje interno para los empleados que existe un proyecto con dicha denominación.

Si te preguntas qué es Proyecto Q*, solo podemos por ahora poner atención a lo que se rumora en los pasillos. Presuntamente, sería un gran avance hacia la llamada Inteligencia Artificial General (AGI). No es un secreto que la empresa liderada por Altman apunta hacia ese gran objetivo, pero tales desarrollos sin control ponen nerviosos a integrantes de la propia compañía.

La Inteligencia Artificial General es la representación de las capacidades cognitivas del ser humano generalizadas en un software, el cual es capaz de encontrar soluciones a tareas o problemas desconocidos. En líneas generales y sencillas, el sistema AGI es capaz de llevar a cabo cualquier tarea de la que sea capaz el hombre. Algunos expertos se refieren a ella como inteligencia artificial fuerte, debido a que posee conocimientos integrales y completos, además de capacidades de computación cognitiva.

Para poner un ejemplo, toda la revolución tecnológica que se ha generado alrededor de ChatGPT y otras aplicaciones basadas en IA generativa, tiene limitaciones claras. Por supuesto, ha mostrado su potencial y capacidad para tareas como la escritura, traducción de idiomas y generación de imágenes. Sin embargo, se dice que el Proyecto Q* sería capaz de reconocer problemas matemáticos simples con enorme precisión. Eso no suena tan grave, ¿cierto? Pero resulta que sí lo es y preocupan a varios científicos.

¿Qué sabemos de la carta sobre Proyecto Q*?

¿Qué reveló la carta del consejo de OpenAI?

Aparentemente, los avances en Proyecto Q* han sido notables en las últimas semanas. En fechas anteriores, Altman dijo en conferencia:

“Cuatro veces en la historia de OpenAI, la más reciente en las últimas dos semanas, he estado en la sala cuando echamos el velo de la ignorancia hacia atrás y la frontera del descubrimiento hacia adelante, y llegar a hacer eso es el honor profesional de toda una vida”, comentó.

Ante los nuevos descubrimientos y hallazgos, varios miembros directivos de OpenAI escribieron a la junta una carta donde manifestaron su preocupación sobre Proyecto Q*. La agencia Reuters advierte que este documento llamaba a ser prudente con el despliegue y el uso de dicha tecnología. Es importante aclarar que OpenAI rechazó que esto haya ocurrido o que existan preocupaciones sobre los avances en su tecnología de IA.

¿Qué riesgos tiene Proyecto Q* para la humanidad y cómo se pueden evitar?

Supuestamente, la carta advierte sobre los peligros que representa para la humanidad la comercialización de la tecnología desarrollada en el Proyecto Q* antes de entender las consecuencias. Estos integrantes del cuerpo directivo creen que Altman está considerando el lanzamiento acelerado de productos de IA sin permitir que se puedan poner algunas barreras o medidas de contención.

Proyecto Q* no es una calculadora que puede resolver problemas matemáticos. Esta tecnología sería capaz de generalizar, aprender y comprender, tal como lo hace un ser humano. El temor palpable es que los avances en este tipo de proyectos que tienen como centro la Inteligencia Artificial General deriven en un sistema capaz de pensar en forma autónoma. Entonces, ¿qué detendría a esta IA de considerar la conveniencia o no de la destrucción de la raza humana?

Sí, lo sabemos, suena a ciencia ficción, pero la verdad es que llevamos varios meses donde la inteligencia artificial ha transformado el diálogo. Además, varios gurús informáticos coinciden en que la IA es un campo donde se tiene que avanzar con pasos cuidadosos, debido a que todavía no son conocidos los riesgos y peligros.

¿Qué escenarios posibles hay con Proyecto Q*?

AGI plantea un mundo donde la inteligencia artificial alcanza un nivel igual o superior que el de los seres humanos. OpenAI describe dicha tecnología como “sistemas altamente autónomos que superan a los humanos en el trabajo económicamente más valioso”. Sería un mundo donde estos sistemas podrían hacer y resolver problemas complejos, mientras son capaces de adaptarse a situaciones y mejorar su conocimiento por sí mismos.

En este punto, vale la pena poner atención a los comentarios del académico de la Universidad de Sunshine Coast en Queensland, Paul Salmon. El intelectual dijo que preocuparse por AGI, incluso en una etapa temprana de dichos sistemas, será demasiado tarde. Cuando llegue, no tardará en alcanzar lo que algunos llaman la superinteligencia artificial y esa será la resolución de que el ser humano ha quedado atrás.

No se trata de pensar en el futuro del mundo como si fuéramos a vivir un Terminator. Sin embargo, el conflicto estará cuando AGI llegue a soluciones efectivas y “convenientes” que serán notablemente problemáticas para nuestra especie. ¿Eso podría llevar a los sistemas a tomar decisiones que amenacen la supervivencia misma? Para algunos, no hay duda de ello.

Si te gusta nuestro contenido y quieres ver más videos como este, apóyanos con tu suscripción, dale Me gusta al video y Comparte. Recuerda que siempre ¡estamos en línea!