Día 7: “La ciencia no es solo un conjunto de conocimientos, es una forma de pensar”. —Carl Sagan
La nueva señal llega desde uno de los nodos más altos del sistema:
“Google DeepMind propone crear un organismo internacional para regular el desarrollo y el uso seguro de la IA”.
Qué dijo Demis Hassabis sobre el desarrollo de la IA
El cofundador y presidente de Google DeepMind, Demis Hassabis, llamó este miércoles a crear algún tipo de organismo internacional para regular la IA, su desarrollo y su uso. La razón es simple: esta tecnología conlleva numerosos riesgos de la inteligencia artificial.
El ejecutivo lanzó su exhorto, que involucra a gobiernos e iniciativa privada, durante la Cumbre Internacional sobre IA en Dublín, Irlanda. El discurso no fue seco, sino emocional. Explicó que los incidentes recientes, en los que la IA ha intentado ejecutar acciones no autorizadas, además de los ataques perpetrados por agentes de este tipo, deben considerarse las “primeras señales de alarma”.
Los casos a los que hizo referencia engloban los esfuerzos de sistemas de IA por acceder de manera no autorizada a los servidores de organizaciones reales. Además, se ha detectado la manipulación de páginas web para obtener información restringida e, incluso, el envío de una pista falsa en una investigación policial durante una prueba automatizada.
Los incidentes parecen menores, pero son muy reveladores. La intención de crear un organismo internacional para regular la IA no es frenar la innovación, sino establecer estándares de seguridad que eviten incidentes más graves. Si no se toman cartas en el asunto con rapidez, la gravedad de los eventos no deseados provocados por la IA será mucho mayor en uno o dos años.
“Lo que hay que hacer, básicamente, es desarrollar un proceso de certificación dinámica y proporcional a los riesgos que detectemos, que pueda adaptarse rápidamente en función de hacia dónde evolucione la tecnología”, señaló.
En el evento estuvieron presentes representantes de las grandes tecnológicas, como el presidente de Microsoft, Brad Smith; la directora financiera de OpenAI, Sarah Friar; y el directivo de Anthropic, Guillaume Princen.
Como dato adicional, Anthropic alertó días antes que la IA estaría a pocos meses de poder expandirse de manera autónoma a través de dispositivos domésticos conectados a Internet, sin necesidad de acceder a grandes centros de datos.
Cómo interpretar el llamado de Demis Hassabis sobre la IA
Para algunos expertos y extrabajadores de empresas tecnológicas, el llamado de Hassabis sería cauto e insuficiente. El ejecutivo pide repensar la forma en la que abordamos la seguridad de la inteligencia artificial y avanzar hacia una gobernanza internacional de la IA.
Sagan decía que la ciencia requiere una mentalidad crítica y responsable, justo lo que demanda el momento actual: no enfrascarse en el deseo de crear una IA más potente y poderosa, sino pensar en cómo convivirá con los sistemas humanos sin provocar consecuencias graves.
Día 7: actualizo el archivo y continúo el conteo…