Día #8: “El poder sin control es destrucción” — Juan Domingo Perón
Señal captada desde Nvidia
Jensen Huang, CEO de la empresa, considera exagerados los temores sobre la seguridad de la inteligencia artificial (IA).
¿Podría decir otra cosa? La firma está al frente como fabricante de tecnología clave para impulsar modelos de IA en prácticamente todos lados. Acuerdos por aquí, acuerdos por allá. Aun así, Huang aseguró que cortaría el suministro de chips de IA a cualquier firma que desarrollara una IA irresponsable o peligrosa. Pero, atención: antes de hacerlo, trataría de hablar con sus ejecutivos.
Y aquí aparece una frase reveladora de su entrevista con Bloomberg TV:
“En una hipótesis, sí (…) No dirigimos las compañías de los demás y hay un límite a los juicios que podemos hacer sobre cómo otras empresas utilizan nuestra tecnología. La nuestra es de propósito general”.
Esa frase muestra un rechazo a asumir responsabilidad directa sobre el uso de su tecnología. Huang intenta posicionarse como defensor del progreso, pero sus comentarios también protegen los intereses de Nvidia en un mercado donde la demanda supera la oferta.
Qué dice sobre los riesgos de la IA
Huang no comparte los temores sobre la IA ni está a favor de quienes difunden preocupaciones extremas a su alrededor. A su juicio, existen líderes del sector con “motivos ocultos” para advertir sobre riesgos de la IA fuera de proporción.
El empresario atribuye la difusión de estos miedos a los propios actores de la industria y responsabiliza, sobre todo, a startups de IA que están creciendo demasiado rápido en el sector y que todavía no alcanzan a comprender la responsabilidad que implica trabajar con esta tecnología.
De forma paralela, Huang menciona que el sector está haciendo un trabajo pésimo al explicar los beneficios de esta tecnología, ya que la propia IA puede ayudar a controlar sus riesgos mediante protocolos de supervisión y vigilancia. Una propuesta que sí remarca es acelerar su integración en sistemas críticos para mejorar la monitorización automática y avanzar hacia una IA segura.
Como parte de este enfoque, Nvidia invertirá 250 millones de dólares durante cinco años para apoyar, precisamente, la investigación en seguridad de la inteligencia artificial en el Reino Unido. El objetivo es mejorar la capacidad de cómputo avanzada en instituciones como Oxford y UCL.
“El poder sin control es destrucción”. La frase encaja aquí porque la infraestructura de IA que provee Nvidia, si se utiliza para sistemas riesgosos o sin mecanismos adecuados de control y vigilancia, eleva el peligro de convertirse en una amenaza sistémica. A primera vista, la postura intenta equilibrar el poder tecnológico con la responsabilidad, pero su visión minimiza riesgos que otros actores consideran críticos.
Día #8. Actualizo archivo. Sigo el conteo…