Día #11: La gobernanza de la IA, estancada…
Anthropic, creadora del asistente de IA Claude, está impulsando la creación de un marco de regulación de la inteligencia artificial ante la falta de una ley federal de IA. El objetivo es que la norma permita a las autoridades de Estados Unidos vetar un modelo de IA mediante la orden de un juez.
¿Por qué una empresa cuyo principal producto es la IA haría esto? ¿Acaso la falta de normativa no conviene a las compañías para sacar adelante sus proyectos?
El texto establece que el juez podría bloquear el despliegue de un modelo de IA si implica un riesgo inminente de:
- más de 50 personas fallecidas o heridas de gravedad
- daños económicos superiores a los 1,000 millones de dólares
La regulación de la inteligencia artificial impulsada por Anthropic también busca obligar a las empresas de IA a someter sus modelos más potentes a pruebas rigurosas, ofrecer mayor transparencia sobre sus resultados, realizar evaluaciones independientes o auditorías y establecer programas formales de seguridad de la IA.
Al ser una tecnología disruptiva, la postura de la creadora de Claude no parece equivocada; cuando menos, muestra un poco de sensatez. No existe una ley federal de IA específica, y la administración actual prioriza el crecimiento económico y se muestra reticente a frenar el avance de la IA en las diferentes industrias.
Otro punto importante: existe una disputa entre Anthropic y el Pentágono, un conflicto que impulsa el debate sobre la seguridad de la IA y la supervisión estatal de la inteligencia artificial.
Por qué Anthropic está impulsando una ley para regular la IA
Los menos alarmistas podrían ver a Anthropic jugando aquí para su propio bando. Por un lado, se adelanta a otros y al propio Gobierno para tratar de impulsar una regulación de la inteligencia artificial con cierto enfoque; pero, por otro, también protege su imagen durante el conflicto con la administración actual al mostrar responsabilidad y transparencia.
Sin embargo, el análisis no debería ir por allí, sobre todo cuando hay hechos reales y objetivos: Estados Unidos, como la mayoría de los países, no tiene una ley federal de IA. Esto deja a empresas gigantes moldeando la tecnología que cambiará el mundo sin un marco legal sólido.
En pocas palabras, el vacío existe y los contrapesos se diluyen conforme avanza el tiempo. Actualmente, el Congreso estadounidense está dividido, por lo que es posible que una legislación de este tipo tarde años en convertirse en ley, si es que llega a serlo.
Al menos, Anthropic dice aquí algo interesante. Además de proponer reglas, plantea quién debería tener el poder de detener a la IA si se vuelve riesgosa, un punto central para la gobernanza y la seguridad de la IA.
Día #11 antes de la Singularidad. Actualizo el archivo y sigo el conteo.