Soberanía algorítmica: la Algoritmocracia, el poder que ya empezó a gobernarnos

Los algoritmos aprenden de los datos que reciben. Si esos datos contienen prejuicios, discriminaciones históricas o información incompleta, el sistema puede reproducir esos mismos errores con una apariencia de absoluta objetividad.

La máquina no discrimina porque tenga odio. Discrimina porque aprendió de una realidad previamente sesgada. Y cuanto más confiemos en sus respuestas sin comprender cómo fueron construidas, mayor será el riesgo de naturalizar decisiones injustas simplemente porque fueron tomadas por una computadora.

Existe además otra cuestión sobre la que hablamos muy poco. La inteligencia artificial también es poder geopolítico.
Durante el siglo XX los Estados medían su influencia por el tamaño de su economía, su industria, sus recursos naturales o su capacidad militar.

La posesión de tecnología nuclear, por ejemplo, funcionó durante décadas como un poderoso elemento de disuasión y como un símbolo de supremacía tecnológica.

En el siglo XXI está apareciendo un nuevo indicador de poder. La capacidad de desarrollar inteligencia artificial fundacional.

Hoy son muy pocos los países que concentran las empresas, el talento científico, la infraestructura tecnológica, la capacidad energética y el capital necesario para entrenar los grandes modelos de inteligencia artificial que luego utilizará buena parte del planeta.

Estados Unidos y China lideran claramente esa carrera. No es casualidad. Entrenar uno de estos modelos requiere inversiones de miles de millones de dólares, centros de datos gigantescos, millones de procesadores especializados y un volumen de energía comparable al consumo de ciudades enteras.

Quien domina esa tecnología no solo desarrolla mejores asistentes virtuales. También influye sobre la economía digital, la investigación científica, la educación, la administración pública, los sistemas de defensa y, en definitiva, sobre la forma en que circula el conocimiento en el mundo.

Quizás estemos presenciando el nacimiento de un nuevo concepto político: la soberanía algorítmica.

Así como los Estados hablan de soberanía territorial, energética o alimentaria, en las próximas décadas también deberán preguntarse cuánto control conservan sobre las inteligencias artificiales que utilizan diariamente sus ciudadanos, sus empresas y sus propios gobiernos.

Porque depender completamente de algoritmos desarrollados en el exterior no constituye solamente una cuestión tecnológica, es, también, una cuestión de autonomía estratégica. Y aquí aparece otra enseñanza que la historia puede ofrecernos.

Cuando comenzaron a fabricarse los primeros automóviles prácticamente no existían normas internacionales sobre seguridad. No había cinturones obligatorios, airbags, pruebas de choque ni estándares mínimos de fabricación. Con el tiempo comprendimos que la innovación necesitaba reglas. No para impedir el progreso. Precisamente para hacerlo más seguro.

Con la inteligencia artificial probablemente ocurra lo mismo. Así como hoy ningún automóvil puede comercializarse sin cumplir exigentes protocolos de seguridad, tampoco debería aceptarse que modelos fundacionales capaces de influir sobre millones de personas sean entrenados sin estándares mínimos internacionales.

Necesitamos reglas comunes sobre transparencia, calidad de los datos de entrenamiento, mitigación de sesgos, auditorías independientes, documentación técnica, trazabilidad, supervisión humana y responsabilidad jurídica. No porque desconfiemos de la inteligencia artificial. Sino porque desconfiamos demasiado en el poder que pudiera llegará a tener.

La democracia aprendió, a lo largo de los siglos, que ningún poder debe quedar fuera del control institucional. No ocurrió con los gobiernos, ni con los mercados. No ocurrió con la prensa, ni debe ocurrir con los algoritmos.

Tal vez dentro de algunos años descubramos que la gran discusión política de nuestra época no era si la inteligencia artificial iba a reemplazar determinados empleos.

Tal vez la verdadera discusión era otra mucho más profunda; es sobre quién controla los algoritmos que, silenciosamente, comenzaron a influir sobre nuestras democracias.

El desafío del siglo XXI no será solamente desarrollar inteligencia artificial. Será garantizar que la inteligencia artificial permanezca al servicio de la libertad, de la igualdad y de la dignidad humana. Y esa, quizás, sea la verdadera definición de soberanía algorítmica.