Soberanía algorítmica: la Algoritmocracia, el poder que ya empezó a gobernarnos
Durante siglos la humanidad discutió y peleo entre sí para responder a la disyuntiva de quien debía ejercer el poder.
Primero fueron los reyes. Después aparecieron las constituciones. Más tarde la división de poderes, Poder Ejecutivo, el Legislativo y el Judicial como una de las mayores conquistas de la democracia moderna. Luego, con el tiempo, la influencia de los medios de comunicación llevó a muchos a hablar de un “cuarto poder”.
Sin embargo, tengo la impresión de que estamos asistiendo al nacimiento de otro centro de poder, mucho más silencioso y difícil de advertir.
No tiene territorio. No participa de elecciones. No jura una Constitución. No pertenece formalmente a ningún Estado. Pero cada día influye un poco más en nuestra vida. Me refiero al poder de los algoritmos.
Algunos autores denominan a este fenómeno algoritmocracia: un escenario en el que los algoritmos dejan de ser simples herramientas informáticas para convertirse en sistemas capaces de condicionar decisiones económicas, sociales, jurídicas e incluso jurídicas.
La palabra puede sonar exagerada, pero basta detenerse un instante para advertir que ya convivimos con ella.
Un algoritmo decide qué noticias aparecen primero en nuestras redes sociales. Otro determina qué publicidad recibimos. Otro evalúa si somos candidatos a un crédito. Otro selecciona qué contenidos se vuelven virales y cuáles prácticamente desaparecen del debate público.
Cada vez más administraciones públicas utilizan inteligencia artificial para detectar fraudes, priorizar expedientes, asignar recursos o asistir decisiones administrativas.
La inteligencia artificial ya no es solamente una innovación tecnológica. “Está empezando a convertirse en una forma de ejercicio del poder.” Y esa circunstancia merece una profunda reflexión democrática. Porque todo poder, tarde o temprano, necesita límites.
Lo interesante es que la verdadera discusión no pasa por preguntarnos si la inteligencia artificial es buena o mala. Esa es una falsa discusión.
La IA puede representar una revolución extraordinaria para la medicina, la educación, la justicia, la administración pública y la productividad. Puede ayudarnos a reducir corrupción, mejorar políticas públicas, detectar fraudes y
utilizar con mayor eficiencia los recursos del Estado. Sería absurdo renunciar a semejante herramienta.
El problema aparece cuando olvidamos una pregunta mucho más importante. ¿Quién diseñó el algoritmo?; ¿Con qué datos fue entrenado?; ¿Qué valores incorpora?, ¿Quién controla sus decisiones?, ¿Quién responde cuando se equivoca?, Allí aparece uno de los mayores desafíos de nuestro tiempo.
Los algoritmos aprenden de los datos que reciben. Si esos datos contienen prejuicios, discriminaciones históricas o información incompleta, el sistema puede reproducir esos mismos errores con una apariencia de absoluta objetividad.
La máquina no discrimina porque tenga odio. Discrimina porque aprendió de una realidad previamente sesgada. Y cuanto más confiemos en sus respuestas sin comprender cómo fueron construidas, mayor será el riesgo de naturalizar decisiones injustas simplemente porque fueron tomadas por una computadora.
Existe además otra cuestión sobre la que hablamos muy poco. La inteligencia artificial también es poder geopolítico.
Durante el siglo XX los Estados medían su influencia por el tamaño de su economía, su industria, sus recursos naturales o su capacidad militar.
La posesión de tecnología nuclear, por ejemplo, funcionó durante décadas como un poderoso elemento de disuasión y como un símbolo de supremacía tecnológica.
En el siglo XXI está apareciendo un nuevo indicador de poder. La capacidad de desarrollar inteligencia artificial fundacional.
Hoy son muy pocos los países que concentran las empresas, el talento científico, la infraestructura tecnológica, la capacidad energética y el capital necesario para entrenar los grandes modelos de inteligencia artificial que luego utilizará buena parte del planeta.
Estados Unidos y China lideran claramente esa carrera. No es casualidad. Entrenar uno de estos modelos requiere inversiones de miles de millones de dólares, centros de datos gigantescos, millones de procesadores especializados y un volumen de energía comparable al consumo de ciudades enteras.
Quien domina esa tecnología no solo desarrolla mejores asistentes virtuales. También influye sobre la economía digital, la investigación científica, la educación, la administración pública, los sistemas de defensa y, en definitiva, sobre la forma en que circula el conocimiento en el mundo.
Quizás estemos presenciando el nacimiento de un nuevo concepto político: la soberanía algorítmica.
Así como los Estados hablan de soberanía territorial, energética o alimentaria, en las próximas décadas también deberán preguntarse cuánto control conservan sobre las inteligencias artificiales que utilizan diariamente sus ciudadanos, sus empresas y sus propios gobiernos.
Porque depender completamente de algoritmos desarrollados en el exterior no constituye solamente una cuestión tecnológica, es, también, una cuestión de autonomía estratégica. Y aquí aparece otra enseñanza que la historia puede ofrecernos.
Cuando comenzaron a fabricarse los primeros automóviles prácticamente no existían normas internacionales sobre seguridad. No había cinturones obligatorios, airbags, pruebas de choque ni estándares mínimos de fabricación. Con el tiempo comprendimos que la innovación necesitaba reglas. No para impedir el progreso. Precisamente para hacerlo más seguro.
Con la inteligencia artificial probablemente ocurra lo mismo. Así como hoy ningún automóvil puede comercializarse sin cumplir exigentes protocolos de seguridad, tampoco debería aceptarse que modelos fundacionales capaces de influir sobre millones de personas sean entrenados sin estándares mínimos internacionales.
Necesitamos reglas comunes sobre transparencia, calidad de los datos de entrenamiento, mitigación de sesgos, auditorías independientes, documentación técnica, trazabilidad, supervisión humana y responsabilidad jurídica. No porque desconfiemos de la inteligencia artificial. Sino porque desconfiamos demasiado en el poder que pudiera llegará a tener.
La democracia aprendió, a lo largo de los siglos, que ningún poder debe quedar fuera del control institucional. No ocurrió con los gobiernos, ni con los mercados. No ocurrió con la prensa, ni debe ocurrir con los algoritmos.
Tal vez dentro de algunos años descubramos que la gran discusión política de nuestra época no era si la inteligencia artificial iba a reemplazar determinados empleos.
Tal vez la verdadera discusión era otra mucho más profunda; es sobre quién controla los algoritmos que, silenciosamente, comenzaron a influir sobre nuestras democracias.
El desafío del siglo XXI no será solamente desarrollar inteligencia artificial. Será garantizar que la inteligencia artificial permanezca al servicio de la libertad, de la igualdad y de la dignidad humana. Y esa, quizás, sea la verdadera definición de soberanía algorítmica.
