Una tecnología para un mundo sin brújula Evaristo Villar
La inteligencia artificial no ha irrumpido en un mundo sereno, democrático y bien gobernado. Ha llegado en plena tormenta: guerras abiertas, rivalidad entre grandes potencias, descrédito de las instituciones, debilitamiento de la democracia y creciente concentración de la riqueza y del poder. Los organismos internacionales redactan declaraciones que casi nadie cumple; los gobiernos gobiernan pendientes de las encuestas; y las grandes corporaciones tecnológicas poseen más información que muchos Estados.
En este escenario aparece una tecnología capaz de influir en la economía, el empleo, la información, la guerra y hasta en nuestra manera de pensar. Y se nos presenta como una herramienta neutral. Algo así como dejar una caja de cerillas en un bosque seco y tranquilizarnos diciendo que las cerillas no tienen malas intenciones.
La IA llega, además, acompañada de una promesa capaz de salvarnos prometiendo el paraíso digital: curará enfermedades, eliminará los trabajos penosos, aumentará la productividad y resolverá los problemas que la inteligencia natural lleva siglos empeñada en complicar. El programa es magnífico. Solo falta una pequeña aclaración: quién controla la máquina y con qué fin.
La alarma procede de la cocina
La advertencia más inquietante no viene de enemigos de la tecnología, sino de personas que conocen sus fogones. La carrera mundial está encabezada por grandes compañías como OpenAI, Anthropic, Google DeepMind y Meta, respaldadas por gigantes tecnológicos y financieros. Jacob Coxon, antiguo investigador de OpenAI y Anthropic, dimitió denunciando que ambas empresas avanzaban hacia una superinteligencia capaz de perfeccionarse por sí misma. Según declaró, quienes construyen estos sistemas creen sinceramente que podrían acabar con la humanidad antes de terminar la década.
Conviene precisar lo que dijo. Coxon no anunció que la humanidad desaparecerá inevitablemente en 2030. Advirtió que personas directamente implicadas en el desarrollo de la IA consideran posible ese desenlace. Evan Hubinger, dirigente de Anthropic, respaldó la advertencia y calculó en más del 10 % el riesgo durante la próxima década.
Un 10 %, según estos técnicos, puede parecer poco cuando se pronostica lluvia. Basta con llevar paraguas. Pero resulta menos tranquilizador cuando lo que está en juego es la supervivencia humana: si la previsión se cumple, no quedará nadie para felicitar finalmente al meteorólogo.
Esas advertencias pueden discutirse. No existe consenso científico sobre la probabilidad de una catástrofe semejante. Pero revelan una contradicción difícil de ignorar: quienes reconocen públicamente que el vehículo podría no tener frenos seguros siguen compitiendo por ver quién conduce más deprisa.
La máquina tiene dueños
El problema fundamental, bien entendido, no es técnico, sino antropológico y político. La cuestión decisiva no es qué puede hacer la IA, sino quién decide lo que debe hacer, quién financia su desarrollo y quién recogerá sus beneficios.
Detrás de cada modelo hay personas, empresas, inversores, gobiernos y ejércitos. Todos trabajan, naturalmente, por el bien de la humanidad; pero, por una de esas felices casualidades, ese bien suele coincidir con sus ganancias, su influencia política o su superioridad militar.
Se habla mucho de “democratizar la inteligencia”. Sin embargo, los grandes modelos, los centros de datos, los microprocesadores y las ingentes cantidades de información tienen propietarios. La nueva democracia digital se parece demasiado a ciertas comunidades de vecinos: todas las personas pueden opinar, pero la llave de la azotea la conserva el presidente.
Esta concentración resulta especialmente peligrosa cuando retrocede la democracia. Las instituciones públicas, debilitadas y lentas, intentan regular empresas que avanzan a una velocidad vertiginosa y poseen recursos superiores a los de muchos Estados. Cuando llega la ley, la tecnología ya ha cambiado de domicilio.
Una bomba que no puede contarse
La comparación con las armas nucleares resulta esclarecedora. La energía atómica prometió progreso, aunque su primera gran presentación pública consistió en destruir Hiroshima y Nagasaki. Después llegaron los tratados, las inspecciones y la llamada “comunidad internacional”, esa respetable señora a la que las grandes potencias escuchan atentamente cuando confirma lo que ya habían decidido.
Pero controlar la IA es todavía más difícil. Las cabezas nucleares pueden contarse y las instalaciones pueden inspeccionarse. Un modelo informático puede copiarse, modificarse, ocultarse y difundirse. Además, su daño potencial abarca desde una falsificación trivial hasta la manipulación política, el ciberataque, la vigilancia masiva o la automatización de la guerra.
La misma herramienta que ayuda a diagnosticar una enfermedad puede emplearse para seleccionar objetivos militares. La que facilita el acceso al conocimiento también puede fabricar mentiras a escala industrial. No estamos ante dos tecnologías distintas, una buena y otra mala, sino ante una sola herramienta sometida a intereses diferentes.
Esa ambigüedad permite que nadie quiera frenar. Las empresas temen perder el mercado; las grandes potencias, quedar rezagadas; y los ejércitos, que el adversario llegue primero. Todos reconocen el peligro, pero todos continúan la carrera porque los demás también corren. Es la vieja lógica armamentística “si vis pacem para bellum”, ahora instalada en un centro de datos.
Desarmar la inteligencia artificial
La encíclica Magnifica humanitas ofrece un criterio particularmente lúcido: la tecnología no es neutral, porque adopta “el rostro de quien la concibe, la financia, la regula y la utiliza” (n.º 9). La cuestión moral comienza, por tanto, mucho antes de apretar un botón: está presente en la financiación, el diseño, la propiedad y los fines elegidos.
Por eso León XIV propone “desarmar la IA”. Según el n.º110, significa apartarla de la competencia militar, económica y cognitiva y romper la equivalencia entre poder tecnológico y derecho a gobernar. No se trata de rechazar la técnica, sino de sustraerla a los monopolios, someterla a discusión pública e impedir que domine lo humano.
Esto exige transparencia, control democrático, responsabilidad jurídica, límites verificables y participación social. No basta con enseñar buenos modales al algoritmo. Hay que exigir responsabilidades a quienes lo diseñan, lo financian y lo utilizan. Tampoco sirve crear comités éticos decorativos: esos floreros institucionales adornan muy bien los congresos, pero nunca interrumpen un negocio.
La última decisión
La IA puede contribuir a una vida mejor. Pero también puede concentrar el poder, automatizar injusticias y presentar decisiones políticas como si fueran simples resultados matemáticos. Un algoritmo no elimina la responsabilidad: muchas veces solo la esconde detrás de una pantalla.
El mayor peligro no es que las máquinas lleguen a parecerse demasiado a la inteligencia humana, sino que las personas terminemos pareciéndonos a ellas: calculadoras, obedientes, previsibles y sin compasión.
Si algún día la inteligencia artificial llega a gobernarnos, no será porque haya conquistado por sí sola a la humanidad. Será porque una minoría se habrá apropiado de ella, la mayoría habrá mirado hacia otro lado y, entre solemnes declaraciones éticas, se la habremos entregado.