Nunca antes, al menos desde la más remota antigüedad y el nacimiento de las primeras religiones, la humanidad se había enfrentado a esto. Necesitamos aceptar y creer en un poder del que no sabemos nada. Se nos induce a confiar en que eso que no entendemos nos lo dará todo. El conocimiento y la felicidad, sin ir más lejos. Pero se nos hace saber que podría quitarnos la vida y sumergirnos en un infierno de inutilidad eterna -un caos de fuego y de hiel- si no le damos la obediencia que reclama.
Ahora sí, la IA está, como una serpiente seductora y voraz, entre nosotros. .
Una fábula de hombres justos y profecías inquietantes
«I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives (…) The people building AI earnestly believe that it could kill us all by the end of the decade.«
Esa afirmación de un hasta entonces desconocido ingeniero de sistemas llamado Jacob Coxon, advirtiendo sobre la inminencia de una catástrofe que podría barrer a toda la humanidad en el plazo de tres años, repetida desde el 8 de septiembre una y otra vez aquí, allá y en todas partes, fue la señal de alarma con la que comenzó una nueva y alocada carrera de los EEUU contra el tiempo. Y seguramante también contra si mismos. Y contra el destino.
La profecía apocalíptica de Coxon fue complementada al día siguiente por Evan Hubinguer, encargado de establecer los parámetros de seguridad en Anthropic, que estimó que la probabilidad de que eso ocurra es mayor al 10%, y pocas horas después, Geoffrey Hinton, Premio Nobel de Física en 2024 por su trabajo en el desarrollo de redes neuronales artificiales, aseguró en la BBC que esa estimación no le parecía ni descabellada ni irrazonable.
Las profecías, lo sabemos bien en las culturas judeocristianas, no son sólo un anuncio de las amarguras y el dolor que podrían sobrevenir si no hacemos lo que se nos manda. Son eso, por supuesto; son mensajes diseñados para infundir alarma y miedo, naturalmente; pero cumplen además con el cometido de anunciarnos que hay entre nosotros -o vendrán a su debido tiempo- hombres justos a los que deberíamos seguir si queremos quedar a salvo del castigo.
Por esa razón, se puede comprender que lejos de desmentir o relativizar lo que había sido profetizado, quienes están al mando de las principales empresas estadounidenses implicadas en el desarrollo de las llamadas IA de frontera, presentaran de inmediato un abanico de soluciones que hasta ayer nadie podía haber imaginado.
Fue como si por alguna razón hubieran estado pensando en ello. O como si Dios los hubiera iluminado…
Desacelérame o sabrás quién soy
Como primer paso antes de seguir adelante, y enfrentados a la nueva angustia que parece estar destilándose para que el temor nos invada y nos domine, vale la pena recordar que a quienes nos advirten del tremendo peligro que ellos mismos están empeñados en desarrollar, no tenemos obligación de creerles nada.
Por el contrario, desarrollar un moderado escepticismo y auscultar los latidos del corazón de la máquina para desentrañar hasta dónde se nos cuida y hasta dónde se nos miente, no será una mala idea. Las ovejas siempre se enteran demasiado tarde que ni el pastor ni el perro estaban al servicio del rebaño.
Que un técnico que ha trabajado 2 años y medio en OpenAI y tres meses en Anthropic nos anunciara de un día para el otro que «eso» que los cibersacerdotes están manipulando escondidos detrás del altar podría ser dañino, no debería ser una novedad. Lo han hecho varias personas antes que él, de mil formas y seguramente con más razón. Y como advirtió esta misma semana ante una comisión del Parlamento británico Beatrice Fihn, la ganadora de Nobel de la Paz en 2017 por liderar la International Campaign to Abolish Nuclear Weapons “It is not the first time we’re confronted with abilities that could end up killing us all.”
Del mismo modo, que apenas tres días después de realizado el anuncio del desastre que tenemos en puerta, las cabezas más visibles de esa gorgona que conocemos con el nombre genérico de IA, Darío Amodei de Anthropic, Sam Altman de OpenAI, Demis Hassabis de Google DeepMind y Elon Musk de xAI, no sólo no negaran el peligro al que nos exponen sino que realizaran llamados públicos para enlentecer el desarrollo de lo que hasta hoy han estado acelerando, parece tener -si de verdad tuvieran intenciones de hacerlo-, cierta lógica. Desacelerar podría ser una buena forma de mostrarnos la sensatez que hasta ahora no se les conoce.
Pero que hayan realizado propuestas para que se los regule, no sólo sorprende. Hace inevitables las sospechas. Porque si esos cuatro y el resto de la banda no han sido trigo limpio hasta ahora, no hay nada que nos asegure que milagrosamente lo serán a partir de mañana.
We Must Pace the Frontier
Vistas así las cosas y teniendo en cuenta que las empresas estadounidenses de IA tienen necesidad de obtener nuevos capitales que financien los costos exorbitantes de ese maravilloso producto que según ellos mismos se podría salir de control tan fácilmente, amenazarnos (a todos, porque se trata de una amenaza planetaria) con lo que podría suceder si no se les da el dinero que necesitan -y si no se les da sin hacer demasiadas preguntas-, cobra un nuevo y revelador sentido.
Y se hace plenamente comprensible la regulación que propone Darío Amodei, en su publicación del 12 de septiembre: We Must Pace the Frontier que, respaldada de inmediato por sus tres principales competidores/aliados, deberá estar destinada al cumplimiento de tres objetivos básicos:
El primero, que la regulación sea, en los hechos, una auto-regulación. Que deje el control de las empresas de IA estadounidenses en manos de entidades vinculadas a, y dependientes financieramente de, ellas mismas. Y que lo pague el gobierno, que para eso está.
El segundo, que esa regulación funcione como un mecanismo de obturación del paso a nuevos competidores que pudieran desarrollar productos similares en los países que Amodei define como democráticos, como por ejemplo la UE o Canadá, que podrán hacerlo libremente, pero deberán alinearse con las regulaciones establecidas por las empresas de los EEUU, y entregarles el control de sus resultados. Porque para eso están los socios.
El tercero -y éste es seguramente el objetivo central-, consiste en impedir que en el resto del mundo se utilicen modelos Open Source, como los que desarrollan las empresas chinas, que no sólo resultan más económicos sino que además permiten que el comprador tenga acceso y pueda modificar y adaptar a sus necesidades el algoritmo que define sus funciones.
A las empresas chinas de IA, se las tendrá entre ceja y ceja, se les cerrará el acceso a todo lo que eventualmente necesiten (si eso fuera posible), y sobre todo se impedirá su llegada a los mercados de los países que pudieran tener la pésima idea de querer comprar lo que ellas venden. Porque esto es una guerra y lo que menos sobra es tiempo.
Para decirlo en sus propias palabras, porque aunque la retórica de Amodei sea un galimatías más propio de la Guerra Fría que del Siglo XXI, el sentido del mensaje no podría estar mejor expresado:
Pacing within democracies will be limited by the lead that US companies have over authoritarian regimes, chiefly the Chinese Communist Party. If we slow down by more than this amount, then (unpaced) CCP-associated projects will pull ahead, creating significant national security risk. I agree with Secretary Bessent that a Chinese lead in AI would pose grave danger for the United States and the world. The CCP-associated projects will run the alignment risks that US companies are carefully preventing, and even if they avoid those risks, they will be in a position to militarily dominate democracies. Thus, a key part of pacing within democracies is to keep democracies’ AI lead over autocracies as large as possible, to give us the breathing room we need in order to pace effectively.
Como alguien ha sugerido, el extenso trabajo de Darío Amodei parece menos un producto de su preocupación por la seguridad de la humanidad que un ataque de nervios, ansiedad y pánico geopolítico con notas al pie. Y el uso del concepto de frontera hace inevitable nuestra preocupación, porque sabemos bien de qué habla America cuando habla de fronteras.
¿Dijeron comunismo o escuchamos mal?
Amodei, que posiblemente se ve a si mismo como el intelectual de ese exclusivo círculo de magnates de la IA que no saben bien qué hacer con la burbuja financiara que han montado, ni cómo salvarse (él/ellos) del desastre al que nos han expuesto y nos siguen exponiendo, ha querido ir más allá y nos advierte que «the accelerating rate of capabilities meant a swarm of AI agents could be capable of taking over the entire internet in six to 12 months».
No puede sorprender entonces que Donald Trump y J.D. Vance, que no pueden darse el lujo de sembrar más pánico mientras pierden una guerra, suben las tasas de interés al 4%, y se acercan las elecciones de medio término, hayan salido al ruedo a declarar que mientras exista en los EEUU un Presidente tan inteligente como él y con un coeficiente intelectual tan destacado como el suyo, no hará falta desacelerar el avance de la IA, ni colocarle trabas de seguridad a su desarrollo, porque eso de que la humanidad peligre no es nada en comparación a que los comunistas pudieran, esta vez, salirse con la suya.
Y lo que llama la atención es que ni unos ni otros esconden que el problema principal que enfrentan es el comunismo. Y que en este caso no parece que estuvieran agitando el espantajo de siempre para poder contraponerle una democracia en la que, en los tiempos que corren, todos dudan. Y en la que ellos, definitivamente, no creen.
El comunismo del que hablan se parece menos al monstruete macartista con uñas largas, mirada torva y siempre sediento de sangre, que al viejo y querido fantasma que alguna vez, hace de esto casi dos siglos, sobrevoló los cielos de Europa y luego se desvaneció en la inmensidad de un mundo demasiado complejo, dejándonos con sabores agridulces en la boca.
De todo lo que no hemos podido tocar hoy por razones de espacio: los verdaderos peligros a los que estaremos expuestos cuando la IA se haya vuelto tan imprescindible y poderosa que debamos delegarle todo lo que nos importa, convencidos de estar haciendo lo correcto, o lo que estará en juego cuando debamos optar entre los modelos de código cerrado que monopolizan y se apropian de todo el conocimiento humano y lo guardan bajo siete llaves y los modelos de código abierto que personajes como Darío Amodei y Donald Trump, cada uno a su modo, consideran un peligro, trataremos en la Segunda Parte de esta nota.
