¿Qué fue de la «seguridad de la IA»?

Alan Turing lo vio venir. En 1951, cuando la inteligencia artificial solo existía en los pasillos en penumbra de los laboratorios universitarios de física—atendidos por genios brillantes a los que les costaba conseguir una cita, cuando «ciencias de la computación» era todavía una expresión exótica—, Turing hizo una predicción que resultaría inquietantemente certera. Dijo que un día la innovación en IA sería imposible de detener. Y dijo que ese sería el momento en que los gobiernos tendrían que intervenir con salvaguardas—para asegurar que una máquina diseñada para imitar la conciencia humana resultara más útil que dañina.

Ese momento llegó décadas después, en 2023, tras haber atravesado el campo dos brutales «inviernos de la IA» en los que la financiación estuvo a punto de secarse del todo. Pero la ironía más profunda cala hasta el hueso. Turing—héroe nacional por descifrar el código Enigma y ayudar a poner fin a la Segunda Guerra Mundial—fue, en la práctica, asesinado por su propio gobierno por ser homosexual, empujado al suicidio por una castración química dictada por un tribunal. El hombre que vio nuestro futuro con mayor claridad fue destruido por a quién amaba.

La persona que ocupó el foco de la IA setenta y dos años después no podría haber sido más distinta en sus circunstancias, aunque no en su brillantez. Sam Altman—abiertamente gay, con predilección por el glamur auténtico de Russian Hill, en San Francisco, antes que por el glamur de imitación del Googleplex—recorrió el mundo a toda prisa en 2023 pidiendo que los gobiernos regularan la inteligencia artificial. Fue una actuación de virtuoso. Pero se le podía perdonar a cualquiera que se preguntara si su verdadera agenda tenía menos que ver con la seguridad y más con activar socios globales para OpenAI, que se estaba convirtiendo a toda velocidad en la aplicación de crecimiento más rápido del planeta.

No constaba que Altman formara parte de los «doomers»—los investigadores, muchos de ellos agrupados en torno a Oxford, que advertían del riesgo existencial que la IA suponía para la especie humana—. Tampoco era un aceleracionista que gritara go, go, go a cualquier precio. Hizo, en cambio, algo mucho más eficaz comercialmente: activó el despegue de OpenAI hasta convertirla en la startup de crecimiento más rápido de la historia.

El «alineamiento»—el principio de que los sistemas de IA deben estar alineados con los valores y la ética humanos—acabó significando, en manos de Altman, algo más parecido al alineamiento entre la estrategia de negocio y la oportunidad de mercado. Investigadores clave de seguridad fueron saliendo por la puerta, uno tras otro, a medida que esa realidad se volvía imposible de ignorar.

Y sin embargo, durante un instante luminoso, alguien con poder lo intentó de verdad. El único líder que se plantó frente a la marea aceleracionista fue el joven y recién estrenado primer ministro británico Rishi Sunak, cuyo ascenso debía no poco a su suegro, Narayana Murthy, fundador de Infosys—el hombre que puso a la India en el mapa como la primera gran nación del Sur Global en plantar cara al dominio de la IA del Norte Global.

Con las conexiones y la credibilidad de Murthy detrás, Sunak reunió a veintinueve naciones en Bletchley Park—el mismísimo lugar donde Turing había descifrado Enigma—y consiguió su firma en una declaración que establecía que debía demostrarse que la IA era segura antes de poder liberarla al público. El plan era celebrar una serie de cumbres sobre seguridad de la IA hasta que todos los ciudadanos del mundo estuvieran protegidos, igual que lo estaban bajo los tratados START posteriores a la Segunda Guerra Mundial, que pusieron salvaguardas a las armas nucleares.

El simbolismo era exquisito. La ambición política era real. Y durante una breve temporada pareció que el mundo podría acertar de verdad con esto.

El impulso no duró.

Altman y los directores ejecutivos de las llamadas «Siete Magníficas»—las grandes tecnológicas que estaban rehaciendo toda su estrategia en torno a la IA—soltaron a sus grupos de presión en cada foro que importaba. La legislación sobre seguridad de la IA fracasó en Nueva York. Fracasó en Ginebra. Fracasó en capitales estatales con mucho peso tecnológico, como Sacramento.

Pero el tiro de gracia se produjo en un solo instante, a puerta cerrada.

Ese sencillo argumento—expuesto en privado, jamás debatido en público—lo cambió todo. Al día siguiente, las fuerzas del mercado sacaron la conclusión evidente. No solo el NASDAQ, sino también el Dow Jones y el S&P entendieron que nunca iba a haber una gobernanza real de la IA. Ese supuesto hizo que los mercados subieran una y otra vez, alimentando el mayor aumento de riqueza de la historia mundial—1,7 billones de dólares más de capitalización bursátil en apenas tres años.

La seguridad de la IA, como movimiento político, estaba muerta.

¿O no?

Un periodista con visión de futuro, el columnista del New York Times Thomas Friedman, predijo en septiembre del año pasado que Estados Unidos y China terminarían por alinearse en materia de gobernanza de la IA. Lo llamó co-opetencia—un marco en el que las dos superpotencias competirían en algunos ámbitos y cooperarían en otros. Era una predicción inteligente. Pero Friedman se dejó algo fuera.

¿Cómo podría ocurrir? ¿Quién haría que ocurriera? ¿Cómo se llevaría a la práctica semejante alineamiento entre Estados Unidos y China cuando ninguna de las dos superpotencias tiene incentivo alguno para mover ficha primero?

La respuesta, creemos, no está en Washington ni en Pekín. Está en el Sur Global—en los mercados de cuatrocientos millones de personas de naciones como Tailandia, Indonesia, México y Perú, cuyos gobiernos se están haciendo hoy otra pregunta. No la de la «seguridad de la IA» en el viejo sentido binario—seguro frente a inseguro, regular frente a acelerar—, sino otra más matizada y, creemos, más alcanzable: ¿cómo reducimos el daño potencial Y optimizamos el beneficio dentro de un mismo modelo de gobernanza?

Esta web—middleway.ai—encarna esa convicción. No es demasiado tarde. Pero casi lo es.

El reto ahora no es resucitar la «seguridad de la IA» tal como se concibió en 2023. Ese tren ya pasó. El reto es construir algo mejor—un marco que combine la reducción del daño con la optimización del beneficio, que dé a las naciones del Sur Global una capacidad de influencia real en la era de la IA en lugar de dejarlas como consumidoras pasivas de tecnologías diseñadas en otra parte para el beneficio de otros.

Como predijo Rousseau hace siglos, la desigualdad de riqueza sin freno crecerá hasta tal extremo que la economía, sobrecargada en su cúspide, terminará por derrumbarse bajo el caos y la miopía de sus propios líderes. La pregunta es si construimos un camino intermedio antes de ese colapso—o después de él.

La ventana sigue abierta. Por poco.