Ideas centrales
Entre las empresas de IA de frontera, Anthropic ocupa una posición única: nació con el propósito explícito de construir una IA segura y beneficiosa. Su enfoque de «IA constitucional» —entrenar a los sistemas de IA para que sigan principios y no solo instrucciones— coincide de lleno con el principio arquitectónico del Camino Intermedio: la consciencia debe dirigir a la inteligencia.
Dario Amodei, director ejecutivo de Anthropic, ha publicado ampliamente sobre gobernanza de la IA, incluido su ensayo de 20.000 palabras «La adolescencia de la tecnología». El Camino Intermedio de la IA se apoya en ese trabajo y a la vez lo cuestiona: la visión de Amodei es necesaria pero insuficiente, porque nace en el Norte y no contempla la palanca estructural que las naciones del Sur Global deben ejercer para lograr una gobernanza de la IA equitativa.
«La IA constitucional es la idea correcta. La gobernanza constitucional de la IA —con el Sur Global como coautor— es la idea completa.»