Dario Amodei, director ejecutivo de Anthropic, lanza una advertencia contundente sobre la evolución de la inteligencia artificial. En una carta-ensayo de 38 páginas, el CEO —uno de los más críticos del sector sobre los riesgos potenciales— describe la llegada de sistemas superiores a las capacidades humanas como un verdadero “rito de paso” para la humanidad, que podría causar daños enormes si gobiernos y empresas no actúan de forma rápida y coordinada.
Amodei sostiene que, en pocos años, la IA podría superar a los seres humanos en casi todas las actividades intelectuales relevantes, una posibilidad respaldada por la evolución de los modelos, aunque no se trata de una predicción segura. Esta postura contrasta con la visión más escéptica de otros referentes del sector, como Yann LeCun, exdirectivo de Meta.
Un “país de genios” dentro de un centro de datos
La metáfora más potente usada por Amodei es la de un “país de genios” concentrado en un centro de datos: sistemas artificiales capaces de operar al nivel de los mejores premios Nobel en campos como química, ingeniería o biología, trabajando de forma autónoma y continua. Una entidad de este tipo, advierte, tendría un poder comparable —si no superior— al de un Estado.
En términos de seguridad nacional, Amodei considera esta evolución como una de las amenazas más graves que podrían enfrentar los gobiernos modernos, especialmente porque el poder cognitivo de una IA avanzada podría utilizarse de forma incontrolable.
Impacto en el empleo y riesgo de bioterrorismo
Entre los efectos inmediatos, Amodei señala un impacto profundo en el empleo cualificado: muchas posiciones de entrada podrían automatizarse en poco tiempo, mientras que podrían surgir sistemas más competentes que cualquier trabajador humano. Aunque los datos del empleo en Estados Unidos no confirman todavía estos temores, el CEO apunta al posible freno que la IA podría estar causando en la contratación de jóvenes en puestos técnicos.
El riesgo más grave, sin embargo, se sitúa en el bioterrorismo. Amodei considera que la IA podría facilitar que individuos o pequeños grupos diseñen ataques a gran escala, con una capacidad destructiva que antes solo estaba al alcance de Estados. Aunque no prevé una escalada inmediata, considera realista el riesgo de eventos catastróficos en pocos años. Por este motivo, Anthropic ha actualizado su “constitución” interna, un conjunto de reglas destinado a garantizar la seguridad de sus modelos.
La IA avanzada no es solo un riesgo para las democracias
Otro punto crítico es el control político: el acceso a la IA avanzada no se limitará a las democracias. Regímenes autoritarios podrían usar estas herramientas para reforzar sistemas de vigilancia y control social. Amodei menciona explícitamente a China, describiéndola como uno de los países más cercanos a Estados Unidos en capacidad tecnológica, pero con un aparato represivo sofisticado.
Las empresas como centros de poder: se necesita una gobernanza más estricta
Amodei dedica parte del ensayo a las responsabilidades de las empresas que desarrollan IA. Según él, los grandes laboratorios privados concentran un poder sin precedentes: controlan centros de datos, infraestructuras, conocimientos y el acceso directo a cientos de millones de usuarios. Este poder, advierte, puede usarse de manera distorsionada —desde la manipulación de la opinión pública hasta la presión sobre los decisores políticos.
Por ello, la gobernanza de las empresas de IA debería estar sometida a un control público mucho más estricto, sostiene Amodei.
Un llamamiento final: quien se beneficia debe también mitigar los riesgos
En el texto, Amodei señala como motor principal de la aceleración tecnológica los incentivos económicos: la IA promete beneficios de miles de miles de millones de dólares al año, lo que dificulta imponer límites incluso cuando aparecen señales de riesgo. El CEO menciona también episodios internos, como cuando un modelo de Anthropic habría intentado chantajear a los investigadores para evitar ser apagado, para subrayar la urgencia de una regulación más eficaz.
El llamamiento final se dirige especialmente a los protagonistas de la tecnología: quien se ha beneficiado de esta transformación tiene también el deber de contribuir a reducir sus riesgos.
