Mikael HanssonLa IA debe ser responsable o socavará los derechos humanos. Así lo cree Virginia Dignum, directora de AI Policy Lab y miembro del Órgano Consultivo Alto Nivel sobre IA de la ONU. De ahí que la también senior advisor de la Wallenberg Foundations defienda la importancia de una regulación mundial, donde se apueste por unas reglas del juego capaces de garantizar una producción sostenible, un acceso equitativo y el fortalecimiento de la cohesión social. Un camino que, según defiende, está liderando la UE.
La ONU aboga por una regulación global de la IA, pero EE.UU. y el Reino Unido se están distanciando…
La regulación global de la IA sin la participación de EE. UU. y el Reino Unido corre el riesgo de volverse fragmentada y menos efectiva, pero sigue siendo un paso crucial. La gobernanza de la IA es demasiado importante para dejarla a merced de los caprichos de actores individuales, incluso si son poderosos. Su reticencia puede, de hecho, influir en otros para que eludan la acción colectiva, pero ese enfoque conlleva el riesgo de alimentar una espiral competitiva caracterizada por atajos éticos y crecientes desigualdades. Aunque alcanzar un consenso global parezca difícil, es fundamental seguir construyendo marcos multilaterales que reflejen valores humanos compartidos.
¿Cómo evalúa la inversión anunciada por la UE de 200 mil millones de euros para promover una IA regulada y más humana?
La inversión de la UE es una medida visionaria que se alinea estrechamente con la defensa de la innovación responsable y la gestión global de la IA. Sienta un precedente sobre cómo la financiación a gran escala puede impulsar no solo la innovación, sino también el desarrollo de una IA ética, inclusiva y sostenible. Sin embargo, invertir en IA por sí solo no es suficiente; debe ir acompañado de una producción sostenible, un acceso equitativo y el fortalecimiento de la cohesión social. Al destacar la regulación como un trampolín para la innovación en lugar de un obstáculo, la UE lidera con el ejemplo.
Si bien otros países como Canadá, Japón y Brasil tienen estrategias prometedoras, pocos igualan el compromiso de la UE con una gobernanza integral basada en valores. Aun así, esto no es una competencia ni habrá un único ganador. El único progreso verdaderamente significativo vendrá de esfuerzos globales alineados que garanticen que los beneficios de la IA se compartan de manera amplia y sostenible.
Virginia Dignum, directora de AI Policy Lab y miembro del Órgano Consultivo Alto Nivel sobre IA de la ONU
¿Le preocupa que aumenten las tensiones geopolíticas por la IA?
Sí, profundamente. Una carrera global por dominar la IA, impulsada por ambiciones económicas o militares y sin salvaguardas éticas, corre el riesgo de acelerar la desigualdad y socavar los propios fundamentos de la democracia y la cohesión social. El despliegue rápido y no regulado de la IA tiende a concentrar el poder en un pequeño número de naciones o, lo que es aún más preocupante, en corporaciones privadas sobre las cuales tenemos un control limitado. Esto marginaliza a la mayoría de los países y afecta de manera desproporcionada a las comunidades más vulnerables, convirtiendo a la IA en una fuerza que amplía las brechas existentes.
¿Teme que perdamos el control sobre la IA?
Mi mayor preocupación es que la IA opaca y sin rendición de cuentas erosione la autonomía humana y que el enfoque en peligros existenciales y competencia geopolítica opaque su potencial positivo. Tratar la IA solo como una amenaza puede llevar a decisiones impulsadas por el miedo y el corto plazo. Es crucial abordar riesgos como la toma de decisiones sin supervisión y el refuerzo de sesgos, pero esto requiere más que soluciones técnicas: se necesita un cambio sistémico. Para que la IA realmente sirva a la humanidad, debemos democratizar su gobernanza e incluir diversas voces en su desarrollo.
¿Nos dirigimos hacia un futuro donde las máquinas decidan el uso de armas de destrucción masiva?
Ese futuro no es ciencia ficción, sino una posibilidad real y peligrosa que ya está ocurriendo. Mi preocupación no es solo que las máquinas tomen decisiones de vida o muerte, sino que los humanos utilicen su autonomía como excusa para evadir responsabilidades.
Mirando hacia el futuro, ¿qué avances en IA le emocionan más?
El mayor potencial de la IA radica en empoderarnos para enfrentar desafíos globales como el cambio climático, la salud y la equidad, pero solo se alcanzará si se desarrolla de manera ética y responsable.