El reciente nombramiento en Albania de Diella, una inteligencia artificial que asume la cartera de ministra de Estado para la Inteligencia Artificial y la Innovación ha provocado un intenso debate internacional. La decisión, que busca situar a la tecnología en el centro de la estrategia del país contra la corrupción y en favor de la innovación, no es un simple gesto simbólico: por primera vez, un sistema algorítmico se sienta en el Consejo de Ministros de un Estado.
La noticia nos remite inevitablemente a la reflexión cultural que ya planteaba la película Justicia artificial, de la recientemente desaparecida Verónica Echegui, donde se imaginaba un futuro en el que los jueces eran sustituidos por programas informáticos de inteligencia artificial. Lo que entonces parecía ciencia ficción empieza a materializarse, y nos obliga a preguntarnos hasta qué punto estamos dispuestos a delegar en algoritmos funciones tan sensibles como la gestión de lo público.
Es indudable que una inteligencia artificial bien diseñada puede ofrecer ventajas frente a la fragilidad humana. A diferencia de las personas, un sistema de este tipo es incorruptible, y cualquier sesgo que incorpore —derivado siempre de decisiones humanas en su diseño o en los datos con los que se entrena— puede ser identificado, auditado y corregido. Corregir el sesgo humano, en cambio, es mucho más complejo. En este sentido, la propuesta de que una IA supervise el gasto público tiene un atractivo indudable: nos invita a pensar en algoritmos como aliados de la transparencia.
Ahora bien, no podemos ni debemos caer en la tentación de pensar que la inteligencia artificial puede sustituir completamente a las instituciones políticas o judiciales. Una IA puede ser una herramienta valiosa, pero necesita de supervisión humana constante y de marcos claros de rendición de cuentas. La legitimidad democrática no puede residir en un código, por muy sofisticado que sea, sino en las instituciones que representan a la ciudadanía.
Por eso resulta imprescindible avanzar en una doble línea. Por un lado, hay que asegurar que estos sistemas se desarrollen con las máximas garantías de transparencia, auditabilidad y respeto a los derechos fundamentales. Y por otro, reconocer la responsabilidad profesional de quienes los crean, regulando y supervisando su actividad igual que se hace con otros cuerpos colegiados que ejercen funciones de interés público. Si queremos confiar a la inteligencia artificial tareas tan críticas, necesitamos asegurarnos de que detrás hay profesionales competentes, regulados y responsables de cada decisión tecnológica.
Lo ocurrido en Albania es una provocación intelectual y política que no podemos ignorar. Nos recuerda que la inteligencia artificial ya no es solo un asunto de laboratorios o de empresas tecnológicas: ha entrado en el corazón de la política. Y nos plantea un dilema crucial para el futuro: queremos que la tecnología complemente a la democracia, nunca que la sustituya.
Fernando Suárez Lorenzo
Presidente, Consejo General de Ingeniería Informática
Presidente, Fundación Instituto Internacional de Tecnología y Derecho Digital
