Hace no muchos años la Inteligencia Artificial (IA) era algo que, para la mayoría de las personas, solo estaba presente en las películas y libros de ciencia ficción. Aunque por entonces pasara inadvertido, este campo de investigación avanzaba como cualquier otro, con diversas ramificaciones como la comprensión del lenguaje, la generación de texto mediante chatbots, el reconocimiento de formas y objetos en imágenes, etc. Sin embargo, con la llegada de Siri en 2011 (y Google Now poco después) se produce un primer hecho que revolucionó la forma en la que veíamos la IA. Fue entonces cuando empezamos a hablar con nuestros móviles y a tener asistentes en ellos. Nos habían puesto la IA al alcance de nuestra mano.
Poco después llegaría la conducción autónoma y con ella se planteó el dilema del tranvía. ¿Qué debía hacer la IA que controlase un coche en caso de no poder eludir un accidente pero poder optar entre dos opciones catastróficas? ¿Debería salvar a un grupo de personas evitando un atropello, aunque eso significara la muerte del conductor? ¿O debería priorizar la seguridad del conductor? Esto nos lleva a otra pregunta interesante: si supiéramos que nuestro coche va a elegir sacrificar al conductor por un bien mayor ¿lo compraríamos? ¿O, por el contrario, optaríamos por otro que tomara la decisión opuesta? Ese dilema, planteado en la publicación The social dilemma of autonomous vehicles (2016, Jean-François Bonnefon, AzimShariff, and IyadRahwan) fue, tal vez, el catalizador necesario para que la idea de la IA Responsable comenzase a propagarse.
Así, mientras los trabajos en IA seguían tomando un impulso cada vez mayor, surgían o se propagaban conceptos que deberían contemplarse en esos proyectos, como la explicabilidad, transparencia, eliminación de sesgos… Y entonces, en noviembre de 2023, llegó ChatGPT. La euforia y el miedo se dispararon hasta el punto de que parecía que habíamos descubierto algo similar a la energía atómica. Desde entonces, parece que tenemos algo nuevo que, según unos, puede ser maravilloso, pero, según otros, puede llegar a destruirnos.
Lo que sí resulta evidente es que estamos ante un escenario en el que las empresas tecnológicas están en una carrera desenfrenada por dominar el mercado de la IA ofreciendo una inteligencia mayor, capaz de hacer más cosas y a la que, de alguna forma, se opone una comunidad de personas que demandan mayor seguridad, un seguimiento de principios éticos y, en definitiva, la adopción de criterios de IA Responsable. Si imaginamos esa escena de enfrentamiento entre unos y otros defendiendo intereses muy distintos, parece obvio llegar a la conclusión de que, si no se hace nada, no todas las empresas van a adoptar las medidas necesarias, o al menos, el conjunto mínimo necesario para que la sociedad esté realmente protegida en sus derechos fundamentales. Es aquí donde entra la legislación y donde se ve la necesidad de llegar, por ejemplo, al Reglamento de IA (RIA) europeo.
Pero entonces, ¿qué es y en qué consiste la IA Responsable? Existen múltiples definiciones de IA Responsable en las publicaciones que abordan este tema.(Göllner et al., 2023) ofrece la siguiente explicación a partir de los rasgos comunes que se encuentran en muchas de ellas:
“La IA Responsable se centra en el ser humano y garantiza la confianza de los usuarios a través de formas éticas de toma de decisiones. La toma de decisiones debe ser justa, responsable, no sesgada, con buenas intenciones, no discriminadora y coherente con las leyes y normas sociales. La IA Responsable garantiza que las decisiones automatizadas sean explicables para los usuarios, protegiendo siempre su privacidad a través de una implementación segura”.
Para comprender todas las implicaciones de la IA Responsable, es interesante ver como en la definición convergen aspectos éticos y legales. A partir de esta fusión, podemos decir que se deberían tener en cuenta los siguientes puntos:
En primer lugar, los modelos de IA deberían garantizar la igualdad y mitigación de sesgos, y para ello es importante partir de unos datos con calidad, limpios, representativos y manejados adecuadamente. Los datos sesgados o de baja calidad afectan la equidad y el rendimiento de los modelos. Además, se debe preservar la privacidad de la información que contienen mediante el uso de una combinación de tecnologías como anonimización, agregación o la más reciente, privacidad diferencial.
En cuanto a los modelos de IA obtenidos a partir de esos datos, se debe aportar un nivel adecuado de explicabilidad y transparencia de forma que los modelos sean comprensibles, y la información técnica sobre cómo se crearon (datos usados, modo de entrenamiento, etc) esté disponible. Esto es especialmente importante en aplicaciones críticas (médicas, financieras…) ¿Por qué un sistema de IA recomienda un determinado tratamiento para un paciente?
También debe tenerse en cuenta la ciberseguridad y la robustez de los modelos y ofrecer protección contra ataques adversarios, manipulación de datos y comportamientos impredecibles.
Por otro lado, la IA Responsable busca equilibrar desarrollo tecnológico con sostenibilidad. Existen herramientas que permiten calcular el consumo energético, emisiones de gases de efecto invernadero y el uso de recursos naturales. Este análisis del impacto medioambiental debe llevar a la introducción algoritmos y hardware más eficientes.
Por último, y de forma transversal a todo lo citado anteriormente, debe establecerse una gobernanza de la IA, siendo principalmente un marco de supervisión y control para garantizar cumplimiento legal y ético en todo el ciclo de vida de los sistemas de IA. Incluye la trazabilidad, mitigación de riesgos, definición de roles y responsabilidades, y mecanismos para integrar todos los principios de IA Responsable en procesos organizacionales.
En ITI somos conscientes del reto que supone crear y hacer uso de la IA de forma responsable. Es por ello que a finales de 2023 se creó un grupo de trabajo dedicado a observar, introducir y fomentar todos los principios enumerados anteriormente. Con la experiencia acumulada, el Grupo de IA Responsable ha comenzado a ofrecer servicios que permiten adaptarse a estos cambios éticos y legales a otras organizaciones y, además, participa en proyectos de investigación como eXplAIn en los que se abordan los objetivos de transparencia y explicabilidad que deben incorporarse a los Sistemas de IA existentes para adaptarlos a la nueva normativa establecida por la RIA.
