AEQUITAS

Para garantizar una IA justa que refleje los valores europeos, muchas herramientas de IA que pertenecen a actores públicos y privados deben evaluarse, repararse y, si es necesario, reemplazarse. Sin embargo, los costes de reemplazar las herramientas de IA existentes son altos y poco realistas. Además, los nuevos sistemas de IA deben desarrollarse de acuerdo con principios justos por diseño, cuya definición ahora no está clara para los desarrolladores.

AEQUITAS propone crear y distribuir un conjunto de herramientas para que los desarrolladores y usuarios de Inteligencia Artificial creen experimentos controlados a través de la exploración de todas las dimensiones experimentales (diseño factorial). Este entorno de experimentación abierto proporciona una infraestructura técnica y operativa para detectar, mitigar y posiblemente reparar posibles problemas de injusticia en las herramientas de IA (a nivel de datos, modelo e interpretación), así como definir nuevas metodologías que eviten sesgos.

Otro objetivo de AEQUITAS es tener presente que, más allá de reflexiones éticas y legales, la noción de equidad también está socialmente determinada, y puede diferir entre culturas y grupos sociales e incluso dentro de ellas. Lo que es legalmente «justo» no siempre lo es desde un punto de vista específico social y viceversa. El consorcio AEQUITAS incluye asociaciones que representan a grupos socialmente vulnerables y organizaciones de intereses especiales para recopilar sus aportes y experiencia específica desde varios puntos de vista con respecto a la equidad de la IA. AEQUITAS aumentará la conciencia social, particularmente entre LGTBQI y mujeres y otros grupos frágiles en riesgo de sesgo e injusticia de AI, así como entre grupos socioeconómicamente vulnerables en riesgo de desigualdad digital, como niños y ancianos. AEQUITAS proporcionará contenidos formativos para la recualificación y perfeccionamiento de la mano de obra en empresas y organismos públicos.

Los servicios se harán accesibles a la comunidad en general a través de la plataforma AI-on-demand. Cada herramienta en la plataforma, cada conjunto de datos y cada caso de uso se pueden etiquetar con un nivel de equidad. Sin embargo, en muchos casos, las empresas no pueden entregar sus herramientas de IA por motivos de seguridad, privacidad, competencia o secreto comercial. En esos casos, la evaluación de la equidad, la mitigación y la reparación deben realizarse internamente, aunque a menudo, no tiene la experiencia necesaria para estas actividades. Por lo tanto, la plataforma de experimentación controlada también podrá usarse como una herramienta independiente y descargable por empresas y organismos públicos para evaluar, y posiblemente, reparar sus herramientas.