ITI desarrolla una herramienta para acabar con la desigualdad presente en la Inteligencia Artificial

IGUALDAD
17/05/2024

El creciente uso de herramientas de Inteligencia Artificial (IA) ha generado preocupaciones sobre el potencial surgimiento de sesgos y discriminación. En esta línea, los desarrolladores de IA pueden haberse basado en datos históricos a la hora de crear las plataformas, lo que se podría traducir en injusticias.

En respuesta a esta inquietud, ITI, centro tecnológico privado especializado en TIC, está trabajando en el proyecto europeo AEQUITAS, cuyo objetivo es garantizar que la IA no solo sea ética y legal, sino también igualitaria, en el marco del Día Mundial de Internet.

Esta iniciativa, financiada por la Comisión Europea, pretende desarrollar un entorno abierto para que los desarrolladores y usuarios que utilicen la Inteligencia Artificial puedan experimentar de manera controlada. “Para garantizar una IA justa que refleje los valores europeos y sea fiable, muchas herramientas de IA que pertenecen a actores públicos y privados deben evaluarse, repararse y, si es necesario, reemplazarse”, ha destacado Santiago Cáceres, gestor del proyecto en el ITI.

Sin embargo, los costes de reemplazar las herramientas de IA existentes son altos y poco realistas. Por ello, AEQUITAS creará una infraestructura operativa que sea capaz de detectar, mitigar y reparar posibles problemas de injusticia en las herramientas de IA, así como definir nuevas metodologías que eviten sesgos, para que los nuevos sistemas de IA se desarrollen de acuerdo con los principios justos por diseño.

LGBTIQ+ y mujeres, entre los más perjudicados por la IA

Cabe destacar que la noción de equidad también está socialmente determinada, y puede diferir entre cultura y grupos sociales e incluso dentro de ellas. En esta línea, el consorcio AEQUITAS ha incorporado asociaciones que representan a diversos grupos socialmente vulnerables y organizaciones con intereses específicos, con el fin de recabar sus puntos de vista y experiencias desde múltiples perspectivas.

De este modo, AEQUITAS contribuirá a elevar la conciencia social, especialmente entre las comunidades LGBTIQ+ y las mujeres, quienes se encuentran entre los grupos más perjudicados por los sesgos y la injusticia derivados de la IA. Asimismo, se dirigirá a los grupos socioeconómicamente vulnerables que enfrentan un riesgo significativo de desigualdad digital, como niños y ancianos.

Según Emilio Insfran, director del grupo de Ingeniería del Software y Sistemas de Información (ISSI) y profesor de la Universitat Politècnica de València (UPV), «este proyecto proporcionará contenidos informativos para la recualificación y capacitación de profesionales en empresas y organismos públicos«.

En concreto, los servicios desarrollados a través de AEQUITAS estarán disponibles para la ciudadanía en general mediante la plataforma AI-on-demand. El funcionamiento de este sistema consiste en que cada herramienta, conjunto de datos y caso de uso puede ser etiquetado con un nivel de equidad.

Además, la plataforma de experimentación controlada también estará disponible como una herramienta independiente y descargable para empresas y entidades públicas con el objetivo de que exploren diversas dimensiones. Esto les permitirá evaluar y reparar sus herramientas de IA de forma más eficaz.

Coordinado por la Universidad de Bolonia, participan en el consorcio otras entidades españolas como la Universitat Politècnica de València, la Universidad de la Laguna y la Asociación para el Desarrollo Económico y Social Rayuela.

Finalmente, el proyecto AEQUITAS corresponde al número de expediente 101070363 y está financiado por la Comisión Europea.

Categorías


11 febrero
Activa Industria
Acuerdos
Aitana
ALCSOFTING
Alianza
Analista de datos
Aniversario
Asamblea General
Asamblea General de Asociados
Asamblea General ITI
Asesoramiento
Asociados
Ayudas
Big Data
Blockchain
Blockmarket
Calidad del Software
Centro de Innovación Digital
Centro Demostrador
Change2Twin
Ciberseguridad
Colaboración
Congreso
Consejo Rector
Convenio
Coronavirus
Cosmética
COVID
COVID WATER; COVID19; IA
COVID19
CPS
Data Room
DataRoom
Deep Learning
DELTA
Desarrollo
Desayuno
Día de la Mujer y la Niña en la ciencia
Diagnóstico
Digital Twins
Digitalización
Digitalización Industrial
DIH
DIH4CPS
Distrito Digital
E
E-commerce
Economía circular
Economía del dato
Eficiencia energética
Entrevista
Envase alimentario
ESalud
Espacio de datos
Evento
Eventos
FEDIT
Ferias
Formación
Formulación 4.0
Formulación cosmética
Gemelos digitales
Gestablock
HCIHEALTH
Hyperfactory
IA
Igualdad
IIoT
Industria 4.0
Industria conectada
Innovacion
Institucional
Inteligencia artificial
Interacción Persona-Ordenador
Internet de las Cosas
Investigación
Investigate to Innovate
IoT
ITI
ITI CORE
Jornada
Mach
Machine Learning
Marketing
Misión
Nombramientos
ORP
Plan de Igualdad
Premio
Premios
Proyecto
Proyectos
Proyectos I+D+I
Pymes
Radiatus
Realidad Aumentada
Receta
Reconocimiento
REDIT
Resultados
Salud
SCOTT
Sede Alicante
Semana de I+D+I
Semana I+D+I
Seminarios
SIMAD
Sistemas Ciber-Físicos
Sistemas Ciberfísicos
Sistemas críticos
Sistemas de Optimización
Sistemas distribuidos
SmartCities
Software
Soluciones de optimización
Subvenciones
Symbinet
Testeo
TIC
TIC como receta
TICS
Veritas
Visita
Visita Técnica
VLCSOFTING
VLCTESTING
Webinars

Buscar Noticias


Newsletter


Suscríbete y recibe todas las novedades sobre ITI