Las leyes suelen contener ambigüedades, ser interpretables y, muchas veces, contienen bastantes artículos difíciles de entender para los ciudadanos. El Reglamento de Inteligencia Artificial (RIA o AI Act en inglés) no es una excepción a esto. Por ese motivo, entre otros, se creó la Oficina de la IA europea, que está cargando con el ejercicio de divulgar los aspectos fundamentales del reglamento y explicar aquellos artículos más complejos o que necesitan un contexto mayor.
Recientemente, los esfuerzos de la Oficina de la IA se están centrando en aclarar todo aquello relacionado con la IA de Propósito General (GPIA por sus siglas inglesas). Este esfuerzo se completó justo antes de que los artículos que rigen todo lo relativo a este tipo de modelos y sistemas entrase en vigor (cosa que ocurrió en agosto). El resultado fue la publicación, de forma casi simultánea, de un código de buenas prácticas y unas directrices.
Llegados a este punto, es posible que nos surjan unas cuantas preguntas ¿qué es un modelo de IA de propósito general? ¿Por qué es necesario disponer de unas directrices? ¿Y por qué publican un código de buenas prácticas?
¿Qué es un modelo de IA de propósito general?
Un modelo de IA de propósito general es aquel que tiene capacidad para desempeñar múltiples tareas. Viene definido en el artículo 3 del propio reglamento de la siguiente forma:
«Modelo de IA de propósito general»: un modelo de IA, incluso cuando dicho modelo de IA se entrene con una gran cantidad de datos utilizando la autosupervisión a escala, que muestre una generalidad significativa y sea capaz de realizar de forma competente una amplia gama de tareas distintas, independientemente de la forma en que el modelo se comercialice, y que pueda integrarse en una variedad de sistemas o aplicaciones posteriores, excepto los modelos de IA que se utilicen para actividades de investigación, desarrollo o creación de prototipos antes de su comercialización;
Para entendernos, un modelo de IA de los que usa ChatGPT, Gemini, Grok, etc., es un modelo de propósito general porque puede recomendarnos una ruta de viaje, ofrecer instrucciones sobre cómo cuidar una planta que previamente ha reconocido a través de una fotografía, resolver un problema matemático, etc. Por el contrario, si tenemos cámaras de video en una línea de producción de una fábrica que detecta defectos de fabricación mediante IA, estaremos hablando de un modelo con propósito específico, ya que estará entrenado únicamente para esa tarea e, incluso, si movemos ese sistema a una línea de un almacén de frutas, es posible que haya que reentrenarlo para que funcione o, al menos, para optimizar su precisión.
Riesgos y regulación
Dadas las características y posibilidades, de IA de propósito general, el Reglamento de Inteligencia Artificial recoge una serie de artículos específicos sobre ellos (capítulo V). Al leer dichos artículos, es fácil llegar a la conclusión de que el reglamento está intentando proteger a los ciudadanos de los modelos y sistemas de IA de propósito general que tienen una gran potencia de cómputo porque pueden ser utilizados para cualquier cosa y, por lo tanto, llevan implícito un riesgo sistémico.
Para intentar dejar claros todos los aspectos relacionados con este capítulo del reglamento, las Directrices publicadas a finales de julio aportan las explicaciones y ejemplos necesarios para entender qué es –y qué no es– un GPIA. En ellas se indica que, dado lo complejo que resulta definir un modelo de propósito general mediante un conjunto de tareas, la forma de determinar si un modelo pertenece a esta categoría, cuando puede resolver varios tipos de problemas, es a través de su capacidad de cómputo.
En relación con esa afirmación, las Directrices establecen unas reglas que permiten calcular dicha capacidad y, con ello, identificar si el modelo es de propósito general y si puede generar riesgos sistémicos. Por ejemplo, si el modelo supera los 1023FLOP de cómputo en total en su entrenamiento y puede generar lenguaje (ya sea en forma de texto o audio), texto a imagen o texto a video, se considera de propósito general. En caso de que, además de ser de propósito general, el modelo posea “capacidades de alto impacto”, se le considera de riesgo sistémico. Para reconocer este riesgo, se fija otro umbral, establecido en 1025 FLOP.
Las Directrices también explican que, para asegurar el correcto cumplimiento de sus obligaciones, los proveedores de modelo de propósito general pueden seguir un código de buenas prácticas. El código puede ser cualquiera que el proveedor considere adecuado siempre y cuando sea aprobado por la AI Office. Para facilitarnos las cosas, la misma oficina ha proporcionado un código de buenas prácticas que considera válido para estos casos y, obviamente, no será necesario validar con nadie. En resumen, el código de buenas prácticas está dirigido a los proveedores de modelos de IA de propósito general (con o sin riesgo sistémico), como una forma (no obligatoria, pero recomendada) de demostrar conformidad con el RIA.
Y en la práctica, ¿para qué nos sirve todo esto? Evidentemente, el primer objetivo es proteger al ciudadano de la UE, pero, más allá de eso, las empresas usuarias de sistemas de IA deben ser conscientes de las implicaciones de los productos que utilizan y comprobar que disponen de la información técnica necesaria para hacer un uso responsable del mismo. Para que esto ocurra, el proveedor del sistema debe brindar toda esa información, y si se trata de una IA de propósito general, debe seguir las indicaciones de las Directrices y un código de buenas prácticas acordado.
Caso práctico: proyecto eXplAIn
En el proyecto eXplAIn de ITI nuestro objetivo es ofrecer herramientas de explicabilidad y transparencia dirigidas, principalmente, a los proveedores de sistemas de IA. Estas herramientas permiten generar la información necesaria para que las empresas usuarias y las personas afectadas por el sistema puedan entender su funcionamiento.
El estudio de los documentos publicados por la AI Office (las Directrices y el código de buenas prácticas) está siendo clave para definir los requisitos de una “model card”, es decir, una ficha descriptiva del modelo. Las model cards son un medio eficaz para asegurar el nivel de transparencia adecuado; es frecuente encontrar una model card vinculada al anuncio de un nuevo modelo (por ejemplo, Google incluye siempre un enlace a su model card cuando publica una nueva versión de Gemini).
En eXplAIn estamos diseñando model cards que cumplen con las exigencias de la RIA, las directrices y el código de buenas prácticas. Este resultado puede ser de gran interés para cualquier empresa que proporcione sistemas de IA de cualquier tipo, y el equipo de ITI está dispuesto a colaborar para su implementación.
