Artículo 51. Reglas de clasificación de los modelos de IA de uso general como modelos de IA de uso general con riesgo sistémico

Abstract

El proceso regulatorio de los «riesgos» que generan «los sistemas de inteligencia artificial» para la salud, la seguridad y los derechos fundamentales, determinó que, desde la propuesta del Reglamento europeo de IA por la Comisión Europea, se diferenciaran los sistemas de IA según la mayor o menor amenaza que supusieran para los derechos de las personas, que hay proteger manteniendo el acervo de la Unión vigente. Así, los sistemas se clasificaban como sigue: «de riesgo inaceptable» (hoy denominados “prácticas prohibidas”), «de alto riesgo», «de riesgo limitado o medio» y «de riesgo bajo o mínimo». Tras la irrupción de ChatGPT el 30 de noviembre de 2022 y el consiguiente estallido tecnológico de la denominada «inteligencia artificial generativa» (IAGen), los colegisladores europeos adaptaron la propuesta inicial que llevó a incluir los «modelos fundacionales» por el Parlamento Europeo en junio de 2023 y que, finalmente se denominaron «modelos de IA de uso general» en el Reglamento de IA de 13 de junio de 2024, entre los que se incluyen las ilimitadas capacidades y habilidades de la IAGen. El análisis, al reflexión y la adaptación de los cambios tecnológicos que producían nos permitió adaptarnos al que se convirtió en un largo proceso regulatorio de la UE sobre la materia. La enorme distancia que exigía el tratamiento de los sistemas de IA respecto a los modelos de IA determinó una regulación separada e independiente de estos en el capítulo V (artículos 51 a 56 del Reglamento). Así, este marco regulatorio propio de los «modelos de IA de uso general determinó una regulación compleja, ya que, dadas sus capacidades, habilidades, e incluso su autonomía, se mostraban potencialmente generadoras de riesgos previsibles e imprevisibles. De ahí que este primer artículo del capítulo V se ocupe de modelos que, con capacidades de gran impacto, podrán ser «de riesgo sistémico». Su clasificación como tales, así como las obligaciones y los requisitos para evitar o mitigar los potenciales riesgos para las personas, no quedarán al albur de los proveedores o desarrolladores de la herramienta.