Public procurement of AI for the EU healthcare systems. First insights from the Spanish experience

Abstract

Based on a sample of 20 selected tenders from the European Union (5) and Spain (15), this paper analyses the public procurement of AI solutions for healthcare systems, providing insights into the why (public need), the what (domain of application of AI) and the how (innovation strategies, procurement procedures, safeguards in tender specifications to ensure trustworthy AI). Considering the final version of the European AI Regulation following the trilogue process, this paper specifically focuses on the conditions under which AI-based medical software can be classified as a medical or in vitro diagnostic device, and if so, as a high-risk AI system where applicable, due to its potential impact on health, fundamental rights or safety. The paper also analyses whether the technical specifications of the selected tenders include guarantees regarding the data quality and governance, transparency and explainability or accuracy and predictive performance of the AI systems being tendered.

A partir de una muestra de 20 licitaciones seleccionadas de la Unión Europea (5) y España (15), este artículo analiza la compra pública de soluciones de IA para los sistemas sanitarios, profundizando en el porqué (necesidad pública de los contratos licitados), el qué (ámbito de aplicación de la IA) y el cómo (estrategias de innovación, procedimientos de contratación, salvaguardias en las especificaciones de las licitaciones para garantizar una IA fiable). Teniendo en cuenta la versión final del Reglamento europeo sobre IA tras el proceso de triálogos (Comisión, Parlamento y Consejo), este trabajo aborda de manera específica las condiciones en las que el software médico basado en IA puede clasificarse como un producto sanitario o un producto para diagnóstico in vitro y, en tal caso, como sistema de IA de alto riesgo cuando proceda, debido a su posible impacto en la salud, los derechos fundamentales o la seguridad. El artículo también analiza si las especificaciones técnicas de las licitaciones de interés seleccionadas incluyen garantías en cuanto a la calidad y la gobernanza de los datos, la transparencia y la explicabilidad o la precisión y el rendimiento predictivo de los sistemas de IA objeto de la licitación.