El Comitè Espanyol de Representants de Persones amb Discapacitat (CERMI) ha traslladat a les Nacions Unides una posició ferma a favor d’una governança de la intel·ligència artificial (IA) basada en els drets humans i en obligacions jurídiques exigibles, enfront de models sustentats exclusivament en principis voluntaris. La contribució de l’organització ha estat incorporada al primer Diàleg Mundial sobre Governança de la Intel·ligència Artificial, una iniciativa impulsada per l’Assemblea General de Nacions Unides per orientar el futur marc internacional de regulació d’aquesta tecnologia. El missatge central del moviment social és inequívoc: la intel·ligència artificial ha de governar-se des del marc vinculante dels drets humans, i de forma assenyalada des de la Convenció sobre els Drets de les Persones amb Discapacitat (CDPD), i no des de principis voluntaris que se sumen al ja extens catàleg de declaracions sense conseqüències jurídiques. Per al comitè, la CDPD és un marc de referència obligatori i no un àmbit d’aplicació complementari.
Sobre aquesta base, la plataforma estatal planteja tres exigències regulatòries. La primera és l’accessibilitat universal, ja que si un sistema algorítmic decideix sobre la vida de una persona i aquesta no pot entendre ni recórrer la decisió, la garantia de drets és fictícia; per tant, l’accessibilitat de les explicacions i de les vies de recurs és una obligació i no una millora opcional. La segona és la participació real, sota el lema «res sobre les persones amb discapacitat sense les persones amb discapacitat», garantint presència i capacitat de decisió en totes les fases de disseny, desenvolupament, avaluació i supervisió d’un sistema, tal com exigeix l’article 4.3 de la CDPD. La tercera exigència és l’enfocament interseccional, ja que la IA no impacta igual en tothom i els seus efectes es poden amplificar quan la discapacitat es creua amb realitats com ser dona, ser nena, nen o adolescent, ser una persona gran, ser una persona LGTBI+ o viure en un context migratori; per això, es determina que les auditories estàndard no basten si no detecten aquestes desigualats.
El perill del capacitisme algorítmic i les eines de control
A aquestes demandes, s’hi suma una aportació pròpia que els marcs actuals encara no bategen: el capacitisme algorítmic, definit com el sesgo estructural que penalitza apartar-se dels patrons corporals, cognitius o de conducta considerats «normals». Els sistemes de supervisió vigents detecten biaixos per edat, gènere o origen, però no per discapacitat, un buit crític que l’organització ha vingut a assenyalar. El CERMI recorda que no es tracta d’un risc futur, sinó que la discriminació algorítmica és ja una realitat documentada en àmbits com l’ocupació, l’educació, l’accés a la justícia, la salut, els serveis financers o les prestacions socials, on els sistemes automatitzats reprodueixen i amplifiquen exclusions històriques. L’oportunitat, s’adverteix, es troba en l’actual moment regulatori, ja que l’arquitectura de supervisió de la IA s’está construint ara mateix i permet incorporar l’estàndard de la CDPD com a criteri fundacional i no com un afegit posterior.
Per tot plegat, l’organització no arriba a aquest debat internacional amb una mera declaració d’intencions, sinó que aporta metodologies pròpies d’auditoria algorítmica i d’avaluació d’algoritmes inclusius, un marc ètic de sis principis i la seva pròpia Estratègia de Governança de la IA 2025-2027. Tot això es recolza en la seva condició de Mecanisme Independent de Seguiment de la CDPD a Espanya (segons l’article 33.2), un mandat que projecta sobre l’ecosistema algorítmic per vigilar, auditar i incidir. Aquesta ferma posició es trasllada també a l’àmbit estatal, on la federació participa de forma activa en el desenvolupament i la transposició del Reglament de la Intel·ligència Artificial (RIA) de la Unió Europea, mostrant una especial atenció als sistemes d’IA de risc elevat que més incideixen sobre els drets de les persones amb discapacitat.
