Comité Español de Representantes de Personas con Discapacidad, CERMI

El éxito del primer Diálogo Mundial debe medirse por su capacidad de producir resultados con efectos vinculantes y exigibles, no por la generación de principios adicionales que se sumen al ya extenso corpus de derecho blando existente. La asimetría entre la naturaleza vinculante de las obligaciones convencionales de derechos humanos y la naturaleza mayoritariamente voluntaria de los marcos de gobernanza de la IA es la tarea normativa más urgente del ecosistema. Su resolución debe ser el primer indicador de éxito. Desde la perspectiva de la sociedad civil de la discapacidad representada por el CERMI destacamos 4 resultados esperados. Primero, el reconocimiento explícito de que los tratados internacionales de derechos humanos, y de forma significativa la Convención sobre los Derechos de las Personas con Discapacidad, CDPD, constituyen el marco vinculante de referencia para la gobernanza global de la IA, y no un ámbito de aplicación complementario. Segundo, el impulso decidido a la elaboración de instrumentos interpretativos por parte de los órganos de tratados, en particular una Observación General del Comité CDPD sobre IA. Tercero, el establecimiento de compromisos concretos sobre desagregación de datos por discapacidad e intersecciones relevantes, especialmente sexo y edad, en cumplimiento del artículo 31 de la CDPD: sin datos no hay supervisión posible. Cuarto, la incorporación de los mecanismos independientes del artículo 33.2 de la CDPD y de las organizaciones representativas de las personas con discapacidad como interlocutores estables en la arquitectura institucional de gobernanza global de la IA. A estos cuatro resultados sustantivos debe sumarse uno de naturaleza procedimental: la articulación de un mecanismo permanente de seguimiento del propio Diálogo que evite la dilución de sus resultados y garantice rendición de cuentas continuada.

• Protection and promotion of human rights
• Transparency, accountability, and human oversight
• Social, economic, ethical, cultural, linguistic and technical implications of AI
• Interoperability of governance approaches

La selección responde a la lógica de derechos humanos que articula la totalidad del trabajo del CERMI como organización de derechos humanos y mecanismo independiente de seguimiento de la CDPD en España. La protección y promoción de los derechos humanos es la condición previa: una gobernanza de la IA que no parta del derecho internacional de los derechos humanos construye una arquitectura técnicamente sofisticada pero jurídicamente desanclada. Los sistemas de IA en ámbitos de mayor incidencia sobre las personas con discapacidad (entre otros empleo, educación, prestaciones sociales, justicia, salud, servicios financieros, biometría, migración, participación política) se despliegan hoy sin que la perspectiva de la discapacidad como categoría protegida autónoma haya sido incorporada en sus marcos de supervisión. La transparencia, responsabilidad y supervisión humana concentra tres brechas estructurales graves: la inaccesibilidad universal de las explicaciones algorítmicas para personas con discapacidades cognitivas, intelectuales, sensoriales o del lenguaje; la inaccesibilidad estructural de los mecanismos de recurso y tutela efectiva; y la ausencia de datos desagregados que permitan detectar el impacto diferenciado, en incumplimiento del artículo 31 de la CDPD. Las implicaciones sociales, económicas, éticas, culturales y lingüísticas permiten incorporar dos dimensiones hasta ahora ocultas: el capacitismo algorítmico, entendido como el sesgo estructural que penaliza la divergencia respecto a patrones normativos corporales, cognitivos o conductuales, y la dimensión lingüística que reproduce a escala institucional terminología discriminatoria sobre la discapacidad en los sistemas de IA generativa. La interoperabilidad de los enfoques de gobernanza es indispensable para articular los tratados de derechos humanos con los marcos regionales de IA, evitando que la fragmentación normativa permita que sistemas técnicamente conformes con un marco regulatorio reproduzcan vulneraciones que otro prohíbe.

El CERMI considera que hay cuatro cuestiones transversales o emergentes de interés, ninguna adecuadamente cubierta por las áreas temáticas formuladas por la Resolución 79/325. Primera: la interseccionalidad como exigencia metodológica de validez, no como categoría adicional. La Observación General nº 3 del Comité CDPD establece que cualquier análisis que no contemple el impacto diferenciado sobre las mujeres con discapacidad debe considerarse metodológicamente inválido. Trasladado al ámbito algorítmico, esto significa que las evaluaciones de impacto, las auditorías de sesgo y los estándares técnicos que no incorporen el análisis interseccional género-discapacidad y, por extensión, las intersecciones con edad, orientación sexual e identidad de género, situación migratoria, entre otros, no satisfacen el estándar mínimo de las obligaciones convencionales. Segunda: el capacitismo algorítmico como categoría autónoma. Los marcos vigentes contemplan los sesgos por edad, género u origen étnico, pero no la discapacidad. El sesgo estructural que penaliza la divergencia respecto a patrones normativos corporales, cognitivos o conductuales es invisible para los instrumentos de supervisión, y se reproduce con especial intensidad en sistemas biométricos, de reconocimiento de emociones, de evaluación de credibilidad, de monitorización académica y laboral, y de generación lingüística. Tercera: las tecnologías de apoyo con IA embebida (tales como exoesqueletos, prótesis biónicas, sistemas de comunicación aumentativa generativa, interfaces cerebro-computadora, neuromodulación adaptativa) operan en una zona gris entre los marcos de productos sanitarios y los marcos de IA, eludiendo el escrutinio de derechos fundamentales. Su impacto sobre la integridad personal, la privacidad mental, la autonomía y la voluntad exige respuesta normativa específica. Cuarta: el riesgo de eugenesia predictiva en sistemas de IA aplicados al diagnóstico genético prenatal y al consejo reproductivo, que pueden codificar la discapacidad como rasgo a evitar bajo apariencia de neutralidad clínica.

Las brechas de gobernanza producen una discriminación algorítmica institucionalizada que afecta a las personas con discapacidad de manera estructural en todos los ámbitos donde la inteligencia artificial opera sobre sus derechos. Se trata de una vulneración presente, sistemática y documentada. En el empleo, los sistemas de cribado algorítmico de candidaturas y de monitorización del rendimiento penalizan los patrones de trayectoria y comunicación propios de las personas con discapacidad, automatizando décadas de exclusión laboral codificada como patrón estadísticamente válido. En el ámbito educativo, los sistemas de supervisión remota interpretan los comportamientos de autorregulación propios del trastorno del espectro autista, del trastorno por déficit de atención e hiperactividad o de la dislexia como conducta irregular. En servicios sociales y prestaciones, los algoritmos de baremación reproducen el modelo médico-rehabilitador que la CDPD ha superado, generando asignaciones insuficientes para el ejercicio del derecho a la vida independiente. En justicia, los sistemas de evaluación de riesgo procesan variables correlacionadas con la discapacidad (historial de salud mental, empleo discontinuo, inestabilidad residencial) como predictores adversos. En salud, los algoritmos de triaje basados en métricas de años de vida ajustados por calidad institucionalizan formas de discriminación que el artículo 25 de la CDPD prohíbe expresamente. En servicios financieros, la autenticación biométrica inaccesible opera como barrera de acceso al sistema. En biometría, las tasas de error diferencial son significativamente más elevadas para personas con discapacidad. En migración, los sistemas de evaluación de credibilidad penalizan los relatos fragmentados o no lineales propios de determinadas discapacidades cognitivas o psicosociales. La oportunidad reside en el momento regulatorio: la arquitectura técnica e institucional de supervisión de la IA está en construcción y permite todavía incorporar el estándar de la CDPD como criterio fundacional, no como adición ulterior.

El Diálogo desempeña un papel articulador insustituible en la cooperación internacional sobre gobernanza de la IA, siempre que opere en cuatro dimensiones que el ecosistema actual no integra. 1) articulación entre los marcos vinculantes de derechos humanos (CDPD, CEDAW, CDN, PIDESC, ICERD, CMW) y los marcos regionales de gobernanza de la IA: Reglamento de Inteligencia Artificial de la Unión Europea, Convenio Marco del Consejo de Europa sobre IA, instrumentos del sistema de Naciones Unidas. Estos marcos coexisten sin un punto de articulación normativo claro, lo que permite que sistemas técnicamente conformes con uno reproduzcan vulneraciones que otro prohíbe. El Diálogo puede establecer el criterio interpretativo común que esa articulación requiere, situando los tratados de derechos humanos como referente vinculante de los marcos regionales. 2) mitigación de la asimetría entre la naturaleza vinculante de las obligaciones convencionales y la naturaleza mayoritariamente voluntaria de los principios de gobernanza de la IA. El Diálogo puede impulsar el tránsito de los principios al derecho exigible, sustituyendo declaraciones por estándares con consecuencias jurídicas. 3) impulso a la elaboración de instrumentos interpretativos por los órganos de tratados. Una Observación General del Comité CDPD sobre IA sistematizaría con autoridad las obligaciones de los Estados Partes y proporcionaría el marco interpretativo que organismos de supervisión, organizaciones representativas y tribunales necesitan para hacer exigible la Convención frente a sistemas de IA. 4) creación de canales estables entre los mecanismos independientes del artículo 33.2 de la CDPD y las autoridades técnicas de supervisión de la IA. La gobernanza algorítmica de calidad exige cooperación entre conocimiento técnico y conocimiento sustantivo de derechos: ninguno es suficiente por sí solo.

El Diálogo no parte de un vacío institucional: existen instrumentos, mecanismos y alianzas sobre los que debe apoyarse expresamente. En el plano convencional vinculante, el sistema de tratados de derechos humanos ofrece la arquitectura de referencia: el Comité CDPD , el Comité CEDAW, el Comité CDN, el Comité DESC y el Examen Periódico Universal. El Diálogo debe canalizar sus resultados hacia estos órganos como receptores de las obligaciones derivadas. En el plano regional, el Convenio Marco del Consejo de Europa sobre IA (CETS 225), el RIA y el ecosistema regulatorio de la Unión Europea son referentes con los que articularse para asegurar coherencia normativa. En el plano del sistema de Naciones Unidas, el Pacto Digital Mundial y la Recomendación de la UNESCO sobre la Ética de la IA constituyen anclajes sustantivos. En el plano de las organizaciones representativas, el Foro Europeo de la Discapacidad (EDF) e International Disability Alliance (IDA) son los articuladores supranacionales con los que el Diálogo debe operar institucionalmente. Los organismos técnicos de estandarización (ISO/IEC, CEN-CENELEC, IEEE, IETF y NIST) son ámbitos donde el Diálogo debe impulsar presencia con mandato decisorio de las organizaciones representativas y los mecanismos del artículo 33.2. El CERMI aporta a esta articulación una experiencia consolidada: la Estrategia de Gobernanza de la IA del CERMI 2025-2027, las metodologías propias de auditoría algorítmica y evaluación de algoritmos inclusivos, el marco ético de seis principios y, por encima de todo ello, su condición de Mecanismo Independiente de Seguimiento aplicado al ecosistema algorítmico. El valor añadido del Diálogo reside en su capacidad de operar como punto de articulación entre estos planos, evitando la fragmentación normativa y consolidando los tratados de derechos humanos como referente vinculante de los marcos regionales y técnicos.

El formato y la estructura del Diálogo deben responder al principio del artículo 4.3 de la CDPD: la consulta estrecha y la colaboración activa con las personas con discapacidad y las organizaciones que las representan es una exigencia de la CDPD. Su extrapolación al Diálogo implica condiciones materiales concretas. 1.-Representación con voz propia y mandato decisorio, no meramente consultivo, de los mecanismos independientes del artículo 33 de la CDPD y de las organizaciones representativas de las personas con discapacidad en todos los grupos de trabajo del Diálogo. La presencia testimonial sin capacidad de configurar agenda y resultados reproduce la asimetría que el Diálogo debería corregir. 2.-Equilibrio sustantivo entre actores. Los grandes operadores tecnológicos disponen de recursos económicos, técnicos y de incidencia desproporcionadamente superiores a los de la sociedad civil organizada del sector de la discapacidad. La estructura del Diálogo debe contemplar mecanismos de financiación pública independiente que permitan la participación efectiva de organizaciones representativas en condiciones de paridad técnica. 3.- Accesibilidad universal de todas las fases del Diálogo. Los documentos de trabajo, las comunicaciones, las plataformas digitales, los formatos de intervención y los productos finales deben estar disponibles en formatos accesibles como condición de validez procedimental. 4.- Estructura de seguimiento permanente. El Diálogo no puede agotarse en una serie de sesiones, sino articularse como proceso continuo con mecanismos de rendición de cuentas, revisión periódica de avances y capacidad de incidencia sobre la elaboración de estándares técnicos en organismos como ISO, CEN-CENELEC y equivalentes globales. 5.- Articulación con el sistema de tratados de derechos humanos. Los productos del Diálogo deben canalizarse hacia los órganos de tratados, los procedimientos especiales y los mecanismos de seguimiento existentes.

El propio concepto de subrepresentación adquiere en la gobernanza de la IA una dimensión específica: no se trata únicamente de presencia física en los espacios deliberativos, sino de incorporación efectiva de las perspectivas en el diseño técnico, en los datos de entrenamiento y en los criterios de supervisión. Las personas con discapacidad y sus organizaciones representativas están sistemáticamente ausentes en los organismos técnicos de estandarización donde se definen los parámetros operativos de conformidad de los sistemas de IA :ISO, CEN-CENELEC, IEEE, IETF, NIST y equivalentes. Dentro del propio colectivo, la subrepresentación se intensifica en cinco dimensiones interseccionales. Las mujeres con discapacidad sufren una penalización amplificada que las auditorías estándar no detectan por la ausencia de datos desagregados. Las niñas, niños y adolescentes con discapacidad enfrentan decisiones algorítmicas con efectos potencialmente irreversibles en fases formativas del desarrollo. Las personas con discapacidad mayores concentran la mayor exposición estructural a sistemas en los ámbitos de mayor impacto, combinada con la menor capacidad de impugnación documentada. Las personas LGTBI+ con discapacidad constituyen un vacío analítico transversal del sistema de supervisión: ninguno de los marcos normativos vigentes reconoce esta intersección como categoría autónoma. Las personas con discapacidad en contextos migratorios o de protección internacional enfrentan sistemas de evaluación de credibilidad que penalizan sus formas propias de comunicación. Su inclusión exige tres condiciones: financiación pública estable de organizaciones representativas, presencia con mandato decisorio en organismos de estandarización, y desarrollo de metodologías de auditoría interseccional capaces de hacer visibles formas de discriminación que las metodologías actuales no detectan.

1) la auditoría algorítmica participativa. Las organizaciones de personas con discapacidad y los mecanismos del artículo 33 de la CDPD pueden integrarse como copartícipes en los procesos de auditoría de sistemas de IA con impacto sobre derechos, no solo como destinatarios de los resultados. Esta integración implica acceso a los datos de entrenamiento, a los criterios de los modelos y a los resultados desagregados, con protocolos que garanticen confidencialidad y rigor metodológico. 2) bancos comparados de casos de discriminación algorítmica. Las organizaciones representativas disponen de un conocimiento empírico sobre vulneraciones que ningún otro actor del sistema posee. Su sistematización en repositorios estructurados, accesibles e interoperables a escala global proporcionaría la base empírica que actualmente falta para la elaboración de estándares y para el litigio estratégico. 3) formatos deliberativos accesibles. 4) laboratorios de gobernanza interseccional. Espacios de trabajo donde organizaciones representativas de personas con discapacidad, organizaciones de mujeres, organizaciones de infancia, organizaciones LGTBI+ y organizaciones de personas migrantes puedan colaborar en el análisis de impactos algorítmicos que ninguna detectaría por separado. 5) paneles permanentes de personas con discapacidad con experiencia vivida en sistemas de IA. La participación basada en testimonio directo de quienes han enfrentado decisiones algorítmicas adversas aporta una densidad empírica que ningún análisis técnico ex ante puede replicar.

El CERMI propone un conjunto articulado de prácticas concretas surgidas del ejercicio del mandato del artículo 33.2 de la CDPD aplicado al ecosistema algorítmico. •El modelo del mecanismo independiente del artículo 33.2 aplicado al ámbito algorítmico. La función de promover, proteger y supervisar la aplicación de la CDPD se traduce en un sistema operativo de incidencia regulatoria, evaluación de impacto y supervisión continuada de los sistemas de IA con efectos sobre los derechos de las personas con discapacidad. Es un modelo replicable allí donde existan mecanismos independientes equivalentes. •Las herramientas metodológicas del CERMI: la Metodología para la realización de auditorías algorítmicas y la Guía de análisis para la evaluación de algoritmos inclusivos, ambas disponibles públicamente; el marco ético del CERMI estructurado en seis principios (inclusión y no discriminación, transparencia y explicabilidad, accesibilidad universal, unidad y participación, igualdad entre mujeres y hombres, sostenibilidad); y el análisis interseccional por capas, con indicadores de seguimiento y criterios de evaluación de impacto en derechos fundamentales. •La práctica de incidencia en consultas públicas y procesos regulatorios: contribuciones técnicas articuladas como mapeo de brechas, fundamentación normativa convencional y formulación de soluciones operativas, aplicada en particular a la transposición del RIA y a la regulación complementaria europea. •La Estrategia de Gobernanza de la IA del CERMI 2025-2027, articulada en cinco ejes -gobernanza y gestión de riesgos; cumplimiento normativo y marco ético; alfabetización y cultura organizativa; repositorio de casos de uso e innovación; incidencia estratégica y liderazgo social-, ofrece un modelo replicable de gobernanza interna de la IA en el tercer sector.