Fundación Multitudes

El primer Diálogo Mundial sobre Gobernanza de la IA será exitoso si logra avanzar más allá de declaraciones generales y produce compromisos concretos, inclusivos y orientados a la implementación. Esto implica reconocer que la gobernanza de la IA no es únicamente una cuestión técnica o de innovación, sino también un desafío relacionado con derechos humanos, democracia, sostenibilidad ambiental y distribución global del poder. Un resultado exitoso debería incluir: compromisos claros sobre transparencia, supervisión humana y mecanismos de rendición de cuentas para sistemas de IA de alto riesgo; reconocimiento explícito de los impactos diferenciados e interseccionales de la IA sobre mujeres, pueblos indígenas, comunidades afrodescendientes, migrantes, personas en situación de pobreza y defensoras de derechos humanos y ambientales; mecanismos para fortalecer capacidades, infraestructura y ecosistemas de innovación liderados localmente en países del Sur Global; inclusión de estándares ambientales y de debida diligencia a lo largo de toda la cadena de suministro de la IA, incluyendo extracción mineral, consumo energético y residuos electrónicos; institucionalización de mecanismos significativos de participación de sociedad civil en negociación, monitoreo e implementación. El Diálogo también debería contribuir a reducir asimetrías globales en acceso a capacidad computacional, investigación, financiamiento y gobernanza de datos, evitando que la IA profundice dependencias tecnológicas existentes. Finalmente, el éxito dependerá de si el proceso fortalece la cooperación multilateral y construye confianza entre actores diversos, garantizando que las discusiones sobre IA incluyan no solo cómo desarrollar esta tecnología, sino también quién la controla, quién se beneficia y quién asume sus costos sociales y ambientales.

• Transparency, accountability, and human oversight
• Protection and promotion of human rights
• AI capacity-building
• Social, economic, ethical, cultural, linguistic and technical implications of AI

Estas áreas reflejan prioridades urgentes para construir una gobernanza de la IA centrada en las personas, democrática y globalmente equitativa. La protección y promoción de los derechos humanos es fundamental porque los sistemas de IA ya están afectando acceso a justicia, participación política, libertad de expresión y acceso a servicios públicos. Sus impactos afectan de manera diferenciada a mujeres, pueblos indígenas, comunidades afrodescendientes, migrantes y otros grupos históricamente marginados. La transparencia, responsabilidad y supervisión humana son esenciales para garantizar mecanismos efectivos de auditoría, explicabilidad y reparación, especialmente en contextos de alto riesgo como administración pública, sistemas judiciales, moderación de contenidos y vigilancia. El desarrollo de capacidades en IA es una prioridad para el Sur Global debido a las persistentes brechas en infraestructura digital, acceso a capacidad computacional, investigación, financiamiento y formación técnica. Sin cooperación internacional y fortalecimiento de capacidades locales, las asimetrías globales tenderán a profundizarse. Finalmente, las implicaciones sociales, económicas, éticas, culturales, lingüísticas y técnicas de la IA requieren atención urgente porque la IA está transformando relaciones laborales, producción de conocimiento, diversidad lingüística, acceso a información y dinámicas democráticas.

Sí. Existen al menos cuatro cuestiones transversales que deberían recibir mayor atención. Primero, la dimensión ambiental y extractiva de la IA. La gobernanza de la IA suele enfocarse en modelos y aplicaciones, pero aún existe poca atención sobre los impactos asociados a cadenas de suministro, minería de minerales críticos, consumo energético, uso de agua y residuos electrónicos. Esto afecta de manera desproporcionada a territorios y comunidades del Sur Global. Segundo, la soberanía digital. La concentración de infraestructura, capacidad computacional, datos y poder corporativo en pocos actores globales limita la autonomía tecnológica de muchos países. La gobernanza internacional debería abordar cómo promover ecosistemas locales de innovación, infraestructura abierta y gobernanza de datos basada en derechos. Tercero, la violencia facilitada por IA y la desinformación de género. El uso de IA generativa para campañas coordinadas de acoso, contenido sexual sintético no consentido y ataques contra mujeres políticas y defensoras representa una amenaza creciente para la democracia y la participación pública. Finalmente, la sostenibilidad de la participación de la sociedad civil. Muchas organizaciones del Sur Global enfrentan barreras estructurales para participar de manera continua en debates internacionales sobre IA debido a restricciones financieras, lingüísticas y de acceso. La inclusión significativa requiere financiamiento flexible, participación multilingüe y mecanismos permanentes de consulta y monitoreo.

En América Latina y otras regiones del Sur Global, las brechas de gobernanza de la IA están profundizando desigualdades estructurales ya existentes. Persisten importantes asimetrías en acceso a infraestructura digital, capacidad computacional, financiamiento, investigación y desarrollo tecnológico, lo que limita la capacidad de muchos países para definir estrategias de IA alineadas con prioridades locales y derechos humanos. En el ámbito democrático, observamos crecientes riesgos relacionados con desinformación automatizada, violencia digital de género, vigilancia y moderación de contenidos opaca. Mujeres, pueblos indígenas, comunidades afrodescendientes y defensoras ambientales enfrentan impactos desproporcionados, incluyendo campañas coordinadas de acoso y exclusión digital. También existen desafíos vinculados al uso de IA en administración pública y sistemas judiciales sin suficientes garantías de transparencia, supervisión humana y mecanismos efectivos de reparación. Al mismo tiempo, existen oportunidades importantes. La IA puede contribuir a mejorar acceso a educación, salud, investigación científica y monitoreo ambiental, además de fortalecer políticas públicas y servicios sociales. La región también posee experiencia relevante en gobernanza democrática, protección de derechos y enfoques multisectoriales que podrían enriquecer debates globales. Sin embargo, aprovechar estas oportunidades requiere cooperación internacional más equitativa, fortalecimiento de capacidades locales, financiamiento sostenible y mecanismos de gobernanza que no reproduzcan dependencias tecnológicas o modelos extractivos.

El Diálogo sobre IA puede desempeñar un papel clave como espacio multilateral para consolidar una gobernanza de la IA anclada explícitamente en los derechos humanos, la dignidad, la igualdad sustantiva, la sostenibilidad y la justicia global. En un contexto marcado por tensiones geopolíticas, concentración de poder tecnológico y narrativas centradas en seguridad nacional o competitividad económica, el Diálogo puede contribuir a reorientar la cooperación internacional hacia la protección efectiva de derechos. Esto incluye libertad de expresión, privacidad, no discriminación, acceso a la justicia, participación política, derechos laborales y protección de personas y comunidades históricamente marginadas. El proceso debería facilitar el intercambio de buenas prácticas y el desarrollo de estándares comunes sobre transparencia, auditoría, debida diligencia en derechos humanos, supervisión humana significativa y mecanismos efectivos de reparación frente a daños causados por sistemas automatizados o asistidos por IA. Además, el Diálogo tiene potencial para amplificar perspectivas del Sur Global y asegurar que las normas internacionales no reproduzcan asimetrías existentes en infraestructura, investigación, capacidad computacional y poder corporativo. Una cooperación internacional basada en derechos humanos debe reconocer no solo los riesgos técnicos de la IA, sino también sus impactos diferenciados sobre mujeres, pueblos indígenas, comunidades afrodescendientes, migrantes, trabajadores, personas LGBTQIA+ y defensoras de derechos humanos y ambientales.

El Diálogo sobre IA debería conectarse con iniciativas multilaterales y multisectoriales ya existentes para evitar duplicaciones y fortalecer la coherencia internacional. Entre ellas destacan: el proceso de Naciones Unidas sobre gobernanza digital y el Global Digital Compact; los debates de WSIS+20; el trabajo de UNESCO sobre ética de la IA; iniciativas de la OCDE y del G20 relacionadas con principios de IA; procesos regionales sobre derechos digitales y democracia, así como iniciativas de cooperación Sur-Sur orientadas a soberanía digital, infraestructura tecnológica y desarrollo de capacidades en IA, incluyendo espacios impulsados por los BRICS; mecanismos ambientales y de transparencia como la Extractive Industries Transparency Initiative (EITI); redes multisectoriales y coaliciones de sociedad civil del Sur Global enfocadas en justicia digital y derechos humanos. También sería importante dialogar con iniciativas vinculadas a sostenibilidad ambiental, derechos laborales y protección de defensoras de derechos humanos, considerando que los impactos de la IA atraviesan múltiples agendas globales. El valor añadido del Diálogo podría ser precisamente conectar estas discusiones hoy fragmentadas y promover una visión más integral de la gobernanza de la IA. Esto incluye articular derechos humanos, sostenibilidad ambiental, democracia, infraestructura digital y desarrollo económico en un mismo marco político. Asimismo, el Diálogo podría aportar mayor legitimidad y representación global al fortalecer la participación de países y organizaciones del Sur Global que históricamente han tenido menor influencia en procesos internacionales de gobernanza tecnológica.

Los gobiernos pueden contribuir desarrollando marcos regulatorios basados en derechos humanos, promoviendo cooperación internacional y garantizando transparencia en el uso público de la IA. La academia puede aportar investigación independiente, evidencia interdisciplinaria y evaluación crítica de impactos sociales y ambientales. El sector privado debe asumir responsabilidades claras en materia de transparencia, debida diligencia y mitigación de riesgos. La sociedad civil cumple un rol esencial en monitoreo, accountability y representación de comunidades afectadas. Para que estas contribuciones sean significativas, el Diálogo debería adoptar una estructura verdaderamente multisectorial y participativa, evitando dinámicas dominadas exclusivamente por gobiernos y grandes empresas tecnológicas. Sería importante combinar: sesiones plenarias estratégicas; grupos de trabajo temáticos permanentes; consultas regionales previas; espacios de co-creación de recomendaciones; mecanismos abiertos de revisión y seguimiento. La participación de sociedad civil del Sur Global requiere apoyo concreto, incluyendo financiamiento para participación presencial y remota, traducción multilingüe y acceso temprano a documentos de negociación. También sería útil establecer mecanismos de continuidad entre ediciones del Diálogo, permitiendo monitoreo de compromisos, intercambio de experiencias y construcción progresiva de consensos. La legitimidad del proceso dependerá no solo de quién participa formalmente, sino de quién realmente influye en los resultados y decisiones finales.

Las voces más subrepresentadas en los debates globales sobre gobernanza de la IA suelen ser aquellas provenientes del Sur Global y de comunidades históricamente marginadas. Esto incluye mujeres, pueblos indígenas, comunidades afrodescendientes, personas LGBTQIA+, migrantes, defensoras ambientales y organizaciones comunitarias de base. También existe una subrepresentación significativa de perspectivas provenientes de países con menores capacidades tecnológicas y recursos limitados para participar en espacios internacionales de gobernanza. Frecuentemente, los debates globales son dominados por gobiernos de economías desarrolladas y grandes empresas tecnológicas, mientras que quienes experimentan de forma más directa los impactos sociales, ambientales y laborales de la IA tienen menor capacidad de incidencia. Para revertir esto, es necesario: garantizar financiamiento sostenible para participación de sociedad civil; fortalecer mecanismos de participación regional y multilingüe; incluir consultas comunitarias y procesos participativos previos; promover formatos híbridos y accesibles; asegurar representación en espacios de toma de decisiones y no solo en paneles simbólicos. Además, la inclusión debe ir más allá de diversidad geográfica o sectorial. También implica incorporar conocimientos locales, perspectivas interseccionales, enfoques decoloniales y experiencias territoriales que permitan comprender cómo la IA interactúa con desigualdades históricas y contextos específicos.

El Diálogo podría incorporar formatos más interactivos, participativos y orientados a co-creación, evitando dinámicas excesivamente centradas en paneles tradicionales. Algunas posibilidades incluyen: laboratorios multisectoriales de políticas públicas; mesas regionales de negociación y co-diseño; consultas ciudadanas y procesos deliberativos; espacios de escucha con comunidades afectadas; sesiones facilitadas por sociedad civil y juventudes. Los formatos híbridos y multilingües son fundamentales para ampliar participación global, especialmente de actores con barreras financieras o de movilidad. Herramientas digitales colaborativas, consultas asincrónicas y mecanismos abiertos de comentarios pueden fortalecer continuidad y accesibilidad.

Los debates sobre gobernanza de la IA muestran que la legitimidad de las políticas no depende únicamente de normas y estándares técnicos, sino también de la capacidad de construir procesos inclusivos, transparentes y multisectoriales. Existen varias iniciativas internacionales que aportan aprendizajes relevantes en este sentido. La Recomendación sobre la Ética de la Inteligencia Artificial de UNESCO representa un avance importante al incorporar derechos humanos, diversidad cultural y sostenibilidad como principios centrales. Asimismo, procesos como WSIS+20, el Global Digital Compact, el Internet Governance Forum y NETmundial+10 han fortalecido enfoques multilaterales y multisectoriales para la gobernanza digital, promoviendo mayor coordinación, intercambio de información y participación de múltiples actores. En el ámbito ambiental, iniciativas como la Extractive Industries Transparency Initiative ofrecen referencias útiles para promover transparencia y debida diligencia en cadenas de suministro vinculadas a infraestructura tecnológica y minerales críticos. Además, experiencias lideradas por sociedad civil del Sur Global han desarrollado enfoques innovadores para enfrentar violencia digital de género, desinformación y ataques contra defensoras de derechos humanos y ambientales, mostrando la importancia de incorporar perspectivas feministas, interseccionales y territorialmente situadas en la gobernanza de la IA. Finalmente, también existen buenas prácticas relacionadas con participación inclusiva: consultas regionales, plataformas abiertas de contribución, mecanismos transparentes de retroalimentación, materiales multilingües y apoyo financiero para participación de actores subrepresentados. Estas medidas son fundamentales para fortalecer legitimidad, reducir asimetrías y garantizar que la cooperación internacional sobre IA sea verdaderamente inclusiva y orientada a implementación.