Personería de Bogotá; Universidad Externado de Colombia

Consideramos exitoso el primer Diálogo Mundial sobre Gobernanza de la IA si logra pasar de una conversación general sobre riesgos y oportunidades a una agenda operativa, inclusiva y verificable. En primer lugar, debería producir una hoja de ruta común que identifique prioridades, responsabilidades y mecanismos de seguimiento para los Estados, el sector privado, la academia, la sociedad civil y los organismos internacionales. En segundo lugar, el Diálogo debería consolidar estándares mínimos compartidos sobre transparencia, responsabilidad, supervisión humana, evaluación de riesgos y protección de derechos humanos, sin imponer un modelo único que desconozca las diferencias institucionales, culturales, lingüísticas y económicas de cada región. También sería un éxito si permite cerrar brechas de participación: los países del Sur Global, las comunidades afectadas, las pequeñas organizaciones, los sistemas judiciales, los educadores y los usuarios finales no deben quedar como receptores pasivos de decisiones técnicas tomadas por pocos actores. La gobernanza de la IA debe construirse con evidencia científica, pero también con legitimidad democrática y sensibilidad social. Finalmente, el Diálogo debería dejar resultados concretos en materia de desarrollo de capacidades: formación, alfabetización algorítmica, cooperación técnica, acceso a infraestructura, intercambio de buenas prácticas y criterios para el uso responsable de IA en sectores de alto impacto como justicia, educación, salud, servicios públicos y protección de poblaciones vulnerables. El éxito no estaría solo en declarar principios, sino en crear condiciones para que la IA sea segura, confiable, explicable, respetuosa de los derechos humanos y útil para el desarrollo sostenible.

• Protection and promotion of human rights
• Transparency, accountability, and human oversight
• AI capacity-building
• Social, economic, ethical, cultural, linguistic and technical implications of AI

La selección responde a una preocupación central: la IA no debe gobernarse únicamente como una cuestión técnica, sino como una infraestructura social que incide en derechos, oportunidades, mercados, servicios públicos, educación, justicia y confianza institucional. Por ello, la protección y promoción de los derechos humanos debe ser el eje transversal. Sin este enfoque, la IA puede profundizar discriminaciones, excluir poblaciones vulnerables, afectar la privacidad, restringir libertades o producir decisiones automatizadas difíciles de controvertir. La transparencia, la responsabilidad y la supervisión humana son igualmente urgentes porque permiten identificar quién diseña, entrena, implementa, audita y responde por los sistemas de IA. La supervisión humana significativa es indispensable en contextos de alto impacto, especialmente cuando las decisiones afectan salud, justicia, educación, empleo, seguridad social o acceso a servicios públicos. El desarrollo de capacidades es prioritario porque existe una brecha entre quienes diseñan y controlan sistemas avanzados de IA y quienes apenas están construyendo marcos normativos, capacidades técnicas e infraestructura pública. Sin formación, alfabetización algorítmica, cooperación técnica y acceso equitativo a conocimiento, la gobernanza global puede reproducir desigualdades. Finalmente, las implicaciones sociales, económicas, éticas, culturales, lingüísticas y técnicas deben abordarse de manera integral. En América Latina y otros contextos diversos, los sistemas de IA pueden fallar si no comprenden idiomas, territorios, formas de exclusión, realidades institucionales y diferencias culturales. La gobernanza debe reconocer que la IA no impacta a todas las sociedades de la misma manera; por eso requiere enfoques diferenciales, inclusivos y sensibles al contexto.

Sí. Aunque los temas identificados son amplios, considero importante reforzar algunas cuestiones transversales. La primera es la justicia algorítmica en contextos de desigualdad estructural. No basta con hablar de derechos humanos en abstracto; es necesario evaluar cómo los sistemas de IA afectan de forma diferenciada a mujeres, niñas, comunidades rurales, personas mayores, personas con discapacidad, pueblos indígenas, migrantes, víctimas de violencia y grupos históricamente excluidos. La segunda cuestión es la responsabilidad de las plataformas y empresas que diseñan, distribuyen o amplifican sistemas de IA. La gobernanza global debe evitar que la "neutralidad tecnológica" se utilice para trasladar los costos del daño a los usuarios, consumidores, trabajadores o instituciones públicas. Esto exige reglas sobre trazabilidad, auditoría, documentación, gestión de riesgos, reparación y rendición de cuentas. La tercera cuestión es el impacto de la IA en la justicia, la administración pública y la democracia. Los sistemas automatizados pueden mejorar eficiencia, pero también afectar debido proceso, acceso a la información, participación ciudadana, confianza pública y control institucional. Por ello se requieren estándares específicos para usos públicos de IA, especialmente cuando estén involucradas decisiones estatales o servicios esenciales. La cuarta cuestión es la sostenibilidad ambiental y material de la IA. La discusión sobre gobernanza debe incluir consumo energético, concentración de infraestructura, uso de agua, dependencia tecnológica y cadenas globales de suministro. Finalmente, debería incorporarse la educación ciudadana en IA como condición democrática: las personas deben comprender cuándo interactúan con IA, cómo se usan sus datos, qué riesgos existen y qué mecanismos tienen para reclamar, corregir o impugnar decisiones automatizadas.

En Colombia y América Latina, las brechas de gobernanza de la IA están afectando especialmente al sector público, jurídico, educativo y empresarial. El principal reto es que la adopción de herramientas de IA avanza más rápido que las capacidades institucionales para regularlas, auditarlas y usarlas de manera transparente. Esto puede generar riesgos en derechos fundamentales, protección de datos, igualdad, debido proceso, acceso a servicios públicos y confianza ciudadana. En el sector jurídico y público, la IA ofrece oportunidades importantes para mejorar la eficiencia administrativa, orientar ciudadanos, clasificar información, apoyar la redacción de documentos, fortalecer la investigación jurídica y reducir barreras de acceso a la justicia. Sin embargo, si no existen reglas claras sobre supervisión humana, trazabilidad, responsabilidad y calidad de los datos, pueden producirse decisiones opacas, sesgadas o difíciles de controvertir. Otra brecha relevante es la desigualdad territorial y educativa. Las grandes ciudades, universidades y empresas con mayor capacidad tecnológica pueden aprovechar antes la IA, mientras que municipios, comunidades rurales, pequeñas entidades públicas y organizaciones sociales quedan rezagadas. Esto exige programas de formación, alfabetización algorítmica, infraestructura digital y cooperación técnica. También existe un reto cultural y lingüístico: muchos sistemas de IA no comprenden adecuadamente los contextos locales, los lenguajes jurídicos nacionales, las realidades regionales ni las necesidades de comunidades vulnerables. Allí surge una oportunidad: desarrollar modelos, datos y aplicaciones ajustadas al contexto latinoamericano, con enfoque de derechos humanos, inclusión, diversidad cultural y sostenibilidad. En síntesis, la IA puede ser una herramienta de transformación institucional y social, pero solo si la gobernanza logra equilibrar innovación, confianza pública, responsabilidad empresarial, protección de derechos y desarrollo de capacidades.

El Diálogo sobre IA puede desempeñar un papel decisivo como espacio de coordinación política, técnica y ética entre Estados, organismos multilaterales, sector privado, academia, sociedad civil y comunidades afectadas. Su principal aporte sería reducir la fragmentación actual de la gobernanza de la IA, en la que distintos países y regiones avanzan con reglas, estándares y capacidades desiguales. En primer lugar, el Diálogo puede construir un lenguaje común sobre IA segura, fiable, transparente y respetuosa de los derechos humanos. Esto permitiría que las discusiones no se limiten a los países con mayor capacidad tecnológica, sino que integren las prioridades del Sur Global, los países en desarrollo y los sectores sociales que suelen quedar por fuera de las decisiones técnicas. La página oficial del Diálogo destaca precisamente que su finalidad es que la gobernanza refleje las prioridades de todas las naciones, no solo de las más avanzadas tecnológicamente. En segundo lugar, puede impulsar cooperación internacional mediante intercambio de buenas prácticas, asistencia técnica, formación, infraestructura, investigación compartida y mecanismos para cerrar brechas digitales y de capacidades. Esto es especialmente relevante para América Latina, donde la adopción de IA avanza más rápido que la capacidad institucional para auditarla, explicarla y regularla. En tercer lugar, el Diálogo puede servir como puente entre la evidencia científica y la toma de decisiones públicas, articulándose con el Panel Científico Internacional Independiente sobre IA previsto por la Resolución 79/325. Finalmente, su valor estaría en promover compromisos concretos: estándares mínimos de supervisión humana, transparencia, responsabilidad, protección de datos, evaluación de riesgos, inclusión lingüística y cultural, y reparación frente a daños. Así, la cooperación internacional no sería solo declarativa, sino orientada a resultados verificables, desarrollo sostenible y protección efectiva de las personas.

El Diálogo sobre IA debería apoyarse en iniciativas ya existentes para evitar duplicidades y construir una gobernanza global más coherente. Entre ellas se destacan la Recomendación sobre la Ética de la IA de la UNESCO, que ofrece un marco centrado en dignidad humana, derechos, transparencia, equidad y supervisión humana, aplicable a todos los Estados miembros de la organización. También debería conectarse con los Principios de IA de la OCDE, adoptados en 2019 y actualizados en 2024, que promueven una IA confiable, innovadora, respetuosa de los derechos humanos y útil como base para la cooperación internacional. En esa misma línea, la Alianza Global sobre Inteligencia Artificial —GPAI—, integrada con la OCDE, aporta una comunidad multiactor de expertos, gobiernos y regiones para avanzar en IA segura, confiable y centrada en las personas. El Diálogo también debería articularse con el Proceso de Hiroshima del G7, especialmente con su Código Internacional de Conducta para sistemas avanzados de IA, que promueve medidas de gestión de riesgos durante todo el ciclo de vida de los sistemas. Igualmente, podría aprovechar el marco de reporte de la OCDE sobre dicho Código, orientado a generar información comparable sobre evaluación de riesgos, incidentes y prácticas de transparencia. Su valor añadido estaría en ampliar la legitimidad y la inclusión. Muchas iniciativas actuales han sido lideradas por países con alta capacidad tecnológica. El Diálogo puede convertirse en el espacio donde el Sur Global, América Latina, comunidades afectadas, academia, sociedad civil, pequeñas empresas y entidades públicas participen en igualdad de condiciones. Además, puede conectar principios dispersos con compromisos prácticos: desarrollo de capacidades, cooperación técnica, interoperabilidad normativa, protección de derechos humanos, estándares de supervisión humana y mecanismos de seguimiento. Así, el Diálogo no reemplazaría lo existente, sino que lo ordenaría, democratizaría y orientaría hacia resultados verificables.

Las distintas partes implicadas pueden contribuir al Diálogo sobre IA desde sus capacidades y responsabilidades específicas. Los Estados pueden aportar marcos normativos, experiencias regulatorias, políticas públicas, necesidades de cooperación técnica y criterios para proteger derechos humanos en sectores sensibles. Los organismos internacionales pueden facilitar metodologías comunes, asistencia técnica, indicadores y espacios de coordinación entre regiones. El sector privado debe compartir buenas prácticas sobre gestión de riesgos, documentación, auditoría, transparencia, seguridad, trazabilidad y reparación frente a daños. La academia y los centros de investigación pueden aportar evidencia científica independiente, análisis comparado, metodologías de evaluación y estudios sobre impactos sociales, económicos, culturales y técnicos. La sociedad civil, las comunidades afectadas y los usuarios finales deben tener un papel central para visibilizar riesgos reales, exclusiones, barreras territoriales, discriminación algorítmica y necesidades de participación democrática. Recomendaríamos que el Diálogo tenga una estructura multiactor, regionalmente equilibrada y orientada a resultados. No debería limitarse a paneles generales, sino combinar sesiones plenarias con mesas temáticas de trabajo sobre derechos humanos, supervisión humana, desarrollo de capacidades, gobernanza interoperable, datos, modelos abiertos, seguridad y usos de IA en sectores de alto impacto. También sería útil crear espacios regionales preparatorios, especialmente para América Latina, África, Asia y pequeños Estados insulares, de manera que las prioridades del Sur Global no lleguen fragmentadas. El formato debería incluir consultas públicas, participación virtual, documentos breves de posición, relatorías por tema y mecanismos de seguimiento posterior. La estructura ideal sería: primero, identificación de brechas; segundo, intercambio de experiencias; tercero, formulación de compromisos; cuarto, definición de indicadores; y quinto, revisión periódica. Así, el Diálogo pasaría de la deliberación a la cooperación práctica, con resultados verificables, lenguaje accesible y participación significativa de actores que no siempre están presentes en la gobernanza tecnológica global.

En los debates mundiales sobre gobernanza de la IA siguen estando subrepresentadas varias voces esenciales. En primer lugar, las comunidades del Sur Global, especialmente América Latina, África, Asia y pequeños Estados insulares, que muchas veces participan como receptoras de tecnologías diseñadas en otros contextos, pero no como actoras principales en la definición de reglas, estándares y prioridades. También están subrepresentadas las comunidades rurales, pueblos indígenas, comunidades afrodescendientes, mujeres, niñas, personas mayores, personas con discapacidad, migrantes, víctimas de violencia, trabajadores afectados por la automatización y usuarios de servicios públicos. Estas poblaciones pueden sufrir impactos diferenciados por sistemas de IA que no reconocen sus lenguas, culturas, territorios, condiciones socioeconómicas o barreras de acceso digital. En el sector público y jurídico, también deberían escucharse más las voces de jueces, defensores públicos, consultorios jurídicos, personerías, organizaciones de derechos humanos y entidades territoriales que enfrentan directamente problemas de acceso a la justicia, salud, educación y protección social. La gobernanza de la IA no puede quedar concentrada en grandes empresas tecnológicas, expertos técnicos o gobiernos con alta capacidad institucional. Para incluir estas voces, el Diálogo debería crear mecanismos reales de participación: consultas regionales, espacios virtuales multilingües, becas de participación, documentos en lenguaje claro, relatorías temáticas, mesas con comunidades afectadas y canales para recibir experiencias locales. También se deben financiar procesos de formación previa, porque participar en gobernanza tecnológica exige capacidades mínimas de comprensión técnica, jurídica y ética. La inclusión no debe ser simbólica. Las comunidades subrepresentadas deben poder influir en la agenda, formular recomendaciones, revisar documentos finales y participar en los mecanismos de seguimiento. Solo así la gobernanza global de la IA será legítima, democrática y sensible a los impactos reales de la tecnología.

Para fomentar un compromiso significativo y dinámico, el Diálogo sobre IA debería combinar formatos deliberativos, técnicos, pedagógicos y participativos. Un primer formato innovador serían los laboratorios regionales de gobernanza, en los que actores de América Latina, África, Asia, Europa y pequeños Estados insulares trabajen sobre casos concretos de uso de IA en justicia, salud, educación, empleo, servicios públicos y plataformas digitales. Esto permitiría pasar de principios abstractos a problemas reales. También serían útiles las clínicas de casos, donde comunidades afectadas, entidades públicas, empresas, academia y sociedad civil analicen situaciones específicas de daño algorítmico, exclusión digital, sesgos, falta de transparencia o uso de IA en decisiones públicas. Estas clínicas podrían producir recomendaciones prácticas sobre reparación, auditoría, supervisión humana y prevención de riesgos. Otro formato relevante serían las simulaciones de gobernanza, similares a ejercicios de negociación multiactor, en las que los participantes asuman roles de Estados, empresas, usuarios, comunidades vulnerables, jueces, reguladores y organizaciones sociales. Esto ayudaría a comprender tensiones entre innovación, seguridad, derechos humanos, competitividad y responsabilidad. El Diálogo también podría incorporar consultas ciudadanas multilingües en línea, con lenguaje claro, herramientas visuales, formularios breves, videos explicativos y espacios asincrónicos para quienes no puedan asistir presencialmente. Además, deberían existir mesas juveniles, comunitarias y territoriales, con apoyo económico y técnico para garantizar participación real. Finalmente, proponemos usar prototipos de políticas públicas y sandboxes regulatorios deliberativos, donde se diseñen, prueben y evalúen marcos de transparencia, evaluación de riesgos, rendición de cuentas y supervisión humana. El valor de estos formatos está en que convierten el Diálogo en un proceso vivo: no solo escuchar intervenciones, sino construir soluciones, contrastarlas con evidencia y revisar su impacto con participación amplia.

El Diálogo sobre IA debería apoyarse en políticas y enfoques que ya ofrecen herramientas concretas de gobernanza. Un primer referente es la Recomendación sobre la Ética de la IA de la UNESCO, por su enfoque centrado en derechos humanos, dignidad, transparencia, equidad y supervisión humana, aplicable a los Estados miembros. También es relevante el NIST AI Risk Management Framework, que propone una metodología práctica para identificar, medir, gestionar y monitorear riesgos de IA durante el ciclo de vida de los sistemas. Este enfoque puede servir para entidades públicas, empresas, universidades y organizaciones sociales que necesitan pasar de principios generales a controles verificables. Otro ejemplo es el Reglamento Europeo de Inteligencia Artificial, que adopta una lógica basada en niveles de riesgo y fija obligaciones diferenciadas para desarrolladores y usuarios de sistemas de IA, especialmente en usos de alto impacto. En el caso colombiano, la Política Nacional de Inteligencia Artificial -CONPES 4144 de 2025- constituye una plataforma útil porque reconoce la necesidad de articular Estado, academia, sector privado y ciudadanía para promover adopción responsable, capacidades nacionales e innovación. Como enfoques prácticos, destacaría: evaluaciones de impacto algorítmico, auditorías independientes, registros públicos de sistemas de IA usados por el Estado, sandboxes regulatorios, alfabetización algorítmica, protocolos de supervisión humana, mecanismos de queja y reparación, y compras públicas responsables de IA. El valor añadido del Diálogo sería conectar estos instrumentos, evitar duplicidades y traducirlos en cooperación internacional, asistencia técnica, estándares mínimos comunes y mecanismos de seguimiento. Así, las buenas prácticas no quedarían aisladas en países o sectores con mayor capacidad, sino que podrían adaptarse a contextos como América Latina, con enfoque de derechos humanos, inclusión territorial y desarrollo sostenible.