Centro Universitario de Ciencias Exactas e Ingeniería/Instituto Nacional Especializado en Ciencias Jurídicas/Consultora independiente

Desde mi punto de vista, el éxito del primer Diálogo Global sobre Gobernanza de la IA radica en la transición definitiva de los marcos de soft law hacia la construcción de compromisos jurídicos vinculantes (hard law). Si bien instrumentos como los principios de la UNESCO, la Resolución A/RES/79/239 y el Pacto Digital Mundial son ejes rectores fundamentales, no resultan suficientes frente a una tecnología que es producto del ingenio humano y que, por su naturaleza transversal, puede ser utilizada tanto para el desarrollo científico como para fines de control y poder. Un resultado exitoso debe garantizar que la IA no se desvíe hacia el desarrollo de armas letales, nanoarmamento, el bioterrorismo o el colapso de la seguridad criptográfica, salvaguardando la paz mundial mediante un enfoque estricto en el derecho internacional humanitario y los derechos humanos. Asimismo, la efectividad de este foro se medirá por su capacidad para establecer políticas de sostenibilidad que guíen a las regiones a mitigar el impacto material de la IA; toda vez que, es imperativo regular la explotación de recursos minerales, hídricos y energéticos, así como la gestión de residuos electrónicos, para evitar riesgos a la soberanía de las naciones y proteger los derechos de las generaciones futuras bajo el principio de responsabilidad transfronteriza. Finalmente, el Diálogo triunfará si logra institucionalizar una gobernanza inclusiva de la IA y tecnologías emergentes que integren perspectivas antropocéntricas, pluriculturales, biocéntricas y multilaterales. El resultado debe ser un ecosistema tecnológico libre de sesgos algorítmicos, que proteja los neuroderechos y asegure la soberanía de datos, transformando la IA en una ingeniería humana diseñada exclusivamente para el bienestar común, paz y seguridad mundial, bajo el estándar de la dignidad humana, evitando la concentración de la IA y tecnologías emergentes en bloques de gobiernos que ostentan el control geopolítico.

• Safe, secure and trustworthy AI
• Protection and promotion of human rights
• Transparency, accountability, and human oversight
• AI capacity-building

Mi selección se centra en cuatro pilares que considero fundamentales para que la inteligencia artificial sea una fuerza positiva y equitativa; toda vez que se priorizan áreas que abordan tanto la integridad técnica del modelo como su impacto directo en la dignidad humana. En primer lugar, la IA segura, protegida y fiable es la base de todo; sin seguridad técnica y robustez frente a riesgos, cualquier avance carece de valor real; así mismo, la transparencia, rendición de cuentas y supervisión humana son esenciales para evitar el efecto de caja negra, dado que un sistema solo es ético si sus procesos son comprensibles y si el ser humano mantiene el control final sobre las decisiones críticas. En segundo lugar, la protección y promoción de los derechos humanos es un compromiso innegociable, siendo así que la IA debe garantizar activamente que no se perpetúen sesgos algorítmicos ni se vulnere la privacidad en pro de la seguridad nacional o trasnacional, asegurando que la tecnología sea una herramienta de inclusión, de desarrollo y no de control y/o poder. La creación de capacidad en materia de IA es urgente para cerrar la brecha digital global, no basta con que la tecnología sea segura; debe ser accesible tanto para nativos digitales como para aquellos que no los son, para países en vías de desarrollo y sectores privados donde su objeto de comercio es la IA y las tecnologías emergentes. Promover que diversas regiones y comunidades puedan comprender, utilizar y desarrollar estas herramientas garantiza que el progreso no se concentre en unos pocos, fomentando una soberanía tecnológica compartida. Lo anterior, refleja el compromiso de las naciones para asegurar la gobernanza de la IA y tecnologías emergentes, tendientes a garantizar usos éticos y responsables por región; donde la tecnología tendría como eje la observancia de los derechos internacionales de derechos humanos e internacional humanitario.

Desde mi perspectiva, existen tres ejes transversales emergentes que no están plenamente integrados en los temas listados y que resultan vitales para una gobernanza efectiva, tal y como referí en mi primera aportación inherente a los temas que harían que el dialogo sea efectivo. El primero es la transición del soft law al hard law; toda vez que, los marcos actuales carecen de fuerza vinculante necesaria para regular la IA con implicaciones transversales en las ciencias exactas y naturales, ingeniera y tecnológicas, médicas, sociales, agrarias y humanidades, cuando sean empleadas con fines de control y poder. En segundo lugar, destaca la sostenibilidad material y soberanía de recursos, como lo he puntualizado en apartados anteriores, los ejes listados suelen enfocarse en la dimensión inmaterial de la IA, ignorando que su existencia depende de la explotación intensiva de recursos hídricos, energéticos y minerales. En consecuencia, es imperativo incluir la regulación del impacto ambiental y la gestión de residuos electrónicos bajo un principio de responsabilidad transfronteriza, protegiendo así la soberanía de las naciones frente a la huella física de la computación. Es urgente incorporar la protección de los neuroderechos y una perspectiva biocéntrica; esto en razón de que la gobernanza no solo debe ser antropocéntrica, sino que debe salvaguardar la integridad mental de los individuos frente a interfaces avanzadas y asegurar un ecosistema tecnológico libre de hegemonías geopolíticas. Finalmente, los puntos anteriores evitan la concentración de la IA en bloques de poder y garantizar que su desarrollo no derive en armamento letal, nanoarmamento o el colapso de la seguridad criptográfica. Solo integrando visiones pluriculturales y biocéntricas se podrá garantizar que la IA funcione como una ingeniería humana diseñada exclusivamente para la paz, el bienestar común y la dignidad, asegurando que los beneficios de esta tecnología no profundicen las brechas de desigualdad global.

Las deficiencias actuales en la gobernanza de la inteligencia artificial no son meros vacíos administrativos; representan una amenaza estructural para la estabilidad de nuestras naciones y la integridad de nuestras sociedades; en caso específico, en México, solo se observan las declaraciones, principios y pactos del soft law internacional; pese a contar con una Ley General en materia de Protección de Datos Personales, no es regulatoria de la IA y tecnologías emergentes. En este sentido, nos limitemos a marcos éticos y recomendaciones no vinculantes, la IA operará en una suerte de anarquía jurídica que permite su instrumentalización para fines contrarios la paz, seguridad y dignidad humana; por eljemplo ya mencionaba el tema de armas letales, de nanoarmamento de bioarmas, sesgos algorítmicos, vulnerabilidad en criptografía, por mencionar algunos. De igual forma, se afectan sectores críticos como la medicina y la agronomía frente a decisiones automatizadas carentes de rendición de cuentas y transparencia en el desaroolo de IA combinada con otras tecnologías. Sin una transición urgente hacia el hard law, el sistema jurídico internacional y local corren el riesgo de volverse irrelevante ante la velocidad del despliegue tecnológico. Por otra parte, se invisibiliza la sostenibilidad material de la IA; la narrativa global suele encapsular esta tecnología en una dimensión inmaterial la nube, ignorando sistemáticamente que su existencia depende de una explotación intensiva de recursos hídricos, energéticos y minerales. Para regiones como la nuestra, esto se traduce en una nueva forma de extractivismo digital; motivo por el cual es imperativo que la gobernanza incluya el principio de responsabilidad transfronteriza en la gestión de residuos electrónicos y el impacto ambiental. No podemos permitir que el progreso tecnológico de unos pocos se traduzca en el agotamiento soberano de los recursos naturales de muchos; la soberanía de las naciones debe defenderse también frente a la huella física y tangible de la computación. Finalmente, la ausencia de una perspectiva biocéntrica y la falta de protección de los neuroderechos exponen la vulnerabilidad de la mente humana; esto como psicóloga TIC, advierto que una gobernanza meramente antropocéntrica es insuficiente para salvaguardar la integridad mental de los individuos frente a interfaces cerebro-computadora avanzadas; pero que, en caso no salvaguardar los neuroderechos contra la manipulación algorítmica y las hegemonías geopolíticas que buscan controlar la narrativa y la cognición, estaremos entregando nuestra autonomía individual a intereses externos; por tanto, la integridad psíquica debe ser considerada un pilar de la seguridad internacional.

Con relación a mi repuesta que antecede, considerar los puntos que puntualizo y que se han invisibilizado en los foros y en las resoluciones ya citadas, se estarían contemplando puntos estratégicos que afectan a las naciones.

Además del soft law que se ha planteado en las sesiones ante el Consejo General de las Naciones Unidas, es viable considerar el Derecho de los Conflictos Armados, La Paz y el Desarme, extractivismo digital, neuroderechos, perspectiva biocéntrica, antropocéntrica, perspectiva transhumanista, considerar la nanociencia, ciberbioseguridad (armas biológicas con uso de IA) y computación cuántica/postcuántica. Lo anterior, solo por mencionar algunos de los indispensables a considerar en el inicio de un marco internacional de hard law que sirva después de marco rector en el sistema jurídico de cada Estado o bien por sistema jurídico internacional por región.

Con su experiencia y con las habilidades de investigación en cada campo académico-profesional. Por ello es importante la consulta a gobierno, académicos, iniciativa privada y sociedad civil e incluso consultar a cibercriminales que han realizado ciberataques potenciales y en contra posición a quienes llevan ciberofensiva. De tal forma que, se obtengan datos e información de áreas que se invisibilizan como las que he enunciado y descrito previamente.

Identifico los puntos de transparencia algorítmica, rendición de cuentas IA, ciberderecho con enfoque en derecho internacional humanitario y derecho internacional de derecho humanos; pero no se consideran, puntos críticos enfocados a la explotación de recursos hídricos, minerales, explotación del espacio ultraterrestre (porque los submarinos de datos contaminan mucho entonces hay que enviarlos al espacio), neuroderechos, computación cuántica y post cuántica, criptografía, armas biológicas -bioterrorismo-, nano armamento, basura electrónica y gestión de residuos electrónicos, por mencionar algunos.

Manteniendo mi postura de visibilizar lo que no se ha dialogado es importante incorporar mesas de dialogo biocéntricas y pluricultural; implementar Red Teaming multilateral a fin de identificar vulnerabilidades y riesgos del extractivismo digital. Implementar laboratorios de simulación de crisis en tiempo real enfocados a soluciones de hard law ante ataques cibernéticos con computación cuántica/criogenia, otro ataque de brote bio-digital y laboratorio de neuroderechos por las implicaciones de manipulación del libre albedrío, identidad personal, privacidad de la mente o protección contra sesgos. Finalmente, establecer equipos de riesgos multilateral en escenarios de ciberguerras.

A ser un tema en construcción considerar puntos que he compartido. Las deficiencias actuales en la gobernanza de la inteligencia artificial no son meros vacíos administrativos; representan una amenaza estructural para la estabilidad de nuestras naciones y la integridad de nuestras sociedades; en caso específico, en México, solo se observan las declaraciones, principios y pactos del soft law internacional; pese a contar con una Ley General en materia de Protección de Datos Personales, no es regulatoria de la IA y tecnologías emergentes. En este sentido, nos limitemos a marcos éticos y recomendaciones no vinculantes, la IA operará en una suerte de anarquía jurídica que permite su instrumentalización para fines contrarios la paz, seguridad y dignidad humana; por eljemplo ya mencionaba el tema de armas letales, de nanoarmamento de bioarmas, sesgos algorítmicos, vulnerabilidad en criptografía, por mencionar algunos. De igual forma, se afectan sectores críticos como la medicina y la agronomía frente a decisiones automatizadas carentes de rendición de cuentas y transparencia en el desaroolo de IA combinada con otras tecnologías. Sin una transición urgente hacia el hard law, el sistema jurídico internacional y local corren el riesgo de volverse irrelevante ante la velocidad del despliegue tecnológico. Por otra parte, se invisibiliza la sostenibilidad material de la IA; la narrativa global suele encapsular esta tecnología en una dimensión inmaterial la nube, ignorando sistemáticamente que su existencia depende de una explotación intensiva de recursos hídricos, energéticos y minerales. Para regiones como la nuestra, esto se traduce en una nueva forma de extractivismo digital; motivo por el cual es imperativo que la gobernanza incluya el principio de responsabilidad transfronteriza en la gestión de residuos electrónicos y el impacto ambiental. No podemos permitir que el progreso tecnológico de unos pocos se traduzca en el agotamiento soberano de los recursos naturales de muchos; la soberanía de las naciones debe defenderse también frente a la huella física y tangible de la computación. Finalmente, la ausencia de una perspectiva biocéntrica y la falta de protección de los neuroderechos exponen la vulnerabilidad de la mente humana; esto como psicóloga TIC, advierto que una gobernanza meramente antropocéntrica es insuficiente para salvaguardar la integridad mental de los individuos frente a interfaces cerebro-computadora avanzadas; pero que, en caso no salvaguardar los neuroderechos contra la manipulación algorítmica y las hegemonías geopolíticas que buscan controlar la narrativa y la cognición, estaremos entregando nuestra autonomía individual a intereses externos; por tanto, la integridad psíquica debe ser considerada un pilar de la seguridad internacional.