Fuel Digital

Qu'un consortium international, y compris entre les grandes puissances géopolitiques actuelles soit trouvé. Que l'on puisse mieux encadrer et juguler les différentes avancées technologiques tant que celles-ci ne sont pas éprouvées et considérées comme étant saines, bénéfiques et éthiques. Il me semble également important de prévoir des clauses spécifiques pour la protection des mineurs / ados. Je pense que toute gouvernance IA devrait également être systématiquement adossée plus globalement à une gouvernance data / privacy et ne jamais être pensée en isolé : dans ce cadre, une vraie réussite serait de voir fusionner les héritages de la RGPD et des différents textes de protection de la vie privée dans une enveloppe plus large visant à une bonne gouvernance numérique globale.

• Safe, secure and trustworthy AI
• Interoperability of governance approaches
• Transparency, accountability, and human oversight
• Open-source software, open data and open AI models

Pas d'éthique réelle sans explicabilité, gouvernance et transparence. I'Open Source permet de rendre les systèmes plus auditables et d'éviter certains biais auxquels le monde a déjà été confronté avec certains systèmes de "boites noires" qui sont actuellement sur le marché. L'Open Source devrait quasiment être obligatoire dès lors qu'il s'agit d'IA.

Oui, 1 - La dette cognitive : en seulement 4 ans de démocratisation de certains outils IA, il n'est pas compliqué de constater le recul de la connaissance et de la capacité de réflexion chez certains. La délégation massive et quotidienne de nos processus de réflexion, de mémorisation, de rédaction et de résolution de problèmes à l'IA menace directement notre résilience intellectuelle. En sous-traitant l'effort analytique aux algorithmes, l'humanité risque de contracter une véritable "dette cognitive". Il me semble important d'éduquer massivement autour de ces risques dès maintenant. 2 - L'impact environnemental et matériel : L'IA a une forte empreinte carbone au niveau de sa consommation d'énergie électrique, du refroidissement des centres de données, et de l'extraction accélérée de minerais rares qui servent à fabriquer les processeurs et mémoires. 3 - La militarisation et les armes autonomes : Les systèmes d'armes létales autonomes et l'intégration de l'IA dans les stratégies de défense ou de cyberguerre soulèvent des questions géopolitiques et existentielles qu'il est important d'encadrer également, surtout au vu de l'état du monde actuel.

En France et en Europe, l'IA génère une forte tension entre dépendance technologique et volonté de souveraineté. Il me semblerait intelligent d'utiliser l'AI Act (ou le futur digital omnibus) comme bases d'un standard mondial pour imposer l'éthique et la transparence aux géants de la tech. Il me semble aussi important de capitaliser sur l'excellence des intelligences et écosystèmes français et européens pour développer des modèles indépendants, économes en énergie et alignés sur les valeurs européennes qui permettent de réduire fortement et rapidement toute techno dépendance dans un contexte mondial extrêmement compétitif et conflictuel.

Mettre tout le monde autour de la même table et bâtir ensemble un cadre mondial autour d'IA plus éthiques et bénéfiques pour l'humanité.

Vous devriez clairement vous appuyer sur l'initiative et les travaux de l'ONG everyone.AI pour ce qui est de la protection de l'enfance / adolescence. Le dialogue IA pourrait permettre d'amplifier leur voix et de mettre en avant leurs travaux / initiatives sur le terrain pour éduquer massivement les jeunes générations aux risques et opportunités de l'IA.

Adopter une structure décentralisée et thématique dans les dialogues : Diviser le dialogue en groupes de travail spécialisés (ex. : "IA et Climat", "Gouvernance cognitive", "Propriété intellectuelle") pour éviter les déclarations d'intention trop généralistes et produire une expertise pointue avant de bien entendu regrouper le fruit de ces différents groupes de travail sur une session globale à la fin. Adopter un format agile et permanent : L'IA évoluant en quelques mois, le dialogue ne peut se limiter à 1 grand sommet annuel. Il doit s'appuyer sur des observatoires permanents capables d'évaluer les modèles en continu et d'ajuster les recommandations en temps réel. Le dialogue doit impérativement aboutir à des standards techniques mesurables, des normes d'interopérabilité et des labels de certification mondiaux.

Les pays "en voie de développement" : Fréquemment relégués au rang de fournisseurs de matières premières (minerais pour serveurs, main-d'œuvre bon marché) subissent les biais algorithmiques et les coûts écologiques de l'IA sans bénéficier pour autant de la création de valeur. Soutenir des modèles de gouvernance locale où les communautés autochtones, linguistiques et culturelles contrôlent collectivement l'accès et l'usage de leur patrimoine culturel par l'IA et la véracité des résultats produits.

Le dialogue IA doit impérativement adopter des formats expérientiels et immersifs. les différentes propositions ci-dessous pourraient permettre d'avancer dynamiquement sur certains sujets : 1 - Simulations de crise : Ce type d'ateliers plongent les décideurs, les chercheurs et la société civile dans des scénarios critiques réalistes. Ce format force une collaboration immédiate, teste la réactivité des institutions et met en lumière les failles réglementaires tangibles. 2 - Un tribunal IA : Organiser des procès fictifs autour de cas litigieux d'anticipation. Cela permet de confronter concrètement les développeurs aux réalités juridiques et éthiques, tout en identifiant les vides législatifs actuels. 3 - Red-Teaming participatif et ouvert : Il faut inviter des communautés marginalisées, des associations citoyennes et des experts indépendants à tester en direct et à tenter de trouver les failles des modèles d'IA. Cet exercice peut permettre de cartographier empiriquement les biais culturels et les risques de sécurité.

L'approche basée sur le risque, comme l'AI Act : La catégorisation des systèmes d'IA selon leur niveau de dangerosité permet de quantifier efficacement le risque et d'interdire les usages liberticides. L'AI Act impose des exigences strictes de transparence, de robustesse et de supervision humaine pour les IA à haut risque (santé, justice, éducation, gestion RH) et offre les bases d'un cadre juridique fiable. Mettre à disposition des outils de tests des modèles IA (comme celui que l'ONG everyone.AI sort prochainement pour vérifier que les modèles IA sont sans risques pour les ados / enfants) afin de challenger les modèles et leur éthique / compliance. Systématiser certaines bonnes pratiques comme les Model Cards et la transparence open source. Regarder ce qui se fait chez Hugging Face qui exigent que chaque modèle soit accompagné d'une fiche technique standardisée qui précise les données d'entraînement, les limites de performance, les biais connus, etc... Organiser des bug bounties ouverts à un maximum de personnes pour trouver les failles, les biais discriminatoires, les vulnérabilités de sécurité ou les fuites de données d'entraînement avant qu'elles ne causent des dommages massifs.