Sommaire :
-
Vidéo de l’atelier sur l’IA, les technologies et les moyens constitutionnels d’en limiter les risques
-
RLC, c’est quoi ?
-
Texte auquel l’atelier a abouti
-
Synthèses
RLC, c’est quoi ?
L’idée de l’émission : On se retrouve pour réfléchir ensemble à de meilleures institutions et rédiger des articles de Constitution. Sans se prendre trop au sérieux, sans pression. Pas besoin de compétences ni de connaissances particulières, nous sommes des adultes politiques. C’est à nous de définir les règles du jeu et c’est ce que nous allons faire.
La Radio Libre Constituante, tous les jeudis de 19h à 23h, l’émission constituante où VOUS êtes les intervenants !
Assez parlé des problèmes, place aux solutions !
Voir la page RLC avec les extraits et toutes les émissions
Texte auquel l’atelier a abouti
(Travail à poursuivre à l’occasion évidemment, comme toujours…)
Une commission permanente de trois cent soixante citoyens tirés au sort, renouvelés par tiers tous les deux mois, peut décider d’un moratoire sur toute technologie.
Cette commission a recours à différents experts ad-hoc et statue sur l’usage de cette technologie, sur le cadre de son utilisation et des responsabilités encourues.
La commission peut être saisie par tout citoyen estimant qu’une technologie mérite son attention au moyen d’une pétition.
Synthèses de l’atelier sur l’IA, les technologies et les moyens constitutionnels d’en limiter les risques, faites par IA 🤣
Non, ce n’est pas absurde… c’est emblématique !
Un classic pour commencer, une synthèse question/réponse et conflit/réponse par GPT (en 40 secondes, détail important ^^) :
Voici une synthèse du débat, en distinguant les questions auxquelles une réponse se dégage et les points de conflit avec la réponse/compromis proposé. Je résume ici les positions exprimées dans la transcription, sans les vérifier factuellement.
Questions → réponses
1. Faut-il constitutionnaliser spécifiquement l’intelligence artificielle ?
Réponse : plutôt non. L’idée dominante devient que l’IA n’est qu’un cas particulier d’un problème plus vaste : la souveraineté numérique. Celle-ci devrait porter sur la maîtrise des logiciels, du matériel informatique, des infrastructures/réseaux et des données.
2. Quel est alors le principe constitutionnel central à protéger ?
Réponse : la capacité collective à maîtriser les technologies utilisées sur le territoire, afin de ne pas dépendre entièrement d’acteurs ou de puissances extérieurs. Cette souveraineté numérique devrait permettre ensuite d’encadrer l’IA et les autres technologies.
3. Quels sont les principaux risques identifiés autour de l’IA ?
Réponse : plusieurs problèmes distincts sont recensés : protection et propriété des données, responsabilité des concepteurs, consommation de ressources et d’énergie, dépendance matérielle et logicielle, bouleversement du travail, influence/manipulation, perte possible de créativité ou d’autonomie intellectuelle.
4. L’IA est-elle considérée comme intrinsèquement dangereuse ?
Réponse : il n’y a pas de consensus. Certains la voient comme un outil très utile — recherche, gain de temps, assistance — dont le problème vient surtout de l’usage et de la maîtrise. D’autres craignent une dépendance croissante, une diminution de l’effort, de la créativité et de l’autodétermination humaine.
5. Comment éviter que l’IA remplace le raisonnement humain ?
Réponse : faire de l’IA un outil de départ plutôt qu’un produit final : elle peut rechercher, synthétiser ou proposer des pistes, mais l’utilisateur doit conserver le recul critique, vérifier et terminer lui-même le travail. L’éducation est donc considérée comme un élément essentiel.
6. Quel rôle donner à l’éducation ?
Réponse : former enfants et adultes à comprendre les technologies afin de pouvoir les utiliser sans être exploités ou dominés par elles. Le débat rattache cette question à un éventuel « pouvoir éducatif » constitutionnel.
7. Qui doit être responsable lorsqu’un logiciel ou une IA provoque un dommage ?
Réponse : plusieurs participants veulent remettre une responsabilité réelle sur les concepteurs, producteurs et responsables des systèmes, au lieu de la faire peser automatiquement sur l’utilisateur. Ils évoquent aussi un devoir d’information sur le fonctionnement, les risques et les responsabilités liées à une technologie.
8. La souveraineté numérique est-elle réalisable immédiatement ?
Réponse : le débat conclut plutôt : pas réellement à court terme, mais potentiellement à long terme. Cela nécessiterait notamment des capacités matérielles, industrielles, logicielles et énergétiques propres.
Points de conflit → réponses / compromis
Conflit : experts ou citoyens pour contrôler les technologies ?
Certains estiment que la complexité technique nécessite des spécialistes ; d’autres craignent que les experts soient dépendants des industriels ou enfermés dans leur domaine.
Réponse proposée : une commission de citoyens tirés au sort, qui conserve le pouvoir de décision, assistée d’experts ad hoc et contradictoires choisis en fonction du sujet. Citoyens et experts doivent ainsi servir mutuellement de garde-fou.
Conflit : faut-il examiner automatiquement toute nouvelle technologie avant son introduction ?
Une première proposition voulait imposer un moratoire préalable à toute technologie nouvelle ou importée. Le problème soulevé est la quantité gigantesque de technologies à examiner et le risque de tout bloquer.
Réponse proposée : abandonner le contrôle automatique de tout et permettre plutôt à une commission permanente de décider quelles technologies méritent un moratoire. Elle pourrait également réexaminer une technologie déjà ancienne si un problème apparaît après coup.
Conflit : « nouvelle technologie », « avancée technologique » ou toute technologie ?
Le terme « avancée » est contesté parce qu’il peut suggérer un progrès positif. « Nouvelle » exclut les technologies anciennes dont on découvre tardivement les dangers.
Réponse proposée : faire de la commission le sujet de la règle : elle peut décider d’examiner ou de suspendre temporairement toute technologie qui le justifie, sans avoir à résoudre constitutionnellement la définition de « nouveauté » ou de « progrès ».
Conflit : la commission doit-elle seulement conseiller ou avoir le pouvoir de suspendre ?
Une simple proposition adressée à une autre institution ajouterait des délais et une nouvelle chaîne de décision.
Réponse proposée : lui donner directement la possibilité de décider d’un moratoire, celui-ci étant par nature temporaire et destiné à laisser le temps d’étudier les conséquences, les conditions d’utilisation et les responsabilités.
Conflit : comment éviter qu’une commission permanente soit capturée par les lobbies ?
Une permanence trop longue permettrait aux intérêts économiques d’exercer une influence sur ses membres ; une rotation trop rapide empêcherait toutefois les citoyens de monter en compétence.
Réponse envisagée : commission permanente mais membres renouvelés régulièrement par fractions. Le débat évoque notamment un renouvellement par tiers et discute d’une rotation de plusieurs mois ; les paramètres précis ne semblent pas définitivement tranchés.
Conflit : les citoyens ordinaires doivent-ils pouvoir saisir directement cette commission ?
Oui sur le principe, mais se pose le risque de demandes répétitives, fantaisistes ou destinées à saturer le dispositif.
Réponse proposée : permettre une saisine citoyenne, avec un mécanisme de recevabilité/tri, sans constitutionnaliser les détails pratiques comme le formulaire utilisé.
Conflit : faut-il passer par un RIC ou un référendum pour déclencher un moratoire ?
Le référendum est jugé trop lent pour une technologie susceptible de causer rapidement un problème.
Réponse proposée : privilégier un mécanisme rapide et éventuellement suspensif, via la commission citoyenne, plutôt qu’attendre plusieurs mois un processus référendaire.
Idée constitutionnelle qui ressort le plus clairement
En substance, le débat converge vers quelque chose comme :
Une commission permanente et renouvelée de citoyens tirés au sort pourrait soumettre toute technologie à un moratoire lorsqu’elle estime qu’un examen est nécessaire. Elle serait assistée, selon les sujets, d’experts ad hoc et contradictoires, afin d’évaluer son acceptabilité, ses conditions d’utilisation et les responsabilités associées. Les citoyens pourraient saisir cette commission.
C’est une synthèse de la discussion, pas une formulation finale littérale : la transcription montre plusieurs réécritures et certains paramètres restent ouverts. L’une des formulations intermédiaires prévoit explicitement une commission permanente et renouvelable de citoyens tirés au sort, assistée d’experts pour statuer sur l’utilisation et les responsabilités.
Synthèses par une seconde IA (Gemini Notebook) sous différents formats. De quoi entrevoir le potentiel de l’outil…
Synthèse en image
Synthèse en PDF
Synthèse en vidéo
Synthèse en podcast audio
Synthèse en résumé texte
Enjeux Constitutionnels
de l’Intelligence Artificielle
et de la Souveraineté Numérique
Résumé Analytique
Le présent document synthétise les réflexions issues de la première émission de la « Radio Libre Constituante » organisée par le Mouvement Constituant Populaire (MCP). Le débat central porte sur la nécessité d’intégrer les enjeux technologiques, et plus particulièrement l’intelligence artificielle (IA), dans un cadre constitutionnel défini par les citoyens.
Les conclusions mettent en lumière une tension majeure entre l’utilité pratique des outils numériques et les risques de régression humaine, de perte de souveraineté et d’épuisement des ressources. La proposition phare réside dans la création d’une Commission citoyenne permanente de 360 membres, tirés au sort et renouvelables, chargée de réguler l’entrée et le développement des technologies sur le territoire national via des mécanismes de moratoire et d’expertise contradictoire.
1. Le Cadre de la Réflexion : Le Mouvement Constituant Populaire (MCP)
Le MCP se définit comme un collectif dédié à l’éducation populaire sur la souveraineté citoyenne. Son action repose sur deux piliers fondamentaux :
-
-
- Le Référendum d’Initiative Citoyenne (RIC) : Pour permettre aux citoyens de décider directement.
- L’Éducation Populaire : Pour que les citoyens reprennent la main sur la rédaction de la Constitution, les règles de droit et la définition de leurs propres droits.
La « Radio Libre Constituante » constitue une extension de cette démarche, visant à co-construire des solutions constitutionnelles de manière décontractée mais rigoureuse, en partant de problématiques concrètes identifiées par les participants.
2. Analyse des Problématiques liées à l’Intelligence Artificielle
L’IA est identifiée comme un sujet d’actualité critique qui soulève des inquiétudes multidimensionnelles devant faire l’objet d’un encadrement constitutionnel.
A. Risques Éthiques et Sociétaux
-
-
- Régression et « Assistanat » : L’usage massif de l’IA pourrait entraîner une atrophie des capacités intellectuelles et créatives de l’humanité. Le passage d’une humanité active à une humanité assistée menace l’autodétermination.
- Perte de Créativité : La délégation de la production (textuelle, artistique, technique) à des algorithmes réduit le goût de l’effort et la valeur de la transmission humaine.
- Manipulation et Contrôle : Les risques de manipulation de l’opinion par des conglomérats privés ou des puissances étrangères via des algorithmes opaques sont soulignés.
-
B. Impact Environnemental et Ressources
-
-
- Consommation Énergétique : L’IA est décrite comme extrêmement énergivore, nécessitant des infrastructures lourdes (data centers).
- Pression sur les Ressources Locales : L’implantation de centres de gestion de données dans les territoires pose la question de la consommation d’eau (refroidissement) et de l’occupation des terres.
-
C. Responsabilité Juridique et Sécurité
-
-
- Irresponsabilité des Développeurs : Actuellement, les entreprises et les développeurs de logiciels se dédouanent de toute responsabilité en cas de défaillance grave (ex: bugs dans des sites industriels chimiques ou systèmes de freinage automatique).
- Le Dilemme des Algorithmes Décisionnels : Dans le cas des véhicules autonomes, la question de la responsabilité en cas d’accident inévitable reste un vide juridique majeur.
-
3. La Souveraineté Numérique comme Socle Constitutionnel
La discussion établit que l’IA ne peut être traitée isolément, mais doit s’inscrire dans une stratégie globale de souveraineté numérique.
Pilier de la Souveraineté Description et Enjeux Hardware (Matériel) Nécessité de posséder et de certifier les composants (puces, microprocesseurs). 99 % du matériel actuel provient d’Asie, ce qui rend la certification de non-espionnage impossible. Software (Logiciel) Transparence totale du code (Open Source) et propriété des algorithmes pour éviter l’ingérence. Données Personnelles Protection absolue des données comme « nouvel or noir ». Critique de l’hébergement des données de santé françaises par des acteurs étrangers (Microsoft). Réseaux de Distribution Maîtrise des infrastructures de transmission des données sur le territoire national. 4. Propositions de Dispositifs Constitutionnels
Pour répondre à ces défis, le débat a abouti à la formulation de plusieurs principes de gouvernance citoyenne.
A. Création d’une Commission Citoyenne Permanente
-
-
- Composition : 360 citoyens tirés au sort.
- Fonctionnement : Renouvellement par tiers tous les six mois pour assurer à la fois la continuité des dossiers et l’imperméabilité au lobbying.
- Mission : Veiller sur les technologies existantes et statuer sur les nouvelles.
-
B. Le Mécanisme du Moratoire
Toute avancée technologique majeure, qu’elle soit développée sur le territoire ou importée, doit pouvoir être soumise à un moratoire par la Commission. Ce moratoire suspend l’usage ou la commercialisation le temps d’une analyse approfondie.
C. Expertise Ad Hoc et Transparence
La Commission n’est pas composée d’experts, mais a le pouvoir de convoquer des comités d’experts ad hoc.
-
-
- Pluralisme : Les experts doivent provenir de domaines variés (technique, éthique, sociologie, philosophie).
- Déclaration d’Intérêts : Obligation de transparence sur le parcours professionnel et les liens financiers des experts pour éviter les conflits d’intérêts avec l’industrie.
-
D. Droit de Saisine Citoyenne
Tout citoyen doit pouvoir saisir la Commission via un mécanisme de pétition s’il estime qu’une technologie présente un risque ou mérite une attention particulière. La Commission juge ensuite de la recevabilité de la demande.
5. Conclusions et Perspectives
Le document souligne que la technologie ne doit plus être subie comme une fatalité ou une « marche forcée ». L’intégration de la technologie dans la Constitution vise à rétablir un équilibre entre le progrès et la sécurité des citoyens.
Axes de travail futurs identifiés :
-
-
- Définir précisément les sanctions encourues par les constructeurs et développeurs en cas de défaillance technologique.
- Élaborer un programme d’éducation civique numérique pour former les citoyens au discernement face aux outils de type IA.
- Étudier la viabilité technique d’un cloud et d’un matériel 100 % souverains.
-
La Radio Libre Constituante, tous les jeudis de 19h à 23h, l’émission constituante où VOUS êtes les intervenants !
Assez parlé des problèmes, place aux solutions !
Voir la page RLC avec les extraits et toutes les émissions
-
