L’intelligence artificielle (IA) transforme progressivement les administrations publiques, suscitant à la fois espoir et inquiétude. Un expert en droit administratif partage ses réflexions sur l’intégration de l’IA dans le secteur public,soulignant les défis et les opportunités que cette technologie représente.

L’IA, bien qu’utile pour certaines tâches, présente des limites importantes, notamment en matière d’empathie et d’émotions. Selon l’expert, cette absence d’empathie rend problématique la prise de décisions par des machines, surtout celles qui affectent directement les individus.

« La décision d’une machine pourrait nous envoyer en prison, ce qui serait le plus visible pour le citoyen moyen. »

L’utilisation de ChatGPT, par exemple, est encouragée dans un cadre pédagogique pour familiariser les étudiants avec ses possibilités et ses limites. Cependant, son manque d’accès aux bases de données jurisprudentielles constitue une lacune significative.L’expert observe un certain flou quant à l’encadrement de l’IA au sein des administrations. Il note l’absence de critères ou de protocoles éthiques clairs, laissant une grande marge de manœuvre aux agents publics.

L’IA nécessite d’énormes quantités de données, ce qui soulève des questions cruciales concernant la protection des données personnelles. De plus, les limites actuelles de l’IA, souvent qualifiée d’« étroite » ou de « faible », doivent être prises en compte.Confier des décisions importantes à l’IA serait une erreur et potentiellement illégal.

Si les humains sont sujets aux biais cognitifs, les machines présentent d’autres types d’erreurs, comme les « hallucinations ». Le risque majeur réside dans la capacité de l’IA à reproduire une erreur à grande échelle.

« Une intelligence artificielle est capable de répliquer son erreur des milliers ou des centaines de milliers de fois. C’est un thème d’évolutivité. »

Les émotions jouent un rôle essentiel dans la prise de décision. L’IA, dépourvue d’émotions et d’empathie, ne peut pas prendre en compte les nuances et les contextes humains.

« Le 100% des machines d’IA sont psychopathes parce qu’elles manquent d’empathie. »

Le neuroscientifique antónio Damásio souligne l’importance des émotions dans la prise de bonnes décisions, remettant en question l’idée d’une rationalité froide et détachée.

L’utilisation de machines pour prendre des décisions impliquant des marges d’appréciation et affectant les droits des personnes est jugée illégale avec la technologie actuelle.

L’idéal serait une collaboration entre les machines, agissant comme assistants, et les humains, conservant le rôle de décideurs finaux. Le règlement de l’UE sur l’IA stipule que l’IA ne peut pas rendre de jugements, mais seulement aider les juges, car la fonction de juger est intrinsèquement humaine.

Le risque existe que les humains, souffrant d’un « biais d’automatisation », accordent une confiance excessive aux machines et se contentent de valider les décisions prises par l’IA. La charge de travail et la complexité des tâches pourraient inciter les agents à simplement signer les propositions de l’IA, sans exercer un véritable contrôle.

La « bureaucratie défensive », caractérisée par la peur de signer des documents et d’assumer des responsabilités, pourrait être exacerbée par l’utilisation de l’IA. Les agents pourraient être tentés de se réfugier derrière les décisions des machines pour éviter d’éventuels problèmes.

L’expert anticipe une réduction du nombre de fonctionnaires à mesure que l’IA se développe. Il souligne l’importance de la « réserve d’humanité », concept selon lequel certaines fonctions et tâches, notamment celles qui touchent aux droits et aux intérêts sensibles des citoyens, doivent rester entre les mains des humains.

Le règlement européen sur l’IA est salué pour sa flexibilité et sa capacité d’adaptation. Un mauvais usage de l’IA pourrait avoir des conséquences désastreuses. L’expert prône un équilibre, évitant à la fois l’enthousiasme excessif et le pessimisme radical.

L’IA devrait être davantage utilisée par les administrations publiques pour offrir des services personnalisés et proactifs,à l’image de ce qui se fait dans le secteur privé.* identifier les enfants ayant besoin d’une bourse pour la cantine scolaire.
* Anticiper les besoins des citoyens.

L’intégration de l’IA soulève des questions fondamentales sur ce que signifie être humain et prendre de bonnes décisions.Il est essentiel de déterminer la valeur ajoutée de l’humain par rapport à la machine, et vice versa.

L’IA dans l’Governance Publique : Défis, Opportunités et le Rôle Crucial de l’Humain

L’intelligence artificielle (IA) s’infiltre dans les administrations publiques, promettant efficacité et personnalisation. Cependant, cette révolution technologique soulève des questions cruciales quant à son implémentation et son impact sur la prise de décision.Un expert en droit administratif livre son analyse, mettant en lumière les défis et les opportunités de cette conversion.

Les Limites de l’IA et le Rôle de l’Empathie

L’IA, malgré ses progrès, reste limitée, notamment en matière d’empathie et d’émotions. L’expert rappelle que l’absence de ces qualités humaines est problématique dans la prise de décisions affectant directement les citoyens. si une machine prend une mauvaise décision, les conséquences peuvent être graves. Le risque d’erreurs massives, amplifié par la capacité de l’IA à répliquer les erreurs à grande échelle, constitue une menace tangible.

ChatGPT et l’Encadrement de l’IA

L’utilisation de ChatGPT est encourageée à des fins pédagogiques, mais son manque d’accès aux bases de données jurisprudentielles et l’absence de directives éthiques claires soulèvent des interrogations. L’expert met en garde contre la dépendance excessive à l’IA et le manque de contrôle humain.

Protection des Données et Risque de “biais d’Automatisation”

La collecte massive de données nécessaires à l’IA soulève des questions de protection des données personnelles. le “biais d’automatisation” représente un risque majeur : les agents publics pourraient accorder une confiance excessive aux machines, se contentant de valider leurs décisions sans exercer un contrôle suffisant.

Solutions et Recommandations

L’expert préconise une approche équilibrée, où l’IA agit comme un assistant pour les humains, et non comme un substitut. La collaboration homme-machine, avec les humains conservant le rôle de décideurs finaux, est souhaitable. La “réserve d’humanité” reste essentielle, surtout dans les domaines impliquant les droits des citoyens.

FAQ sur l’IA dans l’Administration Publique

Voici quelques questions fréquemment posées sur l’impact de l’IA dans le secteur public :

| Question | Réponse |

| —————————————————————————– | ————————————————————————————————————————————————————————————————————— |

| quels sont les principaux défis de l’IA dans l’administration publique ? | Manque d’empathie,protection des données personnelles,risque de “biais d’automatisation”,absence de directives éthiques claires. |

| Comment l’IA peut-elle être utile dans l’administration publique ? | Offrir des services personnalisés, anticiper les besoins des citoyens, identifier des besoins, etc. |

| Pourquoi l’utilisation de l’IA pour les décisions sensibles est-elle problématique ? | Manque d’empathie et risque d’erreurs amplifiées, impactant directement les droits des citoyens. |

| Quel est le rôle idéal de l’IA dans l’administration publique ? | Agir comme un assistant pour les humains, avec ces derniers conservant le rôle de décideurs finaux. |

| La “réserve d’humanité” est-elle importante ? | Oui, elle est essentielle pour les fonctions touchant aux droits et aux intérêts sensibles des citoyens. |

| Quel est l’objectif du règlement européen sur l’IA ? | Fournir un cadre flexible pour l’utilisation de l’IA, en veillant à ne pas favoriser un enthousiasme excessif ou un pessimisme radical. |

| L’IA va-t-elle supprimer des emplois dans la fonction publique ? | L’expert anticipe une réduction du nombre de fonctionnaires, mais souligne l’importance des fonctions qui doivent rester entre les mains des humains. |