Radio plus Bienvenue sur notre site
Related Articles
Rentrée judiciaire : la justice ne peut ignorer l’Intelligence artificielle, mais elle doit l’utiliser avec prudence
Le premier avocat général près la Cour de cassation, Michel Nolet de Brauwere, a placé a placé son discours pour la rentrée judiciaire sous le signe des opportunités et des défis que représente l’Intelligence artificielle (IA) pour les acteurs de la justice. Pour lui, l’IA est un outil formidable qui peut permettre à la justice d’aller vite et d’être plus efficace, mais magistrats et avocats doivent garder la main dans les dossiers et ne doivent pas se reposer aveuglément sur l’IA, car celle-ci peut les induire en erreur et leur faire perdre toute humanité. Dans sa mercuriale, le haut magistrat, Michel Nolet de Brauwer, a donc plaidé pour une formation de ses pairs et des avocats à l’utilisation de l’IA.
C’est en présence de la ministre de la Justice, Annelies Verlinden (CD&V) et de nombreux invités dont des représentants d’ordres judiciaires étrangers (le premier président de la Cour de cassation marocain, Mohamed Abdennabaoui ; le président du Conseil supérieur du Grand-Duché de Luxembourg, Thierry Hoscheit, etc.), des bâtonniers des différents barreaux du pays, du chef de cabinet du roi Philippe ainsi que des représentants d’autres institutions judiciaires belges (Cour constitutionnelle, conseil d’Etat) et de membres du Conseil Supérieur de la Justice (CSJ) que le premier avocat général près la Cour de cassation a prononcé sa mercuriale ce mardi 1er septembre.
La justice et l’IA
Avant que Michel Nolet de Brauwere ne prononce son exposé dans la salle des séances solennelles, le premier président de la Cour de cassation, Eric de Formanoir de la Cazerie a rappelé le respect qui doit prévaloir entre les trois pouvoirs du pays (exécutif, législatif, judiciaire), chacun devant rester dans son champ de responsabilité. Il s’est réjoui de la fin des travaux de restauration de la façade du palais de justice de Bruxelles tout en rappelant l’engagement des autorités à poursuivre la restauration de l’intérieur du bâtiment.
Mais le plat de consistance du jour est le discours du premier avocat général près la Cour de cassation, qui pour l’occasion, a choisi un thème important d’actualité qui s’est imposé à lui : l’Intelligence artificielle (IA). Michel Nolet de Brauwere a fait appel au philosophe français, François Rabelais pour poser son thème : « Science sans conscience n’est que ruine de l’âme » : quelques réflexions sur la justice et l’Intelligence artificielle ». Un « sujet à la fois pertinent et intriguant, familier et inconnu », pour le procureur général, Ria Mortier.
Exaltation devant les possibilités offertes par les outils d’intelligence artificielle générative, crainte face aux dangers qu’ils présentent, sidération devant la rapidité de leur évolution et de leur insertion dans nos vies et la société, sentiment d’imposture vu les compétences techniques.
La rédaction de son discours n’aurait pas été facile, le haut magistrat dit avoir été traversé par plusieurs sentiments : « exaltation devant les possibilités offertes par les outils d’intelligence artificielle générative, crainte face aux dangers qu’ils présentent, sidération devant la rapidité de leur évolution et de leur insertion dans nos vies et la société, sentiment d’imposture vu les compétences techniques qui peuvent paraître requises pour oser aborder un sujet d’une telle complexité technologique… et sentiment de submersion face au torrent d’informations à traiter pour embrasser ce sujet », a-t-il avoué.
BELGA
Madame le procureur général près la Cour de cassation reconnaît que l’IA est un sujet à la fois familier et inconnu. (BELGA PHOTO ERIC LALMAND).
Un thème qui touche de nombreux domaines
Contrairement à la tradition qui veut que la mercuriale soit consacrée à un thème juridique, Michel Nolet de Brauwere dit avoir opté pour un sujet qui « se situe à l’intersection du droit, de la pratique judiciaire et de la technologie, voire de la philosophie, de la sociologie, de l’anthropologie et de la géopolitique ». Et même s’il reconnaît n’avoir aucune légitimité sur plusieurs de ces plans, il rappelle qu’« aucune intelligence humaine ne peut maîtriser une telle variété de disciplines et un tel flux d’information ».
Il n’a pas cédé à la tentation de faire rédiger son texte par l’IA. Il s’est donc documenté pour le faire. Malgré la difficulté de l’exercice, il a préféré faire appel à son intelligence humaine pour évoquer un thème important jamais abordé auparavant par les six procureurs généraux du pays, mais qu’aujourd’hui « aucun acteur de justice, magistrat, avocat ou autre, ne peut plus désormais ignorer ».
Si nous ne nous occupons pas de l’IA, l’IA s’occupera de nous, jusqu’à nous dominer ou nous remplace.
Les magistrats y sont confrontés via les conclusions des avocats rédigées à l’aide d’outils d’IA ou par l’IA. Le monde de la justice ne peut donc plus ignorer l’IA. « Même les plus chenus d’entre nous ne peuvent donc plus se draper dans un isolement ignorant, craintif ou méprisant à l’égard de cette technologie : pour paraphraser Montalembert, si nous ne nous occupons pas de l’IA, l’IA s’occupera de nous, jusqu’à nous dominer ou nous remplace », dit-il.
De nombreux risques et écueils
Michel Nolet de Brauwere plaide donc pour l’usage de l’IA par les acteurs de la justice, mais les appelle à la prudence, car elle présente des risques et des écueils. Il en a dénombré 13. Tout dépend d’après lui, des outils d’IA qu’on veut utiliser et des modalités. Certains pourraient être tentés de prôner le remplacement des magistrats par l’IA.
BELGA
Le premier avocat général près la Cour de Cassation, Michel Nolet de Brauwere, invite les acteurs de la justice à utiliser l’IA avec prudence. (BELGA PHOTO JACQUES COLLET).
Aucune invention n’avait jusqu’ici conduit à externaliser le traitement de l’information, c’est-à-dire la pensée, voire à envisager que le juge humain puisse être remplacé par une machine plus performante, plus intelligente que lui.
Mais, avance-t-il, « À supposer que les outils d’IA deviennent suffisamment fiables, peut-être ne leur manquerait-il que… l’humain ».
Le premier avocat général près la Cour de cassation fait référence aux avancées permises par l’écriture te l’imprimerie, mais précise-il, « aucune invention n’avait jusqu’ici conduit à externaliser le traitement de l’information, c’est-à-dire la pensée, voire à envisager que le juge humain puisse être remplacé par une machine plus performante, plus intelligente que lui ». Pour le premier avocat général près la Cour de cassation, il serait illusoire de vouloir remplacer le magistrat et l’avocat par l’IA.
L’IA peut échapper à ses créateurs
Michel Nolet de Brauwere se pose aussi la question de la maîtrise de l’IA et le risque de déshumanisation de la justice, laquelle serait rendue par les algorithmes. Car l’IA se développe à une vitesse foudroyante et assure son propre développement : « l’auto-apprentissage lui permet de générer de nouveaux algorithmes dont certains pourraient dans l’avenir échapper à la compréhension et à la maîtrise de ses créateurs ».
Comment lutter contre les biais occultes générés par des algorithmes opaques et incompréhensibles ? Comment garantir dans ces conditions le respect des droits de la défense et des autres droits de l’homme ?
Une justice rendue uniquement par les algorithmes aurait des conséquences désastreuses pour les justiciables.
« Le justiciable sait que le juge est sujet aux faiblesses et à la subjectivité inhérentes à la condition humaine. Ses avocats peuvent combattre ces biais via leurs conclusions et plaidoiries, et le juge qui, par son comportement, ses déclarations, son attitude ou la motivation – obligatoire – de ses décisions apparaît comme manquant d’impartialité, voire d’apparence d’impartialité, peut se déporter ou être récusé. Et la procédure de l’appel permet en règle de soumettre la cause à l’examen d’un autre juge, ou, mieux, de trois juges, dont les voies de recours extraordinaires peuvent encore corriger certains biais. Mais comment lutter contre les biais occultes générés par des algorithmes opaques et incompréhensibles ? Comment garantir dans ces conditions le respect des droits de la défense et des autres droits de l’homme ? Et peut-on attendre d’un algorithme opaque qu’il pallie les lacunes de la loi, sa rigueur excessive, ses conséquences disproportionnées ? Comment assurer le caractère individuel de la peine ? Comment permettre des revirements de la jurisprudence notamment pour tenir compte de l’évolution des valeurs de la société », observe le premier avocat général près la Cour de cassation.
Manipulation et transparence
Il pose aussi la question de la transparence concernant l’IA. Sans oublier les « biais et la manipulation » de la part des concepteurs des outils de l’IA. « Ces biais peuvent être délibérés : des « préjugés » et stéréotypes peuvent être sciemment générés ou intégrés par ses concepteurs, à des fins politique ou commerciale, qui peuvent mener à des discriminations à l’encontre d’individus ou de groupes d’individus, notamment selon leur sexe ou leur origine ethnique, religieuse, sociale, etc. », poursuit Michel Nolet de Brauwere.
BELGA
Le président de la Cour de cassation, Eric de Formanoir de la Cazerie. (BELGA PHOTO ERIC LALMAND).
Des « préjugés » et stéréotypes peuvent être sciemment générés ou intégrés par ses concepteurs, à des fins politique ou commerciale, qui peuvent mener à des discriminations à l’encontre d’individus ou de groupes d’individus, notamment selon leur sexe ou leur origine ethnique, religieuse, sociale.
L’IA peut induire son utilisateur en erreur car elle a tendance à donner des réponses qui plaisent à son utilisateur plutôt que d’admettre qu’elle ne trouve pas de réponse satisfaisante à la question (prompt) posée. Il lui arrive même d’inventer des sources. Or, rappelle-t-il, « la fiabilité et le contrôle des sources sont particulièrement cruciaux en matière judiciaire. Les acteurs de justice, qui sont responsables de l’exactitude de leurs affirmations, ne peuvent donc utiliser un outil d’intelligence artificielle qui ne mentionne pas ses sources et ne permet pas de les vérifier ».
Un cas concret d’erreur de recours à l’IA
Le premier avocat général près la Cour de cassation note que « les magistrats et les avocats sont pris en tenaille entre la tentation d’utiliser l’IA en vue de rendre au mieux la justice ou de défendre au mieux les intérêts de leurs clients, et les risques d’erreurs, de fautes sur le plan déontologique et de mise en cause de leur responsabilité professionnelle, liés à cette utilisation ».
Pour illustrer les erreurs que peut entraîner le recours à l’IA, sans prendre de précaution et lui faisant confiance, il cite l’exemple d’un dossier soumis à la Cour de cassation : sur les huit références – à des arrêts de la Cour – citées dans le mémoire du demandeur, deux n’énonçaient pas la règle de droit à l’appui de laquelle elles étaient mentionnées et les six dernières étaient inexactes. Interpellé sur cette bévue, l’avocat qui signé le mémoire a incriminé un ancien collaborateur.
Les magistrats et les avocats sont pris en tenaille entre la tentation d’utiliser l’IA en vue de rendre au mieux la justice ou de défendre au mieux les intérêts de leurs clients, et les risques d’erreurs, de fautes sur le plan déontologique et de mise en cause de leur responsabilité professionnelle.
Un autre risque relevé par Michel Nolet de Brauwere est la dépendance des utilisateurs des outils de l’IA vis-à-vis du concepteur ou du propriétaire de ces derniers. Outre les biais que les concepteurs peuvent sciemment intégrées aux outils, ils peuvent aussi décider de couper la connexion et pénaliser l’utilisateur. Sans oublier les risques de piratages et de sabotage terroriste (cybercriminalité) ou des décisions de représailles.
Il cite à cet effet, les sanctions décidées par l’administration Trump à l’encontre des juges et procureurs de la Cour Pénale Internationale (CPI) aujourd’hui privés de cartes de crédit et des moyens de paiement électroniques (paypal, Google pay).
BELGA
La ministre de la Justice, Annelies Verlinden (CD&V) a écouté attentivement la mercuriale de la Cour de cassation. (BELGA PHOTO NICOLAS MAETERLINCK).
Ne pas renoncer à l’IA
Par ailleurs, le recours systématique à l’IA peut, à terme, rendre paresseux ou entraîner une atrophie de l’esprit d’analyse ou critique de l’utilisateur. « Le magistrat et l’avocat doivent conserver la faculté d’analyser les cas qui leur sont soumis, dans toutes leurs composantes factuelles, juridiques et humaines pour poser des choix, sans se muer en « presse-bouton » qui se bornerait à entériner une solution prémâchée par l’IA », a martelé le premier avocat général près la Cour de cassation.
Malgré les critiques, il estime qu’il ne faut bannir l’usage de l’IA dans la sphère judiciaire, mais à condition de respecter des garde-fous. A l’instar du premier président de la Cour de cassation en France, Christophe Soulard, il estime que « Les outils d’intelligence artificielle générative offrent des perspectives inédites : amélioration de la recherche documentaire, diffusion accrue et analyse plus systématique de la jurisprudence, assistance à la rédaction, traitement de contentieux sériels. Il est indéniable qu’ils contribueront à une justice plus rapide, plus accessible et plus efficace ».
Il est indéniable qu’ils contribueront à une justice plus rapide, plus accessible et plus efficace.
Il prône donc une formation adéquate afin de permettre aux magistrats et aux avocats de bien utiliser l’IA, le respect des règlementations en vigueur, ainsi que l’élaboration de directives et de règles déontologiques qui encadrent l’utilisation cette technologie.
Source: LPOST
