- 9 Rue de Châteaudun 75009 Paris
L’IA le Juge et le GOLEM
La légende immémoriale du GOLEM pourrait poser assez clairement la problématique de l’IA et du juge.
Étymologiquement « informe », inachevé ou embryon, grossièrement fait d’argile par son auteur et maître, le GOLEM ne parle pas, ne décide pas mais il assiste et défend ce maître.
Sur son front figure le mot « vérité » en Hébreu « emet » qui se transforme en mot « mort », en hébreu « met » avec l’élision de la première lettre. Selon une légende, le rabbin qui l’a conçu lui avait mis dans la bouche un parchemin avec inscrit le nom de Dieu.
Dans les légendes juives et chrétiennes et dans l’histoire du GOLEM et de ses transmutations moyenâgeuses ou romantiques (Frankenstein) le GOLEM échappe ou menace d’échapper à son maître, bien qu’il fût dénué de parole, de libre-arbitre et donc de verbe.
Mal formé, soumis et aidant à l’origine, la créature peut menacer de s’émanciper d’un maître peu précautionneux.
– les deux premiers, la collecte et le traitement d’information (comme par exemple avec un tableur excel) ;
– le troisième, l’analyse prédictive (pour reprendre l’exemple excel la prévision des entrées futures dans le tableau) ;
– le quatrième niveau, ce qu’il est convenu de désigner sous le nom de « machine learning » ou apprentissage automatique et le « deep learning » ou apprentissage profond ;
– et le cinquième niveau que nous qualifions librement d’effet « Pinocchio », le pantin de bois qui se transforme en pantin de chair animée, avec une autonomie de la machine et une certaine capacité de création.
L’Intelligence Artificielle a vocation à être mise en œuvre en matière juridictionnelle, elle l’est d’ores et déjà avec le Code du travail numérique.
L’Intelligence artificielle n’a pas d’âme, à cette heure, mais elle a un spectre, la justice prédictive, le remplacement du sujet de droit, de chair et de pensées par son profil comparé.
En l’état de notre contrat social et du principe de la prohibition des arrêts de règlements[1] il ne semble pas acceptable de conférer une autonomie à une « machine à juger »[2]. Ainsi le juge doit être appelé lui-même à apprécier, valider, infirmer ou amender tant le processus créatif que la « création » de la machine.
Le risque demeure qu’un juge, moins vertueux, défaillant ou rendu défaillant par la somme de ses dossiers, soit tenté de déléguer sa conscience à l’IA. Le risque prévaut d’autant plus que les pouvoirs exécutifs et législatifs, qui organisent les conditions de travail du juge, et partant les conditions de son indépendance, seront plus enclins à augmenter cette charge au regard des facilités de traitement qui lui seraient apportées par la machine.
L’IA peut apporter une certaine garantie contre le risque d’arbitraire ou d’erreur du juge, consubstantiel à sa fonction.
Mais l’IA constitue aussi une menace potentielle contre l’indépendance fondamentale du juge.
Cette indépendance fondamentale est pourtant la condition nécessaire et préalable à la fonction républicaine du juge, dont toute la valeur doit être mise en œuvre au regard de l’essence « utilitariste » et totalitaire de l’IA.
La justice, vertu des institutions sociales
Quelles que soient les réserves que l’on puisse émettre sur la théorie de John RAWLS, parce que justement théorique et ignorante de l’histoire et du fait social[3], la notion de justice est-indissociable de la morale individuelle, c’est à dire du champ intime, pour chacun et dans le respect de chacun, où sont distingués le bien et le mal.
Dans une étude parue le 20 avril 2020 au journal Dalloz Actualités intitulée « Justice et intelligence artificielle, préparer demain : regards croisés d’une juriste et d’un mathématicien », sous la plume de Laurence Pécaut-Rivolier, Conseillère à la Cour de cassation et Stéphane Robin, directeur de recherches à l’INRA, les auteurs font ce constat :
« Le mot loyauté revient fréquemment tant dans les propos des juristes que dans ceux des spécialistes des questions d’IA, comme concept de vigilance pour les acteurs. Il revêt cependant des significations fort différentes :
La question de loyauté, entendue au sens de fairness dans la mise en œuvre de l’IA, a également son impact. La loyauté dont il est question ici c’est celle qui, pour les juristes, constitue un principe transversal à toute action dans la mise en œuvre d’un droit. « L’attitude loyale renvoie à l’obéissance aux lois de la probité et de l’honneur. » Souvent liée à la bonne foi, notion chère au droit civil, la loyauté est ce qui permet de conserver les règles juridiques dans une mise en œuvre collectivement considérée comme conforme à une vision sociale normale. Fréquemment évoquée dans les rapports contractuels de droit civil, dans le déroulement des procès, en droit du travail, elle trouve un écho particulier en matière d’IA. D’une part, en amont de la mise en œuvre de l’outil, elle oblige à s’interroger sur le sens de la règle avant d’en décliner les conséquences. D’autre part, en aval, elle autorise à sortir de l’outil chaque fois que la solution apportée contrarie la notion de loyauté, c’est à dire aboutit à une application détournée de la règle. Par rapport à l’IA, cela revient à exercer un contrôle externe de la loyauté, par opposition à la fairness qui vise à établir un contrôle interne. »
Le juste et le nombre
Depuis Aristote, le juste est ce qui est conforme à la loi et ce qui respecte l’égalité.
Pour Kant, ce qui est conforme aux lois extérieures s’appelle juste ce qui ne l’est pas, injuste. (Métaphysique des mœurs)
Mais il faut encore pour qu’il y ait justice, non seulement les critères objectifs de la loi et de l’égalité, mais aussi le sentiment et la perception du juste par rapport à l’injuste.
Les maths opposent le juste au faux ou à l’erroné. Le droit abandonne le juste, qui est une notion morale, pour le légal, qu’il oppose à l’illégal. La morale, dialectique, oppose le juste à l’injuste.
Les maths, le droit, le juste et l’injuste renvoient en tout état de cause à la pluralité, au nombre et même à l’alternance binaire de l’informatique.
C’est dès lors qu’un groupe se forme (et donc à partir de 2 individus et au-delà) que le juste et l’injuste peuvent être pensés ou ressentis, sauf schizophrénie ou pensée religieuse ou mystique hors de propos ici.
En musique également, une note seule n’est pas fausse, mais son écart avec une autre par référence à une suite logique. Bien sûr également en mathématique (dont la musique est un des domaines), il faut deux termes pour faire une opération juste ou injuste.
La justice archaïque est illustrée par la charité de Saint-Martin qui partage son manteau ou le jugement du roi d’Israël Salomon dans la Bible hébraïque qui propose de partager en deux un enfant revendiqué par deux femmes se déclarant chacune sa mère afin de trouver la vérité dans le propos de celle qui préfère renoncer à sa part pour que l’enfant vive.
La Justice mythologique est représentée par Thémis et l’alternance des plateaux de la balance.
Le sentiment du juste
Le sentiment du juste, avec son corolaire le sentiment d’égalité, est le préalable nécessaire à l’acceptation du contrat social.
A l’inverse, si les individus qui composent une société perçoivent une injustice, non seulement une injustice dont ils souffrent personnellement, non seulement une injustice dont ils pourraient souffrir personnellement, mais encore une injustice par différence de traitement faite à un semblable (un égal), le contrat social cèdera la place à la tyrannie et les individus tenteront d’échapper à la force arbitraire.
Ce sentiment du juste et de l’injuste est à la base de tous les progrès sociaux mais aussi de toutes les manipulations politiques puisque rien n’est plus aisé que de prétendre publiquement que des individus égaux en droit sont traités différemment à leur préjudice quand la différence de traitement peut reposer non sur une différence de statut subjective mais objective, quand cette différence de traitement alléguée n’est tout simplement pas un mensonge démagogique, par exemple celui de partis extrémistes rejetant l’autre.
C’est ainsi que l’extrémisme de droite s’est toujours caractérisé par le « grand » remplacement du principe d’égalité par celui d’identité. La « vertu » du fasciste opère en silo, verticalement, c’est l’appartenance au groupe et l’obéissance au chef. La vertu républicaine opère horizontalement, c’est la mise en œuvre d’une société entre égaux, entités égales en droit, et pourtant et heureusement libres et toutes différentes.
Ainsi le juste et le sentiment du juste et de la justice, avec leur corollaire l’égalité et le sentiment d’égalité, constituent-ils la clef de voute d’un État démocratique.
La légalité synthèse des maths et de la dialectique juste / injuste
– le rapport mathématique avec l’alternative juste / faux
– le rapport dialectique avec l’alternative juste / injuste
– le rapport juridique avec l’alternative légal / illégal
Le principe d’égalité renvoie au rapport mathématique et peut se définir comme la faculté donnée et garantie par un groupe social (notamment les États) d’accéder aux mêmes droits, dans les mêmes conditions.
Le principe d’équité renvoie au rapport dialectique juste / injuste et aux sentiments associés, moteur des consentements.
Souvent l’égalité rejoint l’équité pour faire le rapport de droit.
Mais lorsque les situations des individus – ou des États – sont trop inégales originellement (inégalités sociales, géographiques, climatiques, physiques…) des inégalités compensatrices permettent de corriger l’égalité absolue afin que celle-ci reste dans le sentiment du juste, c’est à dire équitable.
Ainsi les règles d’équité corrigent-elle l’égalité afin de parvenir à la justice, définie comme la source morale et le moteur des consentements individuels à un état social et partant au droit.
Utilitarisme vs/ justice
C’est ce qui est énoncé dès le 18ème siècle en France dans la Déclaration des droits de l’homme et du citoyen du 26 août 1789 article 1er : « Les hommes naissent et demeurent libres et égaux en droit. Les distinctions sociales ne peuvent être fondées que sur l’utilité commune. »
Chez les philosophes des Lumières comme chez RAWLS, l’homme, l’individu, demeure ce que l’on ne peut transgresser. Rien ne surpasse les droits fondamentaux des individus.
Ainsi RAWLS s’oppose t-il au courant utilitariste pour lequel une action peut être considérée comme socialement bonne si elle tend au plus grand bonheur pour le plus grand nombre, nonobstant le sacrifice de certains.
Pour les utilitaristes, les droits fondamentaux sont subordonnés au principe de l’utilité sociale, utilité sociale qui peut légitimer la restriction des libertés individuelles au nom de l’efficience économique.
Peu importent alors, selon cette logique utilitariste, la pollution plastique endémique, la disparition de la faune et de la flore, la mutation des courants, l’acidification, la fonte des glaces, la montée des eaux, le réchauffement climatique, la submersion des îles et de leurs habitants…
La décision du Président américain Donald TRUMP, à rebours de l’interdiction décidée par son prédécesseur Barack OBAMA, d’exploiter le pétrole et le gaz de schiste malgré les conséquences environnementales et le coût élevé est une autre illustration de la mise en œuvre de l’utilitarisme.
« Dans la mise au point de la théorie de la justice comme équité, il est clair qu’une tâche essentielle est de déterminer quels sont les principes de la justice qui seraient choisis dans la position initiale. (…) on peut observer que, à partir du moment où l’on pense que les principes de la justice résultent d’un accord originel conclu dans une situation d’égalité, la question reste posée de savoir si le principe d’utilité serait alors reconnu.
A première vue, il semble tout à fait improbable que des personnes se considérant elles-mêmes comme égales, ayant le droit d’exprimer leurs revendications les unes vis-à-vis des autres, consentent à un principe qui puisse exiger une diminution des perspectives de vie de certains, simplement au nom de la plus grande quantité d’avantages dont jouiraient les autres. Puisque chacun désire protéger ses intérêts, sa capacité à favoriser sa conception du bien, personne n’a de raison de consentir à une perte durable de satisfaction pour lui même afin d’augmenter la somme totale. En l’absence d’instincts altruistes, solides et durables, un être rationnel ne saurait accepter une structure de base simplement parce qu’elle maximise la somme algébrique des avantages, sans tenir compte des effets permanents qu’elle peut avoir sur ses propres droits, ses propres intérêts de base. C’est pourquoi semble t-il, le principe d’utilité est incompatible avec une conception de la coopération sociale entre des personnes égales en vue de leur avantage mutuel. Ce principe est en contradiction avec l’idée de réciprocité implicite dans le concept d’une société bien ordonnée. »
Droit et relativité générale
Lorsqu’elle a pour objet l’ordre public, à savoir un principe supérieur d’intérêt général, telle les prescriptions pénales, l’expression minoritaire est insusceptible de rencontrer une légitimité sociale tant que le consensus moral existe, mais celui-ci est relatif et variable : par exemple la sanction du vol fait consensus mais le vol du pain par l’affamé devient relatif. Par exemple la sanction du meurtre fait consensus, mais des états de nécessité peuvent le justifier. L’avortement a été interdit et incriminé en France jusqu’en 1974 lorsque la ministre Simone VEIL réussit, à la suite d’une mobilisation citoyenne[4], à éveiller une autre conscience et une autre légitimité.
La crise du COVID 19 de cette année 2020 en fournit de multiples illustrations, tant sur l’origine de la crise que sur ces conséquences politiques, sociales, environnementales et culturelles : confinement v/ libertés individuelles, relance économique v/ protection de l’environnement, suspension des scènes, festivals, librairies, cinéma…
La rencontre idéale de l’IA avec le juge
12 Jamais les sociétés humaines n’ont-elles été dotées d’outils mathématiques, aussi puissants, foncièrement justes (mathématiquement) et égalitaires (mathématiquement), avant l’avènement de l’Intelligence artificielle.
Jamais les sociétés humaines de l’époque moderne n’ont-elles été autant éprouvées qu’actuellement dans leurs structures fondamentales, la nature, dont l’homme n’est pas dissocié le conduisant à modifier ou à relativiser la règle. La loi du 23 mars 2020 sur l’urgence sanitaire et les ordonnances subséquentes du 25 mars 2020 sont une des expressions de l’instabilité de la règle, qui ira croissant au fur et à mesure des bouleversements naturels que nous allons connaître, tout aussi prévisibles et prévus que l’épidémie de coronavirus.
Dans une étude du 15 avril 2020, intitulée « Le Covid-19 d’abord et le climat après ? Pas si simple – Liens entre risques sanitaires et environnementaux » la Banque de France écrit :
« (…) Il peut paraître tentant de résoudre d’abord la crise du Covid-19 et de remettre celle du climat à plus tard. Cela serait une double erreur : d’abord, l’analogie entre ces deux crises est pertinente et indique que retarder la réponse climatique nous expose à de nouvelles crises encore plus graves que celle qui sévit actuellement ; ensuite, nous avons vu que des liens entre ces deux crises existent, aussi bien quant à leur cause commune (destruction généralisée des écosystèmes) que quant à leur renforcement mutuel en cas d’aggravation du dérèglement climatique. Cela signifie que la transformation de notre système socioéconomique vers la neutralité carbone en 2050 doit être intégrée dès à présent dans le plan de rétablissement de l’économie face à la crise actuelle. (… »
Le juge lui-même est de plus en plus confronté à devoir peser la règle, même d’ordre public, au regard de l’environnement, relativisant avec sagesse le droit de propriété (cf l’étude annuelle 2019 de de la Cour de cassation : la propriété dans la jurisprudence de la Cour de cassation) le conduisant à relaxer des « décrocheurs » du portrait du Président de la République dans les mairies, poursuivis du chef de vol, sur le fondement de la nécessité. Le jugement du tribunal correctionnel de Lyon du 16 septembre 2019 reste une décision isolée, mais elle illustre excellemment le changement de la norme sociale en cours, récemment actée par le même Président de la République : « Sachons nous réinventer, moi le premier » a t-il déclaré dans son allocution télévisée du lundi 13 avril.
Les sciences mathématiques et physiques nous permettent d’appréhender le monde avec plus de justesse depuis les travaux d’Einstein et sa théorie de la relativité, ouvrant le champ de la physique quantique et l’appréhension de l’univers.
Avec Einstein nous savons « contre-intuitivement » que l’espace et le temps sont reliés. En matière de justice également la loi et l’égalité devront plus que jamais intégrer ce facteur de variabilité, notre espace naturel.
Dans ce chaos, la mise en œuvre de l’IA dans le processus juridictionnel doit non seulement être approuvée mais encore doit-elle être éprouvée et travaillée avec une conscience accrue et un accroissement des moyens de l’État au service de la justice, sauf à risquer de dissocier la République et la mystique républicaine d’une part, le juge et les tribunaux d’autre part.
AG avril 2020
[1] Article 5 du Code civil : Il est défendu aux juges de prononcer par voie de dispositions générales et réglementaires sur les causes qui leur sont soumises
[2] Et bien qu’il faille tempérer le propos au regard du traitement de certains contentieux de masse notamment sur la base de constats automatisés d’infractions.
[3] Notamment Pierre Bourdieu – La force du droit – Éditions de la Sorbonne – Cf également Le journal des idées du 2 avril 2019 – France Culture – Jacques Munier
[4] Cf notamment le manifeste des 343 salopes publié dans le Nouvel Observateur du 5 avril 1971https://gitton.net/blog/#ctn
