AVOCATS 2.0

Le pouvoir de l’informaticien est dans l’algorithme et plus précisément encore dans l’écriture de l’algorithme ; ce que démontre et analyse très bien Madame Aurélie Jean dans son livre « de l’autre côté de la machine ».

Elle s’interroge sur la linguistique de la programmation informatique et rappelle avoir posé la question au célèbre linguiste Noam Chomsky de savoir s’il pensait que l’on pourrait un jour appliquer théorie linguistique au code informatique qui lui répondit : « je ne vois pas trop comment… mais si quelqu’un a une idée, je serais curieux de voir ce que ça peut donner ! ».

L’immixtion de l’intelligence artificielle dans le domaine du droit pose cette question d’une manière singulière et complexe. En effet, comme le rappellent Antoine Garapon et Jean Lasègue dans leur livre « justice digitale » il résulte de la tradition immémoriale et gréco-romaine de notre droit que celui-ci se nourrit de la parole, qu’il en est indissociable. L’art du juriste est sans doute d’abord celui de son esprit linguistique. L’exposé, la qualification juridique, la rhétorique sont impossibles sans l’usage de la langue.

Dès lors, la question n’est plus seulement de savoir si celui qui écrit l’algorithme manie une forme de linguistique mais d’apprécier la manière dont les algorithmes bouleversent le rôle de la linguistique dans le domaine du droit et de la justice.

Aurélie Jean explique que l’objectif de l’algorithme est la simulation numérique qui « passe par le virtuel pour mieux comprendre le réel ». Modéliser la réalité en créant des algorithmes ! Pour elle les ordinateurs peuvent nous permettre de comprendre le monde. Et la thèse développée dans son livre consiste à savoir comment « un mauvais algorithme peut vous amener dans un monde virtuel qui représente incorrectement la réalité ». C’est la question des biais algorithmiques.

Dans le domaine du droit et de la justice l’algorithme va devoir aider à comprendre la réalité de la donnée factuelle en l’intégrant dans les datas dont il dispose, mais aussi celle du droit à appliquer à cette réalité reconstituée virtuellement. Double opération ! Doubles risques de biais algorithmiques.

L’algorithme est utilisé dans le domaine du droit pour :

• Faire comparer un cas à des masses de datas.
• Faciliter les recherches des textes applicables et des jurisprudences correspondant au cas de justice à traiter.
• Intégrer la demande en fait et en droit, puis la défense en fait et en droit dans le simulateur informatique utilisé par le magistrat, en matière civile.
• Analyser, résumer, synthétiser un dossier pénal à partir des différents procès-verbaux dressés par les enquêteurs en matière pénale.

Etc…

Prenons les différentes étapes du travail de l’informaticien :

• Déterminer la morphologie mathématique de la réalité juridique. Schématiser l’algorithme…
• Implémenter le schéma dans un code informatique. Ecrire un code pour résoudre un problème réel dont nous savons qu’il résulte d’une qualification en vue de l’application juste d’une règle de droit.
• La calibration. Elle consiste à faire varier les paramètres pour obtenir les valeurs les plus justes… Le « choix sacrificiel des hypothèses !

Indépendamment des problèmes liés à la difficulté de reconstituer deux réalités subtiles, humaines, passionnelles, complexes dont il faut ensuite essayer de faire la synthèse, nous voyons que les problèmes posés sont les suivants :

1. La linguistique de l’algorithme est réductrice de la réalité humaine et sociale du cas à traiter et à juger.
2. L’algorithme informatique est-il compatible, et dans l’affirmative à quelles conditions et avec quels effets, avec le droit et sa nature fondamentalement casuistique et linguistique. Langage de l’algorithme face au langage du juriste !
3. Que devient le syllogisme du juriste dans le fonctionnement analogique de l’algorithme ?
4. Comment réduire les biais et leurs effets déformateurs de la réalité traitée dans cet univers si différent et apparemment si peu compatible avec son mode propre de fonctionnement ?

Ces questions ne sont pas les seules qu’il va falloir se poser. Elles permettent d’entrevoir que le travail de l’avocat, gardien des libertés individuelles va devenir aussi celui d’un chasseur de tous les biais qui vont se cacher derrière le développement de la justice digitale.

J'ai assité à une conférence de Laurent Alexandre qu'on ne présente plus. L'IA était au programme, bien sûr! Grande satisfaction de l'entendre rejoindre J.G. Ganascia et affirmer que l' IA forte et sa fameuse singularité ne sont pas encore pour demain.

A part cela quoi de neuf? La réaffirmation de la lutte acharnée pour le pouvoir qui se joue sans nous entre la Silicon Vallée et l'empire du Levant. Nous sommes absents, faute de moyens matériels et parce que nous nous empêchons de participer à cette lutte bien que les moyens en matière grise ne nous manquent pas.

Nous devons démystyfier l'IA et en même temps ne pas renoncer à l'apprivoiser et à la maîtriser; ce que j'ai essayé de démontrer dans mon livre pour les avocats.

L'IA rend le monde complexe. Elle exclue donc tous ceux qui refusent sa comléxité et se campent dans l'attitude du gaulois qui défend son pré carré sans chercher à se méler à ce qui se passe à l'extérieur.

L'IA génère les inégalités. Elle divise le monde entre les "Dieux" du nouveau monde et les inutiles éliminés parce qu'ils se laissent remplacer par la machine devenue intelligente.

Les acteurs de l'IA à commencer par les GAFA et par leurs équivalents chinois se partagent le pouvoir au nez et à la barbe des états qu'ils sont en train de se soumettre grâce à leur force de frappe économique et financière.

L'IA est devenue capable de lire en nous. D'où une remise en cause de notre liberté si nous renonçons à la maîtriser.

Or ce n'est pas impossible... En effet:

• L'IA a besoin de masses de données très importantes pour être efficace, ce qui veut dire qu'elle ne l'est pas quand elle manque d'informations sur des cas similaires. Elle déteste l'imprévu.
• L'IA n'est à l'aise que dans l'horizontalité. A nous de lui imposer la verticalité
• L'IA a besoin de règles fixes. Elle est perdue lorsque les règles changent.
• L'IA n'a aucune empathie. La pâte humaine lui est étrangère.

A nous de faire valoir notre supériorité dans les domaines oû elle est sans armes pour nous concurrencer!

La conclusion est venue du remarquable Maire de Cannes M. Isnard qui était en pleine gestion des inondations dont sa ville était victime et qui nous démontra combien il avait pu rester ma^tre de la situation et décisionnaire malgré les outils d'IA à sa disposition et grâce à eux...

J’ai à nouveau présenté mon livre « L’Avocat face à l’IA » ; cette fois-ci à Paris lors d’un petit déjeuner prestigieux et passionnant avec le Cercle des Stratèges disparus[1]. Tout un programme ! Je faisais le point dans le train du retour, repensant à ASIMOV et à ses lois…

Je m’interrogeais donc, mais plus qu’à l’accoutumée… Sans doute parce que les questions des "Stratèges" qui n'ont au demeurant rien de disparus..., avaient été pertinentes, faisant ressortir avec une encore plus grande acuité l’importance de nos réticences face au mythe, à la force du mythe de l’IA et de la singularité technologique. Le débat fut l’occasion de répondre à beaucoup de questions posées par les progrès de l’IA et l’évolution de mon métier. L’un des participants évoqua même les travaux en cours en vue de la « construction de cerveaux artificiels » à partir de cellules humaines… Ce déplacement parisien avait en même temps été l’occasion de faire le tour de mes librairies préférées et en particulier d’y acheter les dernières nouveautés sur ce sujet que je parcourais en diagonale en même temps que les beaux paysages de notre France défilaient sous mes yeux. Ce sont au fond toujours les mêmes problématiques qui reviennent…Tout le monde s’interroge, du lanceur d’alerte au drogué des datas et des algorithmes. 

J’en vins ainsi à me poser la question que j’ai en partie éludée dans mon livre, bien qu’elle ne me fût pas passée inaperçue. Et si tout cela n’était que le ronronnement de notre marche suicidaire vers une catastrophe ontologique absolue ? Ne faut-il pas refuser de manière catégorique les progrès de l’IA ? 

On me fait souvent le reproche de ne pas être « pour » l’IA. Ce à quoi je réponds que j’appelle à la prudence, à la vigilance et à la nécessaire maîtrise des outils d’IA. Cependant je pourrais être réellement contre l’IA à l’image des animateurs de l’association contre l’IA[2], qui font écho par exemple à Eric Sadin que j’ai beaucoup lu et cité, lequel n’hésite pas à écrire à la suite de la parution de son dernier livre[3] « la complémentarité homme machine est une fable ». 

Et s’il y avait un problème éthique fondamental ? « Il y a un risque éthique. Ayant pour seul objectif de remplacer l’homme et de « régler tous ses problèmes », l'IA nuira in fine à la réalisation de soi. Il faut comprendre que les problèmes humains sont les garants du lien social. Les Lumières disent que l’homme est la mesure de toute chose. Non pas pour le glorifier, car on sait que l’homme est égoïste, ingrat et cruel, à commencer par les philosophes eux-mêmes. Mais parce que le sens de la vie est le combat de l’homme contre lui-même. C’est justement parce que rien n’est facile que nous avons besoin des autres, que nous construisons des sociétés avec des règles. » [4]

J’étais pourtant sorti réconforté de la lecture du livre passionnant de Kaspard KOENIG [5], bien que le titre "la fin de l'individu" en fut inquiétant. Tout en mettant en exergue les risques engendrés par l’IA, il y propose des pistes pour la maîtriser. Comme par exemple, imposer nos choix moraux aux constructeurs d’algorithmes, revendiquer la propriété de nos données personnelles etc….

Toutefois la question fondamentale revenait, lancinante et inquiétante; et si nos polytechniciens fondateurs de l’AFCIA avaient raison. Et si le diable se cachait derrière le robot ?

Écoutons l’un d’eux :

« On peut très bien être animé des meilleures intentions, mais il n’empêche que la technique vous mène par le bout du nez. La critique du progrès technique est un courant minoritaire dans l’opinion parce qu’on ne sait pas très bien par quel bout prendre la chose. Avec l’IA, on sait très bien ce qu’on fait : on remplace le cerveau humain. En interdisant ce « progrès » frénétique, vous rendez la possibilité au progrès technique d’évoluer à une vitesse que les hommes sont capables d’assimiler afin d’adapter leurs conditions sociales et économiques pour éviter des conséquences désastreuses. Quelles seraient ces conséquences ? Pour y répondre, il faut se demander quel est le seul facteur qui soit de nature à accélérer d’une manière hors de proportion les possibilités de contrôle politique et sociale de l’humain : c’est l’IA. Toutes les autres techniques (biologiques, chimiques, nucléaires) sont contrôlables, par définition. L’intelligence artificielle, la vraie, ne l’est pas. On veut marcher le plus vite possible vers quelque chose, mais sans savoir où l’on va. » [6]

Me revenait à l'esprit l'alerte du stratège de ce matin: remplacer le cerveau humain par un cerveau artificiel créé à partir de nos propres cellules ?!?!?!....

Faudra-t-il fixer une barrière éthique au développement de l’IA ? Est-ce souhaitable en même temps qu’envisageable ? On peut toujours rêver répondra sans doute Gaspard KOENIG dont le livre montre que les chinois ne s’arrêteront pas à de pareilles considérations ; même les notions que nous voulons protéger avec notre RPGD ne justifient pas pour eux qu’on arrête la course en avant conduite par les promoteurs apatrides de l'IA….

Et pourtant nous devrons fixer des limites en forme d’interdits moraux et éthiques. Car on ne peut pas placer l’humain sous la domination d’une machine quelle qu’elle soit, ou prendre le risque qu’elle puisse l’être. 

Telle est LA QUESTION, FAUT-IL INTERDIRE L'INTELLIGENCE ARTIFICIELLE? .... 

Elle est valable pour les avocats et pour un chacun, à la condition que nous regardions plus loin que l'horizon de nos écrans et de leurs performances… y compris pour les chinois à la condition qu’ils s’affranchissent de la tutelle morale du communisme, de l'utilitarisme et de l'efficacité économique ….

A suivre…

Les outils d’intelligence artificielle sont-ils une menace pour l’avocat, son indépendance, sa mission de défenseur de ses concitoyens et de leurs libertés ?

L’ADN de l’avocat, maître en droit et dans l’art du procès, s’enracine dans son indépendance comme dans sa vocation à défendre les libertés des justiciables. Forme d’aboutissement de la révolution technologique l'intelligence artificielle se définit pour sa part comme l'ensemble des théories et des techniques mises en œuvre en vue de réaliser des machines capables de simuler l'intelligence.

La particularité de la confrontation entre l’avocat et l’intelligence artificielle tient à la nature et au rôle du droit. Il y a une conjonction historique et philosophique entre les évolutions de la technique et du droit. Le droit, qui a renoncé à être la science du juste tend à devenir une machinerie toujours plus complexe dont le maniement n’est plus possible sans le recours à la machine, comme si l’homme était devenu incapable de connaître le droit et de le mettre en œuvre par lui-même.

L’analyse de ces évolutions et de leurs modes comme de leurs caractéristiques doivent nous aider à répondre à notre interrogation, tant il est vrai que les libertés ne se conçoivent que dans un contexte déterminé, par rapport à un ordre nécessaire et dans la perspective d’une possible vérité sur cet ordre social.

LE DROIT ART ET SCIENCE DU JUSTE DENATURE EN TECHNIQUE JURIDIQUE.

Pour Aristote puis Cicéron le droit était « l’art du juste ». Avec l’époque moderne, à la suite d’une évolution qui remonte aux philosophes des lumières et au positivisme juridique idéalisé, les lois sont devenues les instruments de la politique, et le droit avec elles. Cette évolution en forme de tête-à-queue est illustrée par la complexité juridique ; l’adage selon lequel nul n’est censé ignorer la loi est devenu un vœu pieux et un leurre. La notion de justice, au sens que les grecs et Cicéron lui avaient donnée, est évacuée. Il n’est d’ailleurs qu’à assister au fonctionnement des procès ou qu’à lire des jugements pour s’en convaincre. Désormais le fonctionnement de l’institution judiciaire a pour objet de rechercher la loi applicable. La justice ne s’entend plus que de la légalité des pratiques des justiciables.

Le droit est devenu une technique parmi tant d’autres ; il n’est plus qu’une technique parmi tant d’autres… Le travail de l’avocat, comme celui du magistrat, sont tributaires de cette technicité. L’intelligence artificielle évolue comme un poisson dans l’eau dans ce fonctionnement débarrassé de l’humain et réduit à la mise en œuvre technique du droit et des lois. La loi de Moore impose son rythme, exponentiel. Ce processus d’évacuation de la justice et progressivement de toute humanité s’accélère, parfois avec la complicité passive du professionnel. L’avocat est petit à petit enfermé dans un rôle engonçant et frustrant, en même temps que fantasmé par le mythe du progrès.

LA NATURE « DISRUPTIVE » DE L’INTELLIGENCE ARTIFICIELLE.

Le processus de fonctionnement de l’intelligence artificielle doit être examiné de manière détaillée, philosophique, morale et politique. Etape indispensable si nous voulons que les outils de l’« IA » ne restent que des moyens et que l’avocat soit capable de développer son art du procès et son aptitude à poursuivre inlassablement la nécessaire satisfaction du besoin de justice de ses clients.

L’intelligence artificielle est caractérisée par de nombreuses ruptures. Celles-ci sont techniques, épistémologiques, sémantiques, rhétoriques, économiques et anthropologiques. Passons, comme étant acquises pour le lecteur, sur la révolution liée à l’information accessible à tous, et au phénomène des réseaux qui transforment l’exercice professionnel de l’avocat et le contraignent à l’art nouveau de la communication digitale.

Le caractère technique de la rupture a été analysé par Jacques Ellul qui a mis en évidence son automatisme, sa capacité à l’auto accroissement, sa mécanisation et sa nature totalitaire. Dans le domaine juridique, le droit finit par s’effacer devant la pure technique juridique. Et la robotisation annoncée de l’institution judiciaire s’inscrit dans cette logique.

Rupture sémantique ensuite. Pour les latins le langage et le raisonnement étaient fondateurs du droit. La formation classiquement reçue par les juristes en fut longtemps l’illustration. Force est de constater que ce n’est plus le cas. Le langage et ses subtilités, qui constituent pourtant une arme absolue de l’avocat, sont broyés par le laisser aller et la facilité, mais aussi par l’intelligence artificielle qui y substitue son langage propre « 1. 0 ». Pour ce langage binaire, tout est identique, conforme et homogène. Un fœtus et un pneumatique sont traités de la même manière. Les algorithmes qui utilisent ce langage pénètrent progressivement le fonctionnement de l’institution judiciaire. Les procédures ont vocation à être intégralement codées, passées à la moulinette des chiffres et de ces outils qui créent leur propre réalité.

Que dire du raisonnement ? Le syllogisme du juriste disparaît au profit d’un raisonnement par corrélation dont nos méthodes de recherche sont l’illustration. Le raisonnement traditionnel du juriste tend à disparaître.

Sur le plan anthropologique la rupture est absolue. La machine ne connaît pas les subtilités de l’humain. Elle les évacue. Tout ce qui est humain lui est étranger…

L’INTELLIGENCE ARTIFICIELLE, LEURE ET MYTHE.

On le voit, l’intelligence artificielle transforme le travail de l’avocat et donc l’avocat lui-même en le privant de ses armes traditionnelles. L’intelligence artificielle ressemble à l’intelligence humaine mais sa ressemblance est purement artificielle. Elle reproduit les résultats de la pensée sans reproduire la pensée elle-même. Mais elle cherche à se substituer à l’intelligence humaine. Or contrairement à ce qu’affirme la doxa régnante la science ne permet pas encore de laisser prévoir l’avènement de la singularité technologique, c’est-à-dire de ce moment où la machine sera dotée des mêmes capacités que l’humain. Je renvoie à cet égard aux très importants travaux de Jean Gabriel Ganascia. Mais ce phantasme a la vie dure. Il a la puissance des mythes…

C’est à la lumière de ces analyses qu’il est maintenant possible de s’interroger sur l’indépendance de l’avocat et sur sa mission de défenseur des libertés.

LA LIBERTE L’INDEPENDANCE DE L’AVOCAT EN QUESTION.

Nous le voyons l’indépendance de l’avocat est remise en cause par l’avènement de l’intelligence artificielle et son immixtion dans le monde judiciaire. La seule solution est dans la maîtrise, dans la mise en œuvre du théorème de Katz « machin + men » /(mettre signe supérieur) « machin or men ». Il doit considérer l’intelligence artificielle uniquement comme une machine. Il doit lui refuser de se substituer à lui. Il ne doit la concevoir que comme un moyen de mieux exercer sa profession, un « plus ». Pour ce faire, indépendamment de sa nécessaire connaissance de la programmation et des paramètres en fonction desquels les algorithmes sont créés, il lui appartient de retrouver les chemins de la justice, de l’équité et de l’humanité qu’il doit réintroduire au cœur de son travail comme du fonctionnement de l’institution judiciaire. Réintroduire l’humain que la machine cherche systématiquement à évacuer… tant il est vrai qu’il est étranger à l’intelligence artificielle. Au nom de la justice. Le besoin de justice ne se satisfait pas d’une application brute et technique des règles de lois mêmes les plus complexes.

La solution est dans l’humanisme que l’avocat doit incarner ; mais pas un humanisme d’opérette. Il doit se lever pour refuser les moments où cette intelligence artificielle prend le pouvoir et installe sa prééminence. Dans son dernier livre Eric Sadin écrit qu’« il relève de notre responsabilité au regard de notre héritage humaniste d’user de notre droit à faire barrage, partout où nous nous trouvons, à des mécanismes qui travaillent à imposer, à toutes les échelles de nos existences, un ordre unilatéral et infondé des choses. On peut appeler cela une éthique en acte de nos convictions ou une salutaire mise en pratique d’une politique de légitime défense ». Günther Anders avait affirmé auparavant « la critique de la technique est devenue aujourd’hui une affaire de courage civique ». Et Simone Weil « à partir de maintenant il nous faut assurer collectivement la défense de notre vie et de notre travail contre les instruments et les institutions qui menacent ou méconnaissent le droit des personnes à utiliser leur énergie de façon créative ». Hauts les cœurs donc !

LES LIBERTES A DEFENDRE FACE AUX DATAS ET AUX ALGORITHMES

Un deuxième champ de réflexion doit être ouvert ; il concerne la défense des libertés des justiciables. Celles-ci sont remises en cause, atteintes, altérées par le fonctionnement de notre société envahie par l’intelligence artificielle. Qu’il s’agisse bien sûr et en premier lieu de dénoncer le pouvoir de ceux qui se cachent derrière tous ces outils d’intelligence artificielle ou en second lieu de faire valoir la nécessaire intervention humaine sur les choix des datas ou des algorithmes dans le déroulement du procès. Débattre des partis-pris de leurs concepteurs ! C’est là que se jouera demain la défense fondamentale des libertés. Il en va aussi de la procédure ; elle a toujours été considérée comme étant le cadre sans lequel les libertés individuelles étaient atteintes ou remises en cause. Demain la procédure sera imprégnée par le fonctionnement des algorithmes et le procès par le choix des datas. Antoine Garapon met en évidence dans son livre « justice digitale » combien l’enjeu du développement de cette justice digitale est celui du pouvoir. Celui qui conçoit le logiciel, qui choisit et construit l’algorithme, qui constitue les datas détient et exerce un pouvoir. Il faut intervenir sur ces choix pour que la liberté du justiciable soit préservée faute de quoi « les dés seront pipés » au préjudice des plus faibles. Que de champs nouveaux pour les défenseurs des libertés individuelles !

Telle est la gageure, non sans risques ni dangers quand on sait que considérant que la maîtrise serait impossible, certains prônent le refus de l’intelligence artificielle ! Mais avons-nous le choix ? La défense des libertés n’est-elle pas à ce prix ?

L'humour permet d'exprimer les choses, voire des analyses, comme des sentiments de manière éclairante, bluffante!

Blanche Gardin en donne l'illustration dans ce sketch:

La différence entre l'homme de cromagnon et moi c'est que lui savait fabriquer l'outil qu'il utilisait...

C'est humiliant d'être dépendant d'un outil qu'on ne sait pas fabriquer...

On s'est fait avoir avec le progrès technologique; il devait nous assister dans la réalisation de nos rêves, or il se les est accaparés...

Notre fantasme est de devenir des machines...

La technologie ne fait plus du tout appel à ce qu'il y a d'humain dans l'intelligence...

Sans parler du point d'orgue sur la proclamation de nos valeurs après les attentats du Bataclan....

Mieux qu'un long article.......A méditer!

Et si l’avocat était irremplaçable ?  Bien sûr, je prêche pour ma paroisse… mais elle est belle.

À l’heure où nous nous interrogeons sur son possible remplacement par une machine intelligente, je écouvre le livre écrit par un de mes confrères Loïc TERTRAIS ; un avocat breton qui s’est lancé dans l’écriture d’un livre atypique.

L’homme a des convictions que je partage. Son livre est inspiré par une passion qu’un certain nombre d’avocats partagent encore. Cette passion ne peut trouver sa source que dans celle de la justice et dans une certaine conception de l’amour.

Ce livre tombe à point nommé. « Défends ma cause » ! Notre confrère nous fait partager l'état de l’avocat au plein sens du terme. Ce livre est la confession d’une singulière rencontre entre un avocat habité par sa mission et le monde qui l’entoure, les clients, les adversaires, les confrères, les experts, les juges voir même les journalistes. Pénétrante confession, accompagnée d’une analyse aiguisée, exigente.

Comme son préfacier le souligne son livre n’est pas une démonstration intellectuelle. Il ne convoque pas les grands principes au soutien de ses analyses, qui sont des sortes de paraboles. Il s’agit d’un témoignage, comme il l’explique d’ailleurs dans son livre même si sur ce point je ne suis pas totalement d’accord avec lui car dans le procès l’avocat n’est pas un témoin ; en tous les cas il est beaucoup plus qu’un témoin.

Il évoque certains sujets particulièrement profonds de manière allègre, incidente mais très éclairante comme par exemple la réforme du droit des obligations et la disparition de la cause ou la théorie des droits de l’homme.

Il nous parle de cas, de choses vécues, d’exemples, d’incidents, de procès et met le doigt sur ce qui ne va pas, et pour reprendre le jargon moderne, sur ce qui dysfonctionne. Sans qu’à aucun moment on ait le sentiment que l’auteur juge, nombre d’entre nous en prennent néanmoins pour leur grade… ; dans la mesure où ils perdent de vue l’humanisme, la justice et au fond ce qui doit animer l’action de chacun dans l’accomplissement de sa mission, c’est-à-dire l’amour. Cette perspective est profondément chrétienne ; et Loïc TERTRAIS rejoint ainsi cette idée que défendre c’est être chrétien, c’est faire du christianisme en acte ; ce qui ne signifie pas que seuls les chrétiens peuvent être bons avocats, loin s’en faut !....

Ce livre m’a intéressé d’un autre point de vue, car il constitue un élément de réponse à la question centrale que je me pose et sur laquelle je travaille depuis l’achèvement de mon livre sur l’avocat face à l’intelligence artificielle. Comment redonner à l’humanisme toute sa place dans le fonctionnement de l’institution judiciaire transformée par le numérique et les outils de l’intelligence artificielle ? Cet humanisme sans lequel elle ne sera plus qu’un fonctionnement numérique, codé, artificiel et donc dangereux, parce que manipulable, comme Antoine GARAPON le démontre dans son dernier livre « Justice digitale ».

La réponse nécessite d'abord de retrouver le sens véritable du droit dont l'objet ne peut être que le Justice!

Mais elle est aussi dans l’affirmation inébranlable de la substance purement humaine des liens dont les ruptures sont à l’origine d’injustices que l’institution judiciaire doit réparer. Bien sûr qu’il va falloir trouver des solutions techniques, intellectuelles, rationnelles, mais il va aussi et surtout falloir d’abord que les acteurs retrouvent le sens de l’humain c’est-à-dire de ce qui est irréductible aux codes et au numérique. C’est le réel et notre aptitude à le transfigurer, d’où l’appel aux poètes et aux écrivains, qui nous en donneront les moyens. « Défends ma cause » est un très bon guide pour suivre ce chemin exigent et ardu.

A lire et à faire lire….

J’ai assisté, vendredi 1^er juin, au colloque des entretiens Portalis à Aix-en-Provence « droit et numérique ».

Il fut le témoignage de la prise de conscience par les milieux juridiques et judiciaires de la révolution en cours en leur sein. Il ne m’a malheureusement été possible d’assister qu’à la première partie des travaux. Il s’agissait de débattre des enjeux du XXIe siècle sous la direction du doyen de la faculté de droit et de sciences politiques d’Aix-en-Provence, avec notamment la participation du secrétaire général adjoint du ministère de la justice ainsi que de Madame Valérie Laure Benabou professeur à l’université d’Aix-Marseille.

Les professeurs d’université, les magistrats, les avocats, et les fonctionnaires du ministère de la justice débattent de la mise en œuvre et de l’utilisation des moyens numériques mis à leur disposition. Conscients de leurs risques et de leurs potentialités, ils ont une approche pragmatique et concrète ayant pour objet de déterminer les meilleures pratiques. Mais, il y manque une réflexion, non pas seulement historique, mais surtout relevant de la philosophie du droit et pourquoi pas de la philosophie générale…, comme de la science politique, sur la nature de la disruption en cours et par voie de conséquence de la remise en cause de la place et du rôle de chacun.

Face à un phénomène de cette ampleur, il ne suffit pas de raisonner en techniciens, voir même en savants techniciens. Encore faut-il être conscient de ce qui se produit et ne pas se contenter de surfer même habilement ou stratégiquement sur la vague. Et ce fut tout l’intérêt de la magistrale intervention de Madame Valérie Laure Benabou en clôture de cette matinée. Elle a mis le doigt sur le point qui fait mal. Elle a réveillé l’assistance. Elle a tenté de lui ouvrir les yeux, j’allais dire les reins et les cœurs…, en faisant ressortir les enjeux épistémologiques, anthropologiques et philosophiques sur lesquels nous devons impérativement avoir une vision prospective et une analyse critique. Croire que ce qui se passe ne serait que technique ou technologique relève de l’insouciance ou de l’inconscience…

Comme j’ai tenté de le faire ressortir dans une question posée lors de l’ouverture des débats à la salle, la question n’est pas seulement celle d’une évolution du même type que  l’imprimerie. Une fois encore, comme le travail d’Antoine Garapon dans son livre « Justice digitale » le met en évidence, nous sommes confrontés à une transformation du langage -réduit à des chiffres et des codes - et du raisonnement – la causalité étant expulsée par la corrélation - qui sont les deux fondements du droit et de la justice. Car, ainsi que le mit en évidence l’intervention de Monsieur Stéphane Hardouin aujourd’hui le ministère de la justice ne travaille pas seulement à la mise en ligne de documents scannés, mais à leur codage. Tout va passer à la moulinette algorithmique avant que le droit ne puisse être appliqué et que la justice ne soit rendue.

Tout le problème est de savoir comment nous allons nous donner les moyens de réintégrer la dimension humaine indispensable au fonctionnement de l’institution judiciaire et à l’accès du citoyen au droit ; notre époque étant marquée par le double enjeu de l’accès à un droit toujours plus complexe et de l’accès à une justice toujours nécessaire.

Plus que jamais la question qui nous est posée, tel un défi des temps modernes, est de nous donner les moyens de maîtriser une intelligence artificielle qui nous fait croire en sa toute-puissance, alors que personne ne peut dire quand elle sera réellement capable de se doter des moyens de la singularité lui permettant d’être légale de l’homme et éventuellement son maître…. Nous devons la démasquer, la ramener à ce qu’elle est ; Madame Valerie-Laure Benabou a poussé avec justesse l’audace jusqu’à dire qu’elle refusait de l’appeler numérique ou intelligence artificielle, pour l’identifier comme étant une simple machine. Une machine sophistiquée, puissante, mystificatrice certes, mais face à laquelle nous ne devons pas renoncer à nos prérogatives, quelles que soient les difficultés de la tâche. À défaut, nous ferons le lit d’une justice inhumaine. L’heure est à la formation, à la sensibilisation, à la prise de conscience et au développement chez les professionnels du droit et de la justice des outils moraux et intellectuels en même temps que techniques, qui sont nécessaires pour cette maîtrise.

Le monde de réseaux dans lequel nous vivons recèle bien des paradoxes. L’un d’entre eux est souligné par Sylvain Tesson dans « Un été avec Homère »[1], merveilleux livre dont je vous recommande la lecture. 

On y lit : « les réseaux sociaux sont des entreprises de désagrégation automatique de la mémoire. Aussitôt postée, l’image est oubliée… ». Et l’auteur de souligner qu’aucun héros grec n’a besoin d’un site Internet. Tout passe… rien ne reste… Et pourtant, comme le relève Louise Merzeau dans une conférence donnée dans le cadre du colloque de la chaire du collège des Bernardins sur le numérique « on ne peut plus ne pas laisser de traces, c’est-à-dire que non seulement ces traces sont d’une nature nouvelle, inédite, mais surtout que ce n’est plus option, c’est-à-dire qu’on ne peut plus décider a priori de ne pas laisser de traces. Cela génère toute une série d’inversions et c’est en ce sens qu’anthropologiquement, il y a un saut qualitatif et notamment une inversion entre mémoire et oubli, dans la mesure où jusqu’à l’avènement du numérique, l’homme devait faire des efforts, des dépenses, développer une intention, un projet et une technologie pour garder des traces. Au fond, ce qui était donné, c’était l’oubli, c’était le fait que son activité disparaissait avec le temps et avec sa propre mort »[2].

Qui a raison ? A quoi sommes-nous confrontés ? Est-ce une contradiction ? Ou un paradoxe révélant la perversité du système réseautique ?

D’un côté, rien de ce que nous faisons, de ce que nous disons, de ce que nous écrivons, peut-être demain de ce que nous penserons, n’est oublié. Et d’un autre côté, la mémoire en tant qu’elle structure notre être, dans et par la culture, a disparu de nos vies ou tend à en disparaître. C’est ce que veut dire Sylvain Tesson. Du temps où les outils technologiques n’existaient pas, nous avions de la mémoire. Nous gardions ce qui nous avait été légué et transmis. Rappelez-vous le film « La tête en friche »[3], et cette réplique merveilleuse de Geneviève Casadesus à Gérard Depardieu « nous sommes tous des passeurs »…

Ainsi, nous n’avons plus droit à l’oubli mais nous perdons la mémoire. Tout reste et l’essentiel passe.

Nos êtres en expositions narcissiques laissent des traces indélébiles dans les réseaux. Sylvain Tesson caricature Marc Zuckerberg comme étant « l’inventeur de la version numérique de la flaque d’eau de Narcisse ». Mais les réseaux ne recherchent pas ce qui dure, ni ce qui reste vraiment, de manière fondamentale, essentielle… Ils ne recherchent que nos « moi » en surexposition existentialiste et consumériste. Le temps, avec l’oubli, ce filtre de la sagesse ne peut plus remplir son office, permettre d’éliminer l’accidentel pour retrouver le sens et l’identité. Les réseaux ne transmettent rien. Ils inscrivent tous nos faits et gestes sur un disque dur ; tous les détails, sans distinction, sans faire de tri, sans laisser de place à l’œuvre de l’humain dans le quotidien pour préparer l’avenir.

Voilà l’un des aspects du défi que nous lance le système technologique numérique.  A cet égard la lecture d’Homère ne peut que nous être d’une grande utilité, ainsi que Sylvain Tesson nous y invite.

[1] https://www.amazon.fr/%C3%A9t%C3%A9-avec-Hom%C3%A8re-Sylvain-Tesson/dp/284990550X/ref=sr_1_1?ie=UTF8&qid=1527454187&sr=8-1&keywords=un+%C3%A9t%C3%A9+avec+hom%C3%A8re

[2] https://media.collegedesbernardins.fr/content/pdf/Recherche/7/chaire-2015-17/2015_09_23_Chaire_Numerique_sy.pdf

[3] https://www.youtube.com/watch?v=QK2LG7qF9rw

Si Cicéron pouvait nous aider à imaginer les chemins de la sagesse face aux progrès de l’intelligence artificielle ? A propos de :

L’intelligence artificielle n’est que le simulacre de notre intelligence ; elle en est un ersatz. Nul ne sait, nul ne peut affirmer, nul ne peut garantir quand elle atteindra ce qu’il est convenu d’appeler la singularité technologique, ce stade où la machine égalerait l’homme pour le dominer, pour lui échapper.

Dans cette affaire la seule question qui vaille est celle de la maîtrise. Inverser le sens de la maîtrise. Refuser la domination de l’homme par la machine. Revendiquer son exact inverse.

Tous les progrès, les algorithmes, les datas, les réseaux ne sont que des instruments. Des instruments créés par l’homme. Derrière le mythe de l’intelligence artificielle se cache la fascination de l’homme pour la domination. Plutôt que d’entretenir la crainte, la peur, qui sont des défauts de la nature humaine, nourris d’inquiétude et d’angoisse c’est-à-dire des maladies de l’âme telles que les décrit Cicéron, avec courage, cette vertu décortiquée et magnifiée par les analyses du grand philosophe et avocat romain, nous devons affronter notre destin, notre existence pour être et, s’agissant de la justice, pour participer activement à son œuvre.

Nous sommes une fois encore aveuglés par la technologie et la puissance qu’elle nous donne qui nous permet de manœuvrer la nature, comme nos concitoyens. Cette histoire est vieille comme le monde.

Malgré tout ce que nous pouvons penser, et ce que l’on nous donne à croire, il n’y a rien de nouveau dans les défis que nous lance l’intelligence artificielle que nous avons créée de nos propres cerveaux.

Même si l’accélération et la sophistication des moyens mis en œuvre ont de quoi provoquer l’affolement, la panique et le renoncement, l’outil ne peut pas créer une situation irréversible pour l’homme, sauf pour celui-ci à renoncer…

Notre vie sociale et politique n’a de sens que si l’homme reste en son centre, s’il recherche son bien et de ce qui est juste pour lui. Ce bien et cette justice ne peuvent être arbitrés de manière automatique ou mathématique. Ils sont irréductibles au calcul.

Voilà pourquoi au-delà de tous les aspects purement techniques du travail que nous devons entreprendre dans cette aventure aux allures de gageure, il nous appartient de replonger notre esprit et notre intelligence dans ce qui fait la sagesse, elle qui est l’objet de la philosophie.

Rien de ce qui est humain ne nous est étranger. Or tout ce qui est humain est étranger à la technique.

Ces réflexions me sont venues après la lecture d’un petit livre aux allures de chef-d’œuvre. Un dialogue défiant le temps et faisant revivre cet immense avocat que fut Cicéron, un homme aux mille talents dont les leçons sont aussi actuelles qu’éternelles. Ce petit livre a été écrit par notre confrère Jacques Trémolet de Villers. Je vous invite à le lire, lui qui vous invite en conclusion de sa méditation, à relire Cicéron…

Et si Cicéron et la sagesse à laquelle il nous invite détenaient les clés pour relever le défi que nous nous sommes lancés ?

La lecture du roman de notre confrère Pierre Janot « Lex humanoïde, des robots et des juges » éclaire le débat provoqué par l’évolution de la Justice face au développement des technologies virtuelles. Débat illustré récemment par la publication du livre d’Antoine Garapon « Justice digitale » ainsi que par notre propre essai « L’avocat face à l’intelligence artificielle ».

Le livre d’Eric Janot est un roman de science-fiction. Sauf que les datas et les algorithmes frappent déjà à nos portes et particulièrement à celles de l’enceinte judiciaire. Tout s’accélère…

Le débat sur la justice digitale est celui du pouvoir ; le pouvoir de la machine ou des hommes ? Au moyen de démonstrations scientifiques Antoine Garapon insiste sur la profondeur et l’ampleur du pouvoir que la machine est susceptible de prendre, à cause et au moyen de la disruption que provoquent le langage graphique, le numérique, les datas et les nouvelles technologies. Mais, nous savons en même temps que l’âge de la singularité technologique n’est pas encore pour demain. Personne ne peut affirmer que celle-ci sera possible ; et si elle doit l’être un jour, nul ne sait quand. Or la singularité est précisément ce moment charnière où l’intelligence artificielle deviendra intelligente, au sens humain du terme. C’est le moment où la machine serait susceptible de prendre le pouvoir sur l’homme ; le moment où elle ne sera plus seulement artificielle….

Jusqu’à maintenant, quel que soient sa complexité, ses performances, sa puissance de connexion, elle reste un outil ; elle demeure soumise au pouvoir des hommes. D’où la nécessité pour ces derniers de se doter des moyens de maîtriser la machine et, comme nous l’avons écrit quant à nous, pour les juristes, les auxiliaires de justice et les juges de renouveler la science du droit afin que celle-ci ne soit pas réduite à la mise en œuvre purement technique, automatisée et déshumanisée de textes de loi.

Et c’est sur ce point que le roman de notre confrère Pierre Janot apporte un éclairage fondamental ; la force des romans est de nous mettre en situation. Les hommes qui conçoivent et utilisent les ordinateurs nous persuadent de leur pouvoir alors que le stade de la singularité n’est pas atteint; ils nous font croire en un pouvoir qu’ils n’ont pas. Il y a plusieurs raisons à cela: la puissance technologique tout d’abord qui nous aveugle et nous éblouit, la soif de pouvoir des hommes ensuite qui nous trompe et enfin le mythe entretenu par tous ceux qui promeuvent cette science technologique et virtuelle et qui abusent ainsi de notre crédulité.

Ce roman met en scène toute la complexité, l’ingéniosité, la cupidité et la malignité des moyens utilisés par les hommes pour installer leur pouvoir derrière la machine. Il démontre notamment comment la programmation et la mise en œuvre de tous les outils virtuels, jusqu’y compris à travers la remise en cause d’un système de justice automatisée, peuvent donner aux hommes les moyens d’installer leur pouvoir.

La conclusion ? Tout est ouvert. Comme ce roman le met en évidence, la question ne relève pas d’une lutte manichéenne entre anciens et modernes, entre « pour » et « contre », entre rétrogrades et progressistes ! L’enjeu est celui de l’humanisme, de l’intérêt des justiciables, du bien commun et de la Justice. C’est donc bien la question de la maîtrise et de ses moyens comme nous l’avons souligné dans notre essai.