/

Le Droit des Robots

Les robots vont-ils avoir le droit d’avoir une âme et/ou une personnalité juridique ou seulement une identité numérique traçable ?


Libre propos d’un avocat passionné par les problématiques du nouveau droit du numérique.

 

L’association du droit des robots fondée par Maître Alain BENSOUSSAN, avocat à la Cour d’Appel de Paris et auteur du livre « le droit des robots » a organisé ce lundi 12 décembre 2016 au « centre de recherche de l’école des officiers de la gendarmerie nationale » (CREOGN) un après-midi de réflexion autour du thème :

 

  • Quelle place pour les robots dans notre société ?
  • Enjeux technologiques, défis, éthique et juridique.

 

J’étais présente pour représenter mon cabinet à ce débat et je vous en propose un résumé agrémenté par mes libres propos.

 

Maître Alain BENSOUSSAN, en présence de Marc WATIN AUGOUARD Général d’armée (2S), Directeur du CREOGN ont lancé la discussion en présence de nombreux intervenants qualifiés.

 

Ce débat court maintenant depuis plusieurs années sur la nécessité ou pas d’une création d’un droit spécifique adapté sans doute à l’utilisation des robots mais qui en sous-tend un autre :

 

D’objet d’un droit lié à leur utilisation,

le robot peut-il devenir sujet autonome de droit personnel.

 

La question tend à devenir hautement philosophique tant les conséquences de la mise en œuvre de l’intelligence artificielle nous confrontent à des situations inédites au moment où la technique permet d’insérer dans les robots des algorithmes en reproduisant des « pensés humaines » en s’apprêtant à envahir nos espaces personnels dépouillés de leur apparence de jouet, pour nous faire face dans une structure sculptée à notre image et ressemblance pour reprendre un propos bien connu !!!...

 

Comment alors « l’humain » va-t-il interagir avec un « tiers » pour l’instant dénommé robot mais qui va tendre à lui ressembler de plus en plus.

 

Commençons par le commencement, comment définir un robot :

 

Maître Alain BENSOUSSAN en annexe de son ouvrage « le droit des robots » publié aux éditions LARCIER (LEXING – technologies avancées et droit) a émis une charte du droit des robots et propose la définition suivante :

 

Pour consulter l’intégralité de cette charte rédigée par Maître Alain BENSOUSSAN, Cf. document Pdf.

 

L’article 1 de cette charte définit le robot comme étant une machine dotée d’intelligence artificielle prenant des décisions autonomes, pouvant se déplacer de manière autonome dans des environnements publics ou privés et agissant en concertation avec les personnes humaines.

 

Ensuite, l’article 2 propose de définir une personne robot comme :

 

  • Un être artificiel doté d’une personnalité juridique particulière,
  • Le robot dispose d’un nom, d’un numéro d’identification, d’un capital et d’un représentant légal pouvant être une personne morale ou une personne physique.

 

Aux termes des échanges verbaux s’est fait jour une première interrogation :

 

Emerge bien désormais en tout cas pour une « personnalité particulière » pour ces objets divers contenant une intelligence artificielle, des problématiques tout aussi particulières.

 

C’est ainsi que partant de ces définitions, lors du colloque du 12 décembre dernier, Maître Alain BENSOUSSAN avec beaucoup de vivacité a interrogé l’auditoire présent en interpellant ses membres pour les lancer sur les réflexions suivantes :

 

  • Que devient alors notre modeste calculette ou objet interconnecté, ont-ils tout deux droit à la personnalité robotique ?

Ou,

 

  • Ces objets sont-ils une machine particulière.
  • Faut-il ou non créer la notion d’espèce et dans quel but.

 

Effectivement, ces questions méritent d’être « creusées ».

 

Si l’on se reporte à la définition du dictionnaire pour le mot espèce, cela renvoie à la notion du « vivant » puisque le mot est défini comme :

 

  • Un nom féminin venant du latin « SPECIES » désignant des objets, marchandises, mais très vite la définition a renvoyé à un ensemble d’êtres animés ou de végétaux qui se distinguent des autres du même genre par des caractères communs.

 

Outre ce lien avec le vivant, l’expression vise aussi à définir des catégories d’êtres ou de choses parfois en étant employées de manière péjorative.

 

Par ailleurs employée dans le langage juridique, l’espèce renvoie à la notion de « cas d’espèce » qui nécessite une interprétation de la loi, cas particulier ne relevant pas de la règle générale.

 

Oui sans doute, le « robot » semble déroger de plus en plus à la règle générale pour devenir une « espèce à définir » n’entrant déjà plus tout à fait dans la catégorie machine.

 

En effet, la « machine » est définie par une directive européenne éponyme, initialement la directive 98/37/CE remplacée aujourd’hui par la directive machine 2006/42/CE.

 

Cette directive vise la machine comme un ensemble technique complexe défini par sa finalité utilisatrice, et devant certaines garanties.

 

Ainsi, tout objet « complexe » pouvant être utilisé par des travailleurs, des consommateurs, voire des animaux domestiques ou incorporé à des biens doit répondre à des normes de construction d’utilisation et d’interopérabilité pour réduire les risques liés à leur utilisation et garantir la santé et la sécurité de toutes les personnes ou biens définis ci-avant susceptibles de les utiliser directement ou indirectement par une interaction quelconque entre justement la machine et l’utilisateur.

 

Donc, oui sans doute par rapport à cette définition le robot est bien une machine mais très particulière où déjà certains ont trouvé un qualificatif celui de « cyborg » contraction de « cybernetic organism » mi-homme mi-mécanique.

 

Toute machine dotée d’intelligence artificielle tendrait à devenir « une espèce particulière en fonction » par la qualité des programmes qui la constituent et développent sa capacité à l’autonomie technique fonctionnelle et encore, il convient d’être prudent dans la proposition de catégorisation.

 

En effet, pour l’une des intervenants aux débats, Madame Sophie SAKKA « présidente de l’association robot et chercheuse en mouvement humain et humanoïde, enseignante associée à l’école centrale de Nantes ECN » :

 

  • « Le robot n’a pas de « capteur », pas d’hormones, s’il peut présenter dans son fonctionnement l’apparence d’émotions ce n’est qu’une question de programmation».

 

C’est ici que la confrontation entre l’humain sujet souverain de droit et le « robot » ou « machine dotée d’intelligence artificielle » sujet de droit en devenir prend tout son sens.

 

L’humain est avant tout un être émotionnel qui projette en permanence ses émotions.

 

Le robot lui, s’il peut présenter l’apparence d’une émotion et interagir à cet égard avec l’homme, ce ne sera toujours que par l’intermédiaire d’une programmation.

 

Ainsi, l’homme ne devra jamais oublier qu’aussi sophistiquée que soit la programmation d’un robot lui permettant de mimétiser au plus proche l’émotion humaine et ses projections, le robot lui ne pourra jamais avoir le sentiment d’exister pour lui-même.

 

La machine ou robot est programmée vers une intelligence finie limitée à l’interprétation d’une multitude de situations pour « servir » mais que même si de plus en plus poussé pour appréhender les situations multiples (cas de la programmation par exemple des robots dans un cadre militaire), le robot n’aura jamais conscience d’un but à atteindre avec le « sentiment de devoir parfois se transcender pour l’atteindre ».

 

Sans doute va-t-il nous falloir réfléchir à créer pour ces machines particulières plutôt des « catégories » en fonction des genres ou des caractères de leur programmation.

 

Il ressort de cet intéressant débat que finalement la robotique nous ramène à nous intéresser à la vie dans ce qu’elle a de plus profond pour nous rappeler ce qui définit l’humain et qui peut se résumer si l’on peut dire à sa faculté de « ressentir » et de « prendre des décisions par rapport à ses émotions », donc l’humain pour expérimenter l’altérité lui va d’abord ressentir l’autre alors que le robot n’est que dépositaire de données plus ou moins actualisées qui vont confirmer ou pas son intelligence artificielle en ne déclinant que les possibilités d’un algorithme prédéfini en ce compris alors des émotions toujours prévisibles.

 

Et si la machine est productive et peut « apprendre de l’humain », jamais elle ne le fait que par rapport à un programme qui le prédéfinit pour évoluer selon un rythme mathématique, sans émotion à moins que nous découvrions un jour que les nombres peuvent interagir entre eux par des émotions internes !

 

Dès lors, sans doute, il faudra s’atteler à compléter la charte du droit des robots dont Maître Alain BENSOUSSAN a proposé les premières lettres pour en adjoindre d’autres nourries de l’expérience que tous les humains créeront par les interactions et les conséquences de celles-ci avec les robots à leur disposition.

 

À cet égard, les retours d’expérience pour les robots à usage militaire contribuent largement aussi à la réflexion philosophique de la définition d’un statut « sui generis » des robots.

 

Car qu’il soit à usage militaire ou non, il convient dès maintenant de travailler à définir une « éthique by design » pour définir sans doute les droits du robot face à l’humain, lesquels passent par sa propre protection en lui-même et par lui-même.

 

Mais l’humain doit aussi faire prévaloir ses propres droits face au robot parmi lesquels le plus fondamental est de pouvoir contrôler l’acte de décision du robot, voire même l’autoriser ou l’arrêter à tout moment de son exécution, et de déterminer aussi la limite d’utilisation de ses données personnelles par le robot, ce qui passe pour l’humain pour le droit fondamental de savoir quand il parle à un robot.

 

Ce qui nous ramène à l’idée que le robot doit toujours être programmé de manière à garantir et pour lui et pour son propriétaire un droit à un système coopératif d’interaction où l’homme devra toujours avoir le dernier mot pour le commandement de celui-ci car tout dysfonctionnement du robot portant atteinte au droit des tiers aura des conséquences pour appeler en cascade des responsabilités multiples soit si nécessaire une responsabilité autonome du robot, et puis en cascade celles de son propriétaire, de son détenteur, du concepteur de ses programmations, du pilote des interactions au moment de son geste défectueux (c’est le cas actuellement).

 

La construction de ce droit nouveau à venir destiné à une catégorie particulière ou « une espèce autonome de personnalité juridique en cours de construction » a donc bien commencé, elle sera longue, pleine de rebondissements passionnants et la clôture de ce débat n’a pas été sans rappeler en échos l’extraordinaire débat qui opposa en 1928 le sculpteur et peintre BRANCUSI aux Etats-Unis tel que rappelé dans le livre :

 

BRANCUSI contre Etats-Unis un procès historique, 1928

Aux éditions Adam BIRO

 

L’objet du litige portait sur une pièce de métal jaune de 1,35 m de haut suggérant un objet manufacturé à l’utilité mystérieuse.

 

Cet objet mystérieux fut plus connu ensuite sous la dénomination « l’oiseau dans l’espace ».

 

Mais à l’époque, pour pouvoir entrer aux Etats-Unis, il dût répondre à une grave question :

 

  • Était-ce une œuvre d’art en ce cas exonérée de droit de douane
  • Ou une valeur marchande non exonérée.

 

Tout le problème fut de qualifier cette « sculpture » d’œuvre d’art puisque ne répondant pas en 1927 au canon esthétique de l’époque.

 

Le procès ouvert en octobre 1927 se termina un an après le 26 novembre 1928 pour reconnaître « l’oiseau dans l’espace » comme une œuvre d’art.

 

Ce aux termes d’un long débat où le Juge WAITE au cours de l’audience déclara :

 

« Je ne vois pas la nécessité de perdre du temps à prouver que ceci est un oiseau.

 

S’il s’agit d’une œuvre d’art, d’une sculpture, il est ressorti à cet article.

 

Il n’existe aucune loi à ma connaissance qui stipule qu’un objet doive représenter la forme humaine ou une forme animale particulière ou un objet inanimé, mais seulement qu’il représente une œuvre d’art, une sculpture ».

 

Retournant la formule du juge WAITE si nous pouvons nous interroger  aujourd’hui sur la nécessité de donner au robot une personnalité juridique, toutes les idées nouvelles sont à déposer à l’édifice de la définition :

 

« Même s’il n’existe encore aucune loi à notre connaissance qui stipule qu’un robot ne puisse pas représenter aussi la forme humaine et s’y apparenter  pour tenter de "copier" l'humain  , nous devons tout faire pour garantir que jamais le robot ne soit considéré comme l'égal d'un Humain aussi sophistiqué que puisse devenir son algorithme car ce qui différenciera pour toujours le robot de l' Humain ce sera pour le second la capacité de se définir par ses "désirs " en les formulant en ayant la volonté de les mettre en oeuvre, au motif que l'Humain se définira toujours par son Désir de création en se sentant "Etre" en le réalisant, alors que le Robot lui pré-défini de l'intérieur par des programmes ne se définira lui toujours à supposer qu'un jour il puisse en avoir conscience que par le "Faire" .

Alors à quand un Débat entre un Humain et un Robot ou  celui-ci pourra dire au premier: "Dis moi Homme infini qu'as tu fais de ton Désir, qui puisse vraiment te rendre différent de moi !!!!...

Documents disponibles

Contactez-nous