Robots tueurs : qui est responsable ?

Des engins capables de tuer sans être contrôlés par des humains : qui rendra des comptes après coup ?

Humpf ! Image un peu fantaisiste…

Les humains, jamais à court d’idées lorsqu’il s’agit de tuer leurs semblables, mettent désormais au point des armes capables d’agir de manière autonome. Ces robots tueurs pourraient être envoyés sur un champ de bataille, identifier une cible grâce à un algorithme et éliminer l’ennemi présumé, sans que personne n’intervienne dans le processus.

Une idée fantaisiste ? Pas vraiment : divers indices suggèrent que des drones de combat automatisés auraient déjà été engagés dans des combats en Libye. D’ailleurs, les robots nous accompagnent depuis toujours, si l’on en croit Homère.

Les amateurs de gadgets létaux se frotteront les mains. En effet, les nouveaux drones sont apparemment précis, efficaces, et pratiquement imparables. Mais le plus beau, c’est qu’il sera possible d’envoyer un drone sur la tête de son ennemi sans en assumer la moindre responsabilité :

« C’est pas moi, M’dame ! S’il y a eu un problème, c’est la faute au logiciel. Pour ma part, j’étais à la plage pendant que mon drone faisait le boulot. D’ailleurs, je ne sais même pas où mon drone est allé se fourrer ! »

Se défausser de sa responsabilité lorsqu’on a tué un être vivant n’est pas une innovation. Les Athéniens ont déjà inventé le truc depuis longtemps pour se disculper lors d’un sacrifice appelé Bouphonie. En l’occurrence, pas besoin de drone, mais d’une hache, à qui l’on fera porter la responsabilité de la mise à mort, comme en témoigne Pausanias le Périégète (IIe s. ap. J.-C.).

Sur l’autel de Zeus de la Cité, (les Athéniens) placent de l’orge mélangé à du blé et s’abstiennent de le surveiller. Cependant, ils surveillent le bœuf qu’ils ont préparé pour le sacrifice ; ce dernier s’approche de l’autel et il touche aux grains. C’est alors qu’ils appellent un prêtre, appelé bouphonos (Tue-Bœuf) : il trucide l’animal et jette la hache sur place, avant de s’enfuir. Les autres, faisant comme s’ils ne connaissaient pas l’homme qui a commis l’acte, intentent alors un procès à la hache.

Pausanias, Périégèse de la Grèce 1.24.4

Le prêtre n’y est pour rien, et d’ailleurs personne ne le connaît. C’est donc la hache qui portera la responsabilité pour la mort du bœuf sacrifié. Ce rituel témoigne d’un sentiment de culpabilité chez les Athéniens qui, pour éviter d’être souillés par un crime laissé sans punition, se défaussaient sur l’instrument.

Au moins, ils avaient conscience d’avoir à rendre compte de leur acte. Il est à craindre que, avec les robots tueurs, aucun scrupule n’embarrassera leurs utilisateurs.

Puisqu’il est question de la culpabilité face au sacrifice, il vaut la peine de rappeler une interprétation assez cocasse de la raison qui aurait mené les humains à faire des sacrifices. Voici ce que nous rapporte Plutarque, quelques décennies avant Pausanias:

Sur la base des récits et des usages sacrés des Anciens, on peut conjecturer qu’ils considéraient comme un acte maudit et interdit, non seulement de manger, mais aussi de tuer un animal inoffensif. Cependant, écrasés sous la masse des animaux qui se multipliaient, ils reçurent un oracle de Delphes : d’après eux, cet oracle leur enjoignait de porter secours aux fruits détruits par les animaux ; et c’est ainsi qu’ils instituèrent le sacrifice.

Ils n’en restaient pas moins troublés et effrayés, raison pour laquelle ils utilisaient les termes « accomplir » et « exécuter ». Ils indiquaient ainsi que, en sacrifiant un être doué de vie, ils commettaient un acte qui n’était pas trivial. Jusqu’à nos jours, d’ailleurs, ils prennent grand soin de ne pas égorger un animal avant qu’il n’ait dit« oui » de la tête tandis qu’on fait une libation. C’est ainsi qu’ils se prémunissaient contre toute accusation d’avoir commis un acte injuste.

Plutarque, Propos de table 8.8.3 (729e-f)

Les végétariens et autres véganes apprécieront : le sacrifice des animaux aurait été institué pour sauver les végétaux…

Avec un robot, c’est plus facile

robotLes robots sont en train de devenir une réalité dans notre quotidien. Homère les avait déjà imaginés ; et Aristote a entrevu les conséquences sociales de l’introduction de ces machines dans notre vie.

Nous ne sommes plus dans le fantasme : les robots commencent à intégrer notre monde réel, et ce n’est qu’un début. Robots soudeurs dans des usines de voitures, robots pour accueillir les clients dans des hôtels ou des restaurants, robots démineurs ou soldats, aides-soignants robotisés ; et l’on pourrait facilement allonger le catalogue.

Ces nouveaux développements soulèvent une foule de question. Le robot doit-il être considéré comme un simple outil, alors qu’il va remplacer des employés et les priver de leur poste ? Faut-il taxer le travail d’un robot ? Et dans le fond, si nous fabriquons des robots pour vivre à notre place, qu’allons-nous faire de nous-mêmes ?

Le mot « robot » nous vient du tchèque, mais le concept remonte à la plus haute Antiquité. Le dieu Héphaïstos s’était déjà fabriqué une série de trépieds à roulettes qui se déplaçaient tout seuls :

« Thétis aux pieds d’argent arriva chez Héphaïstos, dans sa demeure indestructible, brillant comme les astres, remarquable parmi les immortels, fabriquée en airain. Le dieu boiteux se l’était fabriquée lui-même.

Thétis le trouva en train de s’activer en tournoyant autour des soufflets de sa forge, tout en sueur. Il avait construit une bonne vingtaine de trépieds qu’il avait alignés le long de la paroi de la salle bien bâtie. Il avait fixé des roulettes en or sous la base de chaque trépied, pour qu’ils entrent automatiquement dans l’assemblée des dieux et qu’ils retournent ensuite dans sa maison. Quel spectacle extraordinaire ! Il les avait presque terminés : il lui restait à attacher les poignées ouvragées ; il était en train de les préparer et de forger les attaches. »

[voir Homère, Iliade 18.369-379]

Des trépieds qui se déplacent automatiquement, comme votre aspirateur ou votre tondeuse à gazon.

Si tout cela nous paraît presque banal, ce n’était pas encore le cas du temps d’Héphaïstos et des héros du temps jadis, pour qui seul un dieu ou un inventeur d’un talent extraordinaire pouvait concevoir de tels engins. Dédale, inventeur du labyrinthe et premier homme volant (il a perdu son fils dans l’aventure), devait attacher les statues qu’il fabriquait ; sinon, elles risquaient de prendre la fuite.

Quant au philosophe Aristote, il avait anticipé la dimension sociale de l’introduction des robots : il avait en effet compris le caractère hybride de telles machines, situées entre l’outil et l’individu. Accrochez-vous, c’est Aristote, il est un peu plus sec qu’Homère…

« La propriété est un élément constitutif de la maisonnée, et l’art d’acquérir de la propriété est un acte de gestion de la maisonnée : car sans le nécessaire, il est impossible à la fois de vivre et d’avoir une bonne qualité de vie. Or pour un métier particulier, il est nécessaire de disposer des outils appropriés si l’on veut réaliser son ouvrage ; et il en va de même pour celui qui gère une maisonnée.

Parmi les outils, certains sont inanimés, d’autres sont animés : ainsi par exemple, pour le pilote de bateau, le gouvernail est un outil inanimé, tandis que la vigie à la proue du navire est un outil animé. Car l’assistant dans un métier est une espèce d’outil.

De la même façon, un bien de propriété constitue un outil pour vivre, et l’acquisition consiste à avoir une quantité d’outils, et l’esclave est en quelque sorte une propriété animée. En outre, tout assistant est comme un outil multiple : car si chaque outil pouvait recevoir nos ordres, ou les anticiper pour exécuter chacune des tâches qui lui seraient assignées (comme ce que l’on raconte à propos des statues de Dédale ou des trépieds d’Héphaïstos, dont le poète disait qu’ils ‘entraient automatiquement dans l’assemblée des dieux’),  et si de la même manière les navettes tissaient automatiquement, si les plectres jouaient tout seuls de cithare, alors les constructeurs n’auraient plus besoin d’assistants, et les maîtres n’auraient plus besoin de serviteurs. »

[voir Aristote, Politique 1.2.4-5 (1253b)]

Oui, vous avez bien lu : Aristote envisage déjà, à son époque, la possibilité que des machines automatiques viennent remplacer les hommes, avec pour conséquence qu’il ne serait plus nécessaire d’employer des humains pour faire le travail. Pour Homère, ce n’était qu’un fantasme entre les mains d’un dieu ; pour Aristote, le fantasme devenait une possibilité ; et aujourd’hui, nous sommes en train d’en faire une réalité.

Dès la semaine prochaine, la rédaction de ce blog sera confiée à un robot.

[image: Genco Gulan, Sculpture, robotic arm]

p.s. : d’autres ont parlé de cette question en détail, et de manière plus compétente que votre serviteur.