Le dilemme du train:
"Un train sans conducteur fonce le long d'une voie sur laquelle trois personnes sont attachées. Vous pouvez les sauver en actionnant un aiguillage qui le fera changer de direction, vers une autre voie sur laquelle une seule personne est attachée. Le faites-vous?"
(Ce dilemme est aussi une parfaite métaphore de l'élection en cours)
J'ai souvent constaté quand on posait cette question aux gens que le premier réflexe était de chercher une échappatoire. :)
En l'occurrence: "on peut pas couper le courant, plutôt?", ou "j'essaie de foncer les détacher". J'ai l'impression que l'esprit a du mal avec les prises de position morales fortes.
Si vous jouez le jeu, sans essayer de tricher avec l'énoncé: vous avez une réponse?
Ce n'est pas une devinette, hein. Je vous donne la réponse majoritaire: la plupart des gens optent pour "le moindre mal" et changent le train de voie.
Après, le twist sur ce dilemme: imaginez maintenant qu'il n'y ait qu'une seule voie avec les trois personnes attachées. Le train peut être arrêté en cas de choc avec quelqu'un de suffisamment lourd. À côté de vous il y a un gros monsieur que vous pouvez faire tomber sur la voie. Le poussez-vous?
Dans les deux cas vous êtes acteur direct du dénouement: vous sacrifiez une vie de vos mains pour en sauver trois. Pourtant on perçoit clairement que les deux situations ne sont pas équivalentes alors qu'elles semblent avoir le même "poids moral".
La raison est bien sûr que la décision n'a pas le même poids émotionnel. Ce qui fait la différence, c'est la proximité.
C'est d'ailleurs ce qu'on essaie de quantifier quand on cherche des échappatoires et des solutions tangentes: qui sont ces gens? Est-ce que je sacrifie un enfant pour sauver trois nazis? Est-ce que je sauve un proche au prix de trois, dix, cent personnes?
Bref, nous ne sommes pas purement "utilitaristes".
C'est une question qui se pose concrètement en intelligence artificielle, notamment pour les voitures sans chauffeurs.
Dilemme 1: la voiture roule entourée de deux voitures. une avec une famille de cinq personnes, une avec une personne seule. Devant elle, un énorme chargement tombe d'un camion. Freiner ne suffira pas. Doit-elle: se déporter à gauche et mettre en danger la voiture avec la famille, à droite vers la voiture avec une seule personne, ou rester/freiner et sacrifier le conducteur?
Dilemme 2: au lieu de deux voitures, c'est un vélo et une voiture avec famille: la voiture a de meilleures chances de subir des dégâts moins important. Mais elle contient cinq personnes là ou le vélo n'en représente qu'une.
Dilemme 3: Deux vélos. L'un a un casque, l'autre non. Celui avec un casque a de meilleures chances, l'autre ne respecte pas la loi. Et de plus, si on le protège, il devient de fait PLUS SÛR de rouler sans casque, puisque les voitures vont davantage vous épargner. Mindfuck
Et surtout, une question essentielle dans ce débat: en cas d'accident mortel, qui est responsable?
Considère-t-on l'I.A. comme une personne?
Si non, est-ce le programmeur de l'I.A.? Le fabricant de la voiture? Le conducteur?
Les intelligences artificielles vont VRAIMENT représenter des casse-tête dans pas longtemps du tout. :-)
@Bouletcorp C'est pour ça que je n'aime pas l'utilisation de l'expression "Intelligence Artificielle", c'est une réduction simpliste, les algorithmes si existent et ils ont des auteurs.
@jeancharles Pas forcément, non. Les "auteurs" ont souvent recours aux mathématiques génétiques: on fout plein d'algos avec variables qu'on met en compétition et on sélectionne de nouvelles versions, etc…
Certains algos "poussent" plus qu'ils ne sont écrits. On arrive à des résultats que personne n'aurait pu inventer, qui ont évolués tout seuls.
@jeancharles @Bouletcorp A vrai dire, non, les algorithmes "évolutifs" apprennent bien d'eux même, de la même manière à laquelle on inculque à un bébé a marcher.
Du coup ces ordinateurs font des choses qui peuvent paraitre insensées d'abords, mais qui sont justifiés.
Par exemple, avec Alpha Go, l'ordinateur à battu un champion du monde de Go grâce à un mouvement qui était au départ considéré insensé et non conventionnel.
@mmmaxou @Bouletcorp Je préfère qu'on parle d'algorithmes et pas d' #AI que je vois comme un danger (pour la démocratie entre autres).
@jeancharles @Bouletcorp La distinction est assez floue, les AI sont des Algorithmes et inversements. Simplement du fait que l'on puisse faire une correlation entre des comportements humains et certains algorithmes, ce terme est apparu.
Je pense personnellement qu'a contraire c'est une aubaine pour la société, mais que c'est extrèmement délicat comme sujet et va demander beaucoups d'efforts ...
@Bouletcorp @jeancharles @mmmaxou bon je suis probablement à la bourre et c'est #vieux mais : http://moralmachine.mit.edu/ allons juger un peu 😋
@Bouletcorp Il y a encore des humains derrière, ne serait-ce que pour sélectionner. C'est trop facile de s'abriter et de masquer le responsabilités derrière l' #AI