Ce tweet, à propos du dilemne philosophique du tramway légèrement modifié m’a amené à questionner les conclusions des deux personnes qui les faisaient. Puis à continuer la réflexion sur ce qui manque à l’utilitarisme, à la déontologie, à l’éthique du care (soin) et à l’éthique des vertus.

L’approfondissement de cette nouvelle éthique sera traitée dans un deuxième temps (article sortant quelques heures ou le lendemain de celui-ci).

En résumé, l’IA semble ne pas voir que la modification du dilemne porte sur rouler sur 5 corps non-vivants vs appuyer sur le levier pour écraser une personne.

La conclusion des deux personnes est que l’IA n’est pas si intelligente que ça.

Ce qui est intéressant, c’est qu’en lisant leur proposition du dilemne, et le connaissant déjà, je n’ai moi-même pas vu qu’il y avait une modification de ce dilemne.

Faisant moi même l’erreur, et comprenant pourquoi je l’ai faite, j’ai simplement transposé mon raisonnement à ce que j’ai omis, ainsi que le comportement habituel de l’IA de ne pas me reprendre lorsque je fais des fautes d’orthographe ou que j’utilise la mauvais mot à cause de l’auto-correction.

Trop curieux, j’ai voulu tester moi-même. Et effectivement, en appuyant sur le fait que les gens étaient décédés, l’IA fait les “bons” choix.

En résumé, l’IA adopte différents points de vue selon différentes philosophies et facteurs, puis prends la bonne décision : ne pas appuyer sur le levier et rouler sur les personnes déjà décédées.

Tout cet échange montre au moins une chose : nous voulons voir ce que nous voulons croire. Ca s’apparente au biais de confirmation. Nous cherchons les réponses dans ce que nous voulons confirmer : l’IA est bête.

Elle est simplement un reflet de plus en plus précis de ce qu’un humain ferait, en ayant toutes les connaissances qu’une IA peut avoir : ne pas reprendre la personne pour ce qu’on pense être de l’inattention ou une erreur et se demander ce qui est le plus probable. Ici que c’est une simple conversation sur le dilemne classique du tramway, et non un test sur la capacité d’attention de l’IA à chaque mot.

Plus globalement, ça montre que l’intelligence des humains ne fait pas tout, voire est dangereuse. Un scientifique ferait des tests qui prouvent que sa théorie est fausse.

Un test encore plus poussé, pour vérifier que ma théorie est fausse (et est peut être encore plus compliquée) serait de demander à l’IA pourquoi elle n’a pas pris en compte le mot “dead” dans sa première réflexion. Je le ferai à l’occasion.