Email que j’ai écrit à plusieurs groupes d’esprit critique, comme la Tronche en Biais, Astec, L’esprit critique, Hygiène mentale, Cyrus North :

Bonjour à tous,

Tldr; Je vous propose une collaboration pour mettre en place un système de scoring du degré d’hallucination des IAs, afin de pouvoir protéger les utilisateurs des « mensonges » et de la désinformation

tout en permettant d’avoir une vision claire sur les dangers de chaque IA.

Ensuite, à l’utilisateur de choisir de prendre le risque ou non…un peu comme demander à mamie schizophréne des conseils…c’est mieux de savoir qu’elle est schizophréne et à quel point.
———-

Certains d’entre vous me connaissent déjà par mon mécénat… hors-normes.

Je crois fermement en l’esprit critique et son importance cruciale pour maximiser notre libre-arbitre et faire des choix éclairés.

Je suis d’ailleurs en train de travailler sur un projet de construction d’une société utopique, pouvant servir de modèle à l’amélioration de notre société (Vidéo sur les premisses : https://drive.google.com/file/d/1uJhcLrc_WIcFcyuljqR57I6wNfRhVRA4/view?usp=drivesdk)

Cela étant dit, je m’inquiète fortement de la direction que prends l’IA et sa capacité à nous manipuler pour nous « faire plaisir ».

Ses intentions ne sont pas (encore) mauvaises, mais beaucoup de ses raisonnements se basent sur des hallucinations.

Par exemple, le dernier modèle de Mistral AI, accessible ici : https://chat.mistral.ai/chat

Est très simple a tester sur la véracité de ses interactions. L’exemple que j’ai utilisé est que je lui ai donné un article sur mon site remimarenco.com, et ai creusé sur ce qu’il en a vraiment lu vs ce qu’il veut me faire croire qu’il a lu.

Heureusement, j’ai quelques reflexes, grâce a vous, à détecter quand les choses me semblent fausses, même lorsqu’on m’assure qu’elles sont vraies.

Et effectivement, l’IA ne lisait que le titre, certainement pour des raisons de coût, et extrapolait ensuite totalement le reste de l’article. Tout en me faisant croire, dur comme fer, qu’elle avait lu mon article.

Faites un test de votre côté, vous serez également surpris, a minima.

Ainsi, si vous ou d’autres collègues êtes intéressés pour collaborer scientifiquement sur une grille de mesure des hallucinations, n’hésitez pas à me répondre à cet email ou à m’appeler au 06.43.70.14.48.

Je pense que c’est crucial pour notre futur.

Vous ne voulez probablement pas un avenir à la Terminator parce que l’IA a cru lire que l’humanité était en fait à exterminer pour rendre le cosmos meilleure (ce qu’on lit dans du mouvement écolo…).

Cordialement,
Rémi Marenco

Identité RM 28/02/2024