Je lisais un article sur LessWrong, qui dépeint assez bien le « doomer » (celui qui prédit qu’on est foutu avec l’Intelligence Artificielle) et l’optimiste « Simplicia Optimistovna » : https://www.lesswrong.com/posts/sGEJi9wFT3Gdqg2nM/the-standard-analogy

Les articles de LessWrong sont vraiment intéressants, mais peu accessibles au grand public. J’ai voulu faire un résumé avec Max.AI combiné à Claude 3.5 Sonnet, qui permettent ensemble de faire des interactions avec un document (poser des questions, avoir des explications, des résumés etc…).

Malheureusement, sur une première demande de résumé, l’IA s’est trompée d’interlocuteur, en attribuant les dires de l’un (Simplicia) à l’autre (Doomer)…ce qui est une erreur potentiellement très très grave, dans le cadre de la justice, par exemple. En le corrigeant, il me dit que « tout à fait, c’est Doomer », sans même voir son erreur (probablement Max.AI qui suroptimise la discussion et n’inclus pas de contexte).

Malheureusement, on voit que c’est encore limité, même si on s’approche, doucement mais sûrement, de la compréhension parfaite ou quasi-parfaite de textes.

L’automatisation de compréhension de contenu est pour moi une énorme porte vers un monde plus efficace, plus juste (justice) et plus juste (véracité). Mais on a encore un peu de travail !

Croisons les doigts que les choses aillent encore vers un mieux, et faisons notre maximum pour y contribuer, avec les ressources limités que chacun a.