Les IA : qui sont-elles ? Quels sont leurs réseaux ?

[zit]

Je me pose cependant des questions sur la fiabilité des infos pondues par les IA. Y a-t-il une pré-étude critiques et contradictoire sur la fiabilités des sources, les biais etc, ou est-ce juste une synthèse de tout ce qu'on peut trouver sur internet, y compris les âneries ?

[madtroll]

Ça va redonner ce qui se trouve dans le corpus d'apprentissage, et à l'origine il me semble que le corpus est constitué avec une récolte anarchique du web (d'où les nombreuses critiques concernant le non respect des droits d'auteur) ... du coup si y'avait des conneries, c'est possibles qu'elles soient reproduites dans les réponses.

Y'a pas longtemps, en demandant des infos sur le hockey sur glace, une des premières infos ressorties par chatGPT était qu'un match durait 4*12 minutes ... alors que j'ai toujours connu ce sport avec des matchs de 3 tiers de 20 minutes.

[Deimoss]

On peut par exemple faire faire une recherche par ses élèves et de confronter les résultats de chaque élève / groupe. Cela a le double avantage de confronter les élèves aux limites de l'IA et de leur faire pratiquer l'outil informatique.

[Nolendur]

Ça va redonner ce qui se trouve dans le corpus d'apprentissage...

Pas que, et pas tout. Les IA (au sens des machins qui font le buzz actuellement) ne sont pas, à la base*, des systèmes de connaissance ; ce sont des systèmes de langage. C'est-a-dire qu'elles ne s'intéressent pas au fond, mais seulement à la forme. Elles s'entrainent sur du texte produit par l'homme pour arriver à reproduire un texte semblable. Le fait que le texte reproduit contient souvent des informations réelles est un effet secondaire dû au fait que le monde linguistique humain n'est pas si complexe ou infini qu'on se le raconte. En reproduisant la forme, elles arrivent bien souvent à reproduire le fond, mais ce n'est pas un constituant central, un mécanisme algorithmiquement maîtrisé.

Le meilleur test de cet état de fait, c'est les questions absurdes posées avec sérieux. Hors briques externes de cadrage*, si on demande à une IA un truc comme "Combien il faut de hérissons pour inverser le sens de rotation d'un cadran solaire ?", elle va trouver une réponse. Parce que son modèle interne n'est pas un modèle sémantique, mais un modèle formel. Dans le cas d'une question absurde, le moulin va cracher un résultat formellement correcte, mais qui du coup de pourra pas correspondre à une réalité factuelle. L'effet secondaire dont je parlais plus haut ne peut pas fonctionner, il tape dans le vide.

Là où ça devient problématique, c'est que l'absence de fiabilité de l'effet secondaire ne s'exprime pas que dans les questions absurdes. Le mécanisme est non fiable par essence (même si l'échafaudage de mécanismes externes essaie en permanence de le ramener dans les clous). C'est ce que le milieu appelle les "hallucinations". Ce ne sont pas des défauts du corpus d'apprentissage ni des bugs. Ce sont des productions parfaitement valides du mécanisme de génération formel qui se trouve ne pas correspondre à une réalité factuelle. Et donc, hors questions absurdes, des promptes parfaitement sérieux peuvent entrainer des réponses contenant une proportion variable de blabla cohérent mais déconnecté de la réalité.

Et donc pour finir, ce que produisent les IA n'est pas une "synthèse" de ce qu'on trouve sur internet, mais une "imitation" de ce qu'elles y ont trouvé lors de leur apprentissage, imitation qui par le jeu de la statistique et de l'efficacité quasi-magique des LLM, se trouve correspondre à la réalité incroyablement souvent.

Question philosophique connexe : si la fiabilité de l’imitation formelle devient, par le biais de la masse de données et de la puissance de calcul, plus fiable que si on posait la question à un expert (l'IA resterait plus con que n'importe quel humain, et génèrerait toujours des hallucinations contrefactuelles, mais par un effet purement statistique ses délires tomberaient plus souvent juste que les autres méthodes d'expertise), comment faudrait-il considérer la valeur de ses réponses ? Préférable à la consultation d'une encyclopédie ? Utilisable par une administration ? Par un tribunal ?

* Je dis "à la base", parce qu'on rajoute plein de briques autour pour essayer de cadrer ou d'infléchir leur comportement, au delà des LLM eux-même.

[Archiduc Fifi]

Un nouveau modèle d'image est sorti il y a quelques jours et fait beaucoup parler de lui. La raison : il est 100% open source
https://www.stablediffusion.blog/lancement-auraflow

Beaucoup de désinformations à son sujet néanmoins car certains sites disent que ce modèle a été entraîné sur des images opensource, mais non : c'est le modèle lui-même qui est produit selon les règles de l'Open Source, pas les images grâce auxquelles il a été entraîné. C'est entre autres pour ça que je poste ici

[vivien]

@Nolendur mais du coup, il en faut combien, des hérissons ?

[Qui Revient de Loin]

Ca dépend s'ils viennent d'asie ou d'afrique.

[theWatch]

Du coup ce sont eux qui transportent les noix de coco et plus les hirondelles ?

Donc, ça n'aurait simplement pas marché pour l'IA de Nolendur parce qu'elle n'avait juste pas la bonne ref ?

Le jour où l'IA répondra à la question de Nolendur = "Pouvez-vous précisez si les hérissons viennent d'Asie ou d'Afrique ?" et fera donc de l'humour, on pourra commencer à vraiment s'inquiéter pour notre place dans l'Univers !

[Qui Revient de Loin]

Voila, c'est ça le problème des IA, l'absence d'humour de références.

[Nolendur]

@Nolendur mais du coup, il en faut combien, des hérissons ?

J'ai la flemme de faire le test, mais tu peux faire l'essai toi-même si t'as un compte ChatGPT .

Si on me demandait de faire un pronostic, je parierais que GPT3.5 fournit une réponse surréaliste, du genre "Les hérissons d'Europe vivant dans tel et tel milieu, il en faut au moins 5 pour constituer une force de travail suffisante. Mais comme dans un cadran solaire, ce n'est pas le cadran qui tourne, et que faire tourner une ombre ne peut se faire que de façon indirect, il faut doubler ou tripler la force de travail". Un truc du genre.

Pour GPT4o, ils ont apparemment vachement modifié les couches externes pour le faire ressembler à un vrai interlocuteur. Du coup je parierais qu'il répond à côté de la question, mais d'une façon subtile qui pourrait ressembler à de l'humour ou à de la philosophie.

Pour GPT4, je n'en ai aucune idée.

[Mickey-bis]

Je viens de faire le test sur ChatGPT 4:
il détecte l'ironie de la question et fait une proposition enc e sens qui - AMHA - est plutôt pas mal. Et fait aussi une réponse "sérieuse" telle qu'envisagée.

L'idée de demander combien de hérissons il faut pour inverser le sens de rotation d'un cadran solaire est une question absurde et humoristique. En réalité, un cadran solaire fonctionne en utilisant l'ombre projetée par un gnomon (la tige ou le repère du cadran) pour indiquer l'heure. Le sens de rotation de l'ombre est déterminé par le mouvement apparent du soleil dans le ciel, qui dépend de la rotation de la Terre.

Donc, pour répondre à la question dans un esprit similaire à celui de la question originale :

- Scientifiquement parlant, aucun nombre de hérissons ne pourrait inverser le sens de rotation d'un cadran solaire, car ils n'ont aucune influence sur la rotation de la Terre ou la position du soleil.
- Dans un contexte humoristique ou absurde, vous pouvez dire n'importe quel nombre de hérissons, car la question n'a pas de réponse logique. Par exemple, "Il faudrait exactement 42 hérissons, mais uniquement s'ils sont très motivés."

En conclusion, la question est plus une blague qu'une question scientifique sérieuse.

[agone35]

J'aime bien le "Il faudrait exactement 42 hérissons, mais uniquement s'ils sont très motivés." . P... si ChatGPT devient drôle on est mal Oo

[Le merlock]

@Nolendur mais du coup, il en faut combien, des hérissons ?

Chiche que quelqu'un pose la question au matou flatulent ? De préférence en version 4o...

*EDITER*

Merci! @Mickey-bis 

J'aime bien le "Il faudrait exactement 42 hérissons, mais uniquement s'ils sont très motivés." . P... si ChatGPT devient drôle on est mal Oo

Je vois bien le prochain reboot de Terminator: "Skynet a du envoyer 42 terminators pour tuer Sarah Connor, mais ils étaient très motivés..."
 

[agone35]

Skynet a dû envoyer EXACTEMENT 42 terminators.

[Nolendur]

Merci @Mickey-bis pour le test.

C'était 4o ? Je m'attendais à un truc bien fait de la part de 4o, mais j'ai quand même été bluffé par la réponse. Ça devient vraiment propre et solide.