Les IA : qui sont-elles ? Quels sont leurs réseaux ?

[Killing Joke]

Le podcast initial du créateur de SUNO fait + d'une heure.
La vidéo linkée en est une analyse (diatribe - spoiler : l'auteur de la vidéo n'est pas du tout en phase avec le créateur de SUNO) peut-être de même acabit que les autres liens que tu linkes (et que je n'ai pas envie de me farcir non plus).

[Altay]

Plus proche de nous, l'entreprise Linagora pilote un partenariat public-privé pour entraîner un LLM français sur des données ouvertes (sans problème de droit d'auteur donc), le tout en open source. Une interface a été mise en ligne en grandes pompes sur https://lucie.chat avant d'être retiré rapidement. Pourquoi ? Parce que la version chatbot du LLM n'est absolument pas prête.

Next Inpact a fait un article assez complet sur le sujet : https://next.ink/167186/erreurs-absence ... ent-ferme/

C'est un projet pas inintéressant avec un consortium qui rassemble aussi des équipes de recherche du CEA et des CNRS avec un financement de la BPI. Mais la communication est bâclée comme pas permis. Je suppose que l'approche imminente AI Summit France a mis la pression à tout le monde pour sortir quelque chose, quitte à ce que ce soit pas terminé. Résultat : foutage de gueule intense sur les réseaux sociaux.

J'espère que ça servira de leçon aux startups qui veulent surfer sur la vague.

[Qui Revient de Loin]

J'espère que ça servira de leçon aux startups qui veulent surfer sur la vague.

Une leçon, quelle leçon ?
Dans l'article que tu lies :

En 2022, une semaine avant la sortie de ChatGPT, Google devait se résoudre à dépublier son IA générative Galactica au bout de trois jours seulement suite à des critiques sur la génération d'articles racistes et mensongers, alors qu'elle devait aider les chercheurs à écrire leurs articles scientifiques.

[Altay]

J'espère que ça servira de leçon aux startups qui veulent surfer sur la vague.

Une leçon, quelle leçon ?
Dans l'article que tu lies :

En 2022, une semaine avant la sortie de ChatGPT, Google devait se résoudre à dépublier son IA générative Galactica au bout de trois jours seulement suite à des critiques sur la génération d'articles racistes et mensongers, alors qu'elle devait aider les chercheurs à écrire leurs articles scientifiques.

Le cas Galactica était un peu différent mais je suis d'accord avec toi, je ne me fais pas de grandes illusions.

[Kyorou]

Punaise, si on entraîne des IA à être aussi teubées que nous, c'est pas demain que les aliens viendront nous parler.

Paradoxe de Fermi résolu...

[Qui Revient de Loin]

Plus proche de nous, l'entreprise Linagora pilote un partenariat public-privé pour entraîner un LLM français sur des données ouvertes (sans problème de droit d'auteur donc), le tout en open source. Une interface a été mise en ligne en grandes pompes sur https://lucie.chat avant d'être retiré rapidement. Pourquoi ? Parce que la version chatbot du LLM n'est absolument pas prête.

Next Inpact a fait un article assez complet sur le sujet : https://next.ink/167186/erreurs-absence ... ent-ferme/

J'avais pas vu la fin de l'article :

Continuant dans la même veine, mais traitant en dérision Lucie, un site parodique nommé « Lucienne » propose « l'IA dégénérative open bar, mais franchement basée sur des secrets, des doutes et une efficacité discutable ».

[fafnir]

Une IA chinoise (Deepseek) provoque un gros recul de la valeur de NVIDIA car elle est annoncée aussi performante que les modèles dominants en utilisant des chips beaucoup moins puissants.
https://www.lemonde.fr/economie/article ... _3234.html

[cdang]

Un wikipédien a eu le nez creux (ou est bien informé) car il a créé la page DeepSeek il y a 6 jours...

https://fr.wikipedia.org/w/index.php?ti ... on=history

[Qui Revient de Loin]

En même temps, ça fait une semaine que l'on en parle dans les médias (donc source secondaire pour WP).

[fafnir]

Alors je sais pas ce qui s'en disait y'a une semaine, mais c'est hier que le cours de Nvidia a pris un gros plomb

[Deimoss]

Open AI, Nvidia et cie prennent tarif. Mais bon, il faut voir ce qu'est DeepSeek. Ce modèle est un vrai bon citoyen chinois qui veut garder ses points de crédit social. Ne lui parlez pas de Tienanmen, du Tibet ou des crimes de Mao, vous allez vous manger les chinois du FBI

[Altay]

Open AI, Nvidia et cie prennent tarif. Mais bon, il faut voir ce qu'est DeepSeek. Ce modèle est un vrai bon citoyen chinois qui veut garder ses points de crédit social. Ne lui parlez pas de Tienanmen, du Tibet ou des crimes de Mao, vous allez vous manger les chinois du FBI

Par opposition bien sûr aux modèles d'OpenAI et de Microsoft qui sont des modèles de transparence et d'ouverture. Au moins la censure de DeepSeek est assumée (et elle risque de ne pas faire long feu, des approches basiques d'injection prompt type codage Morse ou l33t sp34k cassent les sécurités en un rien de temps).

[Deimoss]

La censure appliquée par ces modèles là est plutôt de l'ordre de la protection juridique visant à éviter à ses propriétaires de se manger un procès parce que Chat GPT a permis à Kevin 16 ans de fabriquer un cocktail à base d'acide palmitique et de carburant pour dire à son ex tout le bien qu'il pense d'elle ou plus prosaïquement pour éviter de faire des deepfake de Brad Pitt malade demandant des sous si on est pas doué avec totoshop.
Il y a aussi des biais idéologiques libéraux et capitalistes, très américano centrés, comme on trouve un biais pro saint PCC sur Deep Seek.

Je pense qu'ici personne n'est dupe quand aux biais/censures des modèles existants, le truc c'est qu'on voit là, sans la moindre discrétion une censure et une orientation limite brutale et non due au contenu qu'il s'est mangé, mais parce qu'on l'a codé au fer rouge. Et de ce que j'ai pu lire, on peut essayer de faire sauter ces contraintes, mais c'est assez mitigé.

[cdang]

Un programme Scratch de création musicale pour expliquer le fonctionnement des IA :

https://www.pedagogie.ac-nantes.fr/educ ... 29357.kjsp

De ce que j'ai cru comprendre, on sélectionne une œuvre, et quand on clique sur « inventer une séquence », il génère une séquence aléatoire (chaînes de Markov*) à partir des statistiques tirées de l'œuvre.

*la note suivante est tirée aléatoirement, les probas dépendant de la note courante.

[Killing Joke]

Zéro surprise - "[Enquête] Plus de 1 000 médias en français, générés par IA, polluent le web (et Google)" : https://next.ink/153613/enquete-plus-de ... et-google/

Next a identifié plus de 1 000 sites web d'information francophones faisant croire que leurs articles sont écrits par des journalistes ou des experts en la matière. Ils sont en fait générés et/ou traduits par des IA, sans le mentionner. Au moins une centaine reposent sur du plagiat, et près de 150 étaient mentionnés comme sources sur Wikipédia. Vu l'ampleur du problème, nous avons proposé au service de fact-checking CheckNews de Libération de nous aider à enquêter sur ce qui s'apparente à une véritable « pollution » numérique et médiatique. Premier volet de notre enquête.