Les IA : qui sont-elles ? Quels sont leurs réseaux ?

[Qui Revient de Loin]

Encore une bonne raison de boire son café chez soi.

[Rosco]

Sinon Musk vient de vendre X, ex Twitter, il n'y a pas trop eu de communication la dessus.
Car l'acheteur est sa société d'IA.
Résultat il vas pouvoir utiliser les twitt comme source d'entrainement pour son IA gratuitement et sans droit d'auteur
 

[Qui Revient de Loin]

Je comprends pas bien l'intérêt de se vendre sa propre entreprise... et je croyais qu'il avait déjà mpis dans sa TGU le fait que tu acceptais implicitement qu'il utilise tes tweets pour entrainer grok.

[Rosco]

Une explication plus commeciale
https://www.numerama.com/tech/1938153-e ... endue.html
cela lui permet de réduire sa dette, l'achat/vente s'est par echange d'action

[Qui Revient de Loin]

Du coup, ça pourrait éclairer la remonter de valorisation boursière qui m'avait surpris : comment twitter avait pu revenir à sa valeur d'achat par Musk ? Des articles disaient déjà qu'il y avait des trucs obscurs dans les résultats financiers déclarés. Cet échange d'actions pourrait être une motivation supplémentaire...

[Rosco]

Après la on quitte le sujet IA pour partir sur un sujet gestion, fiscalité des entreprises.
Mais  je pense que l'un des raisons c'est que tant que X était uniquement dans la galaxie Musk, le principe de concurrence aurai pu se tourner contre musk, en faire une filiale de l'IA, permet de jouer sur l'économie des deux sociétés.
X facture à xAI la fourniture des données Y millions annuelles,  xAI demande Y de dividende.
X gagne de l'argent, mais présente un bilan négatif ou proche de zero, pas d'imposition.
C'est un modèle souvent utilisé par entreprises et particulièrement Us
je t'envoi un exemple par MP

[cdang]

Un véhicule autonome Xiaomi SU7 s'est pris une barrière en béton à 97 km/h, tuant ses trois passagères, le 29 mars 2025 dans la province d’Anhui.

Damien Dole, « Conduite autonome : l’accident mortel d’une Xiaomi SU7 en Chine préoccupe le secteur mondial de l’automobile », Libération, 3 avril 2025
https://www.liberation.fr/economie/tran ... NICSPGGCM/

[cdang]

« États-Unis : une ancienne employée de Meta accuse le géant de la tech de collaboration avec la Chine », Libération, 10 avril 2025
https://www.liberation.fr/economie/econ ... CWHB3KZA4/

Dès 2015, Meta et le PCC ont tenu des réunions dont « l’objectif explicite était d’aider la Chine à surpasser les entreprises américaines. On peut tracer une ligne droite entre ces briefings et les récentes révélations selon lesquelles la Chine développe des modèles d’IA à des fins militaires, en s’appuyant sur Llama », le modèle d’IA open source de Meta, a déclaré Sarah Wynn-Williams.

[TwoSharpBlades]

Une interview d'un ancien ingénieur dans le domaine de l'IA. C'est clair, compréhnsible, posé, et extrêmement flippant ;-)

[Altay]

Une interview d'un ancien ingénieur dans le domaine de l'IA. C'est clair, compréhnsible, posé, et extrêmement flippant ;-)

Et c'est bourré d'erreurs, ou de grosses approximations pour faire peur. Florilège entendu lors de mon bref zapping :

• À 22 minutes, les LLM auraient une « conscience de soi » qui se rapproche rapidement du « niveau humain » ? C'est évidemment pas sourcé, puisque c'est faux.
  
• À 26 minutes, il y aurait un mécanisme « exponentiel » pour entraîner des IA (des LLM je suppose ?) à la programmation. Idem.
  
• Comparaison insensée avec « les armes de destruction massives » en « open source » à 32 minutes,
  
• Fabulations complètes sur des virus conçus par « l'IA » à 37 minutes.
  
• À 40 minutes, extrapolation de « AlphaGo Zero a appris en jouant contre lui-même » à l'apparition d'une superintelligence meilleure que « les meilleurs chercheurs en intelligence artificielle ». Le parallèle est absurde, AlphaGo Zero est bon dans un contexte très étroit (le go), on est très loin de pouvoir produire automatiquement du code complexe fonctionnel en totale autonomie, alors un article scientifique...
  
• Ça enchaîne bien sûr à 47 minutes la singularité dont on perdrait le contrôle...
  
• Sur la fin (vers 1:20 je crois), un argumentaire comme quoi la « convergence instrumentale » aurait été observée dans des IA. À nouveau une affirmation non sourcée, et qui me semble basée comme d'habitude sur une mécompréhension de comment un LLM fonctionne en attribuant aux systèmes une agentivité dont il ne dispose pas.
  

Ensuite ça déroule le tapis au lobbying classique des vendeurs de peur en inversant la charge de preuve : ce serait à la communauté scientifique de prouver qu'il a tort. En affirmant à la fin (1:14) de façon péremptoire qu'il n'existe aucune « contre-recherche », alors qu'il suffit de se baisser pour trouver des tonnes d'articles scientifiques qui parlent des risques concrets, réels et bien actuels du déploiement de l'intelligence artificielle et du machine learning dans nos sociétés et proposent des solutions, plutôt que ces élucubrations farfelues.

Il y a des choses qui sont vraies mais qui mélangent beaucoup de sujets, par exemple l'impact négatif sur la société des algorithmes de recommandation. Je conseille à la place de plutôt lire des gens dont c'est le métier, comme Timnit Gebru*, ou Margaret Mitchell* qui a pré-publié un article arguant contre le développement d'agents « IA » entièrement autonomes, mais pour des raisons concrètes liées à la sécurité des personnes : https://arxiv.org/abs/2502.02649

* je ne suis pas forcément d'accord avec tout ce qu'écrivent ces personnes, en revanche je me retrouve plus dans leurs argumentaires que dans les hérauts auto-déclarés du « péril IA ». Et les arguments d'autorité ne font pas tout, quand on voit comment des gens pourtant pointus sur la question, comme Geoffrey Hinton, ont complètement vrillé dans un délire apocalyptique ces dernières années.

Bref, je ne connaissais pas cette chaîne, qui semble surfer énormément sur la peur de l'IA, avec des intervenants plus ou moins sérieux. C'est déprimant.

[TwoSharpBlades]

Et c'est bourré d'erreurs, ou de grosses approximations pour faire peur. Florilège entendu lors de mon bref zapping :
Ensuite ça déroule le tapis au lobbying classique des vendeurs de peur en inversant la charge de preuve : ce serait à la communauté scientifique de prouver qu'il a tort. En affirmant à la fin (1:14) de façon péremptoire qu'il n'existe aucune « contre-recherche », alors qu'il suffit de se baisser pour trouver des tonnes d'articles scientifiques qui parlent des risques concrets, réels et bien actuels du déploiement de l'intelligence artificielle et du machine learning dans nos sociétés et proposent des solutions, plutôt que ces élucubrations farfelues.

Hum, tu as peut-être dû écouter un petit peu en diagonale. Il dit justement et il cite des auteurs scientifiques qui dénoncent depuis des années les risques de l'IA. Il oppose ces papiers scientifiques à justement l'argument qui est de dire que le risque de l'IA c'est de la science-fiction. Il parle d'ailleurs d'un nieme article sur les risques paru deux semaines avant le tournage de l'émission.

[Altay]

Et c'est bourré d'erreurs, ou de grosses approximations pour faire peur. Florilège entendu lors de mon bref zapping :
Ensuite ça déroule le tapis au lobbying classique des vendeurs de peur en inversant la charge de preuve : ce serait à la communauté scientifique de prouver qu'il a tort. En affirmant à la fin (1:14) de façon péremptoire qu'il n'existe aucune « contre-recherche », alors qu'il suffit de se baisser pour trouver des tonnes d'articles scientifiques qui parlent des risques concrets, réels et bien actuels du déploiement de l'intelligence artificielle et du machine learning dans nos sociétés et proposent des solutions, plutôt que ces élucubrations farfelues.

Hum, tu as peut-être dû écouter un petit peu en diagonale. Il dit justement et il cite des auteurs scientifiques qui dénoncent depuis des années les risques de l'IA. Il oppose ces papiers scientifiques à justement l'argument qui est de dire que le risque de l'IA c'est de la science-fiction. Il parle d'ailleurs d'un nieme article sur les risques paru deux semaines avant le tournage de l'émission.

Effectivement je n'ai pas tout écouté parce que quel intérêt ? J'ai écouté l'essentiel de chaque section de la vidéo en zappant un peu donc c'est possible que j'ai manqué une référence, mais je n'ai entendu aucune citation précise.

Sur la fin du podcast, verbatim à 1h14 : « il y a des années de recherche en sécurité de l'IA. Certaines des personnes les plus intelligentes de cette planète ont travaillé sur le sujet, qui ont publié des papiers très détaillés ». C'est pas une citation, c'est une affirmation sans source. Il y a effectivement de la recherche en machine learning sur les biais, l'alignement des prédictions aux préférences humaines, la robustesse des modèles aux attaques, etc. Mais les conclusions des travaux de recherche sont très éloignées ce que prétend l'interviewé..

La seule référence nommée est à la fin et c'est Yoshua Bengio dont il dit « c'est le chercheur le plus cité en intelligence artificielle et il est en train d'expliquer pourquoi l'humanité court à sa perte en développant cette technologie ». Ce n'est pas exactement la façon dont Bengio le dit mais il est effectivement inquiet de l'émergence non-contrôlée d'intelligence artificielle générale (il a un post de blog détaillé sur le sujet). En cela il est d'accord avec Geoffrey Hinton qui est un autre ponte du machine learning. Mais leur position ne fait absolument pas consensus dans la communauté scientifique. Lecun (avec qui Hinton et Bengio ont partagé le prix Turing) ne croit pas en ces arguments autour de l'IA générale.

Il y a des problèmes avec le déploiement des modèles de machine learning à marche forcée. Biais systémiques, désinformation, impact écologique, violations du droit d'auteur, sûreté des utilisateur⋅ices pour les véhicules autonomes, perte de lien social, etc. Il faut réglementer fortement, aussi bien les entreprises que les acteurs publics. Il y a de la recherche sur le sujet en France et à l'étranger, y compris en appui aux politiques publiques, comme dans le nouvellement créé Institut national pour l'évaluation et la sécurité de l'intelligence artificielle. Mais le discours alarmiste comme quoi une IA super-intelligente va provoquer l'extinction de l'humanité est absurde. Et c'est pouillièmesque face au défi écologique.

[Dithral]

Mais le discours alarmiste comme quoi une IA super-intelligente va provoquer l'extinction de l'humanité est absurde. Et c'est pouillièmesque face au défi écologique.

J'irais même jusqu'à dire que ça décrédibilise ceux qui alertent contre les problèmes concrets auxquels on fait face (et qui passent déjà pour des hurluberlus affolés et réfractaires à la technologie).

[cdang]

Dans ma boîte (internationale), les messages sont rédigés en anglais puis traduits dans différentes langues par IA. La phrase corporate bullshit « we shape the future » est logiquement traduite par « nous façonnons l'avenir », mais par la suite, le message prétend expliciter chacun des termes de cette phrase corporate bullshit et ça donne : « — NOUS […] — FORME […] — L'AVENIR ».

Un peu plus loin dans la phrase : « by providing our customers with high performance solutions », « en fournissant à nos clients des solutions performantes » ; mais une fois découpé, « with high performance solutions » devient « — AVEC DES SOLUTIONS PERFORMANTES ».

Ya peut-êt' de quoi faire un scénar pour Donjon & Cie ?

[Altay]

Mais le discours alarmiste comme quoi une IA super-intelligente va provoquer l'extinction de l'humanité est absurde. Et c'est pouillièmesque face au défi écologique.

J'irais même jusqu'à dire que ça décrédibilise ceux qui alertent contre les problèmes concrets auxquels on fait face (et qui passent déjà pour des hurluberlus affolés et réfractaires à la technologie).

Complètement. On sait déjà que les modèles statistiques déployés ont des biais implicites qui conduisent à des décisions discriminatoires, par exemple les contrôles de la CAF, la reconnaissance faciale ou la recommandation sur YouTube. C'est évoqué rapidement dans le podcast mais c'est inaudible à côté de « l'extinction imminente de l'humanité » annoncée, alors que ce sont des problèmes bien réels qui affectent d'ores et déjà notre société depuis quinze ans. Et les institutions gouvernementales commencent à peine à s'en préoccuper.