Les IA : qui sont-elles ? Quels sont leurs réseaux ?

[cdang]

Après, bien sûr, on peut aussi pointer l'absurdité de la situation au global : toutes ces pistes ont été en studio enregistrées sur des pistes isolées (puis "applaties" dans un fichier final diffusé en .MP3, etc.) - il aurait été dans un monde idéal tout à fait possible et bien plus intelligent d'avoir un format de fichiers diffusés contenant ces données structurées dès la source (au risque bien sûr de faciliter la copie/réutilisation partielle/utilisation détournée - mais çà aurait été aussi l'intérêt, bien sûr), plutôt que de devoir construire des outils pour "désapplatir" les pistes.

La mise à disposition des masters, c'est un peu nier l'intérêt de la post-prod, et notamment du mixage.

Il y a des morceaux qui sont notoirement « mal mixé », encore faudrait-il savoir ce qu'est le « bien mixés » (par rapport à quels critères ?). Je pense par exemple à la batterie dans les éditions de ZZ Top de 1987 (edition Six Pack), à la basse de Cliff Burton notoirement sous-mixée (cf. le travail d'Alex Tamulis, p.ex. cette vidéo), ou Metallica (encore eux) qui abuseraient de la compression au point qu'il vaut mieux les écouter sur Guitar Hero qu'en CD (cf. cet article).

Mais en dehors de ces quelques cas, je vois mal l'intérêt pour le grand public, qui ne se sert déjà plus d'un égaliseur.

[Parsou]

Une petite anecdote IA :
Air Canada utilise depuis l'an dernier une IA pour son chatbot de service-client.
En l'interrogeant, un client s'est vu promettre des conditions de remboursement, qu'il n'a pas obtenu sur le moment, puisque l'IA avait "halluciné" cette partie du règlement. Le client vient de gagner son procès, et son remboursement.

https://www.wired.com/story/air-canada- ... nd-policy/

Merci pour cette info intéressante, les chatbots peuvent intéresser les marques, mais c'est à double tranchant apparemment ! 

[rogre]

Jouer à Diplomatie avec des IA ? : ce sont de très bons traitres.

"Les IA, nouvelles reines du bluff ?  En tout cas Cicero, une autre intelligence artificielle développée par Meta, n’hésite pas à régulièrement mentir et tromper ses adversaires humains dans le jeu de géopolitique Diplomatie... alors que ses concepteurs l’avaient formée à « envoyer des messages qui reflétaient avec précision les actions futures », et à ne jamais « poignarder dans le dos ses partenaires ». Rien n’y fait : Cicero a allégrement trahi. Un exemple : l’IA, jouant la France, a assuré l’Angleterre de son soutien… avant de se dédire, profitant de sa faiblesse pour l’envahir.

Rien à voir donc avec des erreurs involontaires. Depuis plusieurs années, les spécialistes observent des intelligences artificielles qui choisissent de mentir. Un phénomène qui ne surprend pas tellement Amélie Cordier, docteure en intelligence artificielle et ancienne maître de conférence à l’université Lyon I. « Les IA doivent composer avec des injonctions contradictoires : "gagner" et "dire la vérité", par exemple. Ce sont des modèles très complexes qui surprennent parfois les humains avec leurs arbitrages. Nous anticipons mal les interactions entre leurs différents paramètres » - surtout que les IA apprennent souvent toutes seules dans leur coin, en potassant d’impressionnant volumes de données. Dans le cas du jeu Diplomatie, par exemple, « l’intelligence artificielle observe des milliers de parties. Elle constate que trahir mène souvent à la victoire et choisit donc d’imiter cette stratégie », même si cela contrevient à l’un des ordres de ses créateurs. Machiavel, IA : même combat. La fin justifie les moyens."

https://www.nationalgeographic.fr/scien ... wtab-fr-fr

[Cryoban]

Ca veut juste dire que la trahison est acte parfaitement rationnel

[Qui Revient de Loin]

Et que les IA n'ont pas de valeurs.
Et nous rappelle qu'elles n'ont pas de sentiments, comme la honte, l'amitié, l'amour, l'empathie.

Et nous allons les laisser conduire nos voitures. Vous vous rappelez du dilemme du train ?

[Altay]

Rien à voir donc avec des erreurs involontaires. Depuis plusieurs années, les spécialistes observent des intelligences artificielles qui choisissent de mentir.

On n'est pas sortis des ronces avec ce genre de phrase. Il ne faut pas anthromorphiser les machines !

Le LLM complète la séquence de mots avec ce qui est le plus probable dans le corpus d'entraînement. Donc le LLM entraîné sur des centaines de partie de Diplomacy va reproduire les mêmes schémas, s'il y a des traîtrises dans le corpus et que celles-ci sont corrélées fortement avec la victoire alors le LLM qui reçoit l'instruction « effectue l'action suivante qui permet de gagner » va trahir. On peut préfixer par ce qu'on veut, en ajoutant « effectue l'action suivante qui permet de gagner sans trahir », si la trahison est quasi-systématique dans le corpus (parce que c'est une mécanique fondamentale du jeu) alors la probabilité assignée à des actions de non-trahison sera faible.

Le LLM ne choisit pas, le LLM ne ment pas. Le LLM assigne bêtement des probabilités à des mots et on applique un algorithme d'autocomplétion à partir de ces probabilités.

C'est comme si j'entraînais mon autocorrect sur un corpus de SMS du début des années 2000 et que je disais « même quand je lui demande, mon LLM écrit en abrG C 1 truk 2 OUF ». J'en ai ras la casquette des articles scientifiques qui exagèrent leurs observations pour faire mousser et des articles grand publics qui passent derrière pour jouer à se faire peur. On utilise sciemment un outil mal adapté au problème et on s'étonne de ne pas observer le résultat attendu. Ça ne veut pas dire pour autant que le résultat observé est signe de tromperie consciente de la machine.

Grmbl.

Désolé pour le rant.
 

[Killing Joke]

Le biais est classique - certains pensent vite que l'IA a réussi a "modéliser un ensemble de règles lui permettant d'interprêter en conséquence une situation", alors que pas du tout (comme rappelé ci-avant).

Ca me rappelle ce très intéressant article sur les parties d'échecs jouées par des moteurs type ChatGPT (lien ci-après) - l'article ne parle pas tant que çà du fond, que de ce qui s'est passé récemment : il n'y a pas si longtemps, plusieurs modèles ont su "jouer aux échecs" (après avoir été entraînés sur de nombreux rapports de parties), sans qu'on n'ait eu besoin de leur apprendre finalement les règles du jeu d'échec en lui même (contrairement à tous les moteurs de jeu d'échec).

S'en est suivi, à cette époque, de nombreux articles ébahis devant ce prodige.

Puis, silence radio - l'article revient vers sur ce point, expliquant que ce silence radio vient des piètres résultats qui s'en sont suivis (et que le monde de l'IA n'a pas jusqu'ici commenté), en montrant (tests à l'appui en double compétence "informaticien / joueur de jeu d'échec") que tous ces moteurs sont loin d'être à même de gagner une seule partie ... sauf un modèle précis (à suivre dans le prochain article pour l'explication fine, je ne l'ai pas encore lu / je ne sais même pas s'il a déjà été publié).

"Something weird is happening with LLMs and chess" : https://dynomight.substack.com/p/chess

[rogre]

On sait qu'il ne faut pas trop mettre d'images de soi en ligne… Et ne jamais laisser non plus de traces orales: la radio signale à l'instant l'appropriation systématique des VOIX par les IA, de façon à synthétiser des propos avec les voix en question. Premiers touchés: les doubleurs de films, qui craignent que le boulot soit désormais fait automatiquement, et hors de France, à partir d'échantillons de leurs travaux antérieurs.

[Altay]

Rappelons que c'était une des raisons de la grève des syndicats d'acteur⋅ices aux États-Unis l'an passé et que le syndicat des voice actors (SAG-AFTRA) a passé des accords controversés avec différents startups.

[Tybalt (le retour)]

Les employés du secteur sont également inquiets en France : “Pour nous, c’est un cauchemar” : face à l’IA, les comédiens de doublage donnent de la voix (Télérama)

Mardi 3 décembre, les syndicats des comédiens de doublage ont organisé à Paris un rassemblement pour protester contre le recours de plus en plus fréquent à l’intelligence artificielle, en marge de négociations avec les plateformes de streaming.

[Cryoban]

Les dinosaures ont-ils fait des grêves parce qu'il étaient contre la comète?

Je crains qu'aucune loi ne sera en mesure de nous protéger de ce qui va nous tomber dessus avec les IA. Parce que le monde est vaste et incontrôlable. La seule question que chacun doit se poser à présent c'est de savoir si il ou elle fera parti des dinosaures ou des mamifères, je le crains.

[Killing Joke]

Mais la question mérite quand même d'être posée par rapport à l'ampleur du phénomène - si l'IA mange quelques métiers à la marge, c'est dans le cycle assez classique de la transformation d'une société face aux avancées technologiques (les fameux ramasseurs de crotins de chevaux au chomage avec l'invention de la voiture). Par contre si le remplacement est massif et sur une durée courte, alors ce n'est plus la même histoire et çà devient potentiellement un problème d'organisation de la société elle-même. Et dans ce cas il n'y aura pas la place pour que tout le monde devienne un mamifère. C'est justement là où une loi pourrait changer la donne, même si c'est de manière indirecte (allez, au hasard, et même si personnellement je ne suis pas du tout pour : la mise en place d'un revenu universel, pour compenser, auquel cas ce n'est pas une loi pour contrer l'IA (ce qui n'arrivera effectivement pas) mais pour en contrer les conséquences).

[Cryoban]

Pour moi les lois ne suffiront pas car les IA sont partout dans le monde et il y a pleins de pays où elles seront mise en œuvre sans restriction aucune. Donc seule des décisions à l’échelle planétaire pourrons etre efficace, mais vu l’état des relations internationales je pense que c’est sans espoir de ce côté. Or le saut de performance procuré par les IA sera tellement fort que ceux qui essaieront de s’en prémunir se retrouverons rapidement en position de faiblesse flagrante par rapport au pays concurrents qui n’aurons pas autant de scrupules et donc ils péricliterons encore plus vite.

[Tybalt (le retour)]

Dis-moi, tu respires l'optimisme et la volonté de lutter aux côtés des gens qui subissent des torts, toi, aujourd'hui

Tes arguments reviennent en substance à dire que toute réglementation est vouée à l'échec si elle n'est pas appliquée partout par tout le monde tout de suite, et à affirmer que les pays les moins scrupuleux, qui ne règlementent rien, s'en sortiraient forcément mieux. Or la réalité est bien plus nuancée que ça. Autant dire que ça ne sert à rien de forcer les constructeurs automobiles à mettre des ceintures de sécurité et des airbags dedans parce que les voitures qui en ont coûtent plus cher et sont donc moins concurrentielles que celles qui n'en ont pas... ben non, parce que les gens n'ont pas envie de mourir. Même chose avec les règlementations sur l'amiante : les gens n'ont pas envie de mourir de cancer et, avec un peu de prévoyance, ils peuvent concevoir les conséquences à moyen et long terme de l'usage d'une technologie et agir à l'avance pour exiger des normes et l'application de ces normes.

Il n'y a aucune raison que le secteur de l'IA soit traité différemment. Ce n'est pas exactement la première tentative d'automatisation mise en œuvre par les patrons, et ce n'est certainement pas la dernière. Et, comme toutes, elle porte avec elle son lot d'abus, motivés par la cupidité et par un court-termisme qui a mis la planète dans l'état où on la voit aujourd'hui.

D'ailleurs, un pays qui ne règlementerait rien en matière d'IA serait très loin de s'en sortir nécessairement mieux. Déjà parce que tout dépend de la nationalité des entreprises qui gèrent ces IA. À moins d'avoir un secteur de l'IA solide dans le pays en question, ça enrichira autant voire davantage les pays qui possèderont les entreprises en question, donc aussi les serveurs pour les entraîner, stocker les données, etc. Les gens qui utilisent ChatGPT en France ne gagnent pas forcément beaucoup plus, par contre OpenIA s'en met plein les poches.
Ensuite parce que des IA non réglementées posent d'énormes problèmes de souveraineté, économique, politique, probablement militaire aussi. C'est juste impossible de ne pas les encadrer.

Je ne parle même pas des enjeux artistiques et sociaux. Est-ce que j'ai envie de passer ma vieillesse dans un monde où les films, les podcasts, les livres audios, etc. seront remplis de voix de synthèse ? Si bien faites soient-elles, je préfère un travail fait par des humains. Parce qu'il y a une performance artistique humaine, mais aussi parce que cela crée un lien social entre moi et l'artiste. Je veux une société d'humains qui vivent ensemble, pas une société où chacun reste tout seul à interagir avec des versions un peu plus sophistiqués du service client automatisé d'EDF. (Et même à EDF on peut demander à parler avec des humains, d'ailleurs.)

Il y a des IA partout ? Il y a des travailleurs et des travailleuses partout aussi. Ce n'est qu'une affaire de rapport de forces et de débat public sur le monde que nous voulons.

Bref, les salariés n'ont pas perdu d'avance et la lutte en vaut la peine. C'est juste toi n'es pas d'humeur à sympathiser avec leur lutte, ou juste trop fatigué aujourd'hui pour t'impliquer dans le rapport de forces.

Pour moi les lois ne suffiront pas car les IA sont partout dans le monde et il y a pleins de pays où elles seront mise en œuvre sans restriction aucune. Donc seule des décisions à l’échelle planétaire pourrons etre efficace, mais vu l’état des relations internationales je pense que c’est sans espoir de ce côté.

Je suis tout à fait d'accord avec toi sur le fait que c'est un enjeu de droit international. Mais justement, par principe, l'effort vers un droit international ne peut pas se permettre de désespérer. C'est "too important to fail". Et la diplomatie internationale a pour raison d'être d'amener des pays radicalement différents vers des terrains d'entente. Ce qui n'est vraiment pas si infaisable que ça en matière d'IA.

[Cryoban]

C'est juste toi n'es pas d'humeur à sympathiser avec leur lutte, ou juste trop fatigué

Trop blasé en ce moment je dirais Mais c'est bien de voir des réponses comme les tiennes, ça permet de douter et de continuer à marcher

Par contre je suis toujours d'accord pour lutter, surtout quand c'est perdu d'avance. L'affrontement c'est la vie, qu'importe les raisons ! tant que ça saigne. C'est mon côté Wagner