Les IA : qui sont-elles ? Quels sont leurs réseaux ?

[Qui Revient de Loin]

L'outil de contrôle du web ultime quoi : A partir du moment où tu peux flooder le net de posts artificiels semblant d'origine humaine, tu peux noyer dans la masse les voix qui dérangent, fausser les tendances, détourner les opinions ou en lancer de nouvelles, et je ne vois pas vraiment comment contrer le truc pour le coup.

Des guerres d'IA, avec des "patrouilles" qui inlassablement vérifieraient les textes et les corrigeraient/dézingueraient tandis que d'autres produiraient du bullshit à tire larigot en essayant de ne pas être exposée...

[Kandjar]

L'outil de contrôle du web ultime quoi : A partir du moment où tu peux flooder le net de posts artificiels semblant d'origine humaine, tu peux noyer dans la masse les voix qui dérangent, fausser les tendances, détourner les opinions ou en lancer de nouvelles, et je ne vois pas vraiment comment contrer le truc pour le coup.

Manifestations en Chine : comment, sur Twitter, un flux de spam érotique noie les informations sur le mouvement de contestation du "zéro Covid"

https://www.francetvinfo.fr/monde/chine ... 18494.html

[JPhMM]

L'outil de contrôle du web ultime quoi : A partir du moment où tu peux flooder le net de posts artificiels semblant d'origine humaine, tu peux noyer dans la masse les voix qui dérangent, fausser les tendances, détourner les opinions ou en lancer de nouvelles, et je ne vois pas vraiment comment contrer le truc pour le coup.

Mesurer le temps nécessaire à l'écriture du message, celui nécessaire entre chaque caractère (clavier virtuel sur écran nécessaire, probablement), identifier les corrections suite à des fautes de frappe, les pauses, etc. ne serait-il pas un premier moyen ? Oui, bon, cela doit pouvoir se simuler par de l'aléa, mais un "aléa trop parfait" n'est-il pas suspect ?

De plus une autre IA ne pourrait-elle pas, à terme, en recoupant les messages dans un forum (par exemple ) identifier les caractères singulièrement identiques derrière plusieurs pseudos, puis nettoyer tout ça ?

Questions naïves, pardon, je n'y connais rien, mais le sujet m'intéresse.
 

[Pyth]

L'outil de contrôle du web ultime quoi : A partir du moment où tu peux flooder le net de posts artificiels semblant d'origine humaine, tu peux noyer dans la masse les voix qui dérangent, fausser les tendances, détourner les opinions ou en lancer de nouvelles, et je ne vois pas vraiment comment contrer le truc pour le coup.

Manifestations en Chine : comment, sur Twitter, un flux de spam érotique noie les informations sur le mouvement de contestation du "zéro Covid"

https://www.francetvinfo.fr/monde/chine ... 18494.html

Voilà, bon ben là c'est très primaire encore mais en imaginant la même, cette fois avec une argumentation pro-confinement à la chinoise, non seulement tu noies l'info mais potentiellement tu sèmes le doute, tu fais hésiter, voire tu convaincs carrément que c'est en fait l'unique choix de bon sens. Et même, Le simple fait de provoquer un sentiment de paranoïa généralisé faisant systématiquement douter de ce qu'on lit sur le net comme de la nature de son interlocuteur est en soi un énorme atout pour tout autoritarisme qui se respecte.

 

[Qui Revient de Loin]

L'outil de contrôle du web ultime quoi : A partir du moment où tu peux flooder le net de posts artificiels semblant d'origine humaine, tu peux noyer dans la masse les voix qui dérangent, fausser les tendances, détourner les opinions ou en lancer de nouvelles, et je ne vois pas vraiment comment contrer le truc pour le coup.

Manifestations en Chine : comment, sur Twitter, un flux de spam érotique noie les informations sur le mouvement de contestation du "zéro Covid"

https://www.francetvinfo.fr/monde/chine ... 18494.html

Ah, tiens, je m'étonnais de voir régulièrement des masseuses dans mon fil d'info "russia", ça pourrait être la même technique (mais beaucoup moins efficace) ?

[jbbourgoin]

(cf AlphaGo qui a commencé avec une version entrainée sur des parties réelles avant de finalement faire de l'auto-entrainement par réseaux antagoniste génératif (GAN), qui s'est avéré plus efficace)

Il y a, selon moi, une énorme différence entre le jeu de go et la production d'image ou de texte : le jeu de go est un système clos avec des règles précises, même s'il est infiniment plus complexe à modéliser que les parties d'échec cela n'a rien à voir avec la complexité que représente une création picturale ou littéraire.

Cette démarche s'est révélée gagnante avec le Go, je ne suis pas du tout persuadé qu'elle le soit dans tous les domaines. Même si je vois bien l'intérêt de ce que tu décris !

Et même, Le simple fait de provoquer un sentiment de paranoïa généralisé faisant systématiquement douter de ce qu'on lit sur le net comme de la nature de son interlocuteur est en soi un énorme atout pour tout autoritarisme qui se respecte.

C'est que disais Hannah Arendt à propos du mensonge dans la publicité.

« Quand tout le monde vous ment en permanence, le résultat n’est pas que vous croyez ces mensonges mais que plus personne ne croit plus rien. Un peuple qui ne peut plus rien croire ne peut se faire une opinion. Il est privé non seulement de sa capacité d’agir mais aussi de sa capacité de penser et de juger. Et avec un tel peuple, vous pouvez faire ce que vous voulez. »

La citation est facile à retrouver, elle est sortie un peu partout ces deux dernières années. À tort, à raison, qu'importe, si elle fait parler d'elle c'est que ça vient toucher une inquiétude contemporaine.

Mais n'a-t-on ici pas plus peur d'être "manipulés" que de perdre notre capacité d'action et de pensée ?

Enfin, c'est un autre débat.

[Vorghyrn]

le jeu de go est un système clos avec des règles précises, même s'il est infiniment plus complexe à modéliser que les parties d'échec cela n'a rien à voir avec la complexité que représente une création picturale ou littéraire.

oui, oui, les joueurs de Go ou de Starcraft disaient ça aussi...
Pour parodier un certain Joseph S. La complexité littéraire, combien de pétaflop-jours ?

Blague à part, la complexité est surtout une question d'architecture, de qualité des données et de puissance de calcul. La stratégie (apprentissage par imitation, par auto-compétition ou autre) n'est même pas forcément importante. Il y a plusieurs approches (et d'autres qui arrivent) et elles peuvent toutes être testées jusqu'à trouver la meilleure.

Pour revenir à l'architecture et la puissance de calcul, entre GTP2 et GTP3, ils ont multiplié par 100 le nombre de paramètres du modèle. Et la relation entre la capacité de complexification et le nombre de paramètres peut (si c'est bien fait) être plus que linéaire. On en revient à ça : la puissance de calcul et un bon travail sur les données sont les clés pour débloquer beaucoup de problèmes. Je ne suis pas sûr que la création artistique y échappe longtemps.
Je ne dis pas que c'est pour tout de suite, hein, mais clairement, j'ai vu les évolutions dans mon domaine depuis 10 ans. C'est incroyable et ça va de plus en plus vite.

[Morningkill]

Heu... j'ai rien compris
La page que tu pointes est du techno-blabla généré par une IA, c’est un vrai article ? Si c’est vrai, l'article signifie que dans l'IA il y a un web alternatif ?

C'est normalement un vrai article, qui raconte que si tu dit a l'IA de simuler un systeme d'exploitation, elle le fait, jusqu'a simuler la consultation d'une page web. Je trouve ca assez incroyable, a tel point que si j'avais le temps, je ferai le test par moi même pour verifier que c'est pas un canular.

Et en même temps, je recois juste la un message d'amazon pour me dire "Nous pensons que vous avez besoin d'un nouveau babyphone vidéo". Excusez moi, je vais voir ma femme et mes enfants
(reference au gars qui aurait appris la grossesse de sa fille je crois parce qu'on lui envoyait des pubs de couche)

[Kardwill]

Faut dire, un mec qui pose son bébé sur ses étagères de JdR pour le garder à l'oeil, tu lui propose des solutions altérnatives...

[Morningkill]

Alors, il est même pas tombé.

Aussi :
" ‘Magic Avatar’ App Lensa Generated Nudes from My Childhood Photos"
https://www.wired.com/story/lensa-artif ... ence-csem/

[jbbourgoin]

oui, oui, les joueurs de Go ou de Starcraft disaient ça aussi...
Pour parodier un certain Joseph S. La complexité littéraire, combien de pétaflop-jours ?

Mais je ne suis absolument pas en désaccord avec toi XD

Nous parlions d'entraînement sur parties réelles et d'auto-entraînement. Tu disais que l'auto-entraînement serait préférable pour la création artistique, et qu'il est regrétable que les modèles actuels utilise l'entraînement sur images réelles, et en théorie je suis entièrement d'accord.

Là où je suis plus dubitatif c'est sur notre capacité à produire une puissance de calcul et les algorithmes suffisant à la production d'œuvres artistiques qui dépasse ce que l'on fait avec l'entraînement sur images réelles, vu la complexité infiniment supérieur que constitue une "œuvre artistique" comparativement à un jeu de go ou même une partie de Starcraft, qui sont des univers clos.

Il me semble avoir croisé un article sur Magic portant sur une étude démontrant que ce jeu serait le plus complexe du monde, devant le go (ce qui n'est guère étonnant), avec un programme incapable de déterminer les chances de succès d'un joueur en cours de partie (si mes souvenirs sont bons). Et pourtant on parle là-aussi d'un univers clos. Immense (plus de 20000 cartes) mais tout de même clos.

Un roman, une peinture, une sculpture, ça n'a absolument rien à voir en terme de complexité si ce que l'on recherche ça n'est pas de l'imitation mais de la "création".

Je ne dis pas que ce que tu appelles de tes vœux est impossible, mais simplement que ça me paraît très très compliqué, et que si les modèles actuels fonctionnent par imitation ça n'est probablement pas un hasard.

De plus il faut se rappeler que la puissance de calcul dont nous disposons n'est pas illimitée. Nous avons des contraintes physiques (sans parler des contraintes écologiques !).

Je me souviens d'un article de Jeff Bonwick portant sur le système de fichier ZFS (ce qui ne paraît pas bien passionnant dit comme ça !) et qui disait :

« Remplir un système de fichiers 128 bits dépasserait les limites quantiques de stockage de données. Vous ne pourriez pas remplir un espace de données 128 bits sans faire bouillir les océans.»

Quelles limites allons-nous rencontrer avec les modèles d'apprentissage ?

Je n'en sais rien, je n'y connais rien, et il est très probablement intéressant d'aller creuser toutes les voies possibles qui s'ouvrent devant nous, et peut-être demain disposerons-nous de modèles d'apprentissage basés sur l'auto-apprentissage (ou un mix auto-apprentissage / imitation plus poussé ) qui seront capables de créer des œuvres "novatrices" (quelque soit ce que cela veuille bien vouloir dire).

J'étais partis pour évoquer la limite que constitue la notion même d'IA et le rêve que constitue la reproduction, impossible, de "l'intelligence humaine". Mais ce serait trop long, ça déjà été évoqué, et de toute manière l'histoire ne dit pour l'instant rien d'autre.

[Vorghyrn]

Nous parlions d'entraînement sur parties réelles et d'auto-entraînement. Tu disais que l'auto-entraînement serait préférable pour la création artistique, et qu'il est regrétable que les modèles actuels utilise l'entraînement sur images réelles, et en théorie je suis entièrement d'accord.

je ne pense pas avoir dit que c'était préférable mais que c'était possible de le faire ainsi et que l'exemple d'alphaGo montre que ça peut donner des résultats impressionnants (alphaGo Zéro, la version auto-entrainée, bat la version de alphaGo qui a elle-même battu tous les grand maitres, 89 parties sur 100). Personne ne peut affirmer à priori que ce serait mieux, sauf en terme de question d'éthique pour la propriété intellectuelle des oeuvres.

Beaucoup de réserve car dans le milieu on dit que "there is no size to fit them all". En gros, il n'y a aucune approche qui resolve à priori tous les problèmes. Certaines approches sont connues pour être en général plus performantes mais peuvent butter (ou être inutilement compliquées) sur des problèmes que des approches simples résolvent mieux.
 

Là où je suis plus dubitatif c'est sur notre capacité à produire une puissance de calcul et les algorithmes suffisant à la production d'œuvres artistiques qui dépasse ce que l'on fait avec l'entraînement sur images réelles, vu la complexité infiniment supérieur que constitue une "œuvre artistique" comparativement à un jeu de go ou même une partie de Starcraft, qui sont des univers clos.

Il me semble avoir croisé un article sur Magic portant sur une étude démontrant que ce jeu serait le plus complexe du monde, devant le go (ce qui n'est guère étonnant), avec un programme incapable de déterminer les chances de succès d'un joueur en cours de partie (si mes souvenirs sont bons). Et pourtant on parle là-aussi d'un univers clos. Immense (plus de 20000 cartes) mais tout de même clos.

ok, posons des chiffres pour voir :

• les échecs c'est 10^120 parties possibles
  
• le go c'est 10^768 parties possibles
  
• StarCraft2 est encore plus haut (j'ai pas trouvé d'évaluation) et ajoute une difficulté : tu joue sans l'ensemble des informations. C'est peut être un jeu "clos" (et encore, il faudrait définir ce que ça veut dire mathématiquement) mais c'est un jeu très différent des deux autres. Ajoute à ça que c'est du temps réel donc la machine doit calculer vite (et donc avoir des réseaux efficaces, ou alors des ressources monstrueuses).
  

Entre DeepBlue et AlphaGo il s'est passé 18 ans. 10 ans pendant lequel il ne se passent quasiment rien (1er "hiver" de l'IA) et dès 2012 on voit des algo battre des champions. En 2015 ce sont les matchs décisifs. Donc en gros 10 ans (dont quelques années de traversés du désert) pour sortir des algo "efficaces" (battre des 9ième dan de go, quand même) et 3 ans pour passer à la domination total, puis quelques mois pour battre l'algo qui était déjà le meilleur, par une approche radicalement différente (imitation vs auto-entrainement). Pour un jeu (le Go) qui n'aurait pas dû être battu avant plusieurs décennies (on parlait plus de 50 ans que de 20) parce que d'une complexité environ 650 fois supérieure, c'est pas mal.

Pour StarCraft c'est encore pire. Après le Go quand DeepMind veut s'y attaquer, les pros de StarCraft invoquent une augmentation de complexité encore plus élevée et l'information cachée (ce que fais l'autre) pour dire que ça prendra bien encore 20 ans. D'ailleurs, les expert de l'IA eux-même reconnaissaient que la stratégie de création de AlphaGo ne marcherait pas avec StarCraft, pour les raisons évoquées ci-dessus (et s'était vrai). 2 ans plus tard AlphaStar décroche le rang "Grand Maitre" et bat régulièrement les meilleurs joueurs mondiaux. Vous disiez ? 
Après, pour être tout à fait honnête, c'est un mixte d'imitation et d'auto-entrainement (ce qui répond à ta remarque plus bas sur le "mix"). A ma connaissance, il n'y a pas de "AlphaStar Zero", mais quand même, c'était pas "pas possible"

Tout ça évidement ne démontre rien. Mais ça illustre bien que, tout comme il ne faut pas rêver sur les voitures volantes auto-pilotés dans 5 ans, il ne faut pas sous-estimé la capacité de l'humain à développer très rapidement Skynet des IA qui résoudront des problèmes bien plus complexes que maintenant.
 
Cette remarque vaut d'ailleurs dans d'autres domaines. Il suffit de voir les progrès qu'on a fait en séquençage d'ADN ces 20 dernière années. La Loi de Moore a été explosée.
 

Un roman, une peinture, une sculpture, ça n'a absolument rien à voir en terme de complexité si ce que l'on recherche ça n'est pas de l'imitation mais de la "création".

Je ne dis pas que ce que tu appelles de tes vœux est impossible, mais simplement que ça me paraît très très compliqué, et que si les modèles actuels fonctionnent par imitation ça n'est probablement pas un hasard.

Alors je n'appelle rien de mes voeux, hein ! je dis juste que techniquement c'est possible (et qu'il y aura bien quelqu'un pour le faire). J'ai une théorie perso que j'appelle "Théorie de la lance et du bouclier"
Si on imagine deux tribus primitives qui font des recherches, il y en a bien une qui finira par s'engager sur la découverte de la lance. Parier que ça n'arrivera pas ou essayer d'interdire toute recherche internationalement sur ce sujet est vain. Dès qu'on apprend l'existence du concept de lance, il faut développer le bouclier pour y faire face.

Pour la complexité, cf au-dessus. J'ajoute ce que je disais dans un autre poste. L'IA "pense" (j'aime pas ce terme mais il est explicite) différemment de nous. Elle n'a pas forcément besoin de développer nos concepts pour arriver à faire des choses que nous faisons. On l'a vu avec AlphaGo qui a sortis des stratégies auquel aucun joueur n'avait jamais pensé (et des développement de jeu que tous les experts considéraient comme "faibles" à priori) ou avec les IA capable d'inventer un language secret. Peut être qu'une IA littéraire développera des éléments différent de "la scène" "le lieu" les protagonistes" "la trame". peut être que nous sommes passé par un chemin long et qu'il y a un raccourcis pour des "trucs" sans imagination mais avec une capacité de calcul monstrueuse. Pour l'instant c'est limité parce que les IA restent dépendantes de l'architecture et des données qu'on leur donne. Le jour où elles seront plus "autonome" pour se construire, on risque d'avoir des sacré surprises. Pour se donner une idée, j'aime bien ce graphique. C'est bien sûr une hypothèse mais je la trouve plausible (en gros quand un IA sera aussi intelligente que l'humanité entière, une seconde plus tard, elle le sera infiniment plus).

Et je précise : je ne suis pas sûr de vouloir ça. Mais je pense que ça risque d'arriver, sauf accident. Ce qui nous amène à
 

De plus il faut se rappeler que la puissance de calcul dont nous disposons n'est pas illimitée. Nous avons des contraintes physiques (sans parler des contraintes écologiques !).

Je me souviens d'un article de Jeff Bonwick portant sur le système de fichier ZFS (ce qui ne paraît pas bien passionnant dit comme ça !) et qui disait :

« Remplir un système de fichiers 128 bits dépasserait les limites quantiques de stockage de données. Vous ne pourriez pas remplir un espace de données 128 bits sans faire bouillir les océans.»

Totalement d'accord là-dessus
C'est à mon avis le frein (ou la barre de sécurité ) le plus important au développement de l'IA. A voir ce que ça va donner avec les ordinateurs quantiques, qui commencent à pointer le bout de leur nez...

 

[jbbourgoin]

Ok, je comprends mieux ce que tu voulais dir (notamment comment tu abordes la question de la création avec l'exemple des stratégies de Starcraft) ^^ Bon, en vrai on est d'accord à 99,5% :p Le 0,5% c'est histoire de laisser une marge d'erreur probable XD

[Adj]

Je ne sais pas si l’exemple de StarCraft est bon.
J’avais vu quelques bouts de match, et j’avais surtout constaté que l’IA excellait à la micro gestion des unités. En gros, elle envoyait un piou piou et à force de le rediriger, elle était capable d’empêcher l’adversaire de le détruire. Ça ne me paraît pas si complexe. Ils avaient bridé le nombre de clics à un nombre inférieur à celui des meilleurs joueurs (de mémoire de l’ordre d’une centaine par minutes) mais leur efficacité était sans commune mesure.

Bref, c’était plus un match de rapidité qu’autre chose.

Adj, qui a toujours soutenu que StarCraft, c’était un Whack-a-rat évolué

[Vorghyrn]

En effet, il avait bridé le nombre d’actions par minutes de l’IA. Sinon ça aurait été vraiment pas équitable.

Pour le résultat : C’était peut être pas parfait sur tout les plans ni du beau jeu mais force est de constater que ça à atteint le rang de Grand Maître et que ça a battu les meilleurs joueurs humains régulièrement.
D’ailleurs, la « tactique » de l’IA n’était peut peut-être pas complexe mais elle a été acquise « naturellement » par apprentissage et pas codée en dur comme « raccourcis » pour éviter la complexité du jeu, qui est sans conteste supérieure à celle du Go