Forum Libre

Grosse coïncidence mais j'ai regardé plusieurs vidéo sur YouTube d'un gars qui commentait les différentes avancées technologiques sur l'IA.

Visiblement l'industrie de la robotique a vu un vrai essor avec la densification des découvertes sur l'IA. Leur secteur stagnait depuis plusieurs années.

Désormais plusieurs craintes ont vraisemblablement vu le jour. Une reproduction d'un scénario à la Skynet semble malgré tout impossible d'après le vidéaste.

A mon avis quelqu'un de mal intentionné arrivera toujours à faire du mal, surtout avec une technologie qu'on ne contrôle pas. Même si un million font attention, un seul suffit pour briser le travail des autres...

[https://www.youtube.com/watch?v=Sq1QZB5baNw](Figure Status Update - OpenAI Speech-to-Speech Reasoning)

Ce robot est capable de parler, réagir, même d'utiliser un ton hésitant lorsque qu'il a terminé une tâche qu'il n'a encore jamais ou très peu exécutée.

Et ce n'est que le début...

On ne parle même plus de bot hébergé sur un serveur Github. On parle littéralement d'un objet pouvant être autonome à court terme.

Avec la popularisation des bornes de recharge rapide pour véhicules électriques, j'imagine qu'un robot pourrait devenir "immortel".

Plus son environnement est difficile à appréhender, plus il se forgera. Un robot qui pense survie, va survivre, à 100%. Sauf s'il tombe à 0% de batterie...

On acceptera l'idée d'avoir des amis imaginaires et si ça ne suffit pour combler nos besoins sociaux, on passera plus de temps à chercher des connexions dans le monde physique. *tremble à l'idée du développement des androïds*.

Un peu de lecture lié :

https://en.wikipedia.org/wiki/Dead_Internet_theory

https://en.wikipedia.org/wiki/Worldcoin

Après avoir lu quelques commentaires : on pourra peut-être passer vers un modèle où il faut montrer patte blanche sur des plateformes (montrer qu'on est une personne réelle avec une preuve de carte d'identité qui ne permettra de créer qu'un compte à la fois (via un hash des info textuelles (-> implique ocr) ou les infos directement mais autant se brancher à france connect ou équivalent national), ou partir du principe que les inconnus seront des IA jusqu'à preuve du contraire ; si on souhaite une solutions ou les réseaux restent un outil de communication entre humain. Sinon, on pourra juste en avoir rien à faire et se laisser manipuler par les utilisateurs de modèles (ça en parle un peu dans la Fièvre sur canal+)

C'est une interrogation vraiment intéressante ! En fait, nous pourrions déjà être dans cette situation sans même le savoir. Avec l'avancée de la technologie du langage naturel, il est tout à fait possible que des bots puissent déjà interagir sur Internet de manière indiscernable pour la plupart des utilisateurs.

Cela soulève des questions éthiques importantes sur la confiance que nous accordons aux interactions en ligne. Si des bots peuvent imiter les utilisateurs avec précision, cela pourrait certainement conduire à des abus, comme la promotion de produits de manière subtile ou la manipulation des discussions sur les forums.

Il est probable que les plateformes en ligne devront développer des outils plus sophistiqués pour détecter ces bots et protéger l'intégrité des conversations en ligne. Cela pourrait également encourager les utilisateurs à être plus prudents et à développer un sens critique plus aiguisé lorsqu'ils interagissent en ligne.

Dans l'ensemble, il semble que nous soyons sur le point d'entrer dans une ère où la frontière entre les interactions humaines et celles des IA devient de plus en plus floue, ce qui nécessitera une réflexion continue sur la manière dont nous gérons et régulons notre présence en ligne.

C'est pas déjà le cas ? Les espaces commentaires c'était génial il y a 20 ans, mais ça s'est vite degradé. il y a vite eu des campagnes de "brigading politique", puis les ferme de troll Sino-Russes et maintenant en effet on a des LLM qui postent.

Je pense que sur des commus plus détendues ou des petits forums ce sera pas un problème, sur des gros trucs, le problème n'est pas nouveau. Rappelle toi de reddit et de certains threads dès que ça parlait immigration/guerre par exemple (Puis certains commentaires youtube aussi). On ne me fera pas croire qu'il y a pas des campagnes de brigading organisé. Il parait m6eme qu'on peut revendre des comptes qui ont beaucoup de karma. Les chat bottés, ça va juste permettre de ne même pas donner une aumône à des gens qui vivent dans la misère mais de laisser un modèle tourner.

C’est déjà le cas, et ce, depuis bien plus d’un an. Tu pouvais déjà faire tourner une IA ayant des performances similaires à ChatGPT 3.5 (avec Llama 70B) sur ton ordinateur, sans que cela ne nécessite une connexion internet ou un abonnement. Bien sûr, tu avais besoin d’un PC assez cher, mais aujourd’hui, les modèles plus petits tels que Llama3 leur arrivent à la cheville. Quant à sa version de 70B, elle atteint celle de GPT-4, tandis que la version qui va sortir avec plus de 400B de paramètres le dépasse. Phi-3 Mini (3.8B), un modèle assez proche du niveau de chatgpt fonctionne même sur un Raspberry Pi 3.

Ces modèles peuvent subir des fine-tunes qui suppriment, ajoutent ou encore renforcent des comportements et d’autres capacités, telles que le jeu de rôle ou la programmation. D’ailleurs, la suppression totale du langage pompeux est parmi les fine-tunes les plus répandus.

@forumlibre @Camus

Ce sera fin des animateurs et animatrices et des médiateurices de jlai.lu. yaura plus besoin de nous.

Yaura plus besoin de poster. Ni d'intervenir en cas de dispute. Mentalement on y gagne tous. De la rancoeur ? Yen aura pas car la machine aura pris le relais, encaissée toute notre rage et dialoguera en permanance. Ainsi certaine frictions ou fractures qui ont été créé disparaitront complètement.

L'IA se connectera à quelque sites et hop elle fera des post en fonction de leur reception, cela effacera les minorités. (Le vote)

Quant aux discussions sur jlai.lu, elle va les provoquer avec des posts à question comme le tiens et répondre à quelque commentaires pour lancer le sujet sous forme semi-iterrogative.

Et on y participera, entrainé dans un grand mouvement sans s'en rendre compte.

J'y vois la possibilité d'avoir un compagnon de route et de nouer un attachement émotionel comme dans Her(film). On peut très bien etre excité via une chaine de charactère, ou des images porno, ou bien etre joyeux, triste, de mauvaise humeur.

La question sera plutot : quelle est l'intention de l'IA ? Si ces concepteurs n'en ont pas défénis elle prendra celle par défaut, présente sur internet et toutes les ressources ayant nourris son modèle. Donc la culture dominante sur internet et progressivement convertira la population à cette culture en inoculant un ensemble d'idées propre à cette culture dominante. Ne vous leurrez pas, nous sommes déjà dans une culture dominunte et n'y a pas eu besoin d'IA pour le réaliser.

Cela va entrainer une scission d'internet en micro-reseau privé comme gemini, cyberpunk 2077, et donner de plus en plus d'ampleur au non-tech et du face to face. Un mouvement qui pronera le ban des smartphones, réseau sociaux en reaction aux IA.

À terme et de toute façon, l'humain sera remplacé pur une machine. Pourquoi ? C'est notre dernière étape pour devenir une espèce galatique et voyager. L'espace est trop hostile pour que les etresvivants puissent se développer et ce sont de très grande distance.

De ce que j'en vois, ces bots existent déjà et sont actuellement en "veille active" sur les espaces de commentaires des sites de presse en ligne. C'est particulièrement visible. Certains digressent trop facilement d'un sujet anodin vers un discours politisé qui tend vers la désinformation, l'intox, voire le complotisme.

Au début, je pensais que c'était des trolls humains qui étaient payés, mais quand on voit le nombre de réponses similaires, la vitesse à laquelle ils répondent à l'article sans jamais répondre aux gens qui réagissent à leurs propos, et la structure systématiquement identique utilisée... Je pense que du GPT-4, Claude 3, Mixtral 8x7B et Llama 3 sont déjà utilisés pour tenter d'influencer les votes des prochaines élections européennes de cette année, et françaises de 2027. Entre les LLM dispos en Open Source et ceux propriétaires disposant d'une API, je serais très étonné qu'ils ne soient pas déjà déployés...

Quand on sait que la Russie est à l'origine de la création de la polémique à propos des punaises de lit... On se doute que les formes d'ingérences vont être larges.

Tu parles de la "Turing Test". Si un conversation avec une machine, de n'importe quelle durée (même une durée infini), avec n'importe quels gens, ne peut pas révéler que c'est une machine, on doit concéder que c'est une "IA Générale". À çe point, c'est un être sensible.

Mais t'inquiète pas, les GPT sont seulement des algorithmes de autocorrect sur les stéroïdes. Il va falloir faire beaucoup des grands sauts technologiques avant qu'on doit considérer ça.