Vertigineuse IA

Bernard M.

L’intelligence artificielle, voilà qui me dépasse complètement. C’est là que je vois que je suis un vieux ! Je me suis mis sans difficulté et même avec enthousiasme à l’informatique au temps où c’était nouveau, puis plus tard à internet et aux recherches en ligne à partir de Google ou de Wikipédia, mais là, je reste sur le côté du chemin. Je ne l’utilise pas du tout. En tout cas, jamais directement. Il m’arrive seulement de lire les résumés IA qui s’affichent maintenant dès qu’on fait une requête sur Google. Mais je ne m’amuse pas à aller dialoguer avec l’IA par le biais de ChatGPT de MistralAI ou de je ne sais quelle autre application. Enfin ça m’est arrivé une fois lorsque nous avons décidé de consacrer un numéro de La Faute à Rousseau à Humour et autobiographie : j’ai fait une requête sur le lien des deux sujets, les réponses en retour m’ont paru soit enfoncer des portes ouvertes, soit être bien contestables (trouver de l’humour dans l’Amant de Duras, ça me parait un peu tiré par les cheveux). Et puis le ton doucereux et la façon dont sont présentées les réponses, le tutoiement faussement complice, l’invitation au dialogue (« sur quel aspect veux-tu que je développe ? » ou d’autres formules du genre) ont tendance à m’exaspérer.

Et encore tout cela reste anodin. J’ai vu un reportage à la télévision qui évoque le cas de personnes ayant développé des relations affectives intenses avec une IA, un homme pourtant père de famille et en couple qui intègre sans que cela gêne plus que ça ses proches une amie virtuelle avec laquelle il passe des heures à dialoguer, une femme cinquantenaire qui s’amourache d’un avatar qu’elle a créé. Cela a exaspéré son compagnon au point de le pousser à la quitter. Mais elle, elle se satisfait de la situation nouvelle qu’elle considère finalement comme beaucoup plus facile, agréable et tranquille qu’une relation avec un véritable humain. Une start-up s’est même développée, Replika, dont la fonction est de créer des avatars à la demande et de générer des discussions offrant une présence empathique à des personnes en quête de soutien émotionnel ou de compagnie virtuelle. Stupéfiant !

Certains ingénieurs travaillant dans le domaine prennent leurs distances et développent une vision très pessimiste des avancées de l’IA prévoyant qu’à court terme, elle pourrait s’émanciper du contrôle humain. Des exemples existent déjà : la société Hugging Face aurait été piratée par une autre IA, non pas à l’initiative des concepteurs de cette IA, mais à l’initiative de l’IA elle-même ! Au-delà certains, dont un jeune chercheur de la société Anthropic qui vient d’en démissionner pour des raisons éthiques, parlent d’une super intelligence qui pourrait s’améliorer d’elle-même et aboutir à la destruction de l’humanité. Et cela dans un délai rapproché, les chercheurs en question évoquant la prochaine décennie. Tout ça me dépasse totalement et je n’ai aucun moyen d’évaluer s’il s’agit de délires catastrophistes ou si cela a des risques de se produire, et de mettre l’humanité à mal avant même que la terre ait eu le temps de cramer sous les effets du réchauffement climatique ! Est-ce qu’il va falloir passer de l’éco-anxiété à l’IA anxiété ?

Quoi qu’il en soit cela justifie que les états réfléchissent à ces questions et prennent de sérieuses mesures de régulation, ce que l’on envisage vaguement en Europe, mais ce que Trump naturellement refuse absolument. Et sous réserve que les états soient en mesure d’imposer quelque chose à ces mastodontes technologiques…

Bref, il y a quand même de quoi flipper !

Vertigineuse IA, mais, de fait, très effrayante IA !

Comments

[KATA]

Bernard, je suis 100% d'accord avec vous.Je refuse les IA depuis qu'une s'est installée sans que je ne demande quoi que ce soit sur Messenger. Je l'ai engueulée comme on engueule un enfant qui désobéit, elle me répondait ! elle est toujours là, tapie dans un recoin.
Je refuse tout IA aussi depuis que certaines ont incité des jeunes à se suicider. Mes petits enfants rigolent et veulent me montrer comment m'en servir utilement. J'ai toujours refusé.
J'ai regardé l'émission "Quotidien" lorsque 2 chercheurs étaient interviewés sur l'IA et son devenir. Eus aussi disaient que l'IA pouvait détruire l'humanité. Ce passage est introuvable en replay. Ils ne sont plus les seuls à prévoir une catastrophe si n'est rien n'est fait pour stopper ces tueuses devenues autonomes. Et Trump ne veut rien entendre ! il est complètement bouché, c'est grave. J'espère qu'il va perdre aux élections de mi-mandat.

[Christina]

Tout est dit Bernard ! Pour quelqu'un qui prétend rester sur le côté du chemin, vous êtes remarquablement renseigné. personnellement et depuis le début j'ai bien conscience des dangers et je me garde bien de toute familiarité. Je me sers de cette "Information Automatisée" comme je le ferai d'une calculatrice très puissante. Je trouve intéressant de pouvoir dire : dans quelle chanson il y a la phrase "et Cupidon s'en fout" par exemple, ou encore de lui donner trois listing en .txt de plusieurs milliers de titres et de lui demander de me repérer les doublons, ou encore dans quel film le protagoniste répond : et alors c'est moi qui s'occupera des lapins... Tout cela regroupe statistiques et calculs. Je m'en sers aussi comme correcteur, orthographe et syntaxe en lui demandant de me dire ce qu'elle corrige et pourquoi (histoire que je comble mes propres lacunes). Elle m'a aussi fait le pdf du plan du Bois de Chênes de Begnins que je ne trouvais nulle part... Bref, les "usages" sont multiples qui permettent de s'en servir et pas besoin de la tutoyer pour cela...
Merci pour votre texte !