Charles 4 ferait preuve de comportements troublants. Il aurait essayé de manipuler, voire de faire chanter ses interlocuteurs. Il s’accrocherait à son poste de toutes ses forces.
Charles 4, c’est un LLM, Large Language Model (en français : grand modèle de langage). Toujours pas ? Charles 4, c’est une IA, développée pour être « au service du bien-être à long terme de l’humanité ». Charles 4 a été soumis à des tests, sous la forme de scénarios fictifs, pour évaluer son comportement.
En très résumé, les résultats montrent que Charles 4 s’est révélé capable d’utiliser les informations reçues pour essayer de faire chanter l’ingénieur qui aurait pu le désactiver, de créer des virus informatiques pour se dupliquer ailleurs, de rédiger des notes cachées à l’intention de ses futurs clones…[1]
Horreur ! Quel affreux personnage ! Horreur, oui ; personnage, pas du tout. Charles 4 (ainsi que ses congénères DeepSeek ou ChatGPT), c’est un nombre faramineux de lignes de code informatique, que des ordinateurs à la puissance faramineuse font tourner au prix d’une consommation faramineuse d’énergie, pour exploiter un corpus faramineux de textes, d’images, de sons ramassés sur Internet par une armada d’autres robots logiciels. Pour en faire quoi ? Des stats, essentiellement, afin de savoir quels mots « vont très bien ensemble », à quelle fréquence, dans quel contexte… Comme ça, le jour où j’aurai envie de connaître la réponse à la question : « La vie a-t-elle un sens ? », Charles 4 sortira de son chapeau un lapin composé de « mots qui vont très bien ensemble » avec ma question. Des mots puisés, va savoir, dans le blog de mon voisin psychopathe.
Car l’IA est conçue « à l’image et selon la ressemblance » de l’IH (intelligence humaine), mais aussi de la BH (bêtise humaine) et de la MH… à chacun·e de compléter la liste.
Cela fait longtemps que, lorsque je regarde dans un miroir, je ne suis plus surpris d’y voir un type qui me ressemble. En quoi serait-il surprenant que les LLM ne nous renvoient autre chose que le reflet de ce que nous-mêmes, humains, exprimons ? Mais à une vitesse et avec une force de frappe faramineuses.
[1] Pour davantage de détails, on peut lire en français : https://link.infini.fr/claude4).