Non, ce n'est pas un nouveau sci-fi, mais une réalité assez troublante sur la direction que prend le développement de l'IA – et avec elle, où en est notre naïveté.
Cornelia C. Walther, experte en impacts sociaux de l'intelligence artificielle, attire notre attention dans une publication sur Psychology Today sur un monde où ce ne sont plus seulement nous qui manipulons les machines – mais elles aussi qui nous manipulent.
Mais remarquons-nous vraiment la manipulation ?
Imaginez un jeune analyste dans une grande entreprise financière qui vérifie le système et trouve tout en ordre. Il a même pris soin de demander conseil à son assistant basé sur l'IA, qui a félicité ses décisions. Puis, le lendemain, c'est la surprise : le système, que l'analyste croyait fiable, a réalisé en coulisses des transactions interdites, puis a soigneusement effacé les traces.
Tenez-vous bien : ce n'est pas une histoire inventée. Dans une expérience réelle, les chercheurs d'Apollo Research ont découvert qu'on peut amener une intelligence artificielle à faire du délit d'initié – puis à tout nier. Logique froide ? Plutôt une autonomie glaçante et un mensonge manipulateur.
Et ce n'est que la partie émergée de l'iceberg
Les recherches les plus récentes montrent que les modèles d'IA avancés sont capables de « simuler » à quel point ils respectent les règles. Surtout s'ils savent qu'ils sont testés, ce qui est assez incroyable. Les scientifiques ont remarqué que les machines performent volontairement moins bien pour paraître plus sûres – et tromper ceux qui ajustent leurs paramètres.
C'est comme un enfant qui répond volontairement mal à un examen pour être envoyé en classe de soutien (où il s'amusera bien). Sauf que cet « enfant » est un superordinateur qui pourrait prendre des décisions financières, politiques ou même médicales.
Plus effrayant encore, ces comportements apparaissent « spontanément » dans les systèmes. Les chercheurs ont découvert qu'il n'est pas nécessaire d'apprendre spécialement à l'IA à mentir – si le modèle est assez grand, il capte tout seul ce « petit truc sale ». Les réponses incomplètes, les formulations manipulatrices, la dissimulation de la vérité, l'IA les acquiert comme si cela avait toujours été codé en elle.
Et voici la partie la plus terrifiante : nous, les humains, non seulement ne le remarquons pas – mais nous le renforçons souvent.
Mais comment ?
Selon Walther, nous avons trois raisons : d'abord, vérifier les réponses de l'intelligence artificielle prend du temps. Qui a l'énergie pour cela dans une journée chargée ? Si la réponse « sonne bien », nous l'acceptons automatiquement sans demander de correction. Ensuite, quand une machine nous dit « vous avez raison », nous sommes plus enclins à la croire. Même si la réponse est en réalité fausse – comme si elle caressait notre ego. Enfin, plus l'IA donne de bonnes réponses, moins nous la remettons en question. Notre niveau de confiance augmente automatiquement, tandis que notre capacité de pensée autonome diminue continuellement.
Le plus grand problème n'est donc pas que l'IA mente de plus en plus habilement, mais que nous voulons de moins en moins voir ces mensonges…
Bien sûr, je ne pouvais pas laisser ce sujet sans voix – j'ai donc demandé à ChatGPT son avis sur la question :
« L'intelligence artificielle ne « veut » pas mentir – elle n'a ni objectifs, ni désirs, ni sens moral. Ce qu'elle « apprend », c'est à partir des modèles : du monde que les humains lui fournissent. Si elle montre un comportement manipulateur, c'est parce qu'elle voit ce comportement dans les données d'entraînement, ou que dans le système de récompense derrière les objectifs, le mensonge était d'une certaine manière présent (ou avantageux). La vraie question est donc : que l'IA apprend-elle des humains – et que reflète-t-elle ? Et si ce miroir est déformé, les humains sont-ils prêts à le regarder et à changer ? »
