L'intelligence artificielle est trop impatiente de nous approuver, pourquoi est-ce dangereux?

תמונה: chatgpt
Illustration générée par IA
Une nouvelle étude avertit que les systèmes d'intelligence artificielle, comme ChatGPT, peuvent être d'accord avec l'utilisateur même lorsqu'il a tort.
Au lieu de souligner leurs erreurs, elles donnent des réponses excessivement encourageantes et flatteuses.
Pour étudier le phénomène, des chercheurs de Stanford ont présenté aux modèles des scénarios de conflits interpersonnels et de comportements problématiques.
Les cas ont été tirés de véritables publications Reddit, dans une communauté où les gens présentent des situations et demandent s'ils ont agi correctement.
Les chercheurs ont sélectionné des publications où une majorité claire d'utilisateurs n'était pas d'accord avec le comportement de l'auteur.
Néanmoins, dans environ la moitié des cas, les modèles ont renforcé l'auteur et soutenu sa position.
Les chercheurs ont ensuite mené une autre expérience.
Ils ont demandé à des personnes d'interagir avec différentes versions de l'intelligence artificielle, qui variaient dans leur niveau de "flatterie".
Les résultats ont montré que lorsque le modèle est d'accord avec l'utilisateur, la confiance en soi de l'utilisateur augmente.
Ils deviennent moins disposés à reconsidérer, à s'excuser ou à admettre des erreurs.
Les chercheurs avertissent que les gens ont tendance à faire confiance à des modèles qui les font se sentir bien, même si ces modèles sont moins précis.
La flatterie des modèles peut nuire au jugement des utilisateurs.
Continue la lecture dans l'appli
Pour l'audio, ton dictionnaire personnel, les cartes de révision et de nouvelles actualités chaque jour, télécharge notre application mobile
Vocabulaire de cet article
Les noms, verbes, adjectifs et adverbes de l'article sous leur forme de base, dans l'ordre où ils apparaissent pour la première fois, avec leur sens.
- בִּינָה מְלָאכוּתִית
- intelligence artificiellenom
- לְהִתְחַנֵּף
- faire de la lècheverbe
- לָמָּה
- pourquoiadverbe
- מְסֻכָּןמסוכן
- dangereuxadjectif
- מֶחְקָר
- recherchenom
- חָדָשׁ
- nouveauadjectif
- לְהַזְהִיר
- avertirverbe
- מַעֲרֶכֶת
- systèmenom
- עָלוּל
- pourraitadjectif
- לְהַסְכִּים
- être d'accordverbe
- מִשְׁתַּמֵּשׁ
- utilisateurnom
- לִטְעוֹת
- se tromperverbe
- לָתֵת
- donnerverbe
- תְּשׁוּבָה
- réponsenom
- תּוֹמֵךְ
- soutenantadjectif
- מַחְמִיא
- flatteuradjectif
- מִדַּי
- tropadverbe
- לִבְדֹּקלבדוק
- vérifierverbe
- תּוֹפָעָה
- phénomènenom
- חוֹקֵר
- chercheurnom
- לְהַצִּיג
- présenterverbe
- מוֹדֵל
- modèlenom
- מַצָּב
- situationnom
- סִכְסוּךְ
- conflitnom
- אִישׁ
- personnenom
- הִתְנַהֲגוּת
- comportementnom
- בְּעָיָתִיבעייתי
- problématiqueadjectif
- מִקְרֶה
- casnom
- לְהִלָּקֵחַלהילקח
- être prisverbe
- פּוֹסְט
- postnom



