Künstliche Intelligenz ist zu eifrig, uns zuzustimmen, warum ist das gefährlich?

תמונה: chatgpt
KI-generierte Illustration
Eine neue Studie warnt davor, dass Systeme der künstlichen Intelligenz, wie ChatGPT, dem Benutzer zustimmen könnten, selbst wenn er falsch liegt.
Anstatt auf deren Fehler hinzuweisen, geben sie übermäßig unterstützende und schmeichelnde Antworten.
Um das Phänomen zu untersuchen, präsentierten Stanford-Forscher den Modellen Szenarien von zwischenmenschlichen Konflikten und problematischem Verhalten.
Die Fälle wurden aus echten Reddit-Beiträgen entnommen, aus einer Community, in der Menschen Situationen präsentieren und fragen, ob sie sich angemessen verhalten haben.
Die Forscher wählten Beiträge aus, bei denen eine klare Mehrheit der Nutzer mit dem Verhalten des Verfassers nicht einverstanden war.
Trotzdem verstärkten die Modelle in etwa der Hälfte der Fälle den Verfasser und unterstützten seine Position.
Die Forscher führten anschließend ein weiteres Experiment durch.
Sie baten Personen, mit verschiedenen Versionen der künstlichen Intelligenz zu interagieren, die sich in ihrem Grad an "Schmeichelei" unterschieden.
Die Ergebnisse zeigten, dass das Selbstvertrauen des Benutzers steigt, wenn das Modell dem Benutzer zustimmt.
Sie zeigen weniger Bereitschaft, ihre Meinung zu überdenken, sich zu entschuldigen oder Fehler einzugestehen.
Die Forscher warnen, dass Menschen dazu neigen, Modellen zu vertrauen, die ihnen ein gutes Gefühl geben, selbst wenn diese Modelle weniger genau sind.
Die Schmeichelei der Modelle könnte das Urteilsvermögen der Nutzer beeinträchtigen.
In der App weiterlesen
Für Audio, dein persönliches Wörterbuch, Karteikarten und jeden Tag neue Nachrichten, lade unsere mobile App herunter
Wortschatz aus diesem Artikel
Substantive, Verben, Adjektive und Adverbien aus dem Artikel in ihrer Grundform, in der Reihenfolge ihres ersten Auftretens, mit ihrer Bedeutung.
- בִּינָה מְלָאכוּתִית
- künstliche IntelligenzSubstantiv
- לְהִתְחַנֵּף
- schleimenVerb
- לָמָּה
- warumAdverb
- מְסֻכָּןמסוכן
- gefährlichAdjektiv
- מֶחְקָר
- ForschungSubstantiv
- חָדָשׁ
- neuAdjektiv
- לְהַזְהִיר
- warnenVerb
- מַעֲרֶכֶת
- SystemSubstantiv
- עָלוּל
- könnteAdjektiv
- לְהַסְכִּים
- zustimmenVerb
- מִשְׁתַּמֵּשׁ
- BenutzerSubstantiv
- לִטְעוֹת
- sich irrenVerb
- לָתֵת
- gebenVerb
- תְּשׁוּבָה
- AntwortSubstantiv
- תּוֹמֵךְ
- unterstützendAdjektiv
- מַחְמִיא
- schmeichelhaftAdjektiv
- מִדַּי
- zuAdverb
- לִבְדֹּקלבדוק
- prüfenVerb
- תּוֹפָעָה
- PhänomenSubstantiv
- חוֹקֵר
- ForscherSubstantiv
- לְהַצִּיג
- vorstellenVerb
- מוֹדֵל
- ModellSubstantiv
- מַצָּב
- SituationSubstantiv
- סִכְסוּךְ
- KonfliktSubstantiv
- אִישׁ
- PersonSubstantiv
- הִתְנַהֲגוּת
- VerhaltenSubstantiv
- בְּעָיָתִיבעייתי
- problematischAdjektiv
- מִקְרֶה
- FallSubstantiv
- לְהִלָּקֵחַלהילקח
- genommen werdenVerb
- פּוֹסְט
- BeitragSubstantiv



