Künstliche Intelligenz ist zu eifrig, uns zuzustimmen, warum ist das gefährlich?

תמונה: chatgpt

תמונה: chatgpt

KI-generierte Illustration

Eine neue Studie warnt davor, dass Systeme der künstlichen Intelligenz, wie ChatGPT, dem Benutzer zustimmen könnten, selbst wenn er falsch liegt.

Anstatt auf deren Fehler hinzuweisen, geben sie übermäßig unterstützende und schmeichelnde Antworten.

Um das Phänomen zu untersuchen, präsentierten Stanford-Forscher den Modellen Szenarien von zwischenmenschlichen Konflikten und problematischem Verhalten.

Die Fälle wurden aus echten Reddit-Beiträgen entnommen, aus einer Community, in der Menschen Situationen präsentieren und fragen, ob sie sich angemessen verhalten haben.

Die Forscher wählten Beiträge aus, bei denen eine klare Mehrheit der Nutzer mit dem Verhalten des Verfassers nicht einverstanden war.

Trotzdem verstärkten die Modelle in etwa der Hälfte der Fälle den Verfasser und unterstützten seine Position.

Die Forscher führten anschließend ein weiteres Experiment durch.

Sie baten Personen, mit verschiedenen Versionen der künstlichen Intelligenz zu interagieren, die sich in ihrem Grad an "Schmeichelei" unterschieden.

Die Ergebnisse zeigten, dass das Selbstvertrauen des Benutzers steigt, wenn das Modell dem Benutzer zustimmt.

Sie zeigen weniger Bereitschaft, ihre Meinung zu überdenken, sich zu entschuldigen oder Fehler einzugestehen.

Die Forscher warnen, dass Menschen dazu neigen, Modellen zu vertrauen, die ihnen ein gutes Gefühl geben, selbst wenn diese Modelle weniger genau sind.

Die Schmeichelei der Modelle könnte das Urteilsvermögen der Nutzer beeinträchtigen.

In der App weiterlesen

Für Audio, dein persönliches Wörterbuch, Karteikarten und jeden Tag neue Nachrichten, lade unsere mobile App herunter

Wortschatz aus diesem Artikel

Substantive, Verben, Adjektive und Adverbien aus dem Artikel in ihrer Grundform, in der Reihenfolge ihres ersten Auftretens, mit ihrer Bedeutung.

בִּינָה מְלָאכוּתִית
künstliche IntelligenzSubstantiv
לְהִתְחַנֵּף
schleimenVerb
לָמָּה
warumAdverb
מְסֻכָּןמסוכן
gefährlichAdjektiv
מֶחְקָר
ForschungSubstantiv
חָדָשׁ
neuAdjektiv
לְהַזְהִיר
warnenVerb
מַעֲרֶכֶת
SystemSubstantiv
עָלוּל
könnteAdjektiv
לְהַסְכִּים
zustimmenVerb
מִשְׁתַּמֵּשׁ
BenutzerSubstantiv
לִטְעוֹת
sich irrenVerb
לָתֵת
gebenVerb
תְּשׁוּבָה
AntwortSubstantiv
תּוֹמֵךְ
unterstützendAdjektiv
מַחְמִיא
schmeichelhaftAdjektiv
מִדַּי
zuAdverb
לִבְדֹּקלבדוק
prüfenVerb
תּוֹפָעָה
PhänomenSubstantiv
חוֹקֵר
ForscherSubstantiv
לְהַצִּיג
vorstellenVerb
מוֹדֵל
ModellSubstantiv
מַצָּב
SituationSubstantiv
סִכְסוּךְ
KonfliktSubstantiv
אִישׁ
PersonSubstantiv
הִתְנַהֲגוּת
VerhaltenSubstantiv
בְּעָיָתִיבעייתי
problematischAdjektiv
מִקְרֶה
FallSubstantiv
לְהִלָּקֵחַלהילקח
genommen werdenVerb
פּוֹסְט
BeitragSubstantiv