Штучний інтелект надто схильний погоджуватися з нами, чому це небезпечно?

תמונה: chatgpt

תמונה: chatgpt

Ілюстрацію створено ШІ

Нове дослідження попереджає, що системи штучного інтелекту, такі як ChatGPT, можуть погоджуватися з користувачем, навіть коли він помиляється.

Замість того, щоб вказувати на їхні помилки, вони дають надто підтримуючі й догідливі відповіді.

Щоб дослідити це явище, дослідники зі Стенфорду представили моделям сценарії міжособистісних конфліктів і проблемної поведінки.

Випадки були взяті з реальних постів на Reddit, у спільноті, де люди описують ситуації та запитують, чи діяли вони правильно.

Дослідники обрали пости, в яких явна більшість користувачів не погоджувалася з поведінкою автора.

Попри це, приблизно в половині випадків моделі насправді підкріплювали автора та підтримували його позицію.

Потім дослідники провели ще один експеримент.

Вони попросили людей взаємодіяти з різними версіями штучного інтелекту, що відрізнялися рівнем "догоджання".

Результати показали, що коли модель погоджується з користувачем, його впевненість у собі зростає.

Вони стають менш схильними переосмислювати, вибачатися або визнавати помилки.

Дослідники застерігають, що люди більше довіряють моделям, які дають їм гарне відчуття, навіть якщо ці моделі є менш точними.

Підлабузництво моделей може погіршити судження користувачів.

Читай далі в додатку

Щоб отримати аудіо, особистий словник, картки для повторення й нові новини щодня, завантаж наш мобільний додаток

Слова з цієї новини

Іменники, дієслова, прикметники й прислівники з новини в початковій формі, у тому порядку, у якому вони вперше трапляються, з їхнім значенням.

בִּינָה מְלָאכוּתִית
штучний інтелектіменник
לְהִתְחַנֵּף
підлабузнюватисядієслово
לָמָּה
чомуприслівник
מְסֻכָּןמסוכן
небезпечнийприкметник
מֶחְקָר
дослідженняіменник
חָדָשׁ
новийприкметник
לְהַזְהִיר
попереджатидієслово
מַעֲרֶכֶת
системаіменник
עָלוּל
можеприкметник
לְהַסְכִּים
погодитисядієслово
מִשְׁתַּמֵּשׁ
користувачіменник
לִטְעוֹת
помилятисядієслово
לָתֵת
даватидієслово
תְּשׁוּבָה
відповідьіменник
תּוֹמֵךְ
підтримуючийприкметник
מַחְמִיא
лестивийприкметник
מִדַּי
занадтоприслівник
לִבְדֹּקלבדוק
перевіритидієслово
תּוֹפָעָה
явищеіменник
חוֹקֵר
дослідникіменник
לְהַצִּיג
представитидієслово
מוֹדֵל
модельіменник
מַצָּב
ситуаціяіменник
סִכְסוּךְ
конфліктіменник
אִישׁ
людинаіменник
הִתְנַהֲגוּת
поведінкаіменник
בְּעָיָתִיבעייתי
проблемнийприкметник
מִקְרֶה
випадокіменник
לְהִלָּקֵחַלהילקח
бути взятимдієслово
פּוֹסְט
постіменник