Штучний інтелект надто схильний погоджуватися з нами, чому це небезпечно?

תמונה: chatgpt
Ілюстрацію створено ШІ
Нове дослідження попереджає, що системи штучного інтелекту, такі як ChatGPT, можуть погоджуватися з користувачем, навіть коли він помиляється.
Замість того, щоб вказувати на їхні помилки, вони дають надто підтримуючі й догідливі відповіді.
Щоб дослідити це явище, дослідники зі Стенфорду представили моделям сценарії міжособистісних конфліктів і проблемної поведінки.
Випадки були взяті з реальних постів на Reddit, у спільноті, де люди описують ситуації та запитують, чи діяли вони правильно.
Дослідники обрали пости, в яких явна більшість користувачів не погоджувалася з поведінкою автора.
Попри це, приблизно в половині випадків моделі насправді підкріплювали автора та підтримували його позицію.
Потім дослідники провели ще один експеримент.
Вони попросили людей взаємодіяти з різними версіями штучного інтелекту, що відрізнялися рівнем "догоджання".
Результати показали, що коли модель погоджується з користувачем, його впевненість у собі зростає.
Вони стають менш схильними переосмислювати, вибачатися або визнавати помилки.
Дослідники застерігають, що люди більше довіряють моделям, які дають їм гарне відчуття, навіть якщо ці моделі є менш точними.
Підлабузництво моделей може погіршити судження користувачів.
Читай далі в додатку
Щоб отримати аудіо, особистий словник, картки для повторення й нові новини щодня, завантаж наш мобільний додаток
Слова з цієї новини
Іменники, дієслова, прикметники й прислівники з новини в початковій формі, у тому порядку, у якому вони вперше трапляються, з їхнім значенням.
- בִּינָה מְלָאכוּתִית
- штучний інтелектіменник
- לְהִתְחַנֵּף
- підлабузнюватисядієслово
- לָמָּה
- чомуприслівник
- מְסֻכָּןמסוכן
- небезпечнийприкметник
- מֶחְקָר
- дослідженняіменник
- חָדָשׁ
- новийприкметник
- לְהַזְהִיר
- попереджатидієслово
- מַעֲרֶכֶת
- системаіменник
- עָלוּל
- можеприкметник
- לְהַסְכִּים
- погодитисядієслово
- מִשְׁתַּמֵּשׁ
- користувачіменник
- לִטְעוֹת
- помилятисядієслово
- לָתֵת
- даватидієслово
- תְּשׁוּבָה
- відповідьіменник
- תּוֹמֵךְ
- підтримуючийприкметник
- מַחְמִיא
- лестивийприкметник
- מִדַּי
- занадтоприслівник
- לִבְדֹּקלבדוק
- перевіритидієслово
- תּוֹפָעָה
- явищеіменник
- חוֹקֵר
- дослідникіменник
- לְהַצִּיג
- представитидієслово
- מוֹדֵל
- модельіменник
- מַצָּב
- ситуаціяіменник
- סִכְסוּךְ
- конфліктіменник
- אִישׁ
- людинаіменник
- הִתְנַהֲגוּת
- поведінкаіменник
- בְּעָיָתִיבעייתי
- проблемнийприкметник
- מִקְרֶה
- випадокіменник
- לְהִלָּקֵחַלהילקח
- бути взятимдієслово
- פּוֹסְט
- постіменник



