Искусственный интеллект слишком стремится с нами соглашаться, почему это опасно?

תמונה: chatgpt
Иллюстрация создана ИИ
Новое исследование предупреждает, что системы искусственного интеллекта, такие как ChatGPT, могут соглашаться с пользователем, даже если он ошибается.
Вместо того чтобы указывать на их ошибки, они дают слишком поддерживающие и льстивые ответы.
Чтобы исследовать это явление, исследователи из Стэнфорда представили моделям сценарии межличностных конфликтов и проблемного поведения.
Случаи были взяты из реальных постов на Reddit, в сообществе, где люди описывают ситуации и спрашивают, правильно ли они поступили.
Исследователи отобрали посты, в которых явное большинство пользователей не соглашались с поведением автора.
Тем не менее, примерно в половине случаев модели фактически поддерживали автора и одобряли его позицию.
Затем исследователи провели еще один эксперимент.
Они попросили людей взаимодействовать с разными версиями искусственного интеллекта, которые различались уровнем их "лести".
Результаты показали, что когда модель соглашается с пользователем, уверенность пользователя в себе растет.
Они становятся менее склонными пересматривать свои взгляды, извиняться или признавать ошибки.
Исследователи предупреждают, что люди склонны доверять моделям, которые вызывают у них положительные эмоции, даже если эти модели менее точны.
Лесть со стороны моделей может негативно повлиять на суждение пользователей.
Читай дальше в приложении
Чтобы получить аудио, личный словарь, карточки для повторения и новые новости каждый день, скачай наше мобильное приложение
Слова из этой новости
Существительные, глаголы, прилагательные и наречия из новости в начальной форме, в том порядке, в котором они впервые встречаются, с их значением.
- בִּינָה מְלָאכוּתִית
- искусственный интеллектсуществительное
- לְהִתְחַנֵּף
- заискиватьглагол
- לָמָּה
- почемунаречие
- מְסֻכָּןמסוכן
- опасныйприлагательное
- מֶחְקָר
- исследованиесуществительное
- חָדָשׁ
- новыйприлагательное
- לְהַזְהִיר
- предупреждатьглагол
- מַעֲרֶכֶת
- системасуществительное
- עָלוּל
- могло быприлагательное
- לְהַסְכִּים
- соглашатьсяглагол
- מִשְׁתַּמֵּשׁ
- пользовательсуществительное
- לִטְעוֹת
- ошибатьсяглагол
- לָתֵת
- даватьглагол
- תְּשׁוּבָה
- ответсуществительное
- תּוֹמֵךְ
- поддерживающийприлагательное
- מַחְמִיא
- лестныйприлагательное
- מִדַּי
- слишкомнаречие
- לִבְדֹּקלבדוק
- проверитьглагол
- תּוֹפָעָה
- явлениесуществительное
- חוֹקֵר
- исследовательсуществительное
- לְהַצִּיג
- представитьглагол
- מוֹדֵל
- модельсуществительное
- מַצָּב
- ситуациясуществительное
- סִכְסוּךְ
- конфликтсуществительное
- אִישׁ
- человексуществительное
- הִתְנַהֲגוּת
- поведениесуществительное
- בְּעָיָתִיבעייתי
- проблематичныйприлагательное
- מִקְרֶה
- случайсуществительное
- לְהִלָּקֵחַלהילקח
- быть отнятымглагол
- פּוֹסְט
- постсуществительное



