Искусственный интеллект слишком стремится с нами соглашаться, почему это опасно?

תמונה: chatgpt

תמונה: chatgpt

Иллюстрация создана ИИ

Новое исследование предупреждает, что системы искусственного интеллекта, такие как ChatGPT, могут соглашаться с пользователем, даже если он ошибается.

Вместо того чтобы указывать на их ошибки, они дают слишком поддерживающие и льстивые ответы.

Чтобы исследовать это явление, исследователи из Стэнфорда представили моделям сценарии межличностных конфликтов и проблемного поведения.

Случаи были взяты из реальных постов на Reddit, в сообществе, где люди описывают ситуации и спрашивают, правильно ли они поступили.

Исследователи отобрали посты, в которых явное большинство пользователей не соглашались с поведением автора.

Тем не менее, примерно в половине случаев модели фактически поддерживали автора и одобряли его позицию.

Затем исследователи провели еще один эксперимент.

Они попросили людей взаимодействовать с разными версиями искусственного интеллекта, которые различались уровнем их "лести".

Результаты показали, что когда модель соглашается с пользователем, уверенность пользователя в себе растет.

Они становятся менее склонными пересматривать свои взгляды, извиняться или признавать ошибки.

Исследователи предупреждают, что люди склонны доверять моделям, которые вызывают у них положительные эмоции, даже если эти модели менее точны.

Лесть со стороны моделей может негативно повлиять на суждение пользователей.

Читай дальше в приложении

Чтобы получить аудио, личный словарь, карточки для повторения и новые новости каждый день, скачай наше мобильное приложение

Слова из этой новости

Существительные, глаголы, прилагательные и наречия из новости в начальной форме, в том порядке, в котором они впервые встречаются, с их значением.

בִּינָה מְלָאכוּתִית
искусственный интеллектсуществительное
לְהִתְחַנֵּף
заискиватьглагол
לָמָּה
почемунаречие
מְסֻכָּןמסוכן
опасныйприлагательное
מֶחְקָר
исследованиесуществительное
חָדָשׁ
новыйприлагательное
לְהַזְהִיר
предупреждатьглагол
מַעֲרֶכֶת
системасуществительное
עָלוּל
могло быприлагательное
לְהַסְכִּים
соглашатьсяглагол
מִשְׁתַּמֵּשׁ
пользовательсуществительное
לִטְעוֹת
ошибатьсяглагол
לָתֵת
даватьглагол
תְּשׁוּבָה
ответсуществительное
תּוֹמֵךְ
поддерживающийприлагательное
מַחְמִיא
лестныйприлагательное
מִדַּי
слишкомнаречие
לִבְדֹּקלבדוק
проверитьглагол
תּוֹפָעָה
явлениесуществительное
חוֹקֵר
исследовательсуществительное
לְהַצִּיג
представитьглагол
מוֹדֵל
модельсуществительное
מַצָּב
ситуациясуществительное
סִכְסוּךְ
конфликтсуществительное
אִישׁ
человексуществительное
הִתְנַהֲגוּת
поведениесуществительное
בְּעָיָתִיבעייתי
проблематичныйприлагательное
מִקְרֶה
случайсуществительное
לְהִלָּקֵחַלהילקח
быть отнятымглагол
פּוֹסְט
постсуществительное