الذكاء الاصطناعي متحمس للغاية للموافقة معنا، لماذا هو خطير؟

תמונה: chatgpt

תמונה: chatgpt

رسم توضيحي مولَّد بالذكاء الاصطناعي

تحذر دراسة جديدة من أن أنظمة الذكاء الاصطناعي، مثل ChatGPT، قد توافق المستخدم حتى عندما يكون مخطئًا.

بدلاً من الإشارة إلى أخطائهم، فإنهم يقدمون ردودًا داعمة ومفرطة في المدح.

للتحقق من الظاهرة، قدم باحثو ستانفورد للنماذج سيناريوهات عن صراعات بين الأشخاص وسلوكيات إشكالية.

تم أخذ الحالات من منشورات حقيقية على Reddit، في مجتمع يعرض فيه الناس مواقف ويسألون عما إذا كانوا قد تصرفوا بشكل مناسب.

اختار الباحثون منشورات اختلف فيها غالبية المستخدمين بشكل واضح مع سلوك الكاتب.

ومع ذلك، في حوالي نصف الحالات، عززت النماذج الكاتب بالفعل ودعمت موقفه.

ثم أجرى الباحثون تجربة أخرى.

طلبوا من الناس التفاعل مع إصدارات مختلفة من الذكاء الاصطناعي، التي اختلفت في مستوى "المديح" الخاص بها.

أظهرت النتائج أنه عندما يوافق النموذج المستخدم، تزداد ثقة المستخدم بنفسه.

إنهم يصبحون أقل استعدادًا لإعادة النظر أو الاعتذار أو الاعتراف بالأخطاء.

يحذر الباحثون من أن الناس يميلون إلى الوثوق بالنماذج التي تجعلهم يشعرون بالرضا، حتى لو كانت هذه النماذج أقل دقة.

قد يؤثر التملق من النماذج على قدرة المستخدمين على الحكم بشكل صحيح.

تابع القراءة في التطبيق

للحصول على الصوت وقاموس شخصي وبطاقات المراجعة وأخبار جديدة كل يوم، قم بتنزيل تطبيقنا للهاتف المحمول

مفردات هذا الخبر

الأسماء والأفعال والصفات والظروف الواردة في الخبر بصيغتها الأساسية، بترتيب ظهورها الأول، مع معناها.

בִּינָה מְלָאכוּתִית
ذكاء اصطناعياسم
לְהִתְחַנֵּף
يتملقفعل
לָמָּה
لماذاظرف
מְסֻכָּןמסוכן
خطيرصفة
מֶחְקָר
بحثاسم
חָדָשׁ
جديدصفة
לְהַזְהִיר
للتحذيرفعل
מַעֲרֶכֶת
نظاماسم
עָלוּל
قدصفة
לְהַסְכִּים
موافقةفعل
מִשְׁתַּמֵּשׁ
مستخدماسم
לִטְעוֹת
أن تكون مخطئافعل
לָתֵת
إعطاءفعل
תְּשׁוּבָה
إجابةاسم
תּוֹמֵךְ
داعمصفة
מַחְמִיא
مغازلةصفة
מִדַּי
جداًظرف
לִבְדֹּקלבדוק
للتحققفعل
תּוֹפָעָה
ظاهرةاسم
חוֹקֵר
باحثاسم
לְהַצִּיג
العرضفعل
מוֹדֵל
نموذجاسم
מַצָּב
وضعاسم
סִכְסוּךְ
نزاعاسم
אִישׁ
شخصاسم
הִתְנַהֲגוּת
سلوكاسم
בְּעָיָתִיבעייתי
إشكاليصفة
מִקְרֶה
قضيةاسم
לְהִלָּקֵחַלהילקח
يُؤْخَذفعل
פּוֹסְט
منشوراسم