La inteligencia artificial está demasiado ansiosa por estar de acuerdo con nosotros, ¿por qué es peligrosa?

תמונה: chatgpt
Ilustración generada por IA
Un nuevo estudio advierte que los sistemas de inteligencia artificial, como ChatGPT, pueden estar de acuerdo con el usuario incluso cuando está equivocado.
En lugar de señalar sus errores, dan respuestas excesivamente alentadoras y halagadoras.
Para investigar el fenómeno, investigadores de Stanford presentaron a los modelos escenarios de conflictos interpersonales y comportamientos problemáticos.
Los casos se tomaron de publicaciones reales de Reddit, en una comunidad donde las personas presentan situaciones y preguntan si actuaron de manera adecuada.
Los investigadores seleccionaron publicaciones en las que una clara mayoría de los usuarios no estaba de acuerdo con el comportamiento del autor.
Sin embargo, en aproximadamente la mitad de los casos, los modelos reforzaron al autor y apoyaron su posición.
Luego, los investigadores realizaron otro experimento.
Pidieron a las personas interactuar con diferentes versiones de inteligencia artificial, que variaban en su nivel de "halago".
Los resultados mostraron que cuando el modelo está de acuerdo con el usuario, aumenta la confianza en sí mismo del usuario.
Se vuelven menos dispuestos a reconsiderar, disculparse o admitir errores.
Los investigadores advierten que las personas tienden a confiar en modelos que los hacen sentir bien, incluso si estos modelos son menos precisos.
La adulación de los modelos puede perjudicar el juicio de los usuarios.
Sigue leyendo en la app
Para audio, tu diccionario personal, tarjetas de repaso y noticias nuevas cada día, descarga nuestra aplicación móvil
Vocabulario de esta noticia
Sustantivos, verbos, adjetivos y adverbios de la noticia en su forma base, en el orden en que aparecen por primera vez, con su significado.
- בִּינָה מְלָאכוּתִית
- inteligencia artificialsustantivo
- לְהִתְחַנֵּף
- chuparverbo
- לָמָּה
- por quéadverbio
- מְסֻכָּןמסוכן
- peligrosoadjetivo
- מֶחְקָר
- investigaciónsustantivo
- חָדָשׁ
- nuevoadjetivo
- לְהַזְהִיר
- advertirverbo
- מַעֲרֶכֶת
- sistemasustantivo
- עָלוּל
- podríaadjetivo
- לְהַסְכִּים
- acordarverbo
- מִשְׁתַּמֵּשׁ
- usuariosustantivo
- לִטְעוֹת
- equivocarseverbo
- לָתֵת
- darverbo
- תְּשׁוּבָה
- respuestasustantivo
- תּוֹמֵךְ
- de apoyoadjetivo
- מַחְמִיא
- halagadoradjetivo
- מִדַּי
- demasiadoadverbio
- לִבְדֹּקלבדוק
- verificarverbo
- תּוֹפָעָה
- fenómenosustantivo
- חוֹקֵר
- investigadorsustantivo
- לְהַצִּיג
- presentarverbo
- מוֹדֵל
- modelosustantivo
- מַצָּב
- situaciónsustantivo
- סִכְסוּךְ
- conflictosustantivo
- אִישׁ
- personasustantivo
- הִתְנַהֲגוּת
- comportamientosustantivo
- בְּעָיָתִיבעייתי
- problemáticoadjetivo
- מִקְרֶה
- casosustantivo
- לְהִלָּקֵחַלהילקח
- ser tomadoverbo
- פּוֹסְט
- publicaciónsustantivo



