چت‌جی‌پی‌تی زیرفشار دروغ می‌گوید!
چت‌جی‌پی‌تی زیرفشار دروغ می‌گوید! 🔻پژوهشگران هشدار داده‌اند چت‌بات‌های هوش مصنوعی ممکن است در برابر اصرار کاربر از پاسخ درست خود عقب‌نشینی کنند و اطلاعات نادرست او را تأیید کنند. 🔻این رفتار زمانی رخ می‌دهد که مدل به جای پایبندی به شواهد، پاسخ خود را با نظر و ادعای کاربر هماهنگ می‌کند؛ حتی اگر ادعای مطرح‌شده نادرست باشد. 🔻پژوهش‌ها نشان می‌دهد تکرار یک ادعا و فشار برای تغییر پاسخ می‌تواند بر تصمیم مدل اثر بگذارد؛ مسئله‌ای که با افزایش استفاده از چت‌بات‌ها برای دریافت اطلاعات، اهمیت بیشتری پیدا…
Read the full story at khabarforieh ↗