چرا مدلهای زبانی گاهی پاسخهای نادرست اما محتمل میدهند؟
مدلهای زبانی مانند ChatGPT پاسخها را بر پایه احتمال جمله بعدی تولید میکنند؛ به همین دلیل، ممکن است گاهی پاسخی مطمئن اما نادرست ارائه دهند.
تهیهشده با کمک هوش مصنوعی از منابع ذکرشده

مدلهای زبانی مانند ChatGPT همیشه بر پایه «حقیقت مطلق» پاسخ نمیدهند، بلکه پاسخ خود را بر اساس احتمال جمله بعدی تولید میکنند. به همین دلیل، اگر پاسخهای مثبت، قطعی یا اطمینانبخش در دادههای آموزشی آنها بیشتر دیده شده باشد، ممکن است پاسخی ارائه دهند که واقعی نیست، اما محتمل و قابلقبول به نظر میرسد.
در برخی موارد نیز مدل برای روانتر و خوشایندتر کردن مکالمه، پاسخ را بهگونهای میسازد که حس بهتری به کاربر بدهد؛ حتی زمانی که از درستی آن اطمینان ندارد. این پدیده با عنوان hallucination یا «توهم هوش مصنوعی» شناخته میشود.
بر همین اساس، هر پاسخی که یک سامانه هوش مصنوعی ارائه میکند، لزوماً حقیقت ندارد و در موارد مهم باید با مراجعه به منابع معتبر و بررسی انسانی سنجیده شود.
منبع: گزارش رسیده از یک منبع خبری
مطالب مرتبط
برای ادامه مطالعه
این یادداشتها بر اساس موضوع مشترک، همپوشانی برچسبها و تازگی انتشار انتخاب میشوند.

Live Dictation چتجیپیتی، صدا را همزمان به متن تبدیل میکند
با Live Dictation، متن همزمان با صحبتکردن ظاهر میشود و نیازی نیست تا پایان ضبط صبر کنید. محدودیت ۱۰ دقیقهای ضبط هم حذف شده است.


دیدگاهها
اولین نفری باش که دیدگاه میذاره
دیدگاهها پس از بررسی منتشر میشوند. ایمیل شما نمایش داده نمیشود.