Midسختی 3 از ۵· در 30٪ مصاحبههای این حوزه پرسیده شده
Hallucination در مدلهای زبانی یعنی چه و چطور کاهش داده میشود؟
☆نشان کردنپاسخ کوتاه
یعنی مدل با اطمینان بالا اطلاعات نادرست تولید میکند؛ با RAG (اتصال به منابع واقعی) و Prompt دقیقتر کاهش مییابد.
پاسخ کامل
چون LLM بر پایهٔ پیشبینی آماری توکن بعدی کار میکند نه دسترسی مستقیم به حقیقت، ممکن است پاسخی روان ولی نادرست بسازد. RAG با تزریق سند واقعی به Prompt، احتمال این خطا را کم میکند، ولی صفر نمیکند.
نکته مهم
همیشه در سناریوهای حساس، خروجی LLM را با یک منبع مستقل راستیآزمایی کنید.