المسرد / الذكاء الاصطناعي والبيانات
هلوسة الذكاء الاصطناعي
الهلوسة أن يصرّح نموذج الذكاء بشيء كاذب بثقة تامة — إحصاءة مختلقة أو قضية محكمة لا وجود لها أو جواب خاطئ يبدو معقولاً. تحدث لأن نماذج اللغة تتنبأ بالنص المرجح لا بالحقيقة المتحققة. تحتويها أنظمة الإنتاج بالتأريض (RAG مع استشهادات) ومخرجات مقيدة ومراجعة بشرية حيث المخاطر عالية؛ وأي مورّد يدّعي صفر هلوسات يهلوس هو نفسه.
تبنون شيئاً يحتاج هذا؟ تحدثوا إلى مهندس: نموذج التواصل