چگونه هوش مصنوعی «توهم» (Hallucination) تولید می‌کند و چگونه می‌توان آن را کاهش داد؟

هوش مصنوعی مولد در چند سال اخیر به یکی از مهم‌ترین فناوری‌های دیجیتال تبدیل شده است. امروز این فناوری در تولید محتوا، پاسخ‌گویی به پرسش‌ها، برنامه‌نویسی، ترجمه، خلاصه‌سازی و حتی پشتیبانی مشتری نقش پررنگی دارد. ابزارهایی مانند ChatGPT، Gemini، Claude و Copilot برای بسیاری از کاربران به یک دستیار روزمره تبدیل شده‌اند. سازمان‌ها نیز از آن‌ها در جریان کار خود استفاده می‌کنند. با این حال، این فناوری پیشرفته یک محدودیت جدی دارد. اگر آن را نادیده بگیریم، ممکن است اعتماد کاربران را به‌اشتباه جلب کند: توهم هوش مصنوعی (AI Hallucination).

توهم زمانی رخ می‌دهد که مدل پاسخی بسیار روان، منسجم و قانع‌کننده تولید می‌کند، اما بخشی از آن یا حتی کل پاسخ با واقعیت سازگار نیست. این خطا ممکن است به شکل آمار نادرست، تاریخ اشتباه، منبع جعلی، نقل‌قول ساختگی یا توضیح ناقص و گمراه‌کننده ظاهر شود. مشکل اصلی اینجاست که خروجی مدل از نظر زبانی کاملاً طبیعی به نظر می‌رسد. همین موضوع باعث می‌شود کاربر بدون بررسی، آن را درست فرض کند. به همین دلیل، شناخت سازوکار توهم و روش‌های کاهش آن برای هر کسی که از هوش مصنوعی استفاده می‌کند، ضروری است.

توهم هوش مصنوعی چیست و چرا رخ می‌دهد؟

توهم هوش مصنوعی به حالتی گفته می‌شود که مدل زبانی اطلاعاتی تولید می‌کند که از نظر ساختار جمله، لحن و منطق ظاهری درست هستند، اما با واقعیت تطابق ندارند. نکته مهم این است که مدل عمداً دروغ نمی‌گوید و قصد فریب ندارد. مدل بر اساس الگوهایی که در داده‌های آموزشی دیده، محتمل‌ترین ادامه جمله را پیش‌بینی می‌کند. بنابراین اگر درباره موضوعی اطلاعات کافی نداشته باشد، ممکن است به‌جای گفتن «نمی‌دانم»، پاسخی بسازد که از نظر آماری محتمل است اما از نظر واقعی نادرست است.

چند عامل اصلی در شکل‌گیری این پدیده نقش دارند:

• مدل به حقیقت جهان دسترسی مستقیم ندارد و مانند موتور جستجو عمل نمی‌کند.
• داده‌های آموزشی ممکن است ناقص، قدیمی، متناقض یا دارای خطا باشند.
• مدل توانایی ذاتی برای راستی‌آزمایی مستقل اطلاعات ندارد.
• در مواجهه با پرسش‌های مبهم یا تخصصی، همچنان تلاش می‌کند پاسخ کامل تولید کند.
• مدل معمولاً میزان اطمینان خود را به‌صورت شفاف بیان نمی‌کند، مگر اینکه برای این کار طراحی شده باشد.

به همین دلیل، هرچه پرسش پیچیده‌تر، تخصصی‌تر یا وابسته به اطلاعات به‌روزتر باشد، احتمال توهم بیشتر می‌شود. در واقع، مدل به‌جای «دانستن»، بیشتر «حدس زدنِ بسیار پیشرفته» انجام می‌دهد.

انواع توهم در مدل‌های زبانی

توهم در هوش مصنوعی فقط یک شکل ندارد. بسته به نوع خطا، می‌تواند در چند دسته اصلی دیده شود. شناخت این دسته‌ها کمک می‌کند کاربر بهتر تشخیص دهد چه زمانی باید به پاسخ مدل شک کند و آن را با منبع معتبر بررسی کند.

1. توهم واقعی (Factual Hallucination):
   در این حالت، مدل اطلاعات عینی مانند نام افراد، تاریخ‌ها، اعداد، مکان‌ها یا رویدادها را اشتباه بیان می‌کند. برای مثال ممکن است سال انتشار یک کتاب، نام نویسنده یا محل وقوع یک رویداد تاریخی را نادرست اعلام کند.
2. توهم منابع (Citation Hallucination):
   این نوع خطا زمانی رخ می‌دهد که مدل مقاله، کتاب، لینک یا منبعی را معرفی می‌کند که وجود خارجی ندارد یا مشخصات آن اشتباه است. این مسئله در پژوهش، آموزش و تولید محتوای علمی بسیار خطرناک است.
3. توهم منطقی:
   در این حالت، اطلاعات اولیه ممکن است درست باشند، اما نتیجه‌گیری مدل نادرست است. یعنی مشکل در استدلال رخ می‌دهد، نه در داده‌های ورودی.
4. توهم ترکیبی:
   مدل چند حقیقت واقعی را با اطلاعات نادرست ترکیب می‌کند و پاسخی می‌سازد که در ظاهر منطقی است، اما در عمل با واقعیت سازگار نیست.

چرا این پدیده خطرناک است؟

در بسیاری از کاربردهای روزمره، یک پاسخ اشتباه فقط باعث سردرگمی می‌شود. اما در برخی حوزه‌ها، پیامد آن می‌تواند بسیار جدی باشد. اگر کاربر بدون بررسی به خروجی هوش مصنوعی اعتماد کند، ممکن است تصمیمی بگیرد که بر سلامت، امنیت، دارایی یا اعتبار او اثر بگذارد. به همین دلیل، هوش مصنوعی باید ابزار کمکی باشد، نه مرجع نهایی تصمیم‌گیری.

مهم‌ترین حوزه‌های پرخطر عبارت‌اند از:

• پزشکی: ارائه اطلاعات نادرست درباره علائم، داروها یا روش‌های درمانی می‌تواند خطرناک باشد.
• حقوق: استناد اشتباه به قوانین، آرای قضایی یا رویه‌های حقوقی ممکن است پیامدهای جدی داشته باشد.
• مالی و سرمایه‌گذاری: داده‌های غلط می‌توانند به تصمیم‌های پرریسک و زیان‌بار منجر شوند.
• آموزش و پژوهش: اگر دانشجو یا پژوهشگر بدون بررسی منبع به پاسخ مدل اعتماد کند، خطا به‌راحتی منتقل می‌شود.

در واقع، خطر اصلی توهم فقط «اشتباه بودن» نیست. پاسخ اشتباه با ظاهری بسیار مطمئن و حرفه‌ای ارائه می‌شود. همین موضوع تشخیص خطا را دشوار می‌کند.

چگونه می‌توان توهم را کاهش داد؟

اگرچه حذف کامل توهم هنوز ممکن نیست، اما روش‌های فنی و طراحی مناسب می‌توانند آن را تا حد زیادی کاهش دهند. مهم‌ترین راهکارها عبارت‌اند از:

1. استفاده از RAG (Retrieval-Augmented Generation):
   مدل پیش از پاسخ‌گویی، اطلاعات مرتبط را از اسناد، پایگاه‌های داده یا موتورهای جستجو بازیابی می‌کند. سپس بر اساس همان داده‌ها پاسخ می‌دهد.
2. بهبود کیفیت داده‌های آموزشی:
   هرچه داده‌ها دقیق‌تر، جدیدتر و معتبرتر باشند، احتمال تولید پاسخ نادرست کمتر می‌شود.
3. آموزش با بازخورد انسانی (RLHF):
   در این روش، انسان‌ها پاسخ‌های مدل را ارزیابی می‌کنند. این کار به مدل کمک می‌کند خروجی‌های دقیق‌تر و قابل‌اعتمادتر تولید کند.
4. استفاده از مدل‌های اعتبارسنج (Verifier Models):
   یک مدل دیگر پس از تولید پاسخ، صحت اطلاعات را بررسی می‌کند. اگر لازم باشد، پاسخ را اصلاح یا رد می‌کند.
5. اتصال به پایگاه‌های دانش معتبر:
   در سامانه‌های سازمانی، مدل می‌تواند به داده‌های داخلی و قابل‌اعتماد متصل شود. در نتیجه، پاسخ‌ها بر پایه اطلاعات واقعی تولید می‌شوند.
6. محدود کردن دامنه پاسخ‌گویی:
   اگر مدل درباره موضوعی اطمینان کافی ندارد، بهتر است این موضوع را صریحاً اعلام کند یا از پاسخ‌گویی خودداری کند.
7. جستجوی معنایی (Semantic Search):
   این روش به مدل کمک می‌کند مفهوم پرسش را بهتر درک کند و به منابع مرتبط‌تر دسترسی داشته باشد.

جمع‌بندی و نگاه به آینده

توهم هوش مصنوعی یکی از مهم‌ترین محدودیت‌های مدل‌های زبانی بزرگ است. این مدل‌ها بر پایه پیش‌بینی آماری کار می‌کنند، نه بر پایه اثبات حقیقت. به همین دلیل، حتی پیشرفته‌ترین سیستم‌ها نیز ممکن است در شرایط خاص پاسخ نادرست تولید کنند. با این حال، پیشرفت‌هایی مانند RAG، RLHF، مدل‌های اعتبارسنج، جستجوی معنایی و اتصال به پایگاه‌های دانش باعث شده‌اند میزان این خطاها نسبت به نسل‌های اولیه به‌طور چشمگیری کاهش پیدا کند.

در آینده، انتظار می‌رود سیستم‌های هوش مصنوعی به سمت معماری‌های ترکیبی حرکت کنند. این معماری‌ها مدل زبانی، موتور جستجو، پایگاه دانش، ابزارهای اعتبارسنجی و عامل‌های هوشمند را با هم ترکیب می‌کنند. همچنین احتمال دارد مدل‌ها بتوانند میزان اطمینان خود را برای هر پاسخ اعلام کنند. در این صورت، کاربر بهتر تشخیص می‌دهد کدام خروجی نیاز به بررسی بیشتر دارد. تا آن زمان، بهترین رویکرد این است که هوش مصنوعی را یک دستیار قدرتمند اما نه بی‌خطا بدانیم و همیشه در موضوعات حساس، صحت پاسخ‌ها را با منابع معتبر بررسی کنیم.