لماذا يختلق الذكاء الاصطناعي معلومات غير موجودة؟ وكيف تحدث هلوسة الذكاء الاصطناعي؟

 لماذا يختلق الذكاء الاصطناعي معلومات غير موجودة؟ وكيف تحدث هلوسة الذكاء الاصطناعي؟

تسأل أداة ذكاء اصطناعي عن معلومة فتجيبك بثقة كبيرة، وتقدم اسم كتاب أو دراسة أو رابطًا أو تاريخًا يبدو منطقيًا تمامًا.

ثم تبحث عنه لتكتشف المفاجأة: المعلومة غير صحيحة، وربما المصدر نفسه غير موجود.

هذه الظاهرة تُعرف باسم هلوسة الذكاء الاصطناعي AI Hallucination، وهي واحدة من أهم المشكلات التي تواجه نماذج الذكاء الاصطناعي التوليدي.

لكن لماذا يقدم النموذج معلومة خاطئة بهذه الثقة؟ هل يكذب؟ وهل تستطيع الشركات التخلص من هذه المشكلة نهائيًا؟

لفهم ذلك علينا أولًا معرفة ما يفعله نموذج اللغة عندما يجيب عن سؤال.

هل الذكاء الاصطناعي يبحث عن الإجابة داخل قاعدة بيانات؟

ليس بالضرورة.

عندما تتحدث مع نموذج لغوي، لا يعمل النموذج في أبسط صورته مثل محرك بحث يفتح قاعدة بيانات ثم يعثر على جملة جاهزة ويعيدها إليك.

نماذج اللغة تتعلم أنماطًا معقدة من كميات هائلة من البيانات، ثم تستخدم هذه الأنماط لتوليد استجابة مناسبة للسياق.

أثناء التوليد يتنبأ النموذج بالرموز التي يحتمل أن تأتي لاحقًا، ثم تتكرر العملية حتى تتكون الإجابة.

وهذا يفسر جزءًا كبيرًا من مشكلة الهلوسة:

النموذج مصمم لتوليد نص محتمل ومتماسك، وليس لضمان أن كل جملة يولدها حقيقة مثبتة تلقائيًا.

كيف يمكن لإجابة خاطئة أن تبدو مقنعة جدًا؟

لأن النموذج تعلم شكل اللغة الجيدة.

يعرف — إحصائيًا — كيف تبدو المقالات والمراجع والعناوين والتفسيرات والحوارات.

لذلك يستطيع إنشاء إجابة منظمة ونحوية ومقنعة حتى عندما تكون بعض التفاصيل غير صحيحة.

وهنا تكمن خطورة الهلوسة.

الخطأ قد لا يأتي بصورة جملة غريبة تكشف نفسها فورًا، بل قد يأتي وسط شرح ممتاز ومتماسك.

وبالتالي فإن الثقة في صياغة الإجابة لا تساوي الثقة في صحتها.

ما أشكال هلوسة الذكاء الاصطناعي؟

الهلوسة ليست نوعًا واحدًا.

قد يخترع النموذج حقيقة غير موجودة، أو يذكر تاريخًا خاطئًا، أو ينسب قولًا إلى شخص لم يقله.

وقد تظهر أيضًا في صورة:

• كتاب غير موجود.
• دراسة علمية مختلقة.
• اسم باحث غير صحيح.
• رابط يبدو حقيقيًا لكنه لا يقود إلى المصدر المطلوب.
• تفاصيل غير موجودة في المستند الذي طُلب منه تحليله.
• أرقام أو إحصاءات بلا أساس صحيح.
• دمج معلومات صحيحة بطريقة تنتج استنتاجًا خاطئًا.

ولهذا فإن اكتشاف الهلوسة قد يكون أصعب من اكتشاف خطأ إملائي أو حسابي واضح.

لماذا تحدث الهلوسة؟

لا يوجد سبب واحد فقط.

أحد الأسباب هو أن النموذج يعمل بالاحتمالات. عندما لا يملك أساسًا كافيًا لإجابة دقيقة، قد يولد تتمة تبدو مناسبة لغويًا.

كما قد تسهم عوامل أخرى، مثل غموض السؤال أو نقص السياق أو وجود أنماط متعارضة في بيانات التدريب.

وقد يطلب المستخدم شيئًا شديد التحديد لا يملك النموذج معلومات موثوقة عنه، مثل:

“أعطني عنوان الدراسة التي أثبتت هذه النتيجة عام 2019.”

إذا لم يكن النظام مصممًا للتوقف أو التحقق، فقد ينتج مرجعًا يبدو مشابهًا للمراجع الأكاديمية الحقيقية.

هل الهلوسة تعني أن الذكاء الاصطناعي يكذب؟

من المهم التفريق بين الاثنين.

الكذب لدى الإنسان يرتبط عادة بمعرفة الحقيقة ثم تقديم معلومة مختلفة عنها بقصد التضليل.

أما نموذج اللغة فلا يعمل بهذه الطريقة.

عندما يولد معلومة غير صحيحة، فالأدق تقنيًا وصفها بأنها مخرجات غير موثوقة أو غير مدعومة، وليس القول إن النموذج قرر خداع المستخدم.

وهذا الفرق مهم لأنه يساعدنا على التعامل مع المشكلة بصورة صحيحة.

لماذا لا يقول النموذج دائمًا «لا أعرف»؟

تدريب الأنظمة الحديثة يحاول تحسين قدرتها على التعبير عن عدم اليقين، لكن تحقيق ذلك بصورة مثالية ليس سهلًا.

قد توجد لدى النموذج إشارات جزئية حول الموضوع تجعله ينتج إجابة بدل الامتناع.

كما أن النموذج لا يمتلك دائمًا مقياسًا مثاليًا يخبره بأن كل تفصيل في الجملة التي سيولدها غير صحيح.

ولهذا يعد تحسين المعايرة Calibration — أي مدى توافق ثقة النظام مع احتمالية صحة الإجابة — مجالًا مهمًا في تطوير أنظمة أكثر موثوقية.

هل الاتصال بالإنترنت يحل المشكلة؟

يساعد، لكنه لا يلغيها تلقائيًا.

عندما يستطيع النظام البحث في مصادر حديثة ثم الاستناد إليها في الإجابة، تصبح لديه فرصة أفضل للتحقق من بعض المعلومات.

لكن قد يسيء تفسير المصدر، أو يخلط بين عدة مصادر، أو يستشهد بصفحة لا تدعم الادعاء بالفعل.

لذلك فإن الوصول إلى الإنترنت ليس مرادفًا للحقيقة.

الأهم هو جودة الاسترجاع، وجودة المصادر، وطريقة ربط الادعاءات بالأدلة.

كيف يساعد RAG؟

من التقنيات المستخدمة لتقليل الهلوسة التوليد المعزز بالاسترجاع Retrieval-Augmented Generation أو RAG.

بدل الاعتماد فقط على ما تعلمه النموذج أثناء التدريب، يبحث النظام أولًا داخل مصادر أو قاعدة معرفة، ثم يضع المعلومات ذات الصلة في سياق النموذج ليبني إجابته عليها.

هذه الطريقة مفيدة خصوصًا عند التعامل مع وثائق الشركات أو الأدلة الفنية أو قواعد المعرفة المتخصصة.

لكن RAG ليس علاجًا سحريًا.

إذا استرجع النظام مستندًا خاطئًا أو غير ذي صلة، فقد يبني إجابة خاطئة عليه.

وهل يمكن للأدوات الخارجية أن تساعد؟

نعم.

بدل مطالبة نموذج اللغة بإجراء كل شيء بنفسه، يمكن توصيله بأدوات متخصصة.

فالحسابات يمكن إرسالها إلى آلة حاسبة أو بيئة تنفيذ، والمعلومات الحديثة إلى محرك بحث أو قاعدة بيانات، والبيانات الداخلية إلى أنظمة المؤسسة المناسبة.

بهذه الطريقة يتحول النموذج من نظام يعتمد فقط على التوليد إلى نظام يستطيع الاستعانة بأداة للحصول على الحقيقة المطلوبة ثم صياغة النتيجة.

لماذا تزداد خطورة الهلوسة في بعض المجالات؟

ليست كل الأخطاء متساوية.

إذا اخترع الذكاء الاصطناعي اسمًا غير صحيح لشخصية في قصة ترفيهية، فقد يكون الضرر محدودًا.

لكن الخطأ يصبح أكثر أهمية عندما يتعلق الأمر بالصحة أو المال أو القانون أو الأمن أو البحث العلمي.

لذلك يجب أن ترتفع درجة التحقق كلما ارتفعت عواقب الخطأ.

ولا ينبغي الاعتماد على إجابة مولدة وحدها لاتخاذ قرار مهم لمجرد أنها كُتبت بطريقة مقنعة.

كيف تكتشف أن الإجابة قد تكون هلوسة؟

لا توجد علامة واحدة تكشف كل الحالات، لكن توجد مؤشرات تستحق الانتباه.

إذا أعطاك النموذج مرجعًا شديد التحديد، فتحقق من وجوده.

إذا ذكر رقمًا أو إحصائية، ابحث عن المصدر الأصلي.

إذا قدم اقتباسًا، تأكد أن الشخص قاله بالفعل.

وإذا كانت المعلومة مهمة، فقارنها بمصدر موثوق مستقل.

ومن المفيد أيضًا أن تطلب من النظام تمييز ما يعرفه عن المعلومات التي لا يستطيع التحقق منها بدل تشجيعه على ملء الفراغات.

هل يمكن القضاء على الهلوسة نهائيًا؟

يحاول الباحثون والشركات تقليلها من خلال تحسين التدريب، وربط النماذج بالمصادر والأدوات، وتطوير طرق أفضل للتقييم والتحقق.

لكن التخلص الكامل منها في كل سؤال وكل سياق يمثل تحديًا كبيرًا.

فالأنظمة التوليدية مصممة أساسًا لإنشاء مخرجات جديدة، ومع وجود أسئلة مفتوحة أو معلومات ناقصة ستظل مسألة الموثوقية جزءًا أساسيًا من تطوير هذه التقنية.

ولهذا قد لا يكون الهدف الواقعي هو الوصول إلى نموذج “لا يخطئ أبدًا”، وإنما إلى نظام:

يعرف متى يحتاج إلى مصدر، ويتحقق عندما يستطيع، ويُظهر عدم اليقين عندما لا يملك أساسًا كافيًا للإجابة.

الخلاصة

هلوسة الذكاء الاصطناعي ليست لحظة يتوقف فيها النموذج عن العمل، بل قد تكون العكس تمامًا: إجابة ممتازة من حيث اللغة لكنها خاطئة من حيث الحقيقة.

وهذا ما يجعل الظاهرة مهمة لكل مستخدم للذكاء الاصطناعي.

كلما أصبحت النماذج أكثر قدرة على الكتابة والإقناع، أصبح من الضروري ألا نخلط بين جودة الصياغة وصحة المعلومة.

فالذكاء الاصطناعي يستطيع مساعدتنا في الوصول إلى المعرفة بسرعة هائلة، لكن المهارة التي ستصبح أكثر أهمية في عصره ربما تكون بسيطة جدًا:

لا تسأل فقط: هل تبدو الإجابة صحيحة؟ بل اسأل أيضًا: ما الدليل عليها؟

ن