لندن، المملكة المتحدة – كشفت دراسة حديثة عن ظاهرة وصفتها بـ”الهلوسات المشتركة” بين البشر وأنظمة الذكاء الاصطناعي، مشيرة إلى أن المحادثات الطويلة والمتواصلة قد تؤدي في بعض الحالات إلى بناء معلومات غير دقيقة أو استنتاجات خاطئة يتبناها الطرفان داخل سياق الحوار، رغم افتقارها إلى أساس واقعي.
الهلوسة المشتركة بين الإنسان والنظام
وأوضح الباحثون أن هذه الظاهرة لا تعني إصابة الإنسان باضطراب نفسي، وإنما تشير إلى حالة يتبادل فيها المستخدم ونظام الذكاء الاصطناعي معلومات أو افتراضات غير صحيحة، ثم يستمران في تطويرها أثناء المحادثة حتى تبدو وكأنها حقائق مؤكدة.
وأضافت الدراسة أن نماذج الذكاء الاصطناعي قد تنتج أحيانًا إجابات تبدو مقنعة ومنطقية، لكنها تحتوي على أخطاء أو معلومات مختلقة، وهو ما يعرف في مجال الذكاء الاصطناعي بـ”الهلوسة”.
وعندما يتعامل المستخدم مع هذه الإجابات دون التحقق منها، قد يسهم بدوره في تعزيزها واستكمالها، لتنشأ حالة من “الهلوسة المشتركة” بين الإنسان والنظام.
تقليل مخاطر انتشار المعلومات المضللة
وأشار الباحثون إلى أن طول المحادثة يزيد من احتمالات تراكم الأخطاء، خاصة إذا اعتمد الحوار على معلومات غير موثقة أو افتراضات لم يتم التحقق منها، مؤكدين أن الثقة الزائدة في مخرجات الذكاء الاصطناعي قد تؤدي إلى ترسيخ مفاهيم غير صحيحة لدى بعض المستخدمين.
وأكدت الدراسة أن هذه النتائج لا تقلل من أهمية تقنيات الذكاء الاصطناعي، لكنها تبرز ضرورة استخدامها بوصفها أدوات مساعدة، وليس بديلًا عن التفكير النقدي أو المصادر الموثوقة، خصوصًا في الموضوعات العلمية والطبية والقانونية والتاريخية.
ودعا معدو الدراسة إلى تطوير آليات أكثر كفاءة للحد من ظاهرة “الهلوسة” داخل نماذج الذكاء الاصطناعي، إلى جانب توعية المستخدمين بضرورة مراجعة المعلومات والتحقق منها قبل الاعتماد عليها، بما يضمن الاستفادة من قدرات هذه التقنيات مع تقليل مخاطر انتشار المعلومات المضللة.
