سارة براهمي **

لم يعد الذكاء الاصطناعي التوليدي يُختزل في كونه أداةً تقنية مُساندة لعمليات البحث والتحرير، إذ غدا فاعلًا معرفيًا يسهم في إنتاج المعرفة وإعادة تشكيل الذاكرة الجمعية، وهي الوظيفة التي ارتبطت تاريخيًا بالأُطر الاجتماعية للذاكرة كما أصّلها الفيلسوف وعالم الاجتماع الفرنسي موريس هالبفاكس، وتُعاد قراءتها في ضوء الأنظمة الآلية كما في دراسة "شور-أوفري وبيساخ" حول «الذاكرة الجمعية الروبوتية».

غير أنّ ما تتسم به مخرجات الذكاء الاصطناعي من إحكام لغوي وقدرة إقناعية يحجب إشكالًا معرفيًا وسياسيًا بنيويًا يُصطلح عليه بـ«الهلوسة الرقمية»، والمقصود بالهلوسة الرقمية توليد محتوى يبدو متسقًا وصحيحًا في ظاهره وهو مختلَق أو مُجانِب للدقة في جوهره. ولا تنحصر خطورة هذه الظاهرة في وقوع الخطأ بحد ذاته، بل تتجلى في صيغة عرضه؛ إذ أنّ النماذج اللغوية تميلُ إلى التعبير عن اليقين بمتوسط خطأ يبلغ نحو 47% في الإجابات المقدَّمة بثقة عالية، وهذا ما يجعل المستخدمين يعتمدون على مخرجاتها اعتمادًا كبيرًا؛ سواء وُسِمَتْ باليقين من عدمه. ويتفاقم الأثر في السرديات التاريخية والذاكرة المُتنازَع عليها. وعليه، فإنّ الخطاب الواثق المُنظََّم يمنح المعلومة المختلفة سُلطةً معرفية زائفة، تتيح تحوّلها إلى «حقيقة» راسخة في وعي المتلقي، بما يُنذر بتشويه الذاكرة الجمعية.

الهلوسة الرقمية.. من الخطأ التقني الى الإشكالية الخطابيّة

تُعرِّف الأدبيات التقنية الهلوسة بأنها مخرجات يولّدها نموذج لغوي كبير تبدو معقولة ومقنعة لكنها تنطوي على معلومات مختلفة أو مجانِبة للوقائع، كالمراجع غير الموجودة والاقتباسات المفبركة، وهو التعريف الذي تبنّته أنقي شاو في إطارها المفاهيمي المنشور في مجلة هارفارد كينيدي للتضليل المعلوماتي سنة 2025، حين استندت إلى تحديد أوغنشتاين وزملائه (2024) لهذه الظاهرة. وتُرجِع شاو نشأتها إلى الآلية الجوهرية لهذه النماذج، أي التنبؤ بالرمز اللغوي التالي استنادًا إلى أنماط إحصائية في بيانات التدريب، وهي آلية لا تستحضر الحقيقة بالمعنى المعرفي الإنساني. وانتهت الباحثة إلى أنّ الهلوسة لا تُردّ إلى سوء نية ولا إلى انحياز معرفي لدى منتجها، بل إلى هشاشات تقنية متراكبة تجعلها حتمية بنيوية؛ فهي إذن صنف متميز من التضليل لا يُقاس على التضليل البشري (Shao, 2025). وبالتالي يُصبح عمل هذا التوليد قائمًا على إنتاج نصوص غير موثوقة تخالف توقعات المستخدمين. وفي السياق العربي، نبّه الباحث في المعرفة عارف بن خميس الفزاري (2025) في مقالته المنشورة بجريدة «عُمان» إلى أنّ تكرار الهلوسة يُقوِّض الثقة في هذه النماذج، وأنّ مراجعة البشر لمخرجاتها تبقى شرطًا لا غنى عنه في التعليم والبحث العلمي.

غير أنّ اختزال الهلوسة في عطل تقني يؤدي الى اغفال بعدها الخطابي، فالنص المولّد يتخذ بنية خطابية مكتملة تشمل المقدمة والحجة واللغة الموضوعية والثقة في الصياغة، وهي البنية التي يمكن أن نصطلح عليها سلطة الخطاب الآلي. ويجد هذا الطرح سنده النظري في ما قرره ميشيل فوكو في درسه الافتتاحي بالكوليج دو فرانس (1970)، المنقول إلى العربية بعنوان «نظام الخطاب» بترجمة محمد سبيلا، من أنّ إنتاج الخطاب في كل مجتمع تضبطه وتنتقيه وتنظّمه وتعيد توزيعه إجراءات تحدّ من سلطته ومخاطره، وبذلك يكتسب الخطاب قوته من شروط إنتاجه وتداوله لا من صدقه وحده. وعلى المنوال نفسه، رأت سارة ميلز في كتابها «الخطاب» أنّ الخطاب عند فوكو ممارسة تُنتج موضوعاتها لا مجرد مجموعة من العبارات، وهو ما تبنّاه نورمان فيركلف في «الخطاب والتغير الاجتماعي» (1992) حين عدّ الخطاب ممارسة اجتماعية تسهم في تشكيل المعارف والعلاقات.

ومن هنا يميل المُستخدِم إلى منح المُخرجات مصداقية لأنها تظهر بلغة محايدة ومُتقنة، وهي ظاهرة تُعرف في أدبيات التفاعل بين الإنسان والآلة بـ«التحيُّز للأتمتة» والمقصود بها الإفراط في الاعتماد على التوصيات الآلية. وهذا التحيّز لا يُفسَّر بفرط الثقة وحده، بل تتداخل فيه عوامل منها الخبرة المهنية والإلمام بالذكاء الاصطناعي وطبيعة المهمة. كما كشف زو وزملاؤه (2024) في مؤتمر الجمعية الأمريكية للِّسَانيَّات الحاسوبية أنّ المستخدمين يعتمدون اعتمادًا كبيرًا على مخرجات النماذج سواء وُسِمَت باليقين أم لا، مع أنّ النماذج تميل إلى الإفراط في الثقة بمتوسط خطأ يناهز 47% في إجاباتها الموثوقة. وهكذا يتحول الخطأ العارض إلى خطاب مقنع، ثم إلى مرجع يُستشهد به.

الهلوسة.. أداة لتزييف المعرفة الحقيقية للتاريخ

تكتسب هذه الظاهرة خطورتها القصوى حين تتعلق بالتاريخ والذاكرة؛ فالتاريخ ليس مجموعة حقائق ثابتة فحسب، وإنما سردية تُبنى عبر اختيار الوقائع وتأطيرها وتحديد الضحايا والفاعلين. وقد ميّز بول ريكور في «الذاكرة، التاريخ، النسيان» بين صور من الذاكرة تتشكل بفعل الأيديولوجيا، فتنتقي من الماضي ما يلائمها وتنسى ما سواه، وهي الذاكرة المتلاعَب بها، وأخرى يصير فيها النسيان موضوع قرار تتخذه السلطة صاحبة الصلاحية، وهي الذاكرة المأمورة، وحين يولّد نموذج ذكاء اصطناعي رواية تاريخية مُحرفة أو ناقصة، فإنه لا يقدم مجرد معلومة خاطئة، بل يساهم في إعادة توزيع المعنى داخل الذاكرة العامة.

تكشف الدراسات أنّ بيانات التدريب نفسها قد تحمل تحيزات وثغرات وتمثيلات غير متوازنة مما يجعل النموذج قادرًا على إعادة إنتاج صور نمطية أو روايات تخدم مقومات سلطة بعينها، فالمدونات الضخمة المستمدة من الإنترنت تُفرط في تمثيل وجهات النظر المهيمنة وتنطوي على تحيزات تضر بالفئات المهمَّشة مما يجعل النموذج قادرًا على إعادة إنتاج صور نمطية أو روايات تخدم مقومات سلطة معينة.

وفي السياق العربي، تزداد المشكلة حين تكون الأرشيفات الرقمية غير متاحة، أو مكتوبة بلغة المهيمنين، أو خاضعة لأنساق مُضمرة سياسيًا وأيديولوجيًا. عندها قد يقدّم النموذج التاريخ الاستعماري أو الرواية الرسمية بوصفها معرفة متاحة، بينما تُهمَّش الروايات الشعبية، وشهادات الضحايا، واللغات المحلية، والذاكرة الشفوية، حتى أنه بإمكاننا التسليم أنّ النماذج العربية وتعددية اللغات تنحاز إلى الكيانات المرتبطة بالثقافة الغربية حتى حين تُخاطَب بالعربية ويُحدَّد لها سياق ثقافي عربي، والمصادر الشائعة في تدريب الذكاء الاصطناعي مثل "ويكيبيديا" قد لا تصلح لبناء نماذج واعية ثقافيًا ما لم تُعالَج، وهذا استنتاج تحليلي من الأدلة السابقة، ولا يزال يحتاج إلى اختبار تجريبي في الحالة العربية. 

إنّ إعادة كتابة التاريخ عبر الذكاء الاصطناعي لا تتطلب بالضرورة نيةً واعية للتضليل. فالمعلومات المضللة قد تنتشر دون قصد، بينما ينطوي التضليل على قصد خداعي. لكن الأثر السياسي قد يكون واحدًا: تثبيت رواية مهيمنة، وإضعاف قدرة المجتمعات على مقاومة والاعتراض على سردية رسمية أو استعمارية أو أمنية.

خطاب الحياد وسلطة المنصات

تُقدَّم أدوات الذكاء الاصطناعي غالبًا بوصفها محايدة وعلمية وحديثة. لكن هذا الخطاب نفسه يستحق التحليل؛ فالحياد المزعوم يُخفي قرارات بشرية تتعلق بجمع البيانات، وتصميم النماذج، واختيار المصادر، وتحديد المحتوى المسموح أو المحظور. إنّ من يملك البنية التحتية الرقمية يملك إلى حد بعيد، القدرة على تحديد أيّ الماضي يستحق الظهور وأيّه يُنسى.

ومن زاوية نقدية بنيوية، فإنّ مسألة الهلوسة ليست مسألة أخلاقيات فردية للمستخدم فحسب، بل مسألة تتعلق بملكية المعرفة وتوزيع السلطة الرمزية؛ إذ إنّ الهلوسة لا تُختزل في مسألة الأخلاقيات الفرديّة لدى المستخدم بل هي مسألة تتصل بملكية المعرفة وتوزيع السلطة الرمزية، وهو الأفق الذي يستحضر مفهوم الهيمنة عند الفيلسوف الإيطالي أنطونيو غرامشي؛ فالشركات التقنية الكبرى تتحول إلى وسيط بين المجتمعات وتاريخها، بينما تظل خوارزمياتها غير شفافة ومصادر بياناتها غير معلنة بالكامل. وأفاد ماخورتيخ (2025) في مقالةٍ له بأنّ استطلاعًا أجراه مع فيكتوريا فزياتيشيفا، بواقع ألف مشارك في كل بلد، أظهر أنّ 18.6% من المستجيبين الأمريكيين و12.7% من الألمان يستخدمون روبوتات الدردشة التوليدية للاستعلام عن الهولوكوست، وأنّ هذه الروبوتات، بخلاف محركات البحث، لا تحيل المستخدم إلى مصادر خارجية بل تقدّم له الإجابة مباشرة. وفي مقابل هذا الدور الوسيط، تظل الخوارزميات غير شفافة ومصادر البيانات غير معلنة بالكامل، وفي هذا السياق نستحضر ما أعلنه هابرماس من اقرار بأن هذا الحوار المحايد والشفاف لم يكن موجودًا حتى داخل المجتمعات والسياقات المعرفيّة الغربية الحديثة نفسها.

ولعلّ النظريات الديكولونيالية والبوستكولونيالية تُسعِفنا بتفسير أنماط السلطة التي تحكم الذكاء الاصطناعي، وتدعو إلى إدماج مقاربة نقدية في صميم الممارسة التقنية للذكاء الاصطناعي باعتبار أنّ الواقع الرقمي ساحة صراع على الهيمنة، لا مرآة محايدة للعالم.

إنَّ الذكاء الاصطناعي لا يُعدم كل إمكانية للحقيقة ببساطة، بل يعيد تنظيم شروط إنتاجها. وحين تتحول الهلوسة الرقمية إلى خطاب مُقنع، يصبح الماضي عرضة لإعادة كتابة صامتة تخدم مصالح السلطة التقنية والسياسية. لذلك فإنّ الدفاع عن التاريخ لا يبدأ من رفض التكنولوجيا، بل من استعادة القدرة النقدية، المتمثلة في سؤال المصادر، وكشف التأطير، وحماية الذاكرة من أن تُختزل في مخرجات آلة لا تعرف المعنى، لكنها قادرة على إقناعنا بأنها تعرفه!

** صحفية وباحثة تونسية