◄ الكلباني: الذكاء الاصطناعي يتحكم بنا دون أن نشعر وقد يضلل المستخدمين بسبب التحليل الخاطئ للبيانات

◄ الخوارزميات تقوم بجمع البيانات وتحليلها من خلال سلوكيات المستخدمين عبر الإنترنت

◄ الذكاء الاصطناعي يقدم التوصيات للمستخدمين بناء على سلوكياتهم

◄ تؤثر الخوارزميات في تغيير السلوكيات الاستهلاكية عبر سياسة "الإغراق"

الرؤية- سارة العبرية

في الوقت الذي تتنافس فيه شركات التكنولوجيا العملاقة لتطوير منتجاتها الرقمية والاستعادة بتقنيات الذكاء الاصطناعي التي تشهد تطورا ملحوظا خلال الشهور الأخيرة، زادت المخاوف من تحكم خوارزميات الذكاء الاصطناعي في سلوكيات الأفراد والمستخدمين، وأيضًا التأثير على مشاعرهم سلبا أو إيجابا، عبر الاستعانة بالبيانات الخاصة بالمستخدم وتتبع اهتماماته من خلال تصفح مواقف وصفحات الإنتنرت، وتصنيف هذه الاهتمامات وتحليلها ومن ثم محاصرته بالإعلانات الموجّهة واقتراح الصفحات والحسابات، الأمر الذي يتسبب في تغيير سلوك المستخدم أو تكوين اتجاهات مُعينة تجاه منتج أو سلعة.

ويوضح سعيد الكلباني- خبير في الخدمات الرقمية- أن الخوارزميات في الأساس هي تعليمات برمجية تُنفذ عمليات تسلسلية عبر جمع البيانات وتخزينها وتحليلها والخروج منها بتصنيف مُتدرج حول تصفح المستخدمين وسلوكهم على صفحات الإنترنت ومواقع التواصل الاجتماعي، مشيرا إلى أن هذه البيانات تشمل العناصر التي تصفحها المستخدم بكثرة أو بحث عنها أو تفاعل معها أو حتى اشتراها.

ويضيف أنه يمكن الآن بواسطة vision computer متابعة الأفراد في الواقع الحقيقي وتسجيل تحركهم في مراكز التسوق والصيدليات والمواد التي يركزون عليها، وهذا يدفع العنصر البشري المشرف على تلك المراكز بعد تحليل البيانات أن يدرك أكثر العناصر طلباً ومن ثم يقدمها في واجهة تلك المراكز.

ويشرح أخصائي الخدمات الرقمية أن خوارزميات الذكاء الاصطناعي تعمل على تحسين تجربة المستخدم من خلال عدد من العمليات المبنية على تحليل سلوك المستخدم وتقديم توصيات مخصصة تعتمد على التاريخ التصفحي للمستخدم وعمليات الشراء السابقة والتفاعل مع المحتوى، كما يمكن تكييف واجهة المستخدم للصفحات عبر الإنترنت حسب احتياجات أو اهتمامات أو عمليات البحث التي تم تسجيلها سابقاً وتحليلها، مبيناً أن أنها تعمل أيضا على تحسين عمليات الشحن والتوصيل من خلال التنبؤ بالأوقات المتوقعة للتسليم وتحسين توزيع المُنتجات بشكل أكثر كفاءة.

ويقول الكلباني: "باتت الخوارزميات تفهم ما نفضله وما نحتاج إليه وما يمكن أن نقوم بدفع المال لأجله، كما أنها تتمكن من معرفة حالتنا الصحية والكثير من سلوكياتنا من خلال بيانات تصرفاتنا وسلوكياتنا في التفاعل مع العناصر في بيئتنا، فهي تتحكم بنا دون وعي منَّا وتتيح لنا الخيارات والعناصر التي تصنفها بأنها تجذبنا أو مفضلة لدينا بعد جمعها وتحليلها للبيانات، كما توفر لنا المفضل والمرغوب، كما أنها قادرة على توجيهنا لمسارات أخرى من خلال سياسية الإغراق وهي إظهار إعلانات منتج ما بكثرة عبر المنصات التي نستخدمها وتُظهر مقارنات ترجح أفضليتها، مما يدفعنا للشراء وتجربة أي جديد بتوجيه من الخوارزميات، فهي هنا تتحكم في شعورنا نحو عنصر ما عبر التقييم والمقارنة مع عناصر أخرى وترجيح كفّة العنصر الذي تروج له". ويذكر الكلباني: "على مستوى حالة الشعور العميقة في النفس، فإنها إما أن تغرقنا في الإيجابية أو السلبية، وذلك من خلال قراءة وتتبع تحركاتنا وبحثنا في المحتوى المنشور على الشبكة، فعندما تقرأ أننا نبحث في الاتجاهات النفسية السلبية فهي أمام خيارين يعتمدان على ما تم برمجتها عليه، فإما أن توفر المزيد من المحتوى السلبي وتغرقنا في السلبية، أو بطريقة غير مباشرة تستعرض وتوفر المحتوى الإيجابي كإعلانات فرعية أو محتوى يُظهر تلقائيا، وبالتالي تبعدنا عن السلبية وتحول مشاعرنا للجانب الأفضل، فالخوارزميات يُمكنها التحكم بحالتنا الشعورية كمستهلكين بالانزياح نحو شيء كان سابقا مصدر رفض أو لعنصر جديد نتخلى معه عن عنصر سابق كان مفضل لدينا".

وأما من حيث الجودة والأمان في التسوق، فيلفت إلى أن الذكاء الاصطناعي يعمل على رفع مستوى الجودة من خلال كشف التلاعب في المعايير وإسقاط المعايير الحقيقية على المواد التي تهم المستخدم، وكذلك من حيث الأمان فإنه يكشف عن الاحتيال والتلاعب في العمليات التجارية عبر الإنترنت، مثل عمليات الدفع المزيفة أو الحسابات المزورة، موضحا أن الأكثر انتشارا خلال الفترة الحالية هو تحسين تجربة العملاء من خلال توفير الروبوتات والتي تعمل على مدار الساعة دون تدخل بشري وتجيب عن جميع التساؤلات وتُنسق كل عمليات البيع والشراء، وهذا الأمر يحسن من تجربة المستخدم سواء البائع أو المستهلك.

ويتابع الكلباني: "تشترك كل العمليات التي تقوم بها الخوارزميات في نقطة مركزية وتعتبر عنصر الأساس والمتمثلة في جمع البيانات ومن ثم تحليلها، وكذلك الحال في الشبكات الاجتماعية حيث تجمع البيانات حول المستخدم ونشاطه على الشبكة الواحدة أو مجموعة شبكات إن كان بينها ارتباط كما هو الحال في ميتا وفيسبوك وانستجرام والواتساب، ثم بعد ذلك تعمل على إنشاء ملف تعريف للمستخدم بناءً على اهتماماته وتفاعلاته السابقة مع المحتوى، وفي نفس المسار، تعمل الخوارزميات على تقييم المحتوى المُتاح للمستخدم سواء كان ذلك منشورات أصدقائه أو إعلانات، ويتم تقدير مدى تناسب هذا المحتوى مع ملف تعريف المستخدم وتقديم توصيات بإظهارها كنتيجة أولى مهمة أو اقصائها لأنه لا يهتم بها".

مخاطر الخوارزميات

ويقول سعيد الكلباني إن مخاطر التأثر بالذكاء الاصطناعي والمنصات الرقمية تبدأ في الذهن للتطور بعد ذلك إلى الجسد، وذلك بإدمان شبكات التواصل والصفحات من خلال إظهار العناصر المفضلة لدى المستخدم، مما يدفعه للجلوس لساعات طويلة ضمن تلك الدوائر الرقمية، كما أن وجود المحفزات والخيارات المتعددة وإظهارها للمستخدم بشكل متتابع ومدروس يمكن أن تكسبه خيارات الشراء غير المنظمة والمتعددة مما يعني فقدان الكثير من المال.

ويضيف: "هناك تأثير عميق يقوم به التمييز الخوارزمي Algorithmic Discrimination وهذا التأثير يتمثل في جانبين الأول فيما يعرف Filter Losses أو خسائر التصفية؛ حيث يتم فيها آليا استبعاد المعلومات أو الآراء التي لا تتوافق مع اهتمامات المستخدم والتي يترتب عليها تضييق الرؤية وتعزيز الانغلاق على آراء ومعلومات محدودة لديه، والجانب الثاني هو Digital Echo Chamber وفيه يتم تعزيز المحتوى الذي ينتمي إلى نفس السلوكيات أو الآراء الموجودة بالفعل للمستخدم، ويقلل من التنوع في الآراء والآفاق".

ويرى الكلباني أنَّ الخوارزميات ليست معصومة من الخطأ وخصوصا أنها قائمة على تتبع البيانات، وبالتالي يُمكن أن تقدم تصنيفات خاطئة حول المستخدمين مما يدفعها لتضليل المستخدم وإرباكه،  كما أن الجانب الأمني من خلال التتبع ينخفض وتصبح الخصوصية في أقل مستوياتها بسبب جمع الكثير من البيانات حول المستخدم بدءًا من الاسم والعمر وربما الحالة الصحية والأسرية، وغيرها الكثير.

وحول تطوير خوارزميات لتعزيز الوعي بمسائل الاستدامة وتوجيه المستهلكين نحو خيارات استهلاكية أفضل بيئيًا، يوضح الكلباني أن العملية قائمة على البيانات وأن الموضوع هنا يترتب على توجهات الأفراد المسيطرين على تلك التقنيات العاملة على جمع البيانات وتحليلها، فمثلما يحدث بأن توجه الخوارزميات لجمع البيانات وتحليلها وفق محددات تسويقية لمنتجات تجارية مثلاً، فإنه يمكن أن توجه بأن تحلل البيانات وفق محددات تعطي خيارات تسويقية أفضل تصب في صالح المستخدم، وأيضاً تصنف المواد والأدوات وكل العمليات وفق ما يضر البيئة أو يخدمها وتوزع سلوكيات المستخدم نحو الشراء والاستخدام الذي يحافظ علي البيئة وليس العكس.

ويذكر: "يمكن توجيه الخوارزميات للعمل نحو قراءة وتحليل البيانات البيئية ومراقبة الأنشطة والمواد التي تضر بها، وفي ضوئها تحدد الأدوات الاستهلاكية التي يمكن أن ترفع الضرر عن البيئة وبنفس الوقت لا تضر بالمستخدم من خلال تقديمها كخيارات أولية للشراء أو كمعلومات وغير ذلك".

تعامل القانون

وفقاً للقوانين الدولية والتي بينها قانون حماية البيانات وبطبيعة الحال الخصوصية والمعروف بالاختصار (GDPR)والمشير إلى General Data Protection Regulation ، فإن التعدي على خصوصية الأفراد من خلال بياناتهم يُعتبر مخالفاً للقانون وأن هذه القوانين تجبر الشركات على الالتزام بمعايير وضوابط تحكم طرق عمل الخوارزميات في جمع البيانات وتجبرها على الشفافية في ذلك.

ويؤكد خبير الخدمات الرقمية: "ليست كل الشركات تخضع للرقابة فمنها يعمل بطرق مُلتوية ويجمع البيانات للاستفادة منها كجامع البيانات أو تباع لطرف ثالث ليستفيد منها كمشترٍ للبيانات، والحلول المطروحة للتحكم وضبط الخوارزميات هي التقييم المستقل للخوارزميات، وبناء خوارزميات مضادة للخوارزميات غير الصريحة أو التي لا تعطي للمستخدم حقوق التحكم في إدارة بياناته، والتعاون الدولي في محاربة مثل هذه التصرفات والعمل التقني، من خلال تعميم القوانين والتثقيف للأفراد، دون إغفال تحقيق التوازن بين سياسات التتبع للخوارزميات وتطوير المحتوى والتسويق الاستهلاكي الإيجابي".