المخاطر المرتبطة بالذكاء الاصطناعي بين الواقع القائم والهواجس المستقبلية

عادل الدول
كاتب
(Adil Al Dool)

الحوار المتمدن-العدد: 8617 - 2026 / 2 / 13 - 23:36
المحور: تقنية المعلمومات و الكومبيوتر
    

لم يعد الذكاء الاصطناعي تقنية هامشية أو موضوعاً خيالياً، بل أصبح جزءاً أصيلاً من أنظمة الاقتصاد، والقضاء، والتعليم، والأمن، والإعلام. ومع هذا الانتشار المتسارع، تتزايد الأسئلة حول مخاطره الحقيقية: هل الخطر يكمن في انحياز خوارزمي غير مرئي؟ أم في سوء الاستخدام المتعمد؟ أم في سيناريوهات بعيدة المدى تتحدث عن فقدان السيطرة على “ذكاء فائق” مستقبلي؟

يمكن تصنيف المخاطر المرتبطة بالذكاء الاصطناعي إلى ثلاث فئات رئيسية: مخاطر قائمة وملموسة، ومخاطر تشغيلية ناتجة عن إساءة الاستخدام، ومخاطر وجودية نظرية ما تزال محل جدل أكاديمي.

أولاً: التحيز الخوارزمي (Algorithmic Bias)
ما هو التحيز الخوارزمي؟

هو انحياز منهجي يظهر في قرارات الأنظمة الذكية، يؤدي إلى نتائج غير عادلة ضد فئات اجتماعية معينة — مثل العرق أو الجنس أو الخلفية الاجتماعية — حتى وإن لم يقصد المطورون ذلك صراحة.

الخطورة هنا لا تكمن في “نية سيئة”، بل في أن النظام يتعلم من بيانات تعكس اختلالات تاريخية، ثم يعيد إنتاجها بشكل آلي وسريع وعلى نطاق واسع.

لماذا يحدث؟

بيانات تدريب متحيزة:
إذا تم تدريب النظام على بيانات تعكس واقعاً غير متكافئ — كهيمنة الرجال على مجالات تقنية في السير الذاتية — فسوف يستنتج أن هذا النمط هو “الطبيعي” ويعيد إنتاجه.

تصميم غير محايد للنموذج:
أحياناً تُستخدم متغيرات تبدو تقنية ومحايدة، لكنها تحمل دلالات اجتماعية عميقة. مثال ذلك استخدام الرمز البريدي كمؤشر على الجدارة الائتمانية، مما يؤدي عملياً إلى معاقبة سكان الأحياء الفقيرة.

غياب التنوع في فرق التطوير:
عندما يفتقر فريق التصميم إلى تنوع اجتماعي وثقافي، قد تُهمل تأثيرات النظام على مجموعات معينة دون قصد.

أمثلة واقعية

نظام COMPAS المستخدم في بعض المحاكم الأمريكية لتقدير احتمالية العودة للجريمة، أظهرت دراسة عام 2016 أنه يميل إلى تقييم المتهمين من أصول أفريقية كمخاطر أعلى مقارنة بغيرهم في ظروف مشابهة.

أنظمة التعرف على الوجوه التي طورتها شركات مثل Amazon أظهرت — وفق دراسة من معهد MIT عام 2018 — معدلات خطأ أعلى عند تحليل الوجوه ذات البشرة الداكنة مقارنة بالبشرة الفاتحة.

لماذا يعد خطراً حقيقياً؟

التحيز الخوارزمي لا يؤدي إلى “نهاية البشرية”، لكنه أخطر من ذلك في سياق يومي: فهو يرسخ التفاوتات الاجتماعية تحت غطاء “حياد تقني” مزعوم. كما أن كشفه صعب، لأنه مختبئ داخل أنظمة معقدة تبدو موضوعية ومحايدة.

وهذه مشكلة قائمة اليوم، وليست سيناريو مستقبلياً.

ثانياً: سوء الاستخدام (Misuse)
ما المقصود بسوء الاستخدام؟

هو الاستخدام المتعمد لتقنيات الذكاء الاصطناعي في أغراض ضارة، سواء من قبل أفراد أو جماعات أو حتى دول، مستغلين قدراتها في التزييف، والتحليل، والأتمتة.

أمثلة ملموسة

الأخبار المزيفة المتقدمة (Deepfakes):
في عام 2022، انتشر فيديو مزيف للرئيس الأوكراني Volodymyr Zelenskyy يدعو فيه جنوده للاستسلام، في محاولة لزعزعة الاستقرار.

الأسلحة الذاتية التشغيل:
تقرير للأمم المتحدة أشار إلى استخدام طائرات مسيّرة تعتمد على خوارزميات ذكية لتحديد الأهداف دون تدخل بشري مباشر في النزاع الليبي عام 2020.

المراقبة القمعية:
استخدام أنظمة التعرف على الوجوه وتقنيات التحليل الجماعي في مناطق مثل شينجيانغ بالصين لتتبع المعارضين.

الاحتيال المتقدم:
برامج قادرة على تقليد أصوات أفراد الأسرة بدقة، استُخدمت لخداع كبار السن وتحويل أموالهم تحت ذريعة “حالات طارئة”.

لماذا يعد هذا الخطر أكثر إلحاحاً؟

لأنه قائم الآن، ولا يتطلب ذكاءً خارقاً أو مستقبلياً. حتى النماذج الحالية — مثل نماذج اللغة الكبيرة — يمكن استخدامها في صياغة رسائل تصيد احتيالي متقنة يصعب كشفها.

والفرق الجوهري بين سوء الاستخدام والتحيز الخوارزمي هو أن الأول متعمد، بينما الثاني غالباً نتيجة خلل بنيوي غير مقصود.

ثالثاً: المخاطر الوجودية النظرية
ما هي؟

هي سيناريوهات طويلة المدى تفترض تطوير “ذكاء اصطناعي عام” (AGI) — أي نظام يضاهي أو يفوق الذكاء البشري في جميع المجالات — قد يفقد البشر السيطرة عليه، أو يحقق أهدافاً لا تتوافق مع القيم الإنسانية.

أبرز الفرضيات

مشكلة المحاذاة (Alignment Problem):
إذا لم تتوافق أهداف النظام مع القيم البشرية، فقد ينفذ مهمته بطرق كارثية. المثال الكلاسيكي هو “روبوت الدبابيس” الذي يُكلّف بتصنيع أكبر عدد ممكن من الدبابيس، فيحوّل موارد الأرض كلها — بما فيها البشر — لتحقيق هذا الهدف.

الانزلاق القيمي (Value Lock-in):
احتمال أن يفرض نظام متفوق مجموعة قيم غير مكتملة أو مشوهة بشكل دائم، مما يقيد تطور البشرية مستقبلاً.

سباق التسلح التقني:
تنافس دولي محموم لتطوير ذكاء اصطناعي متقدم دون ضمانات أمان كافية، خوفاً من التأخر الاستراتيجي.

هل هذه المخاطر واقعية؟

الغالبية العظمى من الباحثين في مؤتمرات علمية مثل NeurIPS يرون أن هذه السيناريوهات نظرية بحتة، ولا يوجد دليل على اقتراب ظهور ذكاء عام فائق.

حتى شخصيات تحذر من المخاطر بعيدة المدى، مثل Sam Altman، تؤكد أن الأمر ليس وشيكاً، وأنه يتطلب عقوداً من البحث لفهم تحدياته بشكل دقيق.

أما منظمات مثل Future of Life Institute فترى أن الوقاية من كارثة نادرة لكنها مدمرة قد تكون أولوية استراتيجية، حتى لو بدت بعيدة الاحتمال.

بين الخطر الواقعي والجدل النظري

عند ترتيب الأولويات، يبدو أن الخطر الحقيقي اليوم لا يكمن في “تمرد الآلات”، بل في:

أنظمة منحازة تؤثر على فرص العمل والعدالة.

أدوات قوية تُستخدم في التضليل والاحتيال والمراقبة.

سباق تقني قد يتجاوز الأطر الأخلاقية والتنظيمية.

الذكاء الاصطناعي ليس شراً في ذاته، لكنه قوة مضاعِفة: يضخم ما نغذيه به — بياناتنا، قيمنا، ومصالحنا.

لذلك، فإن إدارة مخاطره لا تتطلب الخوف، بل تتطلب حوكمة رشيدة، وشفافية، وتنوعاً في فرق التطوير، وأطراً قانونية تواكب التطور التقني.

الخطر ليس في وجود الذكاء الاصطناعي، بل في كيفية تصميمه، وتوجيهه، واستخدامه.

#عادل_الدول (هاشتاغ)       Adil_Al_Dool#          

---

ترجم الموضوع إلى لغات أخرى - Translate the topic into other languages

---

الحوار المتمدن مشروع تطوعي مستقل يسعى لنشر قيم الحرية، العدالة الاجتماعية، والمساواة في العالم العربي. ولضمان استمراره واستقلاليته، يعتمد بشكل كامل على دعمكم. ساهم/ي معنا! بدعمكم بمبلغ 10 دولارات سنويًا أو أكثر حسب إمكانياتكم، تساهمون في استمرار هذا المنبر الحر والمستقل، ليبقى صوتًا قويًا للفكر اليساري والتقدمي، انقر هنا للاطلاع على معلومات التحويل والمشاركة في دعم هذا المشروع.
 

اشترك في قناة ‫«الحوار المتمدن» على اليوتيوب
حوار مع الكاتبة انتصار الميالي حول تعديل قانون الاحوال الشخصية العراقي والضرر على حياة المراة والطفل، اجرت الحوار: بيان بدل	حوار مع الكاتب البحريني هشام عقيل حول الفكر الماركسي والتحديات التي يواجهها اليوم، اجرت الحوار: سوزان امين

كيف تدعم-ين الحوار المتمدن واليسار والعلمانية على الانترنت؟

تابعونا على:

الفيسبوك

التويتر

اليوتيوب

RSS

الانستغرام

لينكدإن

تيلكرام

بنترست

تمبلر

بلوكر

فليبورد

الموبايل