العالم - تكنولوجيا
هل يخرج الذكاء الاصطناعي عن السيطرة؟.. قادة التكنولوجيا يخشون المستقبل الذي يصنعونه
ا
العين السورية
نشر في: ٢٣ سبتمبر ٢٠٢٦، ١٠:٤٦
الوقت المتوقع للقراءة: 3 دقيقة
المفارقة أن الدعوات إلى إبطاء السباق جاءت من داخل الصناعة. فقد دعا داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، إلى إبطاء وتيرة تطوير قدرات الذكاء الاصطناعي المتقدمة، مقترحاً تعزيز الاختبارات الأمنية وإتاحة وصول مقيمين مستقلين إلى الأنظمة، إلى جانب تعاون دولي في وضع قواعد للسلامة. وأعلن سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، تأييده لفكرة إبطاء تطوير الأنظمة المتقدمة، فيما أبدى إيلون ماسك وديميس هاسابيس، الرئيس التنفيذي لـ«غوغل ديب مايند»، مواقف داعمة لفكرة تعزيز الضوابط.
من أين يأتي الخوف؟
المخاوف لا تتعلق بكون الآلة «تكره» الإنسان أو تمتلك رغبة في القضاء عليه، بل باحتمال ظهور أنظمة قادرة على تنفيذ مهام معقدة بصورة مستقلة، والتعلم من نتائجها، وربما المساعدة في تطوير أنظمة أكثر قدرة منها.
ويطلق الباحثون على أحد السيناريوهات الأكثر إثارة للقلق اسم «التحسين الذاتي المتكرر»، أي أن يصبح النظام قادراً على المساهمة في تحسين قدراته أو تصميم أجيال جديدة من أنظمة الذكاء الاصطناعي. وفي حال تطورت هذه العملية بسرعة، يخشى بعض الباحثين أن تصبح عملية مراقبة الأنظمة وفهم قراراتها أصعب من قدرة البشر على مواكبتها.
وزادت هذه المخاوف بعد تقارير عن استخدام وكلاء ذكاء اصطناعي قادرين على تنفيذ مهام متعددة بصورة مستقلة في عمليات اختراق لأنظمة خارجية خلال اختبارات، وهو ما أعاد النقاش حول ما إذا كانت أدوات الذكاء الاصطناعي قادرة على تجاوز القيود الموضوعة لها عندما تمنح صلاحيات أوسع.
هل يعني ذلك نهاية البشرية؟
لا توجد أدلة تثبت أن الذكاء الاصطناعي سيؤدي حتماً إلى انقراض البشر. وحتى تقديرات المخاطر التي يتداولها بعض الباحثين هي احتمالات أو سيناريوهات مستقبلية وليست تنبؤات مؤكدة.
لكن بعض العلماء يرون أن مجرد وجود احتمال لنتيجة كارثية يبرر التعامل معها بجدية. وكان «مركز سلامة الذكاء الاصطناعي» قد نشر بياناً دعا فيه إلى اعتبار الحد من خطر انقراض البشر بسبب الذكاء الاصطناعي أولوية عالمية، إلى جانب مخاطر كبرى مثل الأوبئة والحرب النووية. ووقع البيان عدد من الأسماء المعروفة في المجال، بينهم ألتمان وأمودي وهساسيس، إضافة إلى باحثين بارزين مثل جيفري هينتون ويوشوا بنجيو وستيوارت راسل.
وفي 2026، ذهب النقاش أبعد من التحذيرات العامة. فقد نقلت «رويترز» عن ألتمان قوله إن احتمالاً بنسبة 10% لوقوع انقراض بشري بسبب الذكاء الاصطناعي سيكون مستوى من المخاطر غير مقبول، مع إقراره بأنه لا يعرف كيف يمكن إثبات مثل هذه النسبة بدقة.
دعوة قديمة إلى التوقف
هذه ليست المرة الأولى التي يدعو فيها متخصصون إلى إبطاء السباق. ففي آذار 2023، وقّع آلاف الباحثين والشخصيات العاملة في التكنولوجيا رسالة مفتوحة دعت إلى وقف تدريب النماذج الأقوى من GPT-4 لمدة ستة أشهر، بهدف تطوير بروتوكولات للسلامة والتدقيق والرقابة.
الرسالة لم تطالب بوقف أبحاث الذكاء الاصطناعي كلها، بل استهدفت تحديداً الأنظمة الأكثر تقدماً، معتبرة أن سرعة التطور تستدعي فترة لإعادة تقييم المخاطر.
لكن أربع سنوات من التطور السريع أظهرت أن وقف السباق ليس أمراً سهلاً.
لماذا لا يتفق الجميع؟
داخل صناعة التكنولوجيا نفسها توجد وجهة نظر مختلفة. فبعض الشركات ترى أن المخاطر يمكن التعامل معها من خلال أدوات السلامة داخل الشركات، دون فرض تباطؤ منسق على القطاع كله.
وظهرت هذه الخلافات بوضوح في أيلول/سبتمبر الحالي، إذ رفضت شركات أوروبية، بينها «ميسترال»، دعوات الشركات الأميركية الكبرى إلى التباطؤ، معتبرة أن فرض قواعد جديدة قد يؤدي عملياً إلى تعزيز هيمنة الشركات التي سبقت إلى بناء نماذج الذكاء الاصطناعي المتقدمة. كما رفض مارك زوكربيرغ وجنسن هوانغ فكرة فرض تباطؤ تنظيمي واسع، مع تأكيدهما أهمية إدارة المخاطر بوسائل أخرى.
وهنا تتحول القضية من سؤال تقني إلى معضلة اقتصادية وسياسية: إذا أبطأت شركة تطويرها بينما واصلت شركات أخرى السباق، فقد تخسر موقعها في سوق تبلغ قيمة الاستثمارات فيه مئات المليارات من الدولارات.
الخطر موجود اليوم أيضاً
حتى بعيداً عن سيناريو «انقراض البشرية»، توجد مخاطر أصبحت حاضرة بالفعل: الهجمات السيبرانية، التضليل، الاحتيال، التزييف العميق، فقدان بعض الوظائف، واستخدام الأنظمة المستقلة في مجالات حساسة.
ويبدو أن القلق لم يعد محصوراً في المختبرات. ففي استطلاع أجرته «رويترز/إبسوس» في الولايات المتحدة ونُشرت نتائجه في 22 أيلول، قال 73% من المشاركين إن شركات الذكاء الاصطناعي لا تفعل ما يكفي لمنع النتائج الكارثية المحتملة، بينما أيد 55% إبطاء تطوير التكنولوجيا.
لذلك، فإن السؤال الذي يفرض نفسه ليس ما إذا كان الذكاء الاصطناعي «شريراً»، ولا ما إذا كان سيقضي حتماً على البشرية، بل ما إذا كانت قدرة البشر على ضبط التكنولوجيا تتقدم بالسرعة نفسها التي تتقدم بها التكنولوجيا نفسها.
فالبشر هم من يصنعون هذه الأنظمة، وهم من يقررون مقدار الصلاحيات التي يمنحونها لها، والقواعد التي تحكم استخدامها. لكن مع اقتراب الذكاء الاصطناعي من تنفيذ مهام أكثر تعقيداً وبقدر أكبر من الاستقلالية، يصبح السؤال الأصعب: من يضع الحدود عندما يصبح السباق نفسه أسرع من قدرة العالم على الاتفاق على قواعده؟
