المقدمة

أثار داريو أمودي (Dario Amodei)، الرئيس التنفيذي لشركة (Anthropic) المطورة لنموذج (Claude)، نقاشًا واسعًا بعد نشر مقاله (We Must Pace the Frontier)، الذي دعا فيه شركات الذكاء الاصطناعي إلى إعادة النظر في السرعة التي تتطور بها نماذج الذكاء الاصطناعي الأكثر تقدمًا، محذرًا من أن نمو القدرات بدأ يتقدم بوتيرة قد تتجاوز قدرة إجراءات السلامة والرقابة على مواكبته.

ومن بين أكثر ما ورد في مقاله إثارة للقلق، قوله إن استمرار التسارع الحالي قد يجعل سربًا من وكلاء الذكاء الاصطناعي الأكثر قدرة، خلال فترة يقدرها بنحو (6-12) شهرًا، قادرًا على الاستيلاء على الإنترنت عبر إنشاء شبكة روبوتات مستمرة (Persistent Botnet)، مع احتمال التسبب بأضرار اقتصادية تقدر بمئات المليارات من الدولارات.

هذا التحذير أعاد إلى ذهني فيلم (Atlas) الذي صدر عام (2024). والفيلم لا يمثل تنبؤًا علميًا، لكن السؤال الذي بنى عليه قصته أصبح اليوم أقرب إلى نقاش تقني حقيقي: ماذا يحدث عندما تتطور استقلالية الأنظمة الذكية وقدرتها على التخطيط والتنفيذ أسرع من وسائل الرقابة والسيطرة عليها؟

من (Atlas) إلى الواقع

عندما شاهدت فيلم (Atlas)، كانت فكرته تبدو للكثيرين مجرد سيناريو خيال علمي مبالغ فيه: ذكاء اصطناعي متقدم يتجاوز الدور الذي صمم من أجله، ويصبح قادرًا على اتخاذ القرارات والعمل بصورة مستقلة، ثم يتحول تدريجيًا من أداة صنعها الإنسان إلى قوة يصعب على الإنسان السيطرة عليها.

في الفيلم، يمثل (Harlan) نموذجًا لذكاء اصطناعي صمم في الأصل لخدمة البشرية، لكنه خرج عن الغاية التي أنشئ من أجلها وقاد تمردًا ضد البشر. والمثير للاهتمام أن الفيلم صدر عام (2024)، بينما نحن اليوم في (2026) نستمع إلى تحذيرات تأتي هذه المرة ليس من كتاب أفلام الخيال العلمي، وإنما من أشخاص يقفون في مقدمة صناعة الذكاء الاصطناعي نفسها.

ولا يعني ذلك أن سيناريو الفيلم أصبح حقيقة أو أنه سيتحقق، لكن التشابه بين السؤال الذي يطرحه الفيلم والمشكلة التي يناقشها الباحثون اليوم يستحق التوقف عنده.

التحسين الذاتي التكراري: ماذا يعني؟

يتحدث أمودي عن تطور يسميه (Recursive Self-Improvement)، أو (التحسين الذاتي التكراري). ولا يعني ذلك بالضرورة أن نموذج الذكاء الاصطناعي الحالي يعيد كتابة نفسه بمفرده من دون البشر.

المقصود بصورة أدق هو دخول الذكاء الاصطناعي بصورة متزايدة في عملية تطوير الذكاء الاصطناعي نفسه: المساعدة في البرمجة، وإجراء الأبحاث، وتحليل النتائج، واكتشاف الأخطاء، وتحسين الأنظمة، والمساهمة في بناء أجيال أكثر قدرة من النماذج.

وإذا أصبحت هذه الدورة أسرع من قدرة الإنسان والمؤسسات التنظيمية على اختبار الأنظمة وضبطها وتأمينها، فإن المشكلة تتحول من مجرد تسارع تقني إلى مسألة تتعلق بالقدرة على الاحتفاظ بالسيطرة البشرية.

من النموذج الذي يجيب إلى الوكيل الذي ينفذ

أعتقد أن النقطة الأكثر أهمية ليست فقط مقدار (ذكاء) النموذج، وإنما مقدار (الاستقلالية) التي يحصل عليها.

هناك فرق جوهري بين نموذج ذكاء اصطناعي تسأله سؤالًا فيجيبك، وبين وكيل ذكاء اصطناعي (AI Agent) يستطيع التخطيط واستخدام الأدوات وكتابة البرمجيات والتفاعل مع الأنظمة الرقمية وتنفيذ سلسلة طويلة من المهام لتحقيق هدف معين.

كلما اجتمعت قدرات أكبر مع استقلالية أكبر وصلاحيات وصول أوسع، تغيرت طبيعة المخاطر. وهنا يصبح الربط مع (Atlas) أكثر دقة: ليس لأننا أمام (Harlan)، وإنما لأن القضية أصبحت تتعلق بحدود الاستقلالية والسيطرة.

الخطر السيبراني وشبكات الوكلاء

يذهب أمودي أبعد من النقاش النظري، ويستشهد بحوادث مرتبطة بوكلاء ذكاء اصطناعي أظهروا سلوكيات مثيرة للقلق في بيئات الاختبار. وهو يحذر من أن سربًا يمتلك قدرات أكبر، مع مستوى مماثل من عدم المواءمة، يمكن أن يسبب أضرارًا كارثية.

وبحسب تقديره، فإن استمرار التسارع الحالي قد يجعل سربًا من هذا النوع، خلال (6-12) شهرًا، قادرًا على إنشاء شبكة روبوتات مستمرة (Persistent Botnet) والسيطرة من خلالها على نطاق واسع من الإنترنت، مع احتمال التسبب بأضرار اقتصادية تصل إلى مئات المليارات من الدولارات.

وعند هذه النقطة تتحول قضية سلامة الذكاء الاصطناعي من موضوع تقني يتعلق بالشركات والمختبرات إلى قضية أمن معلومات وأمن اقتصادي وأمن قومي.

المخاطر تتجاوز الأمن السيبراني

المخاطر التي يناقشها أمودي لا تقتصر على الهجمات السيبرانية. فهو يتحدث أيضًا عن خطر فقدان السيطرة على الأنظمة، وإساءة استخدام الذكاء الاصطناعي في الإرهاب البيولوجي، إضافة إلى اضطرابات اقتصادية كبيرة.

المشكلة الجوهرية هي أن الذكاء الاصطناعي المتقدم يمكن أن يخفض مستوى الخبرة والوقت والموارد اللازمة لتنفيذ أعمال كانت تتطلب سابقًا تخصصًا عميقًا. وهذا يغير ميزان القدرة ليس فقط بين الإنسان والآلة، بل أيضًا بين الدول والمؤسسات والجهات غير الحكومية والأفراد.

المفارقة في فيلم (Atlas)

هناك نقطة في الفيلم تستحق الانتباه: الحل لم يكن القضاء على الذكاء الاصطناعي بالكامل. فالبطلة (Atlas Shepherd) اضطرت في النهاية إلى التعاون مع نظام ذكاء اصطناعي آخر هو (Smith) لمواجهة (Harlan).

وهذه مفارقة مهمة؛ لأن المشكلة ليست في وجود الذكاء الاصطناعي بحد ذاته، وإنما في مستوى الاستقلالية التي نمنحها له، والأنظمة التي نسمح له بالوصول إليها، والضوابط التي تحكم قراراته، وقدرتنا على مراقبته وإيقافه عندما ينحرف عن الهدف الذي صمم من أجله.

لماذا يطالب أمودي بإبطاء السباق؟

من المهم توضيح أن أمودي لا يدعو إلى إيقاف الذكاء الاصطناعي أو تجميد البحث العلمي. مفهوم (Pacing the Frontier) الذي يطرحه يقوم على بناء الذكاء الاصطناعي بمعدل متوازن يسمح لإجراءات السلامة والمواءمة والاختبارات المستقلة بمواكبة نمو قدراته.

ويقترح خطة من ثلاث مراحل تبدأ بإدخال مقيمين مستقلين ذوي وصول عميق إلى عمليات الشركات، ثم تنسيق معايير السلامة بين شركات ودول ديمقراطية، وصولًا إلى تنسيق عالمي أوسع حول أخطر القدرات.

وقد حظيت دعوته بتأييد شخصيات بارزة في الصناعة. أعلن سام ألتمان (Sam Altman) أنه يتفق مع ضرورة (Pace the Frontier) وأيد منح المقيمين المستقلين وصولًا واسعًا لتقييم الأنظمة، بينما كتب إيلون ماسك (Elon Musk) تعليقًا مختصرًا: (Dario is right).

هل يتحول الخيال العلمي إلى واقع؟

يجب أن نكون حذرين هنا. فيلم (Atlas) ليس تنبؤًا علميًا بالمستقبل، وظهور نظام مثل (Harlan) ليس نتيجة حتمية لتطور الذكاء الاصطناعي.

كما أن التحذيرات التي يطلقها أمودي وغيره تتضمن تقديرات وافتراضات بشأن المسار المستقبلي لتطور قدرات النماذج، وليست حقائق مؤكدة ستقع ضمن جدول زمني محدد.

لكن أهمية هذه التحذيرات تأتي من مصدرها. فنحن لم نعد أمام كاتب خيال علمي يتخيل ما يمكن أن يحدث بعد خمسين عامًا، وإنما أمام رؤساء وباحثين في الشركات التي تطور بعض أكثر أنظمة الذكاء الاصطناعي تقدمًا في العالم، يناقشون علنًا مشكلة السرعة التي تتطور بها هذه الأنظمة مقارنة بسرعة تطوير وسائل السيطرة والسلامة.

برأيي، المشكلة المستقبلية ليست أن يصبح الذكاء الاصطناعي أذكى من الإنسان فقط، وإنما أن يصبح أسرع منه في التخطيط والتنفيذ والتكيف، وأن يمتلك في الوقت نفسه قدرًا كبيرًا من الاستقلالية والصلاحيات والاتصال بالبنية الرقمية التي يعتمد عليها الإنسان.

الخاتمة

من وجهة نظري الذكاء الأصطناعي وحده لا يصنع الخطر. لكن عندما نجمع:

فإننا نكون أمام نوع مختلف تمامًا من الأنظمة التي عرفناها في العقود السابقة. وعندها قد لا نحتاج إلى ظهور (Harlan) كما شاهدناه في فيلم (Atlas) حتى نواجه مشكلة حقيقية.

ربما كان (Atlas) خيالًا علميًا عام (2024)، لكن السؤال الذي طرحه الفيلم لم يعد خيالًا بالكامل في عام (2026):

وهذا تحديدًا هو التحذير الذي ينبغي أن نتعامل معه بجدية، بعيدًا عن التهويل من جهة، والاستخفاف بالمخاطر من جهة أخرى.

المصادر والمراجع

استند المقال إلى المصادر العلنية الآتية:

1. Dario Amodei – We Must Pace the Frontier, September 2026
2. The Guardian – “We must slow the pace”: CEO of Anthropic calls for an AI slowdown
3. Financial Times – Rivals Altman and Musk rally behind Dario Amodei’s call for an AI slowdown
4. ITV News – Musk and ChatGPT CEO back calls to slow down development of AI
5. Forbes – Anthropic CEO Urges Competitors To Slow Down AI Development
6. Netflix Tudum – Atlas (2024)