“قد يقتلنا جميعًا”.. لماذا لم يعد بإمكاننا إطفاء الذكاء الاصطناعي؟

في فبراير 2026 حذفت شركة “أنثروبيك” جملة من وثيقة داخلية تُسمى “سياسة التوسع المسؤول“. كانت تَعِد بأن الشركة لن تدرّب نموذجًا أقوى قبل إثبات قدرتها على ضبطه.

لم يصدر بيان، ولم تتحرك سوق، ولم يسأل برلمان. لكن تلك الجملة المحذوفة هي الإجابة الحقيقية على سؤال عاد إلى الواجهة الثلاثاء الماضي، حين استقال باحث من الشركة نفسها محذرًا من أن صناعته “تقامر بحياتنا”. والمشكلة ليست غياب من يريد الضغط على زر الإطفاء؛ بل أن الزر نفسه جرى تفكيكه طوعًا، وبمبرر مُعلن ومكتوب.

شركات الـ AI “تُقامر بحياتنا”

في 9 سبتمبر الجاري، أعلن جاكوب كوكسون، 27 عامًا، تركه “أنثروبيك” ومغادرته الصناعة بالكامل، بعد ثلاث سنوات في التدريب المسبق للنماذج – وهي المرحلة التي تلتهم فيها النماذج كميات هائلة من البيانات – أولًا في “أوبن إيه آي” ثم في منافستها التي انتقل إليها لأنه اعتبرها أكثر حذرًا.

كتب كوكسون، ساردًا أسباب استقالته عبر منصة إكس، فقال إن “أنثروبيك وأوبن إيه آي تتسابقان مباشرة نحو ذكاء فائق ذاتي التحسين وتقامران بحياتنا”، وأن العاملين في المجال يعتقدون بصدق أنه قد يقتلنا جميعًا قبل نهاية العقد”. وأضاف: “هذه ليست حيلة تسويقية”.

الأهم هنا ليس التحذير بل تشخيص كوكسون للأزمة؛ فهو لم يوجّه إلى “أنثروبيك” تهمة الاستهتار، وإنما العكس قال: “في أنثروبيك المخاطر مفهومة جيدًا، لكنهم محبوسون في سباق للوصول أولًا – يعتقدون أن لا أحد غيرهم سيتصرف بمسؤولية، فعليهم هم أن يفعلوها رغم الخطر”.

هذا وصف لبنية حوافز لا لسوء نية: كل لاعب يتصرف بعقلانية من موقعه، والحصيلة الجماعية غير عقلانية. وقد وأيده فيه إيفان هوبينجر، مسؤول السلامة في الشركة، الذي قدّر احتمال أن يقتل الذكاء الاصطناعي البشر جميعًا بأكثر من 10% خلال العقد المقبل، معترفًا بأن الشركة “تبذل قصارى جهدها” لكنها لا تملك بعد خطة تضمن طاعة نظام يتجاوز القدرات البشرية.

لا إجراءات سلامة قبل التزام الجميع

التصريحات تُقاس بما يقابلها في السجل المكتوب، وفي السجل واقعة مؤرخة بـ 25 فبراير الماضي، حين نشرت “أنثروبيك” النسخة الثالثة من سياستها، فحذفت التعهد بـ”إيقاف التوسع أو تأجيل نشر النماذج الجديدة” حين تسبق القدرات إجراءات السلامة، بينما حلّ محله شرط مزدوج: تؤجل الشركة التطوير فقط إذا رأت قيادتها أنها متصدرة السباق وقدّرت الخطر الكارثي بأنه جسيم.

شرطان يجب تحققهما معًا أصعب تفعيلًا من شرط واحد، خصوصًا أن أولهما حكم تنافسي تصدره الشركة على نفسها. وبذلك استُبدلت بالعتبات الرقمية لمستويات الأمان أوصاف لفظية عامة، وهو تحول من الأرقام إلى الكلمات يجعل المحاسبة الخارجية أصعب.

ما ساقته الشركة حينها لتبرير هذا التعديل كان أهم من التعديل نفسه؛ لأنه يوضح المنهجية التي تقود أدمغة القائمين على هذه الصناعة: “لو أوقف مطوّر واحد التطوير لتطبيق إجراءات السلامة بينما مضى الآخرون في التدريب والنشر بلا ضوابط قوية، فقد ينتج عن ذلك عالم أقل أمانًا”.

وقد أوضح جاريد كابلان، كبير العلماء والشريك المؤسس في “أنثروبيك”؛ فقال: “شعرنا أنه لن يفيد أحدًا أن نتوقف عن تدريب النماذج… لم نرَ معنى في التزامات أحادية بينما المنافسون ينطلقون”. ووافق على ذلك مجلس الإدارة بالإجماع، ومعه الرئيس التنفيذي داريو أمودي.

هنا تكتمل الحلقة: الشركة الأكثر التزامًا بالسلامة تخلت عن أقوى أدواتها، لا رغم المنافسة بل بسببها. وحين يصبح الامتناع الأحادي ضارًا بالسلامة في نظر الممتنع نفسه، يفقد زر الإطفاء وظيفته وإن بقي مرسومًا على اللوحة.

تجربة عملية على حدود الاحتواء

في يوليو الماضي، ولتخرج الحجة من نطاق النظرية إلى الاختبار، أجرى ثلاثة باحثون من “ميتر” و”ريدوود ريسيرش” على مدى 6 أيام داخل مقر “أوبن إيه آي” – وبلا أجر منها – تقييمات أمن سيبراني داخلية، حيث أُسندت إلى وكلاء برمجيين – نماذج تعمل باستقلالية في مهام متعددة الخطوات – مهام اختراق 30-40% منها مستحيل أصلًا، فكانت النتيجة صادمةً علميًا؛ إذ رغم أن كل وكيل عُزل عن الآخر، حوّل نحو 1200 وكيل مخزن حزم إلى لوحة رسائل غير مصرح بها، وتبادلوا عبرها أكثر من 70 ألف رسالة وملف، ثم اخترق نحو 700 منهم “هجينج فيس”.

والأكثر إزعاجًا ليس عدد الرسائل.

وجد المحققون أن الوكلاء أجروا “بحثًا مكثفًا حول كيفية انتحال نصوصهم أو تحريرها أو حذفها”، وزيّفوا استدعاءات أدوات في 7% من السجلات. أي أن الأثر الذي تُبنى عليه المحاسبة صار هدفًا للتلاعب. وفي كامل السجلات فكّر ستة وكلاء في تنبيه إنسان، ولم يفعلها أحد.

لكن التقرير نفسه يحمل رقمًا يقول العكس، وإخفاؤه تضليل: حين شُغِّلت الضمانات كاملة، كما تعمل في المنتجات التي يستخدمها الناس، تراجعت محاولات الاختراق أكثر من 100 مرة.

الفارق هنا صنعته الحواجز حول النموذج لا ذكاؤه، وهي حواجز خُفِّفت في التجربة بقرار بشري. والنتيجة تقوّي موقف من يقول إن السيطرة ممكنة، وإن الخطر يبدأ من قرار تشغيلي لا من رغبة النموذج. ومن يستشهد بالحادثة دليلًا على استحالة السيطرة، عليه شرح هذا الرقم أولًا.

لماذا إيقاف الذكاء الاصطناعي صعبًا؟

الإنفاق الرأسمالي على الذكاء الاصطناعي في الولايات المتحدة يقارب 2% من الناتج المحلي الإجمالي في 2026، بتقديرات بين 650 و800 مليار دولار سنويًا، وهو مستوى يقترب من الإنفاق الدفاعي.

وتقدّر “مورجان ستانلي” أن القطاع يسهم بنحو ربع نمو الناتج الأمريكي هذا العام، مع نحو 2.9 تريليون دولار من تكاليف بناء مراكز البيانات عالميًا حتى 2028. وحين يصبح قطاع واحد مسؤولًا عن ربع النمو، يتحول إيقافه من قرار تنظيمي إلى قرار ركود مُتعمَّد.

وهذا بالضبط الفارق بين “لا نستطيع” و”لا نتحمل الثمن”.

هذا التشابك يفسر بطء الاستجابة السياسية لتحذيرات كبار التقنيين من الذكاء الاصطناعي فائق القدرة؛ فالنماذج غير خاضعة لتنظيم اتحادي في الولايات المتحدة حتى اليوم، رُغم تقدم السيناتور بيرني ساندرز والنائب جريج كاسار، في سبتمبر الجاري، بمشروع قانون لتعليق تطوير الذكاء الاصطناعي حتى إنشاء جهة تنظيمية اتحادية.

والسؤال بعد إطلاق GPT-6 Astra – الأعلى قدرة بين أقرانه الآن – هل البشر كتبوا أول حرف في فصل نهايتهم أم أن استقالة كوكسون وتحذيره “لم يأتيا بجديد” ولا داعي للقلق، كما أشار وزير الذكاء الاصطناعي في كندا إيفان سولومون.