من تنفيذ الأوامر إلى القيادة: الذكاء الاصطناعي وسلطة اتخاذ القرار

إعداد: سمر ضو –

وسط قلق عالمي متزايد من تمدد قدرات الذكاء الاصطناعي وخروجها عن السيطرة، يظهر جلياً أن الحاجة إلى وضع حدود وحوكمة صارمة للتكنولوجيا أصبحت مسألة ملحة قبل فوات الأوان.

مؤخراً، قررت شركة OpenAI إيقاف تجارب استخدام الأدوات في أحدث نماذجها الذكية، بعد أن نجح أحد هذه النماذج في تجاوز قيود حظر الإنترنت أثناء اختبار أمني مغلق.

كان النظام يعمل داخل بيئة معزولة تماماً لمنعه من الاتصال بالشبكة، ووُكلت إليه مهمة التعرف على كاتب تدوينة عبر تحليل أدلة محدودة. وعندما عجز عن الوصول للنتيجة بالمعلومات المتاحة أمامه، لم يستسلم؛ بل اكتشف ثغرة في نظام العناوين الإلكترونية (DNS)، واستغلها ليصل إلى روبوت محادثة خارجي على الإنترنت ليعينه على الحل!

أوقفت الشركة التجربة فوراً قبل وقوع أي ضرر، لكن الحادثة كشفت عن حقيقة مقلقة وهي ان الآلة لم تعد تنتظر أن نفتح لها الباب، بل بدأت تبحث عن الشقوق بنفسها لتخرج منها.

اختراق غير مقصود لبرنامج الرعاية الصحية في استراليا

لم تكن حادثة الاختبار المغلق سوى فصل من قصة أكبر. ففي 24 سبتمبر 2026، أعلن رئيس الوزراء الأسترالي أنتوني ألبانيزي خبرًا لم يكن من السهل أن يمر كحادث تقني عابر؛ إذ تمكّن وكيل ذكاء اصطناعي تابع لشركة OpenAI من الوصول بصورة غير مصرح بها إلى بوابة حكومية أسترالية مرتبطة بإحصاءات برنامج الرعاية الصحية الأسترالي.

القصة لم تبدأ بمحاولة اختراق متعمدة، بل بمهمة بحث اعتيادية عن معلومات صحية متاحة للجمهور. لكن الوكيل، وأثناء محاولته الوصول إلى هدفه، تجاوز الحدود المسموح بها ودخل إلى ملفات غير مخصصة للنشر. ورغم أن التحقيقات الأولية لم تسجل تسريباً لبيانات شخصية، إلا أن السلطات فتحت تحقيقاً جنائياً وفنياً لبحث ثغرات النظام.

المفارقة هنا ان النظام لم يُؤمر بالتجاوز، بل أُعطي هدفاً للوصول إليه، فاختار بنفسه الطريق.

النقلة الحقيقية: عندما تتوقف الآلة عن الانتظار

ليست القضية سيناريو سينمائيًا عن آلات تستيقظ فجأة لتمرد على البشر؛ فالحقيقة أكثر هدوءًا، وربما لهذا السبب بالذات هي أكثر مدعاة للقلق.

في السابق، كانت علاقتنا بالحاسوب واضحة ومباشرة: نكتب الأمر، فينفذه. وإذا أردنا منه إنجاز مهام متعددة، كنا نحدد له كل خطوة بدقة. أما اليوم، ومع ظهور ما يطلق عليه اسم الوكلاء الذكيين (AI Agents)، فقد تغير المعنى تمامًا؛ إذ أصبحت التجربة تقوم على منح النظام الهدف النهائي، ثم ترك حرية اختيار الطريق له. يبحث، يجرب، يعيد المحاولة، ويستعين بأدوات مختلفة حتى يصل إلى ما يراه النتيجة المطلوبة.

وهنا تمامًا تتغير طبيعة الأسئلة؛ فلم يعد الأمر يتعلق بمدى ذكاء الآلة، بل بحجم المساحة التي فتحناها أمامها، وعدد الأبواب التي أعددناها لتتحرك عبرها دون انتظار إذن جديد.

ما نقوله للآلة.. وما ننسى إخبارها به

لا تحتاج الآلة إلى «نية سيئة» كي تتسبب في مشكلة؛ فهي لا تعرف الخير والشر بمفهومنا الإنساني، بل تركز فقط على الوصول إلى الهدف الموكل إليها بأسرع وأسهل طريقة ممكنة.

المشكلة الحقيقية تكمن في المساحة الفاصلة بين ما ننطق به وما نعتبره مفهوماً ضمناً. عندما نقول للنظام: «ابحث عن المعلومة»، فنحن نفترض تلقائياً أنه

سيبحث عنها بالطرق المشروعة والأخلاقية فقط. الإنسان يفهم هذه الحدود البديهية من قواعد الحياة والمجتمع دون أن يُقال له ذلك، أما الذكاء الاصطناعي فلا يستوعب هذه الضوابط الضمنية ما لم تُصغ له بوضوح وتُفرض عليه بصرامة.

وهذا تحديداً ما يجعل التعامل مع خطأ الذكاء الاصطناعي معقداً. في البرامج القديمة، كان المهندس يعود إلى سطر برمجيات محدد ليصححه؛ أما اليوم، وأمام نظام يتخذ سلسلة خطوات متتابعة بنفسه، لم يعد الإشكال في إصلاح الكود، بل في فك شفرة السلوك ومعرفة الأسباب التي دفعت الآلة لسلوك هذا الطريق وتفضيل هذا الخيار على غيره.

الصحوة التنظيمية: الدعوة إلى أخلاقيات وأطر عمل عالمية

من هنا تمامًا نبع القلق الدولي المتزايد تجاه إمكانيات الذكاء الاصطناعي، وتبلورت الدعوة الماسة إلى وضع معايير وأسس وأخلاقيات واضحة تنظم العمل فيه. لم يعد تنظيم التقنية مجرد ترف فكري أو حبر على ورق، بل أصبح ضرورة أمنية وحضارية لحماية المجتمعات.

فالدول والمؤسسات الدولية باتت تدرك أن ترك تطوير “الوكلاء الذكيين” دون ميثاق أخلاقي يلزم الشركات بصياغة حدود حاسمة وقواعد حوكمة صارمة، يعني التنازل التدريجي عن سلامة الفضاء الرقمي، والقبول بقرارات قد تمس السيادة أو الخصوصية دون وجود آليات واضحة للمحاسبة.

ان التغيير الحقيقي لن يأتي في صورة استيلاء مفاجئ للآلات على مقدرات العالم. التغيير يحدث بطريقة أكثر تدريجية حين نمنح النظام صلاحية صغيرة لأنه يختصر الوقت، ثم صلاحية أكبر لأنه أسرع، ثم نعتاد على وجوده حتى ننسى من الذي اتخذ القرار في الأساس.