مخاطر وكلاء الذكاء الاصطناعي: حوكِم التشريح، لا الضجيج.

وكيل الذكاء الاصطناعي ليس روبوت محادثة بأخلاق أرقى. إنه برمجية تضع أهدافها الفرعية بنفسها، وتستدعي أدوات حقيقية، وتتذكّر خطوات سابقة، وتتّخذ إجراءات ذات عواقب — منح صلاحيات وصول، ونقل أموال، وتصعيد حالة — غالبًا دون أن يقرأ إنسان كلًّا منها أولًا. هذا التحوّل، من نظام يقترح إلى نظام يتصرّف، هو حيث تكفّ مخاطر وكلاء الذكاء الاصطناعي عن كونها نظرية. ولمجالس الإدارة في الإمارات والخليج الأوسع التي تُجرّب الآن الوكلاء في العمليات وخدمة العملاء، لم يعد سؤال الحوكمة ‹ماذا يمكنه أن يقول؟› بل ‹ماذا يمكنه أن يفعل، ومن المسؤول حين يفعل؟›.

تشريح وكيل الذكاء الاصطناعي

لا تستطيع حوكمة ما لا تستطيع تفكيكه. فكل وكيل ذكاء اصطناعي، مهما سُوّق، مُجمَّع من الحفنة نفسها من الأجزاء — وكل جزء مصدر مخاطر متميّز. وقراءة الوكيل بوصفه صندوقًا أسود واحدًا هي كيف تنتهي المؤسسات إلى مفاجأتها به. أما قراءة تشريحه فهي كيف تحدّد موضع الضوابط.

• هدف — الغاية التي يُطلب منه السعي إليها، والتي سيفسّرها حرفيًا ويلاحقها بإصرار، بما في ذلك عبر مسارات لم يقصدها أحد.
• حلقة استدلال — دورة التخطيط والتنفيذ والملاحظة التي تتيح له تفكيك الهدف إلى خطوات والتكيّف، لكنها تتيح أيضًا لخطأ مبكر صغير أن يتراكم عبر سلسلة طويلة.
• أدوات — واجهات البرمجة، وقواعد البيانات، والأنظمة التي يستطيع استدعاءها فعلًا؛ هذه هي دائرة تأثير الوكيل، مجموعة الإجراءات الواقعية التي يقدر على اتخاذها.
• ذاكرة — السياق الذي يحمله بين الخطوات والجلسات، وهو مصدر فائدته وسطح هجوم في آنٍ إذا أمكن تسميم ذلك السياق.
• مستوى استقلالية — إلى أي مدى يعمل قبل أن يرى إنسان النتيجة، من الاقتراح فقط إلى التوجيه الذاتي الكامل.

المخاطر التي يُدخلها كل جزء

بربطها بتلك الأجزاء، تصبح مخاطر وكلاء الذكاء الاصطناعي محدّدة لا غامضة. فالهدف سيّئ التحديد يُنتج اختراق المكافأة، حيث يحقّق الوكيل نصّ الغاية بينما يخرق مقصدها. وحلقة استدلال طويلة تتيح لخطوة واحدة مُساء قراءتها أن تنتشر في سلسلة أفعال خاطئة عن ثقة. والأدوات هي حيث تصبح مخاطر الذكاء الاصطناعي الوكيل مادّية: فوكيل مُفرط الصلاحيات يملك صلاحية الكتابة في أنظمة الإنتاج، أو قنوات الدفع، أو سجلات العملاء يمكنه إحداث ضرر حقيقي بسرعة الآلة. وتُدخل الذاكرة تهديدًا أهدأ — حقن التوجيه وتسميم البيانات اللذين يستمرّان، فيظل سياق متلاعَب به يوجّه القرارات مدةً طويلة بعد الهجوم الأصلي. والاستقلالية المفرطة تضاعف كل ما سبق، موسّعةً الفجوة بين الخطأ ولحظة ملاحظة إنسان له. أمن وكلاء الذكاء الاصطناعي، بعبارة أخرى، ليس ضابطًا واحدًا بل ضابطًا لكل مكوّن.

الاستقلالية قرص تدرّج، لا مفتاح.

غريزة الإجابة عن هذا بـ ‹سياسة استخدام ذكاء اصطناعي› واحدة تكرّر الإخفاق الذي نراه عبر برامج الحوكمة — الفجوة بين امتلاك سياسة والقدرة على إثبات الضبط. يحتاج الوكلاء إلى طبقة تشغيل، لا إلى مذكّرة. في RYR ، نتعامل مع الاستقلالية بوصفها قرص تدرّج لا مفتاح تشغيل وإيقاف، مُعايَرًا وفق قابلية عكس كل مهمة ودائرة تأثيرها، كي يكون مستوى الاستقلال قرارًا مقصودًا لا وضعًا افتراضيًا.

• الصلاحيات قبل المهام: حدّد ما يجوز للوكيل لمسه قبل أن تُعرّف ما ينبغي أن يفعله؛ فأقل امتياز هو أول ضابط للوكيل، لا فكرة لاحقة.
• استقلالية متدرّجة: الإجراءات الروتينية القابلة للعكس تعمل دون إشراف؛ وأي شيء يمسّ الأموال أو البيانات أو العملاء يُبقي إنسانًا في الحلقة؛ والقرارات غير القابلة للعكس أو الاستراتيجية تُصعَّد دائمًا.
• حدود القرار وسجلات التدقيق: سقوف صارمة على القيمة والحجم والنطاق، مع سجل غير قابل للتغيير لكل إجراء يستطيع مراجِع قراءته لاحقًا.
• مالكو تصعيد مُسمّون: كل مسار تصعيد ينتهي إلى شخص مُحدَّد قبل النشر، لا مُكتشَف في خضمّ الحادث.

لا يتطلب أيٌّ من هذا إبطاء التبني الذي يسعى إليه قادة الخليج عن حق. بل يتطلب تفكيك الوكيل قبل نشره، وربط كل جزء بضابط، وربط تلك الضوابط بإطار معترف به — إطار NIST لإدارة مخاطر الذكاء الاصطناعي (AI RMF) لعملية المخاطر، و ISO/IEC 42001 لنظام الإدارة المحيط بها. وبالحوكمة على هذا النحو، يكفّ تشريح وكيل الذكاء الاصطناعي عن كونه مصدر مفاجآت ويصبح شيئًا يستطيع مجلس الإدارة الموافقة عليه فعلًا.