حوكمة وكلاء الذكاء الاصطناعي: التوجيه الذكي ليس ضابطًا.

روبوت المحادثة يُجيب. والوكيل يتصرّف. هذا التحوّل وحده — من نظام يُعيد نصًا إلى نظام قادر على تنفيذ خطوات واستدعاء أدوات ونقل بيانات أو أموال من تلقاء نفسه — هو ما يحوّل الذكاء الاصطناعي الوكيل إلى مشكلة حوكمة لا مشكلة إنتاجية. تلتقي معظم مجالس الإدارة بهذه الأنظمة بوصفها عرضًا مصقولًا وتوافق عليها بناءً على ذلك. لكن التعرّض الذي توافق عليه فعلًا يقبع تحت ذلك السطح: ما الذي يُسمح للوكيل بلمسه، وما الذي يوقفه حين يُخطئ، وهل يستطيع أحد إعادة بناء ما فعله. والفجوة بين عرض مقنع ووكيل محوكَم هي بالضبط حيث تكمن المخاطر.

الاستقلالية تغيّر المخاطر، لا القدرة فحسب

تفشل البرمجيات التقليدية على نحو متوقّع؛ إذ يمكنك قراءة مسار الشيفرة. أما الوكيل المستقل فيسلسل الاستدلال واستدعاء الأدوات والذاكرة في سلوك لم يكتبه أحد سطرًا سطرًا، ما يعني أنه قد يفشل بطرق لم يحدّدها أحد أيضًا. والتوجيه المُحكم الصياغة ليس ضابطًا — فهو يشكّل النية، لا الصلاحية. تبدأ حوكمة وكلاء الذكاء الاصطناعي من فرضية أصعب: افترض أن النموذج سيكون أحيانًا مخطئًا، أو مُتلاعبًا به، أو ببساطة واثقًا من الأمر الخطأ، وصمّم بحيث يكون نطاق الضرر محدودًا حين يحدث ذلك. وتبقى حوكمة النماذج اللغوية الكبيرة الكلاسيكية — مرشّحات المحتوى، ونظافة التوجيه، ومراجعة المخرجات — ضرورية، لكنها تحكم ما يقوله الوكيل. أما الوكيل القادر على التصرّف فيحتاج أيضًا إلى حوكمة لما يفعله.

الضوابط التي تجعل الوكيل قابلًا للحوكمة

في RYR ، نتعامل مع وكيل الذكاء الاصطناعي كما تتعامل أي مؤسسة خليجية منظَّمة مع أي نظام آخر يملك صلاحيات دائمة: بوصفه شيئًا يحتاج إلى مالك مُسمّى، وصلاحية محدّدة النطاق، وسجل تدقيق. تحمل حفنة من ضوابط وكلاء الذكاء الاصطناعي معظم العبء، وليس أيّ منها توجيهًا.

• وصول محدّد النطاق وأقل امتياز — يرث الوكيل أضيق الصلاحيات التي تتطلبها المهمة، مُدارةً عبر ضوابط الهوية والوصول نفسها التي تحكم المشغّل البشري، لا مفتاحًا فائقًا مشتركًا أبدًا.
• حواجز ذات أنياب — حدود صارمة على الإجراءات والإنفاق ونطاق الوصول إلى البيانات لا يستطيع النموذج تجاوزها بالحجّة، مفروضة خارج النموذج لا مدفونة في التوجيه.
• امتثال مُهندَس من الداخل — خطوات موافقة، وقواعد لإقامة البيانات، وحفظ للسجلات مبنية في سير العمل من اليوم الأول، كي يُنتج الوكيل الأدلة وهو يعمل بدل أن يترك فجوة للمدقّقين.
• سجل للنماذج والوكلاء — كل وكيل، وإصداره، وأدواته، ومالكه مسجَّل في مكان واحد، كي تقوم حوكمة الذكاء الاصطناعي المستقل على جرد لا على معرفة متوارثة.
• قابلية للملاحظة — تسجيل، وتتبّع، ومراقبة سلوكية تحوّل أفعال الوكيل إلى دليل يقرؤه المنظِّم، لا افتراضات يضطر الفريق للدفاع عنها لاحقًا.
• التعافي من الإخفاق — مسار محدّد للإيقاف المؤقت، أو التراجع، أو التسليم إلى إنسان، مُجرَّب قبل الإنتاج، كي يكون الوكيل المنحرف عن مساره حادثًا محتوى لا عنوانًا صحفيًا.

من التجربة إلى الإنتاج دون فقدان السيطرة

المسافة بين نظام تجريبي ونظام إنتاجي هي الانضباط، لا جودة النموذج. فالعرض يعمل في بيئة معزولة مع مستخدم ودود؛ أما الإنتاج فيعمل مقابل بيانات حقيقية وأموال حقيقية وخصوم سيتحرّون الوكيل تحديدًا لأنه قادر على التصرّف. تمنح المعايير هذا الانضباط لغةً مشتركة: توفّر ISO/IEC 42001 العمود الفقري لنظام إدارة الذكاء الاصطناعي المسؤول، ويُنظّم إطار NIST لإدارة مخاطر الذكاء الاصطناعي (AI RMF) عمل توصيف وقياس وإدارة المخاطر المحدّدة التي يُدخلها نظام مستقل. وبربطها مرة واحدة بالضوابط أعلاه، تتحوّل حوكمة وكلاء الذكاء الاصطناعي من شريحة عرض إلى شيء يمكنك إثباته بالدليل.

• محدّد لا مشترك: يعمل كل وكيل على وصول بأقل امتياز مُدار عبر الهوية، لا على مفتاح فائق دائم.
• مفروضة خارج النموذج: توجد الحواجز على الإجراءات والإنفاق ونطاق البيانات في المنصّة، لا في التوجيه.
• الأدلة بالتصميم: كل إجراء مُسجَّل وقابل للتتبّع قبل أن يفكّر المدقّق في السؤال.
• إيقاف مُجرَّب: مسار مُختبَر للإيقاف والتراجع موجود قبل أن يصل الوكيل إلى الإنتاج.

لمجالس الإدارة في الإمارات والخليج الأوسع، الذكاء الاصطناعي الوكيل ليس سببًا للانتظار — فالمكاسب التشغيلية حقيقية. بل هو سبب للإصرار على أن تصل الاستقلالية وضوابطها مرفقة بها. والمؤسسات التي توسّع نطاق الوكلاء بأمان ستكون تلك التي حوكمت الوكيل الثاني كما حوكمت الأول، قبل أن ينمو الأسطول أسرع مما يراقبه أحد.