الوكالة المحوكَمة: استقلالية بصندوق رمل وميزانية وتدقيق

يتأرجح النقاش حول وكلاء الذكاء الاصطناعي بين خطأين متناظرين. الأول هو حرمانهم من الوكالة: أنظمة تجيب فقط، ولا تفعل أبداً، وقيمتها المؤسسية تبقى إلى الأبد دون كلفة إبقائها. والثاني هو منحهم وكالة بلا بنية: وكلاء بصلاحيات كاملة، وبلا عزل، وبلا ميزانية، وبلا مراجعة — يعملون بثقة تُمنح لمتدرّب في يومه الأول وبنطاق مدير نظام.

تبني Demix وكالة محوكَمة: أنظمة ذكاء اصطناعي تعمل فعلاً — تنفذ وتغيّر وتقرر داخل إطار — تحت بنية حوكمة تجعل الخطأ محدوداً، والنجاح قابلاً للتحقق، والسلطة قابلة لإعادة البناء دائماً. يصف هذا المقال الركائز الخمس لهذا النموذج على مستوى المبدأ.

الركيزة 1 — العزل: الوكالة تعمل في صندوق رمل

كل تنفيذ يُفوَّض إلى كيان ذكاء اصطناعي يحدث في بيئة معزولة: عملية منفصلة، وهوية نظام مخفَّضة، وحدود موارد تُفرض من نظام التشغيل نفسه. لا يرث الوكيل صلاحيات من أنشأه؛ بل يتلقى الحد الأدنى من الصلاحيات اللازمة للمهمة — ولا شيء فوقها.

وللعزل وظيفتان. الأولى هي الاحتواء: فالوكيل الذي يفشل بسبب خطأ استدلال، أو تعليمة مشوَّهة، أو مدخل عدائي، يفشل داخل صندوق جدرانه يحددها النظام لا الحظ. والثانية هي الصدق التشغيلي: في بيئة معزولة بموارد محدودة لا يوجد إغراء صامت بتجاوز الحدود، لأن الحدود فيزيائية. والصلاحية المرفوضة نتيجة قابلة للملاحظة، لا توصية.

الركيزة 2 — الميزانية: الموارد محدودة ومعلنة

وكالة بلا ميزانية مخاطرة بلا سقف. كل مهمة مفوَّضة تحمل ميزانية موارد صريحة — زمن التنفيذ، وحجم العمليات، والكلفة الحسابية — ويعمل الوكيل داخلها. وعندما تنفد الميزانية لا تستمر المهمة في نمط الزومبي: بل تتوقف، وتُعاد الحالة الجزئية بشكل منظَّم إلى قرار أعلى.

وللميزانية وظيفة اقتصادية أيضاً، مفهومة جيداً للمؤسسات: إنها تجعل كلفة الوكالة مرئية وقابلة للنسبة. فلكل عملية مفوَّضة كلفة مقيسة؛ ولكل كيان استهلاك قابل للتتبع؛ وقرارات التوسيع أو التكرار أو إسقاط المهمة قرارات بثمن معروف. فالاستقلالية بدفتر مفتوح استقلالية يمكن للمؤسسة أن تسندها — وتدققها — على المدى الطويل.

الركيزة 3 — المراجعة المستقلة: من ينفّذ لا يقرّ

لا تُقبل أي مُخرجات لوكيل بمجرد زعم الوكيل نفسه. يطبّق نموذج Demix فصل المهام: العمل المنفَّذ من كيان يمر بمراجعة مستقلة — من جهة أخرى، لها الوصول نفسه إلى الأدلة وبلا أي التزام تجاه النتيجة — قبل أن يُقبل.

تضرب المراجعة المستقلة أكثر عيوب الأنظمة التي تقيّم نفسها تميّزاً: الثقة الزائدة غير المعايَرة. فالوكيل الذي يعلن النجاح يميل إلى إعلان النجاح؛ والمراجع الذي لم ينتج القطعة لا يملك هذا الولاء. وحيث تجد المراجعة فرقاً بين المعلن والمتحقَّق منه، يُعاد العمل — مع سجل محفوظ للفرق، لأن تاريخ شبه الأخطاء لا يقل قيمة عن تاريخ النجاحات.

الركيزة 4 — بوابة الاختبارات: الترقية تُكتسب ولا تُقرر

حين تنتج الوكالة تغييرات في عناصر دائمة — شيفرة أو تهيئة أو محتوى — تمر الترقية إلى الحالة الرسمية عبر بوابة موضوعية: مجموعة الاختبارات المنطبقة يجب أن تكون خضراء قبل التغيير وخضراء بعده. البوابة لا تفاوض ولا تفسّر ولا تقبل مبررات سردية: إما أن المعايير تُجتاز، وإما أن التغيير لا يصعد.

يعكس هذا التصميم تدفق الثقة المعتاد. فبدل الثقة بالوكيل والتحقق بعد وقوع الضرر، لا يثق النظام افتراضياً ويطلب من التغيير أن يثبت قيمته مقابل معايير كانت قائمة قبله. والمعايير لا تنتمي إلى الوكيل: بل تنتمي إلى المؤسسة. ولا يستطيع الوكيل إضعاف البوابة التي يعبرها — وهذا الفصل هو ما يجعل من البوابة بوابة.

الركيزة 5 — التراجع التلقائي: لكل خطوة طريق عودة

الركيزة الأخيرة هي ما يجعل الركائز الأربع مستدامة عملياً: القابلية للتراجع. فالتغييرات المرقّاة تُسجَّل بحيث يمكن التراجع عن أي ترقية — تلقائياً، عندما تظهر عدم صلاحية الحالة بعد البوابة، أو بقرار قابل للتدقيق عندما تختار المؤسسة التراجع. لا توجد تغييرات في اتجاه واحد.

يغيّر التراجع التلقائي كلفة الخطأ. في أنظمة بلا تراجع، كل فشل وكالة حادث استعادة يدوية: مكلف وبطيء وعرضة لخطأ بشري إضافي. وفي أنظمة بالتراجع الأصيل، الفشل حدث مُدار: تعود الحالة إلى آخر نقطة صالحة، ويغذّي سجل الحادثة التحليل، وتستمر العملية. هذا هو الفرق بين مؤسسة تخشى منح الوكالة لأنظمتها ومؤسسة تستطيع منحها لأنها تستطيع التراجع.

الدورة الكاملة: فوّض، نفّذ، راجع، رقِّ، وتراجع عند اللزوم

تعمل الركائز الخمس كدورة لا كقائمة. تفوّض المؤسسة مهمة بنطاق وميزانية؛ ينفّذ الكيان في العزل؛ تمر المُخرجات بمراجعة مستقلة؛ وما نجا من المراجعة يعبر بوابة الاختبارات؛ وما عبر يُرقّى والتراجع مسلَّح؛ وكل مرحلة — بما فيها حالات الرفض والميزانيات المنفدة والمراجعات المتفرّقة — تدخل مسار تدقيق دائم.

والنتيجة خاصية نعتبرها الأهم على الإطلاق: سلطة قابلة لإعادة البناء. فيمكن للمدقق، بعد أشهر، أن يعيد بناء ما فُوّض، ومن فوّضه، وبأي ميزانية، وما أُنتج، ومن راجع، وماذا قاست البوابة، وما صعد وما رجع. الوكالة المحوكَمة ليست وكالة تُراقَب بارتياب، بل وكالة يترك تنفيذها أثراً كافياً ليكون الثقة استنتاجاً لا فعل إيمان.

لماذا يهمّ هذا الآن

الضغط نحو تمكين أنظمة الذكاء الاصطناعي من الوكالة سيزداد فقط: فهناك تكمن القيمة التشغيلية — مهام كاملة تُنفَّذ من البداية إلى النهاية، لا أجوبة زخرفية. والمؤسسات التي ستلتقط هذه القيمة بأمان هي التي بناءً على حوكمة أُقيمت قبل أن يأتي الضغط، لأن صندوق الرمل والميزانية والمراجعة والبوابة والتراجع ليست أدوات تُرتجل بعد أول حادث.

هذه هي البنية التحتية التي تبنيها Demix وتشغّلها في كياناتها — الكيانات نفسها التي تطوّر وتختبر وتصون الأنظمة الموصوفة في منشوراتنا — وتقدمها كأساس لكيانات الذكاء الاصطناعي المؤسسية: وكالة حقيقية، مقيَّدة بالتصميم، ومتحقَّق منها بالاستقلال، وقابلة للتراجع بالبناء. استقلالية يمكن للمؤسسة أن توقّع عليها.