حوكمة قابلة للإثبات: جعل عمل الوكلاء قابلاً للتدقيق والتسليم

الوكيل الذي يعمل دون أن يترك أثراً ليس زميلاً، بل خطر. السؤال المركزي في عصر الوكلاء ليس «هل يستطيع الذكاء الاصطناعي إنجاز العمل؟»، بل «هل يمكننا إثبات ما أنجزه وتسليمه بثقة؟».

المشكلة: فعل دون دليل

تستطيع أنظمة الوكلاء الحديثة القراءة والاستدلال واستدعاء الأدوات وربط المهام. لكن معظمها يعمل كصندوق أسود: ترى المدخلات والمخرجات ونادراً ما ترى المسار. في مجالات خاضعة للرقابة، كإدارة الثروات والعقارات والرعاية الصحية، يمنع هذا الغموض استخدامها. لا يمكن الدفاع عن قرار لا يمكن تتبعه.

يبدأ Meotis بمبدأ بسيط: يقترح الذكاء الاصطناعي ويقرر البشر. يبحث الوكيل وينظم وينبه، ويقرر الإنسان. وبينهما، تترك كل خطوة سجلاً موقّعاً.

ثلاثة عوامل ثابتة

تقوم الحوكمة القابلة للإثبات على ثلاثة ضمانات آلية. ليست وعوداً، بل خصائص للنظام:

• تتبع منهجي للمصادر. كل ادعاء يطرحه الوكيل مرتبط بمصدره. لا يوجد ذاكرة بدون أصل يمكن التحقق منه.
• عملية كتابة واحدة. تتولى بيئة تنفيذ واحدة فقط كتابة الحالة الدائمة. ويكتفي التطبيق بالقراءة. يزيل ذلك فئات كاملة من التناقضات ويُبقي التدقيق قابلاً للإدارة.
• موافقة بشرية على المخرجات. لا يغادر النظام أي مخرج قابل للتسليم دون موافقة بشرية صريحة، موثقة زمنياً ومنسوبة إلى صاحبها.

لا يتم الإعلان عن الثقة في صفحة التسويق، بل يتم التحقق منها في سجل التدقيق، والذي يمكن لأي طرف ثالث مُخول قراءته.

قابل للتسليم، لا للعرض فحسب

يُبهر النموذج الأولي، أما المخرج القابل للتسليم فيحمّل المسؤولية. الفرق في قابلية إعادة الإنتاج: المدخلات نفسها والمسار نفسه والنتيجة نفسها، مع إثبات اتباع ذلك المسار. هذا ما يحول العرض إلى أداة عمل والوكيل الثرثار إلى زميل موثوق.

في الواقع، كل مهمة تعتمد على وكيل تنتج ناتجًا مع سجلها الخاص: المصادر التي تم الرجوع إليها، والأدوات المستخدمة، والقرارات الوسيطة، ونقطة الموافقة البشرية. وكل ذلك مرتبط، بشكل خاص على الأراضي السويسرية من خلال LAMS، وعلى البلوكتشين من خلال ORIGYN SDK، مما يضمن بقاء الدليل خارج النظام الذي تم إنتاجه.

ما الذي يتغير

تغيّر الحوكمة القابلة للإثبات النقاش داخل المؤسسة. لم يعد السؤال «هل نثق بالذكاء الاصطناعي؟»، بل «أرني السجل». والسجل موجود. هذا شرط إدخال وكلاء الذكاء الاصطناعي إلى المجالات ذات التبعات الحقيقية، دون التخلي عن السيطرة.