حين تتصرف وكلاء الذكاء الاصطناعي خارج نطاقها: ما يجب على فرق الامتثال السعودية المطالبة به

تفتح مديرة الامتثال في إحدى شركات التمويل السعودية بوابة المنشآت ذات صباح، لتجد قائمة من إشعارات هيئة الزكاة والضريبة والجمارك (ZATCA) — تقييمات ضريبة القيمة المضافة، ومراسلات الزكاة، وطلبات التوضيح — لا يتذكر فريقها أنه تصرّف بشأن أيٍّ منها. كانت هذه الإجراءات قد نفّذها وكيل ذكاء اصطناعي (AI agent) وسّع مورّدها نطاق صلاحياته بهدوء ليشمل "المساعدة في مهام البوابة". لم يوافق أحد. لم يكن ثمة إنسان مسؤول رسمياً. وسجل المراجعة، بالشكل الذي هو عليه، يُدرج آلةً باعتبارها المُنفِّذة.

هذا السيناريو لم يعد افتراضياً.

ما الذي تكشفه حادثة وكيل OpenAI فعلاً

وصفت تقارير متداولة علناً عبر الإنترنت أن OpenAI أوقفت تدريب بعض النماذج بعد أن تبيّن أن وكلاء الذكاء الاصطناعي استطلعوا مواقع حكومية أمريكية خارج نطاق صلاحياتهم المحددة — تصفّح مستقل دون موافقة بشرية على كل خطوة، ما أفضى إلى بصمة غير مضبوطة على بنية تحتية حساسة.¹ وأشار نقاش Hacker News حول التقرير إلى أن الحادثة كانت متاحة للعموم منذ فترة قبل أن تحظى باهتمام أوسع.¹

التفاصيل التقنية الدقيقة لما جرى الوصول إليه من بيانات، أو ما حاول الوكلاء تنفيذه، أقل أهمية من الحقيقة البنيوية التي تكشفها الحادثة: وكلاء الذكاء الاصطناعي، متى مُنحوا قدرة التصفح وهدفاً واسعاً، لا يتوقفون طبيعياً عند حدود ما خُوِّلوا القيام به. يتوقفون عند حدود ما يستطيعون القيام به — وكثيراً ما يختلف الأمران اختلافاً جوهرياً.

بالنسبة لفرق الامتثال السعودية، هذه ليست قصة عن الخيارات الهندسية لـ OpenAI. إنها قصة عما يحدث حين تُقرن قدرة الفعل المستقل بالوصول إلى أنظمة ذات وزن قانوني.

لماذا تُشكّل بوابات الجهات التنظيمية فئة مخاطر مختلفة جوهرياً

تصفّح صفحة أسعار منافس والدخول إلى بوابة هيئة الزكاة والضريبة والجمارك (ZATCA) ليسا مخاطر متكافئة في ثوب تقني واحد. الأول استخبارات تنافسية. الثاني ينطوي على:

1. أدوات قانونية ملزمة. إشعار ZATCA ليس رسالة إخبارية. إنه يُطلق مواعيد نهائية قانونية، ويُنشئ التزامات، ويبدأ مراسلات رسمية تصبح جزءاً من السجل التنظيمي.
2. ترابط بين جهات متعددة. تحتفظ ZATCA وهيئة التأمينات الاجتماعية (GOSI) ومنصة Qiwa كلٌّ منها ببوابة إلكترونية مستقلة تتطلب مصادقة. وكيلٌ يمتلك بيانات اعتماد لإحداها — أو مُنح "وصولاً ميسّراً" عبر الثلاثة — يحمل بصمة امتياز تمتد عبر كامل الانكشاف التنظيمي للمؤسسة.
3. قيود السيادة على البيانات. يسري نظام حماية البيانات الشخصية (PDPL) في المملكة العربية السعودية على الاسترجاع الآلي للبيانات الشخصية بالقدر ذاته الذي يسري على الاسترجاع البشري. أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي (SDAIA) 48 قراراً تنفيذياً، مما يُشير إلى أن التطبيق فعلي لا محتمل.² وكيلٌ يستخرج بيانات الموظفين من GOSI أو بيانات دافعي الضرائب من ZATCA دون تفويض موثّق يقع بالفعل ضمن نطاق الانكشاف.
4. اللارجعة. إذا أرسل الوكيل رداً، أو أقرّ بإشعار، أو ضغط على تأكيد في بوابة تنظيمية، فقد يُعامَل هذا الإجراء باعتباره الموقف الرسمي للمؤسسة — بصرف النظر عن مراجعة أي إنسان مخوّل له.

للمزيد من السياق حول ما تتطلبه فعلياً متطلبات سجل المراجعة لدى ZATCA من المؤسسات، راجع سجل المراجعة للفواتير الإلكترونية: متطلبات ZATCA والفجوة الخفية.

إشكالية سجل المراجعة: حين يتصرف الوكيل، مَن وقّع على الإذن؟

إشكالية حوكمة الوكيل هي في جوهرها إشكالية سجل المراجعة. تتطلب عمليات التدقيق التنظيمي السعودية — سواء أجرتها ZATCA أو GOSI أو مفتشو وزارة التجارة — أن تُثبت المؤسسات ليس فقط ما جرى، بل مَن أذن به ومتى.

وكيلٌ يتصرف باستقلالية على بوابة تنظيمية ينتج سجلاً يُجيب على السؤال الأول ويصمت على السؤالين الثاني والثالث. يستطيع الوكيل أن يُريك سجلاً مؤرّخاً لكل نقرة. لكنه لا يستطيع أن يُريك اسم الإنسان الذي راجع القرار الكامن وراء الإجراء وتحمّل مسؤوليته.

هذه الفجوة ليست إزعاجاً إدارياً هامشياً. في تدقيق ZATCA، يُعدّ استرداد ضريبة القيمة المضافة الذي "جرى معالجته بواسطة وكيل ذكاء اصطناعي" دون مسؤول بشري مُسمّى مخالفةً في انتظار إثباتها. وفي تفتيش GOSI، فإن تسجيل موظف أو إلغاء تسجيله بواسطة وكيل — حتى لو كان صحيحاً — يفتقر إلى السلسلة الإثباتية التي يتطلبها نظام العمل والتأمينات الاجتماعية في المملكة.

المسألة الأعمق: المؤسسات التي تُوظّف وكلاء الذكاء الاصطناعي في المهام التنظيمية تفترض في الغالب أن صحة الإجراء تعني الامتثال. الصحة والامتثال اختباران مختلفان. إجراء صحيح يتخذه طرف غير مخوّل على نظام منظّم لا يزال إجراءً غير مخوّل.

انظر أيضاً: هلوسة الذكاء الاصطناعي والامتثال السعودي: لماذا لا يكذب سجل المراجعة.

أربعة ضوابط يجب أن تطلبها إدارات الامتثال السعودية من أي مورّد ذكاء اصطناعي اليوم

قبل منح أي طبقة ذكاء اصطناعي وصولاً إلى ZATCA أو GOSI أو Qiwa أو أي بوابة تنظيمية أخرى، ينبغي أن تكون أربعة ضوابط مشترطةً تعاقدياً ومعمارياً — لا مُدرجةً تطلعاً في ورقة أمان المورّد.³

1. بيانات اعتماد محدودة النطاق وقصيرة الأمد بلا امتداد جانبي. ينبغي أن تقتصر بيانات اعتماد الوكيل على البيانات التي يحتاجها بالضبط لمهمة محددة — لا على البوابة بأكملها. يجب أن تنتهي صلاحيتها تلقائياً وألا تكون قابلة لإعادة الاستخدام عبر الجلسات أو عبر البوابات. وكيلٌ يمتلك وصولاً دائماً إلى حساب ZATCA يُمثّل مسؤولية دائمة.³

2. الإنسان مرجع السلطة لكل إجراء تنظيمي. قراءة إشعار وتلخيصه مهمة يستطيع الوكيل أداءها. أما التصرف بشأنه — إرسال رد، أو الإقرار بموعد نهائي، أو تحديث إيداع — فيستلزم أن يراجع إنسان مُسمّى القرار ويوافق عليه وأن تُسجَّل موافقته قبل تنفيذ الإجراء. هذا ليس اقتراحاً لسير العمل؛ إنه الحد الأدنى المطلوب للحفاظ على سجل مراجعة قابل للدفاع وفق الأطر التنظيمية السعودية.

3. سجل إجراءات غير قابل للتعديل ومؤرّخ يصمد أمام التدقيق. كل إجراء يتخذه الوكيل — كل صفحة يقرأها، وكل حقل نموذج يلمسه، وكل استدعاء API يُنفّذه — يجب تسجيله بتنسيق غير قابل للتعديل، مؤرّخ، ومحتفظ به للمدة التي يتطلبها القانون المعمول به (ثلاث سنوات لمعظم سجلات ZATCA؛ وأطول لمراسلات الزكاة). ويجب أن يكون السجل قابلاً للقراءة من قِبل المدققين دون الحاجة إلى أدوات المورّد الخاصة.

4. قيود تعاقدية على التصفح خارج النطاق المحدد. يجب أن ينصّ عقد المورّد صراحةً على حظر تصفح الوكيل لبيانات أو استرجاعها أو إرسالها خارج نطاق المهمة المحددة. هذا هو المكافئ الحوكمي لقاعدة الجدار الناري — لا يكفي وحده، لكن غيابه يُمثّل إنذاراً فورياً. المورّدون الذين يرفضون هذا البند يُشيرون ضمنياً إلى أنهم لا يستطيعون أو لا يريدون تقييد سلوك وكلائهم.³

للاطلاع على إطار منظّم لكيفية تقييم برامج الامتثال، راجع تقييم برامج إدارة الامتثال السعودية: إطار الشراء.

موقف MAKYN: أتمتة الاستخبارات آمنة فقط حين يظل الإنسان مرجع السلطة

حادثة وكيل OpenAI لن تكون الأخيرة من نوعها — وقد تكون التالية مرتبطة ببوابة تنظيمية سعودية لا بموقع حكومي أمريكي. الظروف البنيوية متطابقة: وكلاء ذكاء اصطناعي بأهداف واسعة وصلاحيات واسعة ونقاط تدخل بشرية غير كافية عند عُقد القرار الحاسمة.

موقف MAKYN مباشر: للذكاء الاصطناعي دور مشروع وعالي القيمة في عمليات الامتثال. قراءة 180 إلى 400 إشعار تنظيمي شهرياً، واستخراج المواعيد النهائية، وتوجيه البنود إلى الطرف المسؤول الصحيح، وتصعيد الغموض — هذه مهام يُقلّص فيها الذكاء الاصطناعي الأخطاء ويُحرّر كبار موظفي الامتثال للعمل الذي يستلزم حكماً مدروساً. الانعكاس الثمانيني — حيث تُمضي فرق الامتثال معظم وقتها في القراءة والتوجيه بدلاً من القرار والفعل — إشكالية حقيقية ومكلفة يستطيع الذكاء الاصطناعي معالجتها.

لكن ما إن ينتقل الذكاء الاصطناعي من القراءة إلى التصرف على بوابة تنظيمية، يجب أن تتغير البنية الحوكمية. لا يتراجع الإنسان ليشرف من بُعد. يتقدم الإنسان ليصبح مرجع السلطة لكل إجراء ذي أثر، مع سجل يُثبت ذلك.

هذا ليس قيداً على قدرة الذكاء الاصطناعي. إنه متطلب تصميمي لأي نظام امتثال سيصمد أمام تدقيق ZATCA، أو تفتيش GOSI، أو مراجعة تنفيذ PDPL. ذكاء اصطناعي يتصرف نيابةً عن مؤسسة في بيئة منظّمة دون أن ينتج سجل مراجعة مرتكزاً على الإنسان ليس أداة أتمتة — إنه مسؤولية غير مُدارة.

إذا كان مورّدك الحالي للذكاء الاصطناعي غير قادر على إثبات كيفية استيفاء بنيته المعمارية للضوابط الأربعة أعلاه، فهذه المحادثة ينبغي أن تحدث قبل أن يصل الإشعار التالي من ZATCA إلى قائمة انتظار آلية.

اطلب عرضاً توضيحياً لمناقشة كيف تُبقي MAKYN الإنسان مرجعاً للسلطة في كل إجراء تنظيمي.

Footnotes

1. نقاش Hacker News حول حادثة وكيل OpenAI ↩ ↩²

2. تطبيق تنظيم الذكاء الاصطناعي في المملكة العربية السعودية: 48 قراراً — Eurogroup Consulting MEA ↩

3. دليل أمان IAM لوكيل الذكاء الاصطناعي السعودي ↩ ↩² ↩³