باختصار: يعني مبدأ الإنسان في الحلقة (human in the loop) أن يراجع محامٍ مؤهَّل مخرجات الذكاء الاصطناعي ويعتمدها قبل أن تصل إلى العميل أو المحكمة أو الطرف المقابل. وتُلقي الفتوى الرسمية رقم 512 الصادرة عن نقابة المحامين الأمريكية ABA (29 يوليو 2024)، والمادة 14 من قانون الاتحاد الأوروبي للذكاء الاصطناعي، ومدونة سلوك SRA هذا الواجب على عاتق البشر. وتُحصي قاعدة بيانات Charlotin ما مجموعه 2,202 حكمًا قضائيًا تتعلق بمواد اختلقها الذكاء الاصطناعي (19 أكتوبر 2026).
تعريف. الإنسان في الحلقة (HITL): سير عمل لا يكون فيه لمخرجات الذكاء الاصطناعي أي أثر حتى يراجعها شخص مختص ومسمّى، ثم يعتمدها أو يعدّلها أو يرفضها. الإنسان على الحلقة: يتصرف الذكاء الاصطناعي ويراقبه شخص يستطيع التدخل. الإنسان خارج الحلقة: يتصرف الذكاء الاصطناعي دون أي مراجعة بشرية.
حقائق رئيسية
- تطبّق الفتوى الرسمية رقم 512 الصادرة عن ABA بشأن أدوات الذكاء الاصطناعي التوليدي، بتاريخ 29 يوليو 2024، القواعد النموذجية 1.1 (الكفاءة) و1.6 (السرية) و5.1 و5.3 (الإشراف) وغيرها، وتشترط قدرًا مناسبًا من المراجعة المستقلة لمخرجات الذكاء الاصطناعي (ABA، 29 يوليو 2024).
- تشترط المادة 14 من قانون الاتحاد الأوروبي للذكاء الاصطناعي (اللائحة (الاتحاد الأوروبي) 2024/1689) أن تُصمَّم أنظمة الذكاء الاصطناعي عالية المخاطر بحيث يستطيع البشر فهمها ومراقبتها وتفسير مخرجاتها تفسيرًا صحيحًا وتجاوزها وإيقافها، مع البقاء متنبّهين لانحياز الأتمتة (نص EUR-Lex، تاريخ الاطلاع 20 أكتوبر 2026).
- بموجب اللائحة (الاتحاد الأوروبي) 2026/1744، أصبحت الالتزامات الخاصة بالأنظمة عالية المخاطر الواردة في الملحق الثالث، ومنها المادة 14، تسري اعتبارًا من 2 ديسمبر 2027 (الجريدة الرسمية، 24 يوليو 2026).
- تُبقي مدونة سلوك المحامين (solicitors) الصادرة عن SRA المحاميَ مسؤولًا عن العمل المنجز عبر الغير (الفقرة 3.5) وملتزمًا بالسرية (الفقرة 6.3)؛ وفي قضية R (Ayinde) v Haringey [2025] EWHC 1383 (Admin)، قررت الدائرة القضائية (Divisional Court) أن على قيادات المكاتب اتخاذ خطوات عملية تضمن أن يتحقق الجميع من البحوث المُعدّة بالذكاء الاصطناعي بمقارنتها بمصادر معتمدة (Judiciary of England and Wales، 6 يونيو 2025).
- تُحصي قاعدة بيانات AI Hallucination Cases التي يديرها Damien Charlotin ما مجموعه 2,202 حكمًا قضائيًا تتعلق بمواد اختلقها الذكاء الاصطناعي أو حرّف محتواها (قاعدة البيانات، آخر تحديث 19 أكتوبر 2026).
ماذا يعني الإنسان في الحلقة في الذكاء الاصطناعي القانوني؟
يأتي المصطلح من هندسة التحكم، حيث يقع الشخص داخل دورة القرار وينتظر النظام مدخلاته. وفي مكتب المحاماة يعني عمليًا ثلاثة أمور. يصوغ الذكاء الاصطناعي أو يستخرج أو ينبّه. ويراجع محامٍ مسمّى تلك المخرجات في ضوء المصادر ووقائع العميل. ولا يخرج شيء من المكتب، ولا يُقدَّم شيء إلى المحكمة، حتى يعتمده ذلك المحامي.
الفرق بين أن يكون الإنسان في الحلقة أو على الحلقة هو التوقيت. فإذا راجع المحامي المسودة قبل إرسالها، فهو المتحكم في النتيجة. وإذا أرسلها النظام وقرأ المحامي سجلًا بعد ذلك، فإن أي خطأ يكون قد وصل إلى العميل بالفعل. وبالنسبة إلى الاستشارات المقدَّمة للعملاء، والمذكرات المقدَّمة إلى المحاكم، والمواقف التعاقدية، تتوقع القواعد المهنية أن تتم المراجعة قبل أن يترتب على المخرجات أي أثر. وقد تكون المراقبة على الحلقة معقولة في المهام الداخلية منخفضة المخاطر، مثل تصنيف المستندات أو توجيه الطلبات الواردة.
ما الذي تشترطه الفتوى الرسمية رقم 512 الصادرة عن ABA؟
أصدرت اللجنة الدائمة للأخلاقيات والمسؤولية المهنية في ABA الفتوى الرسمية رقم 512 بتاريخ 29 يوليو 2024. وهي تطبّق القواعد النموذجية القائمة على الذكاء الاصطناعي التوليدي:
- القاعدة 1.1 (الكفاءة): يحتاج المحامون إلى فهم معقول لما تستطيع الأداة فعله وما لا تستطيعه، ويجب عليهم مراجعة مخرجاتها بقدر يتناسب مع المهمة. والاعتماد على المخرجات دون قدر مناسب من التحقق المستقل قد يشكّل إخلالًا بهذا الواجب.
- القاعدة 1.6 (السرية): قبل إدخال معلومات العميل في أداة ذاتية التعلّم قد تعيد استخدام المدخلات، يحتاج المحامي إلى موافقة العميل المستنيرة، ولا يكفي في ذلك بند نمطي في خطاب التكليف.
- القاعدتان 5.1 و5.3 (الإشراف): يجب على الشركاء والمديرين وضع سياسات واضحة بشأن الاستخدام المسموح للذكاء الاصطناعي، وتدريب المحامين والموظفين، والإشراف على العمل، بما في ذلك المورّدون وأدواتهم.
- القاعدة 1.5 (الأتعاب): يجوز للمحامين احتساب الوقت الذي يقضونه، بما في ذلك مراجعة مخرجات الذكاء الاصطناعي، لكن لا يجوز احتساب الوقت الموفَّر، ولا وقت تعلّم أداة عامة الغرض ما لم يطلب العميل تلك الأداة.
وقد أصدرت عدة نقابات محامين على مستوى الولايات، منها كاليفورنيا وفلوريدا ونيويورك، إرشادات خاصة بها تتضمن واجبات مراجعة مماثلة. ويعرضها متتبّعنا لقواعد النقابات بحسب الدولة والولاية.
ماذا تقول المادة 14 من قانون الاتحاد الأوروبي للذكاء الاصطناعي عن الرقابة البشرية؟
تسري المادة 14 من اللائحة (الاتحاد الأوروبي) 2024/1689 على أنظمة الذكاء الاصطناعي عالية المخاطر. وهي تُلزم المزوّدين بتصميمها بحيث "يمكن للأشخاص الطبيعيين الإشراف عليها إشرافًا فعّالًا"، وتشترط تدابير تتناسب مع المخاطر ودرجة استقلالية النظام وسياق استخدامه. ويجب أن يكون الأشخاص المكلّفون بالرقابة قادرين على:
- فهم قدرات النظام وحدوده ومراقبة تشغيله؛
- البقاء متنبّهين لانحياز الأتمتة، أي الميل إلى الإفراط في الاعتماد على المخرجات؛
- تفسير المخرجات تفسيرًا صحيحًا؛
- اتخاذ قرار بعدم استخدام النظام، أو تجاهل مخرجاته أو تجاوزها أو عكسها؛
- إيقافه عبر إجراء توقف يتركه في حالة آمنة.
معظم أدوات الذكاء الاصطناعي القانوني التي تستخدمها مكاتب المحاماة (الصياغة والبحث ومراجعة العقود) ليست عالية المخاطر وفق الملحق الثالث. غير أن الملحق الثالث يشمل الذكاء الاصطناعي المعدّ لمساعدة سلطة قضائية في البحث في الوقائع والقانون وتفسيرهما، والذكاء الاصطناعي المستخدم في قرارات الهجرة واللجوء، لذا قد تندرج ضمنه الأدوات الموجّهة إلى المحاكم والقطاع العام. وبمعزل عن ذلك، تُلزم المادة 4 منذ 2 فبراير 2025 المزوّدين والجهات المستخدِمة بضمان الإلمام بالذكاء الاصطناعي لدى موظفيها، أيًّا كانت فئة المخاطر. وقد أرجأت تعديلات 2026 مواعيد الأنظمة عالية المخاطر في الملحق الثالث إلى 2 ديسمبر 2027؛ والتفاصيل في شرحنا لتعديلات قانون الاتحاد الأوروبي للذكاء الاصطناعي.
وحتى حين لا تُلزم المادة 14 مكتب المحاماة مباشرةً، فإن قائمتها تصلح أداة تحقق مفيدة لتصميم المراجعة: هل يستطيع المحامي المراجع فهم الأداة وتفسير مخرجاتها وتجاوزها وإيقافها؟
ما الذي تتوقعه SRA والمحاكم في إنجلترا وويلز؟
تطبّق SRA مدونة سلوك المحامين القائمة لديها على استخدام الذكاء الاصطناعي. فالفقرة 3.5 تُبقي المحامي مسؤولًا عن العمل المنجز عبر الغير وتشترط إشرافًا فعّالًا؛ والفقرة 6.3 توجب الحفاظ على سرية شؤون العملاء. ويذكر تقرير Risk Outlook الصادر عن SRA بشأن الذكاء الاصطناعي في السوق القانونية (نوفمبر 2023) أن المكاتب تظل مسؤولة عن الخدمات التي تقدمها بالاستعانة بالذكاء الاصطناعي. وعندما رخّصت SRA في مايو 2025 لمكتب Garfield.Law، وهو مكتب يعمل بالذكاء الاصطناعي، أكدت أن محامين مسمَّين يظلون مسؤولين عن مخرجات المكتب.
وكانت المحاكم أكثر صراحة. ففي قضية R (Ayinde) v London Borough of Haringey [2025] EWHC 1383 (Admin)، الصادر حكمها في 6 يونيو 2025، تناولت الدائرة القضائية (Dame Victoria Sharp P وJohnson J) سوابق وهمية وردت في المذكرات. وقررت أن على المحامين الذين يستخدمون الذكاء الاصطناعي في البحث التحقق منه بمقارنته بمصادر معتمدة، وأن على من يتولون مسؤوليات قيادية في المكاتب وغرف المحامين (chambers) وضع تدابير عملية، وأن تقديم مواد زائفة إلى المحكمة قد يؤدي إلى الإحالة إلى الجهة التنظيمية أو إلى إجراءات ازدراء المحكمة.
جرّب HAQQ AI مجاناً
اختبر الصياغة والبحث القانوني بالذكاء الاصطناعي
ما أخطاء الذكاء الاصطناعي التي تكشفها المراجعة البشرية؟
هذه هي الأخطاء التي نراها أكثر من غيرها عندما يختبر المحامون الذكاء الاصطناعي على قضايا حقيقية، وكلٌّ منها يحتاج إلى شخص يعرف القانون والملف:
- مراجع مختلقة أو موصوفة على نحو خاطئ. قضية أو مادة أو اقتباس لا وجود له، أو قضية حقيقية يُستشهد بها على مسألة لا تدعمها. وتُحصي قاعدة بيانات Charlotin ما مجموعه 2,202 حكمًا قضائيًا في هذا الشأن. ويفصّل تدقيقنا لظاهرة الهلوسة هذه القضايا بحسب المحكمة والجزاء.
- ولاية قضائية خاطئة. تطبيق منطق القانون العام (common law) على عقد يخضع للقانون المدني، أو استيراد مفاهيم اللائحة العامة لحماية البيانات الأوروبية (GDPR) إلى اتفاقية معالجة بيانات سعودية يحكمها نظام حماية البيانات الشخصية السعودي.
- تفاعلات فائتة. بند تحديد المسؤولية يبدو نمطيًا إلى أن يغيّره استثناء يرد بعد ثلاثة أقسام، أو خطاب جانبي لم يطّلع عليه الذكاء الاصطناعي قط.
- تعريض السرية للخطر. مستندات العميل تُرسَل إلى أداة استهلاكية تسمح شروطها بالاحتفاظ بالمدخلات أو إعادة استخدامها. وفي قضية United States v. Heppner (S.D.N.Y.، فبراير 2026)، قُضي بأن المستندات التي أنشأها متهم باستخدام النسخة الاستهلاكية من Claude لا تتمتع بحماية السرية المهنية ولا بحماية نتاج العمل (work product).
- مخرجات مفرطة الثقة. بند موسوم بأنه "نمطي" دون أي تعليل، ما يغري المراجع بتخطيه. وتسمّي المادة 14 ذلك انحياز الأتمتة.
وثمة درس أقدم خارج مكاتب المحاماة أيضًا. ففي قضية Moffatt v. Air Canada، 2024 BCCRT 149، حمّلت محكمة تسوية المنازعات المدنية في كولومبيا البريطانية شركة الطيران المسؤولية عن سياسة استرداد اختلقها روبوت المحادثة على موقعها، ورفضت الدفع بأن روبوت المحادثة مسؤول عن أقواله. فالجهة التي تنشر الذكاء الاصطناعي هي المسؤولة عنه.
كيف تصمّم مراجعة بشرية تؤدي غرضها؟
- ضع نقطة الاعتماد داخل سير العمل. ينبغي أن تمر المسودات وتنبيهات المخاطر والتعديلات المقترحة بخطوة اعتماد قبل أن يمكن إرسالها أو تقديمها أو تطبيقها. فزر الاعتماد في الأداة أصعب تجاوزًا من سياسة يتعيّن على الناس تذكّرها.
- اعرض التعليل والمصادر. لا يستطيع المراجع التحقق إلا مما يراه: البند أو المرجع الذي استندت إليه المخرجات، وموقف دليل التفاوض (playbook) الذي تحيد عنه، ورابط إلى المصدر.
- نبّه إلى عدم اليقين. المخرجات التي تشير إلى أن المدخلات غير مألوفة أو أن الإجابة غير مؤكدة تحظى بقراءة أدق من مخرجات تبدو واثقة دائمًا.
- اجعل عمق المراجعة متناسبًا مع المخاطر. عشر دقائق لمسودة أولى لمذكرة داخلية، وتدقيق سطرًا بسطر لكل استشهاد في مذكرة مقدَّمة إلى المحكمة، كلاهما متناسب.
- احتفظ بسجل تدقيق. سجّل ما اقترحه الذكاء الاصطناعي، وما غيّره المحامي، ومن اعتمده ومتى. فهذا السجل دليلك على الإشراف بموجب القاعدتين 5.1 و5.3 والفقرة 3.5 من مدونة SRA.
- قيّد ما يمكن للوكلاء فعله من تلقاء أنفسهم. إذا كانت الأداة قادرة على إرسال البريد الإلكتروني أو تقديم المستندات أو تحديث سجلات القضايا، فحدّد مسبقًا الإجراءات التي تحتاج إلى اعتماد محامٍ. وكل ما يُلزم العميل ينبغي أن يحتاج إليه.
ماذا تقول الجهات التنظيمية في منطقة الشرق الأوسط وشمال أفريقيا عن الرقابة البشرية؟
لا يوجد تشريع خليجي ينسخ المادة 14. ففي المملكة العربية السعودية، أرست الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) مبدأي الرقابة البشرية والمساءلة في مبادئ أخلاقيات الذكاء الاصطناعي (سبتمبر 2023)، وهي ذات طابع إرشادي. وفي مركز دبي المالي العالمي، تتناول اللائحة 10 من لوائح حماية البيانات البيانات الشخصية التي تُعالَج عبر الأنظمة المستقلة وشبه المستقلة، بما فيها الذكاء الاصطناعي. كما أن قواعد النقابات والقواعد المهنية في أنحاء المنطقة تحمّل المحامي المرخّص بالفعل المسؤولية عن الاستشارات والمذكرات المقدَّمة، أيًّا كانت الأداة التي أنتجت المسودة. معلومات قانونية عامة وليست استشارة قانونية؛ تحقّق من القواعد السارية لدى الجهة التنظيمية التي تتبعها.
كيف يدعم HAQQ المراجعة البشرية؟
صُمّم HAQQ للمحامين الذين يراجعون قبل أن يرسلوا. فمحرك الذكاء الاصطناعي القانوني Justinian التابع لـ HAQQ يعرض المصادر التي تستند إليها كل إجابة كي يمكن التحقق منها، ثم يعتمدها محامٍ. وفي Legal AI Chat، تُستبدل البيانات الشخصية ببدائل قبل أن يصل الطلب إلى نموذج خارجي، وتُستعاد قبل أن تطّلع على الإجابة. ويمكن للمكاتب اختيار الاستضافة في الاتحاد الأوروبي أو الولايات المتحدة أو الشرق الأوسط، أو سحابة خاصة، أو نشر محلي داخل المكتب، مع تسجيل الدخول الموحّد (SSO) والتحكم في الوصول بحسب الأدوار وسجلات التدقيق.
للبدء، دوّن قاعدة المراجعة في مكتبك لكل نوع من المخرجات (مذكرة داخلية، بريد إلكتروني إلى العميل، تعديلات على عقد، مذكرة إلى المحكمة)، وسمِّ من يعتمد كلًّا منها، واختبر أداة واحدة وفق تلك القواعد على ملف مغلق قبل أن تمس ملفًا قائمًا. ويمكنك إجراء هذا الاختبار في HAQQ Legal AI Chat.
المصادر
- الفتوى الرسمية رقم 512 الصادرة عن ABA (29 يوليو 2024)
- قانون الاتحاد الأوروبي للذكاء الاصطناعي، المادة 14: الرقابة البشرية
- اللائحة (الاتحاد الأوروبي) 2024/1689 على EUR-Lex
- مدونة سلوك المحامين الصادرة عن SRA
- تقرير SRA Risk Outlook: الذكاء الاصطناعي في السوق القانونية
- R (Ayinde) v Haringey [2025] EWHC 1383 (Admin)
- قاعدة بيانات AI Hallucination Cases (Damien Charlotin)
- Moffatt v. Air Canada, 2024 BCCRT 149
- الذكاء الاصطناعي وسرية بيانات العملاء للمحامين
- لماذا لا تتمتع المحادثات مع الذكاء الاصطناعي بالسرية المهنية



