ما الذكاء الاصطناعي مع تدخل بشري؟ شرح المراجعة والموافقة

الذكاء الاصطناعي مع تدخل بشري، أو Human-in-the-Loop (HITL)، هو تصميم للعمل المدعوم بالذكاء الاصطناعي يطلب حكم شخص أو تفويضه عند نقاط محددة قبل أن تستمر العملية. توقف نقطة المراجعة المفيدة إجراءً بعينه، وتعرض الأدلة والأثر المتوقع، وتمنح المراجع المخوّل خيارات حقيقية مثل الموافقة أو التعديل أو الرفض أو تولي المهمة أو التصعيد.

ليس الهدف مطالبة شخص بالنقر على موافقة بعد كل خطوة. بل إبقاء السلطة البشرية حيث يتطلب السياق أو العواقب أو تحمل المسؤولية حكماً بشرياً، مع السماح للعمل منخفض المخاطر بالتقدم.

البحث والإفصاح: تنشر Ottermind هذا المقال. راجعنا في 26 أغسطس 2026 المصادر الأولية من NIST وAnthropic وMicrosoft. عقد المراجعة ومثال الحملة أدناه إطاران تحريريّان، وليسا اختباراً معيارياً مقاساً لـ Ottermind.

ماذا يعني وجود الإنسان داخل الحلقة؟

ينفذ الذكاء الاصطناعي في نظام HITL جزءاً من المهمة، ويشارك شخص في قرار واحد أو أكثر. يمكنه إضافة سياق مفقود، أو الاختيار بين بدائل، أو تصحيح تفسير، أو الموافقة على إجراء، أو رفض اقتراح، أو تولي العمل. لا يكفي أن يستخدم إنسان البرنامج؛ يجب أن يوفر النظام مساراً يغيّر فيه حكمه النتيجة الحالية فعلاً.

تؤثر مشاركة البشر في الوسم أو التدريب أو التقييم في سلوك النموذج مستقبلاً. أما مراجعة وقت التنفيذ فتغيّر القرار أو الإجراء أو الناتج الجاري الآن. يركز هذا المقال على النوع الثاني، وهو لا يستبدل تقييم النموذج أو الفحوص الآلية أو التحكم في الوصول أو مسؤولية المؤسسة.

داخل الحلقة وفوقها وخارجها

يمكن جمع هذه الأنماط في مهمة واحدة: قراءة الملفات تلقائياً، وطلب قرار عند تعارض المصادر، واشتراط التفويض قبل النشر. يشرح مقال ما سير العمل الوكيلي؟ النموذج الأشمل.

للتعريف الأوسع بالفئة، ابدأ بمقال ما الذكاء الاصطناعي الوكيلي؟.

متى يجب أن يتوقف الذكاء الاصطناعي؟

ضع نقطة مراجعة عندما يقبل القصد تفسيرات جوهرية مختلفة، أو تكون الأدلة المهمة ناقصة أو متعارضة، أو يمثل الناتج شخصاً أو مؤسسة، أو تتضمن الخطوة التالية إرسالاً أو نشراً أو دفعاً أو حذفاً أو منح صلاحية أو تعديل سجل رسمي، أو تتطلب السياسة حكم دور مسؤول محدد.

قيّم أثر الخطأ، وإمكان التراجع الكامل، وإمكان اكتشافه قبل الضرر، والسلطة المطلوبة. لا تحل درجة ثقة النموذج محل هذا التقييم.

عقد المراجعة المكوّن من خمسة أجزاء

يجعل عقد الإجراء–الأدلة–المراجع–القرار–الاستئناف الحلقة قابلة للاختبار. وإذا تغيّر مصدر أو توجه في مرحلة مبكرة، فيجب تمييز المخرجات المعتمدة على القرار القديم بأنها لم تعد صالحة.

مثال: مراجعة حزمة حملة

افترض أن فريق تسويق زوّد الذكاء الاصطناعي بملاحظات المنتج ومقابلات العملاء والادعاءات المعتمدة وإرشادات العلامة. قبل إعداد المواد الخارجية، يجب أن تبقى ثلاثة قرارات على الأقل بيد الإنسان.

هذا مثال توضيحي وليس قياساً لأداء المنتج. راجع دليل سير عمل التسويق بالذكاء الاصطناعي للاطلاع على التسلسل الكامل.

إخفاقات شائعة

• مراجعة الناتج النهائي فقط بعد انتشار الفرضية الخاطئة.
• طلب الموافقة على كل إجراء بسيط والتسبب في إرهاق الموافقات.
• عرض ملخص من دون المحتوى والجمهور والتوقيت والأثر الفعلي.
• غياب مسارات التعديل والرفض والتولي والتصعيد وانتهاء المهلة.
• اختيار شخص متاح لكنه يفتقر إلى الخبرة أو السلطة.
• عدم تسجيل الاقتراح والأدلة والقرار والحالة التي يُستأنف منها العمل.

كيفية تصميم مهمة HITL

حدد الناتج النهائي وصاحبه المسؤول. قسّم المهمة إلى قرارات ومسودات وفحوص وإجراءات خارجية. قيّم كل خطوة وفق عوامل المخاطر الأربعة، وأتمت التحضير منخفض المخاطر، وضع المراجعة قبل القرارات الملتبسة والإجراءات ذات العواقب. أكمل العقد لكل نقطة واحفظ الحالة عند الرفض. يوضح دليل كيفية أتمتة المهام بالذكاء الاصطناعي إعداد المصادر والقيود ومعايير القبول.

كيف تلائم Ottermind هذا التصميم؟

Ottermind مساحة عمل لوكلاء الذكاء الاصطناعي تُبقي الأهداف والملفات والروابط والعمل الوسيط والقرارات والمخرجات مترابطة. يمكن للفريق مراجعة خريطة المصادر والخطة، والموافقة على الموجز أو تعديله، ثم متابعة التقرير أو العرض التقديمي من دون إعادة بناء السياق.

لا تستبدل Ottermind أصحاب المسؤولية أو خبراء المجال. ابدأ بناتج محدود وقابل للمراجعة. وينبغي أن تبقى عمليات الإرسال والنشر والشراء والحذف وتعديل السجلات الرسمية خارج سلطة الوكيل ما لم توجد ضوابط صريحة.

أسئلة شائعة

هل يحتاج كل ناتج من الذكاء الاصطناعي إلى موافقة بشرية؟

لا. يجب أن يتناسب التحكم مع الأثر وإمكان التراجع وإمكان الاكتشاف والسلطة المطلوبة. يمكن فحص مخطط خاص لاحقاً، بينما قد يتطلب ادعاء علني أو دفع أو حذف تفويضاً صريحاً.

هل تضمن المراجعة البشرية صحة الناتج؟

لا. قد يفتقر المراجع أيضاً إلى السياق أو الخبرة أو الوقت أو الاستقلالية. تحسن المراجعة السيطرة عندما يكون الدور والأدلة وحقوق القرار ومسار الاستئناف مصممة جيداً.

الخلاصة

HITL ليس وعداً غامضاً بأن «شخصاً ما سيتحقق». إنه تصميم واضح للتحكم: يتوقف الإجراء الصحيح، وتظهر الأدلة الصحيحة، ويمتلك الشخص الصحيح خيارات حقيقية، ويمكن للمهمة أن تستمر أو تتوقف بأمان.