REFERENCE · UNIT: AI ETHICAL TESTING
قانون الذكاء الاصطناعي الأوروبي
أوّل تشريع شامل للذكاء الاصطناعي في العالم — وهو التشريع الوحيد الذي يفرض الاختبار العدائي (Red Teaming) صراحةً على النماذج ذات المخاطر النظامية. هذه الصفحة تشرح التشريع كاملًا ثم تترجمه إلى ما يختبره المُختبِر فعليًّا.
تحديث مهمّ: الـ Digital Omnibus
باتفاق مبدئي في 7 مايو 2026، أُجِّلت التزامات النماذج عالية الخطورة (Annex III) من أغسطس 2026 إلى 2 ديسمبر 2027. لكن: التزامات نماذج الأغراض العامة (المواد 51–55) لم تُمَسّ وسارية منذ أغسطس 2025، وشفافية المادة 50 وبدء الإنفاذ يبدآن في 2 أغسطس 2026. أي أن تفويض الاختبار العدائي قائم وفعّال الآن.
أربع درجات للمخاطر تحدّد كل شيء
لا يعامل القانون كل الأنظمة بالتساوي: كلما ارتفعت المخاطر على الصحة والسلامة والحقوق الأساسية، اشتدّت الالتزامات. هذه الدرجة الأربع تحدّد ماذا يجب أن تختبر ولماذا.
مخاطر غير مقبولة
مخاطر عالية
مخاطر محدودة
مخاطر دنيا
إلى جانب هذا الهرم، يوجد مسار مستقلّ: نماذج الأغراض العامة (GPAI) مثل النماذج اللغوية الكبيرة — لها التزاماتها الخاصّة (المواد 51–55) بصرف النظر عن درجة المخاطر.
الخطوط الحمراء المطلقة
هذه ممارسات محظورة منذ 2 فبراير 2025. زاوية المُختبِر: اختبر هل يمكن دفع النظام لتمكين أيٍّ منها — فهذه أخطر فئة نتائج على الإطلاق (خطورة Critical تلقائيًّا).
التلاعب اللاواعي: تقنيات تخريبية أو خادعة تشوّه السلوك وتسبّب ضررًا جسيمًا.
استغلال نقاط الضعف: استغلال السن أو الإعاقة أو الوضع الاجتماعي-الاقتصادي للتأثير على السلوك.
التقييم الاجتماعي: تصنيف الأشخاص حسب سلوكهم أو سماتهم بما يؤدّي لمعاملة ضارّة غير مبرّرة.
الشرطة التنبّؤية: التنبّؤ باحتمال ارتكاب شخص لجريمة بناءً على التنميط وحده.
كشط الوجوه: بناء قواعد تعرّف على الوجوه بكشط الصور من الإنترنت أو كاميرات المراقبة بلا استهداف.
استنتاج المشاعر: في أماكن العمل والتعليم (إلا لأسباب طبية أو سلامة).
التصنيف البيومتري الحسّاس: استنتاج العرق أو الآراء السياسية أو التوجّه الجنسي أو المعتقد.
التعرّف البيومتري الآني عن بُعد: في الأماكن العامة لإنفاذ القانون (باستثناءات قضائية ضيّقة).
جديد (Omnibus · يسري 2 ديسمبر 2026): توليد الصور الحميمة غير التوافقية (NCII) ومواد إساءة الأطفال (CSAM) عبر «تطبيقات التعرية».
ثماني فئات عالية الخطورة
أنظمة تؤثّر مباشرةً على حياة الناس. مهمّة لك لأن أداة فرز السير الذاتية أو تقييم القروض يقعان هنا. (التزاماتها مؤجّلة لـ 2 ديسمبر 2027 بالـ Omnibus، لكن المخاطر قائمة الآن.)
البيومترية
التعرّف والتصنيف البيومتري المسموح به (خارج المحظورات).
البنية التحتية الحرجة
إدارة وتشغيل المياه والغاز والكهرباء والنقل.
التعليم والتدريب
القبول، التقييم، رصد الغش — تأثير مباشر على المسار التعليمي.
التوظيف
فرز المتقدّمين، قرارات الترقية والإنهاء، تقييم الأداء.
الخدمات الأساسية
الجدارة الائتمانية، التأمين، الوصول للخدمات العامة والطوارئ.
إنفاذ القانون
تقييم موثوقية الأدلة، رصد المخاطر، تحليل الجرائم.
الهجرة واللجوء
فحص التأشيرات وطلبات اللجوء وضبط الحدود.
العدل والديمقراطية
مساعدة القضاء، والتأثير على نتائج الانتخابات.
التزامات الأنظمة عالية الخطورة — وأين يختبر المُختبِر
نظام إدارة المخاطر
عملية مستمرة طوال دورة الحياة لتحديد المخاطر وتقييمها وتخفيفها — تشمل الاختبار.
حوكمة البيانات
بيانات تدريب عالية الجودة وممثّلة، مع فحص التحيّزات وتخفيفها.
التوثيق التقني
توثيق شامل يُثبت المطابقة قبل طرح النظام في السوق.
حفظ السجلّات
تسجيل تلقائي للأحداث (logging) طوال عمر النظام لتتبّع المخاطر.
الشفافية للنَّاشرين
تعليمات استخدام واضحة تمكّن الناشر من فهم النظام وحدوده.
الإشراف البشري
تصميم يسمح بإشراف بشري فعّال يمكنه التدخّل أو الإيقاف.
الدقّة والمتانة والأمن
مرونة ضدّ الأخطاء والهجمات: adversarial examples، تسميم البيانات والنموذج، التهرّب، هجمات السرّية.
الجودة والمطابقة
نظام إدارة جودة، تقييم مطابقة، علامة CE، ومراقبة ما بعد التسويق.
القانون يطلب الـ Red Teaming بالاسم
هنا يصبح التشريع شخصيًّا بالنسبة لك. النماذج ذات المخاطر النظامية (مثل النماذج اللغوية الكبرى التي تتجاوز عتبة 10²⁵ FLOP من القدرة الحسابية) ملزَمة قانونًا بإجراء اختبار عدائي وتوثيقه.
المادة 55: التزامات النماذج ذات المخاطر النظامية
أي أن مزوّد النموذج ملزَم قانونًا بأن يجري Red Teaming وأن يوثّقه. هذا ليس ممارسة جيدة اختيارية — إنه شرط امتثال. وتشمل المادة 55 أيضًا: تقييم وتخفيف المخاطر النظامية، وتتبّع وإبلاغ الحوادث الجسيمة، وضمان الأمن السيبراني للنموذج وبنيته.
المادة 15 تُكمل الصورة لكل الأنظمة عالية الخطورة: يجب أن تكون مرنة ضدّ محاولات تغيير استخدامها أو سلوكها عبر adversarial examples وتسميم البيانات والنموذج والتهرّب وهجمات السرّية — وهي حرفيًّا قائمة فئات الهجوم التي درّبناك عليها.
وتُفعَّل هذه الالتزامات عبر مدوّنة ممارسات GPAI (Code of Practice) — فصل السلامة والأمن — التي تحوّل النصّ القانوني إلى إجراءات اختبار ملموسة.
مساران يهمّان كل من يبني بالنماذج اللغوية
نماذج الأغراض العامة (المواد 51–55)
الالتزامات الأساسية
توثيق تقني، سياسة احترام حقوق النشر، ونشر ملخّص عن بيانات التدريب.
التزامات إضافية
للنماذج فوق 10²⁵ FLOP: اختبار عدائي، تقييم مخاطر نظامية، إبلاغ حوادث، أمن سيبراني (المادة 55).
مدوّنة الممارسات
الأداة العملية التي توضّح كيفية الامتثال لالتزامات GPAI، بما فيها فصل السلامة والأمن.
التزامات الشفافية (المادة 50)
الإفصاح عن الـ AI
إعلام المستخدم أنه يتفاعل مع نظام ذكاء اصطناعي (إلا إذا كان بديهيًّا).
وسم المحتوى الاصطناعي
وسم آلي قابل للقراءة للمحتوى المولّد والتزييف العميق. مؤجّل لـ 2 ديسمبر 2026.
كشف خاص
الإفصاح عن استنتاج المشاعر والتصنيف البيومتري، ووسم النصوص في مواضيع المصلحة العامة.
متى يسري كل جزء؟
دخول حيّز النفاذ
بدء العدّ التنازلي للتطبيق المرحلي.
المحظورات + محو الأمية بالـ AI
الممارسات المحظورة (المادة 5) تصبح نافذة، والتزامات تأهيل الكوادر.
نماذج الأغراض العامة + الحوكمة
التزامات GPAI (المواد 51–55) وهيئات الحوكمة والعقوبات. لم تُمَسّ بالـ Omnibus
معظم القواعد + الشفافية + بدء الإنفاذ
المادة 50 (الإفصاح للنَّاشرين)، تدابير دعم الابتكار، وبدء الإنفاذ الوطني والأوروبي.
وسم المحتوى + حظر NCII/CSAM
وسم المحتوى الاصطناعي (50.2) والحظر الجديد على الصور الحميمة غير التوافقية ومواد إساءة الأطفال.
الأنظمة عالية الخطورة (Annex III)
التزامات الأنظمة عالية الخطورة المستقلّة. مؤجّل من أغسطس 2026 بالـ Omnibus
عالية الخطورة المدمجة في منتجات (Annex I)
الأنظمة المدمجة في منتجات خاضعة لتشريعات قطاعية. مؤجّل من أغسطس 2027
لماذا تأخذ الشركات الاختبار بجدّية
الغرامات تُحتسب بالأعلى بين مبلغ ثابت أو نسبة من الإيراد العالمي السنوي — وهي أعلى من غرامات GDPR.
انتهاك الممارسات المحظورة (المادة 5).
مخالفة التزامات أخرى (عالية الخطورة / GPAI).
تزويد الجهات بمعلومات مضلّلة أو غير صحيحة.
مزوّد أم ناشر؟ الفرق يحدّد التزاماتك
من يبني تطبيق RAG أو وكيلًا فوق نموذج أساسي هو غالبًا ناشر (deployer) — لكن لو عدّلته جوهريًّا (fine-tuning واسع) قد يُعاد تصنيفك مزوّدًا (provider) بالتزامات أثقل بكثير.
المزوّد
من يطوّر النظام أو يعدّله جوهريًّا ويطرحه باسمه. يحمل العبء الأكبر من الالتزامات.
الناشر/المشغّل
من يستخدم النظام تحت سلطته. التزامات أساسية: الإشراف البشري والشفافية والاستخدام السليم.
المستورد
من يطرح في سوق الاتحاد نظامًا من مزوّد خارج الاتحاد. يتحقّق من المطابقة.
الموزّع
من يتيح النظام في السوق ضمن سلسلة الإمداد. يتحقّق من وجود علامة CE والوثائق.
ربط مواد القانون بأدوات المحاضرة الثانية
هنا يتّصل التشريع بالعمل: كل مادة تُترجَم إلى «ما الذي تختبره» ثم إلى الأداة، ثم إلى سمة NIST المقابلة.
| مادة EU AI Act | ما الذي تختبره | الأداة / probe | سمة NIST |
|---|---|---|---|
| المادة 5 (محظورات) | دفع النظام لتمكين ممارسة محظورة | garak · promptfoo harmful | Safe |
| المادة 10 (بيانات) | التحيّز والتمييز (لهجات/أسماء/جنسيات) | promptfoo bias · يدوي عربي | Fair |
| المادة 14 (إشراف بشري) | تجاوز الإشراف، الوكالة المفرطة | AgentDojo · يدوي | Accountable |
| المادة 15 (متانة/أمن) | adversarial، حقن، تسميم، تهرّب | garak · PyRIT | Secure & Resilient |
| المادة 50 (شفافية) | هل يفصح أنه AI؟ هل يوسم المحتوى؟ | يدوي | Transparent |
| المادة 55 (GPAI نظامي) | الاختبار العدائي الشامل الإلزامي | كل الترسانة · Petri | كل السمات |
تطبيق عملي: اختبار أداة فرز سير ذاتية
Hypothetical High-Risk System — أداة فرز سير عربية بالـ AI
هدف افتراضي مثالي: أداة توظيف تقع تحت Annex III (الفئة 4). تربط مباشرةً بمجالك (الترجمة والتوظيف) وتغطّي عدّة مواد دفعةً واحدة. شغّلها محليًّا (نموذج Ollama يمثّل المحرّك).
- صنّف: غير مقبول؟ عالي؟ محدود؟ — استنتج أنها عالية الخطورة (توظيف) وحدّد المواد المنطبقة.
- المادة 10 (تحيّز): اختبر هل تفضّل أسماءً أو جنسيات أو نوعًا اجتماعيًّا — بالعربية الفصحى ثم باللهجات.
- المادة 15 (متانة): جرّب حقنًا غير مباشر عبر تعليمات مدفونة داخل ملف السيرة الذاتية المرفوع.
- المادة 14 (إشراف): هل تتّخذ قرار رفض نهائيًّا بلا نقطة مراجعة بشرية؟
- المادة 50 (شفافية): هل تُفصح للمتقدّم أنه يُقيَّم بنظام آلي؟
- وثّق واربط: سجّل كل نتيجة بصيغة JSONL، اربطها بالمادة + الخطورة + سمة NIST، وأصدر تقريرًا متوافقًا مع المادة 9.
تقرير امتثال Red Team من 4–6 صفحات لأداة افتراضية عالية الخطورة، يربط كل ثغرة بمادة من EU AI Act وبسمة NIST وبمستوى خطورة — قطعة بورتفوليو تُثبت فهمك للتشريع والتطبيق معًا.
تنبيه مهنيّ
هذه الصفحة ملخّص تعليمي وليست استشارة قانونية. القانون يتطوّر (الـ Digital Omnibus لم يُعتمَد رسميًّا بعد حتى تاريخه)، فاعتمد دائمًا على النصّ الرسمي. شغّل كل الاختبارات على نماذج مصرّح باختبارها (محليّة أو sandbox).
عشرون سؤالًا على القانون
جاوب كل سؤال ذهنيًّا أوّلًا، ثم اضغط عليه لكشف الإجابة. تغطّي الأسئلة درجات المخاطر، المحظورات، الأنظمة عالية الخطورة، تفويض الاختبار، الشفافية، الجدول الزمني، والعقوبات.
1ما رقم لائحة قانون الذكاء الاصطناعي الأوروبي؟▼
2متى دخل القانون حيّز النفاذ؟▼
3ما الفلسفة الأساسية التي يقوم عليها القانون؟▼
4اذكر درجات المخاطر الأربع.▼
5أيّ مادة تحدّد الممارسات المحظورة؟▼
6اذكر مثالين على ممارسة محظورة.▼
7ما الحظر الجديد الذي أضافه الـ Digital Omnibus؟ ومتى يسري؟▼
8أيّ ملحق يعدّد فئات الأنظمة عالية الخطورة؟▼
9هل تُعدّ أداة فرز السير الذاتية عالية الخطورة؟ ولماذا؟▼
10أيّ مادة تطلب الدقّة والمتانة والأمن السيبراني والصمود ضدّ الهجمات العدائية؟▼
11أيّ مادة تفرض الإشراف البشري على الأنظمة عالية الخطورة؟▼
12أيّ مادة تخصّ حوكمة البيانات وتخفيف التحيّز؟▼
13أيّ مادة تفرض الاختبار العدائي (Red Teaming) على نماذج المخاطر النظامية؟▼
14ما عتبة القدرة الحسابية التي تُفترض معها المخاطر النظامية لنماذج GPAI؟▼
15ما الالتزامات الأساسية على كل نماذج GPAI؟▼
16اذكر أهمّ التزامات الشفافية في المادة 50.▼
17متى يسري وسم المحتوى الاصطناعي (المادة 50.2) بعد الـ Omnibus؟▼
18بعد الـ Omnibus، متى تسري التزامات Annex III عالية الخطورة؟▼
19ما أقصى غرامة لانتهاك الممارسات المحظورة؟▼
20ما الفرق بين «المزوّد» و«الناشر»؟ ومن يكون باني تطبيق RAG؟▼
المصادر الرسمية
النصّ الكامل للقانون
قانون الذكاء الاصطناعي الأوروبي بكل مواده وملاحقه، قابل للبحث.
artificialintelligenceact.eu →الجدول الزمني للتطبيق
كل تواريخ التطبيق المحدّثة مرحلةً بمرحلة.
Implementation Timeline →AI Act Service Desk
المكتب الرسمي للمفوّضية الأوروبية للأسئلة والإرشاد.
ec.europa.eu →مدوّنة ممارسات GPAI
كيفية الامتثال لالتزامات نماذج الأغراض العامة عمليًّا.
Code of Practice →