حظر اتخاذ قرارات النجاح والرسوب عبر الذكاء الاصطناعي – أخبار السعودية
شبكة السبر – أخبار السعودية
يتجه المركز الوطني للتعليم الإلكتروني لإقرار سياسة لضمان خصوصية وحماية بيانات المتعلمين في بيئة التعليم الإلكتروني، ومنع إعادة استخدامها، أو بيعها، أو دمجها مع مصادر بيانات أخرى لأغراض تجارية أو تسويقية.
وحدد المركز التزامات مقدمي الخدمات التعليمية والتقنية الذين يعالجون بيانات المتعلمين نيابة عن الجهات والمؤسسات التعليمية، ومنها: عدم استخدام هذه البيانات لتدريب وتطوير نماذج ذكاء اصطناعي عامة، أو تجارية خارج إطار المنظومة التعليمية، دون موافقة صريحة ومحددة، ووفق ما تسمح به الأنظمة.
كما شدد المركز على تطبيق ضوابط الأمن السيبراني المعتمدة. ووفقًا للسياسة المطروحة على منصة “استطلاع” لاستطلاع آراء العموم حيالها قبل إقرارها، فيجب الإبلاغ فورًا عن أي حادثة أمنية، أو خرق، أو تسريب لبيانات المتعلمين، والتعاون في إجراءات الاحتواء والمعالجة.
كما حدد المركز التزامات المنصات التعليمية، ومنها الإفصاح بوضوح عن ملفات الارتباط وتقنيات التتبع المستخدمة، وبيان أغراضها، وتعطيل جميع أدوات التتبع غير التعليمية افتراضيًا، وترك تفعيلها لخيارات المتعلم أو ولي الأمر، وتمكين المتعلم من إدارة خيارات التتبع والتي تشمل (قبول/رفض/تقييد بعض الأنواع)، إلى جانب حظر استخدام أدوات التسويق والتحليل التجاري أو الإعلاني التي تعتمد على بيانات المتعلمين وسلوكهم في المنصة التعليمية.
ووضع المركز ضوابط معالجة بيانات المتعلمين باستخدام الذكاء الاصطناعي، وتشمل: وجوب الإفصاح بوضوح عند استخدام أي نظام ذكاء اصطناعي في تحليل بيانات المتعلمين، أو تخصيص المحتوى لهم، أو تقييم أدائهم، كما يجب ضمان خلو الأنظمة من التحيّز ضد فئة من المتعلمين مثل: ذوي الإعاقة، الفئات الأقل استخدامًا للتقنية، الفئات الاجتماعية المختلفة، وإخضاع النماذج لمراجعات دورية للتحقق من العدالة.
وشدد المركز على ضرورة توفير خيار “مراجعة بشرية” للمتعلم أو ولي أمره في حال الاعتراض على نتيجة، أو توصية صادرة عن نظام ذكاء اصطناعي، كما يجب أن تُمنع هذه الأنظمة من اتخاذ قرارات تؤثر على مستقبل المتعلم مثل: النجاح، أو الرسوب، أو الحرمان من فرصة تعليمية بدون تدخل بشري مسؤول.
