تقييمات اثر حماية البيانات والذكاء الاصطناعي

هذه الوظيفة هي جزء من

دعوتنا المستمرة للمساهمة

علي تطوير اطار عمل ICO لمراجعه الحسابات الذكاء الاصطناعي. نحن نشجعك
لتبادل وجات النظر الخاصة بك عن طريق ترك تعليق أدناه أو عن طريق البريد الكتروني لنا في AIAuditingFramework@ico.org.uk.

العديد من
وقد أشارت بلوق في هذه السلسلة إلى اهميه تنفيذ البيانات
تقييم تاثير الحماية (DPIA) لأنظمه الذكاء الاصطناعي التي ستقوم بمعالجه الشخصية
البيانات. DPIAs توفر المنظمات فرصه للنظر في كيفيه ولماذا استخدام
نظم الذكاء الاصطناعي لمعالجه البيانات الشخصية وما هي المخاطر المحتملة.

وقد أنتجت
ايكو التوجيه التفصيلي

علي DPIAs ان يشرح عندما
مطلوبه وكيفيه إكمالها. هذا بلوق يحدد بعض المنظمات الأشياء
يجب ان نفكر عند تنفيذ DPIA لمعالجه البيانات الشخصية
في أنظمه الذكاء الاصطناعي.

DPIAs
ببموجب اللائحة العامة لحماية البيانات

وينص الناتج الذي يقضي بأنه مطلوب (علي الأقل) dpias

• قبل نشر الحلول التكنولوجية المبتكرة ؛
• لمعالجه البيانات الشخصية الخاصة بالفئات الخاصة علي نطاق واسع ؛ او
• لصنع القرار الألى ، والتنميط ، أو لإنكار المتوقع لخدمه للفرد.

A DPIA
يحتاج إلى وصف طبيعة ونطاق وسياق وأغراض اي معالجه
بيانات شخصيه.

يجب ان نوضح كيف ولماذا الذكاء الاصطناعي
استخدامها لمعالجه البيانات. وسوف تحتاج إلى التفاصيل:

• كيف سيتم جمع البيانات وتخزينها واستخدامها ؛
• حجم البيانات المدخلة وتنوعها وحساسيتها ؛
• طبيعة علاقة وحده تحكم البيانات بالبيانات
  مواضيع و
• النتائج المرجوة للافراد أو المجتمع الأوسع
  وحده تحكم البيانات.

A DPIA
وينبغي ان يتضمن وصفا منهجيا لنشاط المعالجة ، بما في ذلك
تدفقات البيانات والمراحل التي قد تنتج فيها عمليات الذكاء الاصطناعي والقرارات المؤتمتة
اثار علي الافراد. ويمكن أيضا تفسير اي اختلاف أو هوامش ذات صله
من الخطا.

حيث
القرارات اليه تخضع للتدخل البشري أو الاستعراض ، وعمليهات
يجري تنفيذها لضمان ان يكون هذا مفيدا وان القرارات يمكن ان تكون
انقلبت ينبغي أيضا ان تكون مفصله.

الا
هناك سبب وجيه لعدم القيام بذلك ، يجب علي المنظمات السعي وتوثيق
اراء الافراد ، أو ممثليهم ، علي المعالجة المقصودة
عمليه خلال DPIA. ولذلك فمن المهم ان تكون قادره علي وصف
تجهيز بطريقه يمكن الوصول اليها لأولئك الذين يتم استشارتهم.

ومع ذلك ،
يمكن ان يكون من الصعب وصف نشاط المعالجة لنظام الذكاء الاصطناعي معقد. ان
قد يكون من المناسب ، لذلك ، الاحتفاظ بنسختين من التقييم. في
يقدم أولا وصفا فنيا شاملا للجماهير المتخصصة. في
الثانية التي تحتوي علي وصف أكثر عاليه المستوي لمعالجه و
شرح منطق كيفيه ارتباط مدخلات البيانات الشخصية بالمخرجات
تؤثر علي الافراد.

A DPIA
يجب ان تحدد الأدوار والتزامات من وحده تحكم البيانات وأي
المعالجات. حيث يتم الاستعانة بمصادر خارجيه جزئيا أو كليا في أنظمه الذكاء الاصطناعي
مقدمي الخدمات ، ينبغي لكلتا المنظمتين أيضا تقييم ما إذا كان للتحكم المشترك
أنشئت ببموجب المادة 26 من اللائحة الخاصة بالمواد ؛ وإذا كان الأمر كذلك ، للتعاون في
عمليه DPIA حسب الاقتضاء.

حيث
يتم استخدام معالج البيانات ، بعض العناصر الفنية أكثر من نشاط المعالجة
يمكن توضيحها في DPIA عن طريق أعاده إنتاج المعلومات من ذلك المعالج. من أجل
مثال ، رسم تخطيطي للتدفق من دليل المعالج. ومع ذلك ، وحده تحكم البيانات
وينبغي عموما تجنب نسخ أقسام كبيره من الأدب المعالج في
تقييمها الخاص.

2-تقييم
الضرورة والتناسب

في
يجب ان يكون نشر نظام الذكاء الاصطناعي لمعالجه البيانات الشخصية مدفوعا
قدره المثبتة لذلك النظام علي الوفاء بغرض محدد ومشروع ؛ ليس من قبل
توافر التكنولوجيا. من خلال تقييم الضرورة في DPIA ،
يمكن تنظيم دليل علي ان هذه الأغراض لا يمكن إنجازها في
طريقه أخرى معقولة.

من قبل
القيام DPIA ، يمكن للمنظمات أيضا ان تثبت ان تجهيز
البيانات الشخصية بواسطة نظام الذكاء الاصطناعي هو نشاط متناسب. عند تقييم
التناسب ، ومصالح المنظمة تحتاج إلى ان يكون وزنها
ضد حقوق الافراد وحرياتهم. وفيما يتعلق بنظم الذكاء الاصطناعي ، فان المنظمات
تحتاج إلى التفكير في اي ضرر لمواضيع البيانات التي يمكن ان تتبع من التحيز
أو عدم الدقة في الخوارزميات ومجموعات البيانات المستخدمة.

داخل
عنصر التناسب لأي DPIA ، تحتاج المنظمات إلى تقييم ما إذا كانت البيانات
يتوقع الأشخاص بشكل معقول ان تتم المعالجة بواسطة نظام الذكاء الاصطناعي.
وإذا كانت نظم الذكاء الاصطناعي تكمل أو تحل محل اتخاذ القرارات البشرية ، فينبغي
موثقه في DPIA كيف يمكن للمشروع مقارنه البشرية والحسابية
دقه جنبا إلى جنب لتبرير استخدامه بشكل أفضل.

3-تحديد
المخاطر علي الحقوق والحريات

الحزب الديمقراطي الخاص
عمليه ستساعد المنظمات علي تحديد المخاطر ذات الصلة بشكل موضوعي. علي
وينبغي تعيين درجه أو مستوي لكل خطر ، يقاس علي احتمال
وشده التاثير علي مواضيع البيانات.

4-التدابير
للتصدي للمخاطر

البيانات
يجب ان لا تكون الحماية بعد التفكير ، والراي المهني لل DPO
لا ينبغي ان ياتي كمفاجاه في الساعة الحاديه عشره.

يمكن لأي DPIA
ان تستخدم لتوثيق الضمانات التي وضعت في مكان لضمان الافراد
مسؤوله عن التطوير والاختبار والتحقق من الصحة والنشر
رصد نظم الذكاء الاصطناعي تدريبا كافيا وتقديرا
الآثار المترتبة علي حماية البيانات من المعالجة.

التنظيميه
تدابير لضمان توفير التدريب المناسب للتخفيف من حده المخاطر
المرتبطة بالخطا البشري يمكن أيضا ان تكون مثبته في DPIA. والي جانب
التدابير التقنية الرامية إلى الحد من المخاطر علي أمن ودقه
نظام الذكاء الاصطناعي.

مره واحده
اتخذت تدابير للتخفيف من المخاطر التي تم تحديدها ، ينبغي لل DPIA
توثيق المستويات المتبقية من المخاطر التي تشكلها المعالجة. ويجب ان تكون هذه
تشير إلى ICO للتشاور المسبق إذا كانت لا تزال عاليه.

5-الف
وثيقة “المعيشة”

في حين ان اي DPIA
يجب ان تنفذ قبل ان تبدا معالجه البيانات الشخصية ، فانها يجب ان
تعتبر وثيقة “حيه”. وهذا يعني انها تخضع للمراجعة المنتظمة
أو أعاده التقييم إذا كانت طبيعة المعالجة أو نطاقها أو سياقها أو غرضها
تغيير لأي سبب من الأسباب.

من أجل
المثال ، اعتمادا علي نشر ، يمكن ان يكون ان التركيبة السكانية لل
قد تحول السكان المستهدفين ، أو ان الناس ضبط سلوكهم مع مرور الوقت في
استجابه للمعالجة نفسها.