Skip to content
وبلاگ →

GDPR و ابزارهای AI: آنچه هر کسب‌وکار باید پیش از استقرار AI در اروپا بداند

GDPR و ابزارهای AI در یک نقطه بحرانی برای هر سازمانی که داده‌های شخصی مقیمان اروپا را با استفاده از سیستم‌های هوش مصنوعی پردازش می‌کند، با یکدیگر تلاقی می‌کنند. این مقررات به‌طور کامل بر استقرارهای AI اعمال می‌شود، به این معنا که هر ابزاری که داده‌های شخصی را جمع‌آوری، پردازش یا بر اساس آن‌ها عمل می‌کند باید الزامات GDPR را در زمینه مبنای قانونی، شفافیت و کمینه‌سازی داده برآورده کند، در غیر این صورت با خطر اقدامات اجرایی سنگین مواجه خواهد شد.

بسیاری از سازمان‌ها سریع به سراغ پذیرش AI رفته‌اند بدون اینکه توقف کنند و بپرسند که آیا ابزارهای جدیدشان واقعاً تحت قانون حفاظت از داده اروپا قانونی هستند یا نه. پاسخ همیشه راحت‌کننده نیست. AI فعالیت‌های پردازش داده‌ای را معرفی می‌کند که GDPR در ابتدا برای پرداختن به آن‌ها نوشته نشده بود، اما تحت چارچوب موجود خود به‌طور قطع پوشش می‌دهد. پروفایل‌سازی خودکار، پردازش گسترده داده‌های شخصی، انتقال‌های داده فرامرزی که توسط زیرساخت AI ابری راه‌اندازی می‌شوند، و سیستم‌های تصمیم‌گیری مبهم همگی به‌طور قاطع در محدوده نظارتی GDPR قرار دارند. درک دقیق محل قرار گرفتن تعهدات و چگونگی ساخت استقرارهای AI که آن‌ها را برآورده می‌کند، دیگر برای کسب‌وکارهایی که در بازارهای اروپایی فعالیت می‌کنند یا به آن‌ها می‌فروشند، اختیاری نیست. این راهنما توضیح می‌دهد که انطباق واقعاً چه چیزی را می‌طلبد و جایی که اکثر تیم‌ها معمولاً اشتباه می‌کنند کجاست.

Ai agent

چرا GDPR گسترده‌تر از آنچه اکثر تیم‌ها تصور می‌کنند، بر ابزارهای AI اعمال می‌شود

هر تعامل AI شامل داده‌های شخصی یک رخداد پردازش است

GDPR پردازش داده را به‌طور گسترده تعریف می‌کند. هر عملیاتی که بر روی داده‌های شخصی انجام می‌شود، شامل جمع‌آوری، ذخیره‌سازی، بازیابی، استفاده، افشا و حذف، در محدوده مقررات قرار می‌گیرد. وقتی یک ابزار AI نام، آدرس ایمیل، الگوی رفتاری، ضبط صوتی یا هر اطلاعات دیگری که به یک فرد قابل شناسایی مربوط می‌شود را دریافت می‌کند، از لحظه‌ای که آن داده وارد سیستم می‌شود، تحت تعریف GDPR در حال پردازش داده‌های شخصی است.

این موضوع بسیاری از سازمان‌ها را غافلگیر می‌کند زیرا مدل ذهنی شهودی انطباق با GDPR بر روی پایگاه‌های داده و ذخیره‌سازی متمرکز است. اگر سوابق مشتریان را ذخیره می‌کنید، با قوانین ذخیره‌سازی منطبق هستید. اما پردازش AI پردازش است، صرف‌نظر از اینکه چیزی به‌طور دائمی ذخیره شود یا خیر. ابزار AI که رونوشت خدمات مشتری را برای دسته‌بندی احساسات تحلیل می‌کند و بلافاصله رونوشت را دور می‌اندازد، همچنان داده‌های شخصی را پردازش کرده است. مبنای قانونی برای انجام این کار و تعهدات شفافیت همراه آن، بر آن تعامل اعمال می‌شود.

پیامد عملی این است که ارزیابی انطباق GDPR شما نمی‌تواند در پایگاه‌های داده و سیستم‌های CRM متوقف شود. هر ابزار AI که سازمان شما استفاده می‌کند باید از نظر اینکه چه داده‌های شخصی را لمس می‌کند، بر چه مبنای قانونی و تحت چه شرایطی، ارزیابی شود.

مشکل مبنای قانونی با ابزارهای AI

GDPR مستلزم آن است که هر فعالیت پردازش شامل داده‌های شخصی دارای یک مبنای قانونی معتبر باشد. شش مبنای موجود عبارتند از رضایت، اجرای قرارداد، تعهد قانونی، منافع حیاتی، وظیفه عمومی و منافع مشروع. برای اکثر استقرارهای تجاری AI، گزینه‌های مرتبط عبارتند از رضایت، اجرای قرارداد و منافع مشروع.

چالش با ابزارهای AI این است که فعالیت‌های پردازشی که آن‌ها انجام می‌دهند اغلب دشوار است که با ویژگی کافی توصیف شوند تا الزامات شفافیت GDPR را برای رضایت یا تعادل منافع مشروع برآورده کنند. گفتن به کاربران که داده‌های آن‌ها توسط سیستم‌های AI برای بهبود خدمات پردازش خواهد شد، به‌اندازه کافی مشخص نیست. توضیح دقیق اینکه چه داده‌ای از طریق کدام سیستم AI برای چه هدفی جریان می‌یابد، چه مدت نگهداری می‌شود، با کدام پردازشگرها به اشتراک گذاشته می‌شود و برای اطلاع از چه تصمیماتی استفاده می‌شود، چیزی است که مقررات واقعاً مستلزم آن است.

سازمان‌هایی که جریان‌های داده AI خود را به‌طور دقیق نقشه‌برداری نکرده‌اند، نمی‌توانند این الزام را برآورده کنند زیرا واقعاً نمی‌دانند چه چیزی را افشا می‌کنند. کار انطباق و کار شفافیت یک کار هستند.

مبنای قانونیزمان اعمال بر AIالزام کلیدی
رضایتپردازش AI برای خدمات ضروری نیست، به‌وضوح اختیاریآزادانه داده‌شده، مشخص، آگاهانه، بدون ابهام
اجرای قراردادAI مستقیماً برای ارائه خدمات قراردادی ضروریپردازش محدود به آنچه قرارداد می‌طلبد
منافع مشروعمنفعت تجاری وجود دارد و بر حقوق فردی غلبه نمی‌کندارزیابی منافع مشروع مستند
تعهد قانونیاستفاده از AI برای رعایت یک الزام قانونیتعهد قانونی خاص باید وجود داشته و مستند شده باشد
وظیفه عمومیمقامات عمومی و سازمان‌های دارای مأموریت‌های عمومیباید مبتنی بر قانون اتحادیه یا کشور عضو باشد

هم‌راستا کردن AI security و مستندات مبنای قانونی در اوایل یک استقرار از موقعیتی جلوگیری می‌کند که یک سیستم AI از نظر فنی امن دارید که بر روی یک پایه قانونی ناپایدار اجرا می‌شود.

AI agent

معنای تغییرات GDPR به‌طور خاص برای AI

تفسیر نظارتی در حال تکامل

GDPR در سال 2016 نهایی شد و در سال 2018 لازم‌الاجرا گردید، چندین سال قبل از نسل فعلی مدل‌های زبانی بزرگ. متن مقررات از AI مولد، مدل‌های پایه یا خطوط لوله استنتاج نام نمی‌برد. آنچه شامل است یک چارچوب مبتنی بر اصول است که به‌اندازه کافی گسترده است تا این فناوری‌ها را بگیرد، و مقامات حفاظت از داده در سراسر کشورهای عضو اتحادیه اروپا به‌طور پیوسته رهنمودهایی صادر کرده‌اند که نحوه اعمال آن اصول را روشن می‌کند.

اقدام اجرایی مقامات حفاظت از داده ایتالیا علیه ChatGPT در سال 2023 واضح‌ترین سیگنال این بود که تنظیم‌کنندگان آماده اقدام در مورد نگرانی‌های GDPR خاص AI بودند. این اقدام بر فقدان مبنای قانونی روشن OpenAI برای پردازش داده‌های کاربران ایتالیایی، فقدان مکانیسم‌های تأیید سن، و شفافیت ناکافی در مورد نحوه استفاده از داده‌های شخصی در آموزش مدل متمرکز بود. این ابزار به‌طور موقت در ایتالیا تعلیق شد و تنها پس از اینکه OpenAI تغییرات انطباق خاصی ایجاد کرد، بازگردانده شد.

سایر مقامات ملی حفاظت از داده در سراسر اتحادیه اروپا از آن زمان رهنمودهایی صادر کرده‌اند که به داده‌های آموزش AI، تصمیم‌گیری خودکار و شرایطی که در آن خروجی‌های تولیدشده توسط AI پردازش داده‌های شخصی درباره افرادی که داده‌های آن‌ها برای آموزش مدل استفاده شده است، تشکیل می‌دهد، می‌پردازد.

جهت حرکت روشن است. اجرای GDPR در حال حرکت عمیق‌تر به قلمرو خاص AI است، و سازمان‌هایی که انطباق AI را به‌عنوان یک مشکل آینده تلقی کرده‌اند، می‌بینند که این مشکل به یک مشکل حال تبدیل شده است.

چگونه قانون AI اتحادیه اروپا بر روی GDPR قرار می‌گیرد

قانون AI اتحادیه اروپا که در سال 2024 لازم‌الاجرا شد، یک لایه نظارتی موازی اضافه می‌کند که در کنار GDPR کار می‌کند تا اینکه جایگزین آن شود. در جایی که GDPR آنچه بر سر داده‌های شخصی می‌آید را اداره می‌کند، قانون AI ویژگی‌ها و رفتار خود سیستم‌های AI را اداره می‌کند، به‌ویژه آن‌هایی که به‌عنوان پرخطر طبقه‌بندی شده‌اند.

برای کسب‌وکارهایی که ابزارهای AI تعامل‌کننده با داده‌های شخصی را مستقر می‌کنند، هر دو چارچوب همزمان اعمال می‌شوند. یک سیستم AI که در غربالگری استخدام، ارزیابی اعتبار یا تریاژ بهداشت و درمان استفاده می‌شود، تابع الزامات قانون AI در مورد شفافیت، نظارت انسانی و دقت است، در حالی که برای هر داده شخصی که پردازش می‌کند نیز تابع الزامات GDPR است.

درک اینکه چگونه تصمیمات AI architecture بر انطباق تحت هر دو چارچوب تأثیر می‌گذارد، به سازمان‌ها کمک می‌کند سیستم‌هایی طراحی کنند که تصویر نظارتی کامل را برآورده کنند تا اینکه برای یک مقررات به قیمت دیگری بهینه‌سازی کنند.

ماده 22 و تصمیم‌گیری خودکار

آنچه ماده 22 واقعاً ممنوع می‌کند

ماده 22 GDPR به افراد این حق را می‌دهد که تابع تصمیماتی که صرفاً بر اساس پردازش خودکار، از جمله پروفایل‌سازی، گرفته شده‌اند و اثرات حقوقی یا اثرات به‌طور مشابه قابل توجهی بر آن‌ها ایجاد می‌کنند، نباشند. این یکی از مرتبط‌ترین مفاد به AI در مقررات و یکی از رایج‌ترین موارد بدفهمی‌شده است.

ممنوعیت بر استفاده از AI در فرآیندهای تصمیم‌گیری نیست. این به‌طور خاص بر تصمیماتی است که صرفاً توسط سیستم‌های خودکار گرفته می‌شوند جایی که هیچ انسانی به‌طور معنادار قبل از تأثیرگذاری بر فرد نتیجه را بررسی نمی‌کند. یک AI امتیازدهی اعتباری که توصیه‌ای تولید می‌کند که یک افسر وام انسانی آن را در نظر می‌گیرد و تأیید یا لغو می‌کند، ماده 22 را راه‌اندازی نمی‌کند. سیستمی که به‌طور خودکار درخواست‌های وام را بر اساس خروجی الگوریتمی بدون انسان در حلقه تصمیم تأیید یا رد می‌کند، می‌کند.

برای ابزارهای AI استفاده‌شده در HR، تقسیم‌بندی مشتری، تشخیص تقلب و زمینه‌های مشابه، تحلیل ماده 22 ضروری است. اگر ابزار AI شما تصمیماتی می‌گیرد که بر دسترسی مردم به خدمات، فرصت‌های شغلی یا محصولات مالی تأثیر می‌گذارد، و هیچ انسانی واقعاً قبل از اعمال آن تصمیمات را بررسی نمی‌کند، شما یک مشکل انطباق با ماده 22 دارید.

سه استثنای ماده 22 عبارتند از ضرورت قراردادی، رضایت صریح و مجوز قانونی. هر یک مستلزم شرایط اضافی خاصی است که شامل حق بررسی انسانی، حق اعتراض به تصمیم و حق دریافت توضیح در مورد منطق درگیر می‌شود.

نوع تصمیم خودکارآیا ماده 22 راه‌اندازی می‌شود؟مسیر انطباق
توصیه AI که قبل از اقدام توسط انسان بررسی می‌شودخیرتعهدات استاندارد پردازش GDPR اعمال می‌شود
تأیید یا رد کاملاً خودکار با اثر حقوقیبلهباید بر استثنایی با حق بررسی انسانی تکیه کند
پروفایل‌سازی خودکار برای تقسیم‌بندی لیست‌های بازاریابیبستگی به اهمیت داردارزیابی اینکه آیا اثرات از نظر حقوقی قابل توجه هستند
امتیاز محتوای تولیدشده توسط AI که بر تصمیم استخدام تأثیر می‌گذاردبلهاستثنای قرارداد یا رضایت به‌علاوه بررسی انسانی
پرچم تقلب که قبل از اقدام بر حساب نیاز به تحقیق انسانی داردخیربررسی انسانی زنجیره صرفاً خودکار را می‌شکند

بررسی AI features در ابزارهایی که در نظر دارید مستقر کنید، به شناسایی اینکه کدام‌یک نقاط بازرسی انسانی معنادار را در بر می‌گیرند و کدام‌یک تصمیمات را به‌طور خودکار بدون بررسی انسانی مسیریابی می‌کنند، کمک می‌کند.

AI agent

ماده 37 و الزام مسئول حفاظت از داده

زمانی که استقرارهای AI به DPO نیاز دارند

ماده 37 GDPR از سازمان‌های خاصی می‌خواهد که یک مسئول حفاظت از داده تعیین کنند. این الزام بر مقامات و نهادهای عمومی، سازمان‌هایی که فعالیت‌های اصلی آن‌ها مستلزم نظارت سیستماتیک گسترده بر افراد است، و سازمان‌هایی که فعالیت‌های اصلی آن‌ها شامل پردازش گسترده داده‌های دسته خاص یا داده‌های مربوط به محکومیت‌های کیفری است، اعمال می‌شود.

ابزارهای AI اغلب این ارزیابی را راه‌اندازی می‌کنند. یک کسب‌وکار خرده‌فروشی که AI را برای تحلیل‌های رفتاری در میلیون‌ها تعامل مشتری مستقر می‌کند، در نظارت سیستماتیک گسترده درگیر است. یک سازمان بهداشت و درمان که از AI برای پردازش سوابق بیماران در مقیاس استفاده می‌کند، داده‌های دسته خاص را در مقیاس گسترده پردازش می‌کند. هر دو سناریو به الزام DPO اجباری اشاره می‌کنند.

حتی در جایی که الزام DPO به‌طور دقیق اجباری نیست، عملکردی که آن انجام می‌دهد—نظارت بر فعالیت‌های پردازش داده، رابطه با مقامات نظارتی و مشاوره انطباق مستقل—برای سازمان‌هایی که سیستم‌های AI را اجرا می‌کنند که با حجم‌های قابل توجهی از داده‌های شخصی سروکار دارند، عملاً ضروری است. بسیاری از کسب‌وکارها که از نظر فنی ملزم به تعیین DPO نیستند، این کار را انجام می‌دهند زیرا ارزش عملیاتی آن را توجیه می‌کند.

DPO باید قبل از اینکه استقرارهای AI به مرحله عملیاتی برسند درگیر شود، نه اینکه پس از آن وقتی مشکلات ظاهر می‌شوند با او مشورت شود. آوردن DPO به فرآیند ارزیابی ابزار، ارزیابی تأثیر حفاظت از داده و بررسی توافقنامه فروشنده، رد نظارت مستندی ایجاد می‌کند که تنظیم‌کنندگان انتظار دیدن آن را دارند.

ارزیابی تأثیر حفاظت از داده برای AI

ماده 35 GDPR قبل از استقرار هر پردازشی که احتمالاً منجر به ریسک بالا برای افراد می‌شود، یک ارزیابی تأثیر حفاظت از داده می‌طلبد. سیستم‌های AI که شامل پروفایل‌سازی گسترده، نظارت سیستماتیک یا تصمیم‌گیری خودکار با اثرات قابل توجه هستند، تقریباً همیشه این الزام را راه‌اندازی می‌کنند.

یک DPIA مناسب برای یک ابزار AI پوشش می‌دهد که چه داده‌های شخصی سیستم پردازش می‌کند و چرا، ضرورت و تناسب پردازش، خطرات برای افراد و چگونه آن‌ها کاهش خواهد یافت، و اقدامات موجود برای اثبات انطباق. این یک سند یک‌بار مصرف نیست. وقتی ابزار AI تغییر می‌کند، وقتی ورودی‌های داده تغییر می‌کند، یا وقتی زمینه کسب‌وکار به‌طور مادی تغییر می‌کند، DPIA باید بازبینی شود.

یک AI guide عملی در مورد روش‌شناسی DPIA برای سیستم‌های AI به تیم‌های انطباق کمک می‌کند ارزیابی‌هایی را ساختار دهند که انتظارات مقامات نظارتی را برآورده می‌کند، نه تولید مستنداتی که جامع به نظر می‌رسد اما تحلیل ریسک ماهوی را که تنظیم‌کنندگان به دنبال آن هستند، از دست می‌دهد.

چیزهایی که باید بدانید

چندین نکته مهم در مورد GDPR و ابزارهای AI که تمایل دارند تنها پس از وقوع مشکلات ظاهر شوند:

آموزش مدل‌های AI بر روی داده‌های شخصی مستلزم ارزیابی مبنای قانونی خاص خود است. اگر در حال تنظیم دقیق یک مدل بر روی داده‌های مشتری، داده‌های کارمند یا هر داده شخصی دیگری که سازمان شما در اختیار دارد هستید، آن فعالیت آموزش یک هدف پردازش متمایز است که به مبنای قانونی خاص خود نیاز دارد، جدا از هدف اصلی جمع‌آوری.

حقوق صاحب داده بر داده‌های پردازش‌شده توسط AI اعمال می‌شود. افراد حق دسترسی، اصلاح، حذف و انتقال داده‌های شخصی خود را حتی زمانی که توسط یک سیستم AI پردازش شده باشد، حفظ می‌کنند. اگر ابزار AI شما نمی‌تواند به‌طور عملیاتی از این حقوق پشتیبانی کند، این یک شکاف انطباق است صرف‌نظر از اینکه سایر کنترل‌های امنیتی ابزار چقدر خوب هستند.

پردازشگران و زیر-پردازشگران باید مستند شوند. هر فروشنده AI که داده‌های شخصی را از طرف شما پردازش می‌کند باید در سوابق فعالیت‌های پردازش شما ذکر شود. زیر-پردازشگران آن‌ها، ارائه‌دهندگان زیرساخت، شرکت‌های میزبانی و سایر فروشندگانی که به آن‌ها متکی هستند، باید در توافقنامه‌های پردازش داده شما با آن‌ها افشا شوند.

شبه‌نام‌سازی ریسک را کاهش می‌دهد اما تعهدات GDPR را از بین نمی‌برد. داده‌هایی که شبه‌نام‌سازی شده‌اند، به این معنی که شناسه‌ها با کدها جایگزین شده‌اند، اگر شناسایی مجدد به‌طور منطقی امکان‌پذیر باشد، تحت GDPR هنوز داده‌های شخصی هستند. ابزارهای AI که داده‌های شبه‌نام‌سازی‌شده را پردازش می‌کنند، هنوز در حال پردازش داده‌های شخصی هستند.

انتقال‌های فرامرزی که توسط زیرساخت AI راه‌اندازی می‌شوند به مکانیزم‌های انتقال نیاز دارند. اگر فروشنده AI شما داده‌ها را بر روی زیرساخت خارج از اتحادیه اروپا یا EEA پردازش می‌کند، شما به یک مکانیزم انتقال معتبر مانند Standard Contractual Clauses یا یک ارزیابی تأثیر انتقال نیاز دارید. بسیاری از خدمات AI ابری به‌طور پیش‌فرض پردازش را از طریق مراکز داده آمریکا یا آسیا مسیریابی می‌کنند.

دوره‌های نگهداری باید برای داده‌های پردازش‌شده توسط AI تعریف شوند. GDPR مستلزم آن است که داده‌های شخصی بیش از حد لازم نگهداری نشوند. سیستم‌های AI که گزارش‌های مکالمه، داده‌های ورودی یا داده‌های خروجی را به‌طور نامحدود بدون یک برنامه نگهداری مستند نگه می‌دارند، صرف‌نظر از سایر تدابیر حفاظتی، با مقررات منطبق نیستند.

ساخت یک عمل AI آماده GDPR

سازمان‌هایی که با موفقیت GDPR و ابزارهای AI را پیمایش می‌کنند، رویکرد مشترکی را به اشتراک می‌گذارند. آن‌ها انطباق را قبل از استقرار به جای بعد از آن ارزیابی می‌کنند، آن‌ها مستندات زنده‌ای از جریان‌های داده AI خود را حفظ می‌کنند، و با انطباق GDPR به‌عنوان یک نظم عملیاتی مداوم به جای یک پروژه با تاریخ تکمیل برخورد می‌کنند.

محیط نظارتی پیرامون AI در اروپا در حال سفت‌شدن است، نه شل‌شدن. ترکیب اجرای GDPR که بیشتر AI-محور می‌شود و قانون AI اتحادیه اروپا که چارچوب موازی اضافه می‌کند، به این معناست که سازمان‌هایی با پایه‌های حاکمیت AI ضعیف، با هر ابزار جدیدی که مستقر می‌کنند، مواجهه با انطباق را انباشت می‌کنند.

ساختن این پایه به اندازه‌ای که به نظر می‌رسد پیچیده نیست. جریان‌های داده خود را نقشه‌برداری کنید. مبانی قانونی را تعیین کنید. پردازش خود را مستند کنید. استقرارهای پرخطر خود را ارزیابی کنید. توافقنامه‌های فروشنده خود را مرتب کنید. این‌ها شیوه‌های انطباق تثبیت‌شده‌ای هستند که بر یک دسته جدید از فناوری اعمال می‌شوند. سازمان‌هایی که به‌طور سیستماتیک به آن نزدیک می‌شوند، می‌بینند که انطباق و پذیرش مؤثر AI در تضاد نیستند. اگر درست انجام شود، یکدیگر را تقویت می‌کنند.

سؤالات متداول

آیا ابزارهای AI تابع GDPR هستند؟

بله، ابزارهای AI هر زمان که داده‌های شخصی مربوط به افراد در اتحادیه اروپا را پردازش می‌کنند، صرف‌نظر از اینکه شرکت AI کجا مستقر است یا سرورهای آن کجا قرار دارند، به‌طور کامل تابع GDPR هستند. مقررات بر اساس موقعیت صاحبان داده اعمال می‌شود، نه ارائه‌دهنده فناوری، که به این معنا است که هر ابزار AI استفاده‌شده بر روی داده‌های مشتری یا کارمند اروپایی باید منطبق باشد.

قاعده 30% برای AI چیست؟

قاعده 30% برای AI یک راهنمای عملی است که پیشنهاد می‌کند اتوماسیون AI باید تقریباً 30% از یک جریان کاری را پوشش دهد در حالی که قضاوت و نظارت انسانی 70% باقیمانده را مدیریت می‌کند. در زمینه‌های GDPR این چارچوب به‌ویژه برای انطباق با ماده 22 مفید است، که به سازمان‌ها کمک می‌کند استقرارهای AI طراحی کنند که در آن انسان‌ها واقعاً در تصمیمات درگیر می‌مانند نه اینکه فقط خروجی‌های خودکار را مهر تأیید بزنند.

تغییرات GDPR برای AI چیست؟

خود GDPR به‌طور رسمی برای AI اصلاح نشده است، اما مقامات حفاظت از داده در سراسر اتحادیه اروپا رهنمودهای فزاینده‌ای مشخص صادر کرده‌اند که اصول موجود GDPR را بر سیستم‌های AI اعمال می‌کند، به‌ویژه پیرامون مبانی قانونی داده‌های آموزشی، تصمیم‌گیری خودکار و الزامات شفافیت برای خروجی‌های تولیدشده توسط AI. قانون AI اتحادیه اروپا که در کنار GDPR کار می‌کند تا اینکه جایگزین آن شود، تعهدات اضافی برای سیستم‌های AI پرخطر که داده‌های شخصی را پردازش می‌کنند، اضافه می‌کند.

ماده 22 GDPR و AI چیست؟

ماده 22 GDPR به افراد این حق را می‌دهد که تابع تصمیماتی که صرفاً توسط پردازش خودکار گرفته شده‌اند و اثرات حقوقی یا اثرات به‌طور مشابه قابل توجهی ایجاد می‌کنند، نباشند، که مستقیماً بر سیستم‌های AI که تصمیمات مهمی در مورد افراد بدون بررسی معنادار انسانی می‌گیرند، اعمال می‌شود. سازمان‌هایی که از AI برای امتیازدهی اعتباری، غربالگری استخدام یا دسترسی به خدمات استفاده می‌کنند باید مطمئن شوند یا انسانی واقعاً خروجی‌های AI را قبل از اعمال تصمیمات بررسی می‌کند، یا یکی از سه استثنای قانونی با تمام تدابیر حفاظتی اضافی لازم در جای خود اعمال می‌شود.

ماده 37 GDPR چیست؟

ماده 37 GDPR الزام تعیین یک مسئول حفاظت از داده توسط سازمان‌های خاصی را وضع می‌کند، نقشی که برای هر کسب‌وکاری که سیستم‌های AI را اجرا می‌کند که حجم‌های زیادی از داده‌های شخصی را پردازش می‌کنند یا در نظارت رفتاری سیستماتیک درگیر می‌شوند، عملاً ضروری می‌شود. سازمان‌هایی که فعالیت‌های اصلی AI آن‌ها شامل پروفایل‌سازی گسترده، پردازش داده‌های دسته خاص یا نظارت سیستماتیک فردی است، احتمالاً الزام تعیین DPO اجباری تحت این ماده را راه‌اندازی می‌کنند.