پیشگیری از نشت داده‌های هوش مصنوعی به سیاست‌ها، کنترل‌های فنی و رویه‌های سازمانی اشاره دارد که از افشا، نگهداری یا سوءاستفاده از اطلاعات حساس کسب‌وکار هنگام تعامل کارکنان و سامانه‌ها با ابزارهای هوش مصنوعی جلوگیری می‌کنند. این موضوع به دسته‌ای از فقدان داده می‌پردازد که ابزارهای پیشگیری سنتی برای کشف آن طراحی نشده‌اند.

این مسئله در سازوکار خود به‌طور فریبنده‌ای ساده و در وقوع خود به‌طور فریبنده‌ای گسترده است. یک کارمند قرارداد یک مشتری را در یک ابزار هوش مصنوعی می‌چسباند تا خلاصه‌ای از آن دریافت کند. یک توسعه‌دهنده کد منبع اختصاصی را به دستیار کدنویسی می‌دهد تا اشکالی را برطرف کند. یک عضو تیم مالی پیش‌نویس گزارش درآمد را برای صیقل دادن به ابزار نوشتاری هوش مصنوعی ارائه می‌دهد. در هر مورد، کارمند کاری مفید را به انجام رسانده است. در هر مورد، داده‌های سازمانی حساس به زیرساختی که سازمان آن را کنترل نمی‌کند، تحت شرایط خدماتی که کارمند هرگز آن را نخوانده، با رویه‌های نگهداری و استفاده‌ای که ممکن است شامل آموزش مدل بر روی آن محتوا باشد، منتقل شده است. هیچ دیواره آتشی آن را علامت‌گذاری نکرد. هیچ هشدار DLP فعال نشد. هیچ گزارش حسابرسی آن را به شکلی که تیم‌های انطباق بتوانند بر روی آن اقدام کنند، ثبت نکرد. این همان مشکل نشت داده‌های هوش مصنوعی است و در سراسر سازمان‌های هر اندازه و صنعت در مقیاسی در حال وقوع است که هنوز بیشتر برنامه‌های امنیتی با آن همگام نشده‌اند. این راهنما توضیح می‌دهد که چه چیزی نشت داده‌های هوش مصنوعی را پیش می‌برد، در کجا جدی‌ترین در معرض قرارگیری را ایجاد می‌کند، و سازمان‌ها باید چه چیزی را برای جلوگیری از آن مستقر کنند.

درک چرایی ایجاد دسته‌بندی منحصربه‌فرد نشت داده توسط ابزارهای هوش مصنوعی

کانالی که کنترل‌های موجود را دور می‌زند

ابزارهای سنتی پیشگیری از فقدان داده با نظارت بر کانال‌های شناخته‌شده داده و اعمال قوانین برای تشخیص محتوای حساسی که از طریق آنها در حال حرکت است، کار می‌کنند. پیوست‌های ایمیل اسکن می‌شوند. انتقال فایل‌ها به فضای ذخیره‌سازی ابری بررسی می‌شود. نوشتن روی دستگاه‌های USB ثبت می‌شود. این کنترل‌ها بازتاب مدلی از حرکت داده‌ها هستند که پیش از آنکه ابزارهای هوش مصنوعی به بخشی استاندارد از محل کار تبدیل شوند، دقیق بود.

ابزارهای هوش مصنوعی نمایانگر کانال داده‌ای هستند که بیشتر معماری‌های موجود DLP آن را به‌درستی طبقه‌بندی یا نظارت نمی‌کنند. از منظر ترافیک شبکه، کارمندی که سندی محرمانه را به یک ابزار هوش مصنوعی ارسال می‌کند، با کارمندی که از هر برنامه وب دیگری استفاده می‌کند، یکسان به نظر می‌رسد. درخواست HTTPS به سرورهای ابزار هوش مصنوعی در لایه شبکه از درخواست به یک برنامه بهره‌وری، پایگاه داده پژوهشی یا یک سایت خبری قابل تشخیص نیست. ابزار DLP ترافیک وب مجاز را می‌بیند. تیم امنیتی چیزی نمی‌بیند. داده‌های حساس از ساختمان خارج شده‌اند.

این شکاف معماری دلیلی است که پیشگیری از نشت داده‌های هوش مصنوعی به جای فرض اینکه کنترل‌های موجود آن را پوشش می‌دهند، نیازمند توجه اختصاصی است. مدل تهدید متفاوت است، کانال داده متفاوت است و کنترل‌های لازم برای مقابله با آن متفاوت از آنهایی هستند که با سناریوهای متعارف فقدان داده سروکار دارند.

آنچه پس از ورود داده به ابزار هوش مصنوعی رخ می‌دهد

ریسک‌های خاص نشت داده به آنچه فروشندگان هوش مصنوعی با داده‌های ارسال‌شده به سامانه‌های خود انجام می‌دهند بستگی دارد که در میان فروشندگان، محصولات و سطوح به‌طور قابل‌توجهی متفاوت است. درک گستره رویه‌ها به سازمان‌ها کمک می‌کند تلاش‌های پیشگیرانه خود را حول ریسک واقعی به جای یک نگرانی عمومی کالیبره کنند.

استفاده آموزش مدل ریسکی است که مستقیماً یک رویداد افشای داده را به یک مشکل دائمی نشت تبدیل می‌کند. هنگامی که شرایط خدمات یک فروشنده اجازه استفاده از محتوای ارسالی برای بهبود مدل خود را می‌دهد، داده‌ها فقط به‌طور موقت از سامانه‌های آنها عبور نمی‌کنند. این داده‌ها به‌طور بالقوه بر خروجی‌های آینده مدل به روش‌هایی تأثیر می‌گذارند که می‌توانند بخش‌هایی از آن اطلاعات را در پاسخ به سایر کاربران ظاهر کنند. توافقنامه‌های سازمانی با فروشندگان بزرگ این را به‌عنوان یک شرط استاندارد ممنوع می‌کنند، اما سطوح مصرف‌کننده و رایگان معمولاً آن را مجاز می‌شمارند و کارکنانی که از حساب‌های شخصی برای کارهای کاری استفاده می‌کنند، معمولاً تحت شرایط مصرف‌کننده عمل می‌کنند.

نگهداری گزارش‌های استنتاج پنجره‌ای زمانمند برای در معرض قرارگیری ایجاد می‌کند، نه ریسک آموزشی دائمی. بیشتر فروشندگان هوش مصنوعی گزارش‌های پرس‌وجو و پاسخ را برای دوره‌های مشخصی به منظور اشکال‌زدایی، تضمین کیفیت و انطباق قانونی نگه می‌دارند. در طول آن دوره نگهداری، داده‌های حساس ارسال‌شده در آن پرس‌وجوها روی زیرساخت فروشنده وجود دارند و به‌طور بالقوه برای کارکنان فروشنده قابل دسترسی‌اند، تحت کنترل‌های امنیتی خود فروشنده قرار دارند و به‌طور بالقوه به فرآیند قانونی متوجه فروشنده پاسخگو هستند.

انتقال داده فرامرزی هنگامی رخ می‌دهد که زیرساخت استنتاج هوش مصنوعی در حوزه قضایی متفاوتی نسبت به سازمانی که داده‌ها را ارسال می‌کند، قرار داشته باشد. برای سازمان‌هایی با تعهدات مربوط به اقامت داده، این مسئله مستقل از هر گونه شکست امنیتی، در معرض قرارگیری انطباق ایجاد می‌کند. ممکن است داده‌ها به‌لحاظ فنی روی زیرساخت فروشنده ایمن باشند و در عین حال الزامات تنظیمی درباره محل پردازش آنها را نقض کنند.

درک اینکه چارچوب‌های امنیت هوش مصنوعی چگونه به هر یک از این دسته‌های ریسک خاص مدیریت داده می‌پردازند، به سازمان‌ها کمک می‌کند برنامه‌های پیشگیری بسازند که به جای نگرانی‌های عمومی فقدان داده، ریسک‌های واقعی ایجادشده توسط چشم‌انداز ابزار هوش مصنوعی آنها را هدف قرار دهند.

جایی که نشت داده‌های هوش مصنوعی جدی‌ترین در معرض قرارگیری را ایجاد می‌کند

دسته‌های داده تنظیم‌شده و محرمانه با بالاترین ریسک

همه داده‌های سازمانی ریسک نشت یکسانی ندارند. دسته‌های داده‌ای که هنگام ورود به سامانه‌های غیرمجاز هوش مصنوعی جدی‌ترین در معرض قرارگیری را ایجاد می‌کنند، یک ویژگی مشترک دارند: مدیریت آنها توسط تعهدات قانونی، تعهدات قراردادی یا حساسیت رقابتی اداره می‌شود که افشای غیرمجاز را به روش‌هایی پرهزینه می‌سازد که فراتر از فقدان اطلاعات فوری است.

داده‌های شخصی مشمول GDPR، HIPAA یا چارچوب‌های معادل، هنگامی که از طریق ابزارهای هوش مصنوعی بدون مبنای قانونی، توافقنامه‌های فروشنده و حفاظت‌های فنی مورد نیاز آن چارچوب‌ها پردازش می‌شوند، در معرض قرارگیری تنظیمی ایجاد می‌کنند. یک کارمند که جدولی از اطلاعات شخصی مشتریان را برای پاکسازی داده به یک ابزار هوش مصنوعی مصرف‌کننده ارسال می‌کند، به‌طور بالقوه یک نقض قابل گزارش داده تحت GDPR، یک نقض توافقنامه شریک کسب‌وکار تحت HIPAA و یک حادثه انطباق تحت هر تعداد مقررات خاص بخش ایجاد کرده است، همه در زمانی که چسباندن محتوا در پنجره چت می‌گیرد.

محتوای دارای امتیاز قانونی که به ابزارهای هوش مصنوعی ارسال می‌شود، نگرانی‌هایی درباره امتیاز وکیل-موکل ایجاد می‌کند که تیم‌های قانونی در بیشتر سازمان‌ها هنوز به‌طور کامل آن را بررسی نکرده‌اند. اینکه آیا پردازش ابزار هوش مصنوعی یک افشا محسوب می‌شود که امتیاز را لغو می‌کند، سؤالی قانونی در حال تکامل در بیشتر حوزه‌های قضایی است و امن‌ترین وضعیت سازمانی، جلوگیری از رسیدن محتوای دارای امتیاز به ابزارهای هوش مصنوعی است که مدیریت آنها به‌طور خاص برای الزامات بخش حقوقی طراحی و قراردادی نشده است.

اطلاعات فنی اختصاصی شامل کد منبع، مشخصات محصول، الگوریتم‌ها و داده‌های پژوهشی، نمایانگر هوش رقابتی است که سازمان‌ها برای حفاظت از آن سرمایه‌گذاری قابل‌توجهی می‌کنند. دستیاران کدنویسی هوش مصنوعی و ابزارهای تحلیل سند جزو پرکاربردترین ابزارهای هوش مصنوعی در سازمان‌های فناوری و پژوهش هستند و همچنین ابزارهایی هستند که بیشترین استفاده را با همان دسته‌های داده‌ای دارند که سازمان‌ها بیش از همه دوست دارند آنها را از رسیدن به سامانه‌های خارجی نگه دارند.

دسته داده	ریسک اصلی از نشت هوش مصنوعی	پیامد تنظیمی یا قانونی
داده‌های شخصی مشتری	پردازش غیرمجاز توسط طرف ثالث	اطلاع‌رسانی نقض GDPR، تخلف HIPAA، جریمه‌های خاص بخش
داده‌های شخصی کارمند	افشای داده‌های HR از طریق ابزارهای HR هوش مصنوعی	تخلفات قانون کار و حفاظت از داده
محتوای دارای امتیاز قانونی	لغو احتمالی امتیاز از طریق افشا	از دست رفتن حفاظت قانونی برای مسائل حساس
کد منبع اختصاصی	افشای هوش رقابتی	از دست دادن IP، نقض قراردادی با مشتریان
اطلاعات پیش‌نویس مالی	اطلاعات مادی غیرعمومی پیش از افشا	در معرض قرارگیری قانون اوراق بهادار، ریسک افشای انتخابی
اطلاعات محرمانه مشتری	نقض تعهدات محرمانگی حرفه‌ای	آسیب رابطه با مشتری، مسئولیت حرفه‌ای
اسرار تجاری	هوش رقابتی از طریق آموزش مدل	از دست دادن حفاظت اسرار تجاری در صورت افشای عمومی

بُعد هوش مصنوعی سایه

دشوارترین چالش پیشگیری از نشت داده‌های هوش مصنوعی ابزارهایی نیستند که سازمان‌ها تحت چارچوب‌های حاکمیت تأیید و مستقر کرده‌اند. بلکه ابزارهایی هستند که کارکنان بدون دانش یا نظارت سازمانی از آنها استفاده می‌کنند. هوش مصنوعی سایه، یعنی استفاده از ابزارهای هوش مصنوعی خارج از هر برنامه تأیید‌شده، اکثریت حوادث نشت داده‌های هوش مصنوعی در بیشتر سازمان‌ها را به وجود می‌آورد، زیرا کاملاً خارج از کنترل‌هایی که یک برنامه حاکمیت هوش مصنوعی برقرار می‌کند، عمل می‌کند.

استفاده از هوش مصنوعی سایه در درجه اول یک شکست انطباق توسط بازیگران بد نیست. این یک پاسخ بهره‌وری توسط کارکنانی است که کشف کرده‌اند ابزارهای هوش مصنوعی به کار آنها کمک می‌کند و هر چیزی را که در دسترس است به جای انتظار برای فرآیندهای تأیید سازمانی که ممکن است جدول زمانی روشنی نداشته باشند، پذیرفته‌اند. درک این انگیزه برای طراحی رویکردهای پیشگیری که در واقع نشت را کاهش می‌دهند، به جای رانده شدن استفاده به سمت بیشتر زیرزمینی، ضروری است.

مؤثرترین پیشگیری از هوش مصنوعی سایه، دید نسبت به ابزارهای هوش مصنوعی مورد استفاده در سراسر سازمان، یک برنامه ابزار تأیید‌شده روشن و قابل دسترس که نیازهای واقعی کارکنان را برآورده می‌کند و یک کانال افشای غیرتنبیهی برای کارکنانی که از قبل از ابزارهای خارج از برنامه تأیید‌شده استفاده کرده‌اند را ترکیب می‌کند. سازمان‌هایی که عمدتاً با ممنوعیت به هوش مصنوعی سایه پاسخ می‌دهند، می‌بینند که نیاز بهره‌وری زیربنایی همچنان از طریق روش‌های به‌تدریج کمتر قابل‌مشاهده برآورده می‌شود و در معرض قرارگیری بیشتری به جای کمتر ایجاد می‌کند.

بررسی اینکه چگونه تصمیمات معماری هوش مصنوعی درباره استقرار ابزار هوش مصنوعی تأیید‌شده بر جذابیت گزینه‌های سایه تأثیر می‌گذارد، به سازمان‌ها کمک می‌کند برنامه تأیید‌شده خود را به‌گونه‌ای طراحی کنند که مسیر کمترین مقاومت باشد، نه مسیر بیشترین اصطکاک انطباق.

کنترل‌های فنی و سازمانی که واقعاً کار می‌کنند

کنترل‌های فنی برای پیشگیری از نشت داده‌های هوش مصنوعی

کنترل‌های فنی برای پیشگیری از نشت داده‌های هوش مصنوعی در چندین لایه عمل می‌کنند که هر یک به جنبه‌های مختلفی از چگونگی رسیدن داده‌های حساس به سامانه‌های هوش مصنوعی می‌پردازند. برنامه‌های مؤثر این کنترل‌ها را به جای تکیه بر یک رویکرد واحد، در لایه‌ها قرار می‌دهند.

کنترل‌های سطح شبکه می‌توانند با مسدودسازی یا نظارت بر ترافیک به دامنه‌های ابزار هوش مصنوعی که در فهرست تأیید‌شده قرار ندارند، دسترسی به خدمات هوش مصنوعی تأیید نشده را از شبکه‌ها و دستگاه‌های سازمانی محدود کنند. این رویکرد در شبکه‌های شرکتی مدیریت‌شده مؤثرتر از محیط‌های کاری از راه دور است که در آنها کارکنان ممکن است از شبکه‌ها و دستگاه‌های شخصی استفاده کنند، و با ظهور ابزارهای جدید هوش مصنوعی و تغییر زیرساخت دامنه ابزارهای موجود، نیازمند نگهداری مستمر است.

پیشگیری از فقدان داده در نقطه پایانی که برای شناسایی الگوهای آپلود ابزار هوش مصنوعی و اعمال بازرسی محتوا بر داده‌های ارسال‌شده از طریق رابط‌های هوش مصنوعی پیکربندی شده باشد، پوشش DLP را به کانال هوش مصنوعی که معماری‌های قدیمی DLP از دست می‌دهند، گسترش می‌دهد. این به ابزارهای DLP پیکربندی‌شده به‌طور خاص برای الگوهای ترافیک ابزار هوش مصنوعی نیاز دارد، نه فقط کانال‌های متعارف خروج داده.

افزونه‌های مرورگر و کنترل‌های مبتنی بر عامل که سیاست‌های طبقه‌بندی داده را در نقطه ارسال اعمال می‌کنند و از ارسال محتوای طبقه‌بندی‌شده بالاتر از آستانه حساسیت تعریف‌شده به ابزارهای هوش مصنوعی خارج از برنامه تأیید‌شده جلوگیری می‌کنند، رویکردی هدفمندتر نسبت به مسدودسازی در سطح شبکه ارائه می‌دهند. این کنترل‌ها می‌توانند طوری پیکربندی شوند که به کاربرانی که به مرز سیاست نزدیک می‌شوند هشدار دهند، نه اینکه فقط پس از عبور مسدود کنند، و در کنار کنترل فنی، مکانیزم تقویت رفتاری ایجاد کنند.

محصولات دروازه هوش مصنوعی سازمانی به‌عنوان یک دسته کنترل اختصاصی ظاهر شده‌اند که تمام ترافیک هوش مصنوعی سازمانی را از طریق یک لایه متمرکز بازرسی و اجرای سیاست هدایت می‌کنند. این محصولات دید نسبت به استفاده از ابزار هوش مصنوعی در سراسر سازمان فراهم می‌کنند، طبقه‌بندی داده و بازرسی محتوا را بر همه ارسال‌های هوش مصنوعی اعمال می‌کنند، سیاست‌های ابزار تأیید‌شده را اجرا می‌کنند و گزارش‌های حسابرسی را در قالب‌هایی تولید می‌کنند که تیم‌های انطباق و امنیت می‌توانند با آنها کار کنند.

نوع کنترل	آنچه به آن می‌پردازد	محدودیت
مسدودسازی شبکه	از دسترسی به ابزارهای هوش مصنوعی تأیید نشده در شبکه شرکتی جلوگیری می‌کند	در شبکه‌های شخصی و دستگاه‌های مدیریت‌نشده بی‌اثر است
DLP نقطه پایانی برای هوش مصنوعی	محتوای ارسال‌شده از طریق رابط‌های هوش مصنوعی را بازرسی می‌کند	به پیکربندی خاص هوش مصنوعی فراتر از DLP استاندارد نیاز دارد
کنترل‌های افزونه مرورگر	اجرای سیاست در نقطه ارسال هوش مصنوعی	پوشش به محیط‌های مرورگر مدیریت‌شده محدود است
دروازه هوش مصنوعی سازمانی	دید، بازرسی و اجرای سیاست متمرکز	به هدایت تمام ترافیک هوش مصنوعی از طریق زیرساخت دروازه نیاز دارد
برچسب‌های طبقه‌بندی داده	تصمیمات کارکنان درباره مناسب بودن ابزار هوش مصنوعی را هدایت می‌کند	به جای اجرای فنی به انطباق کارکنان متکی است
کنترل‌های دسترسی اعتماد صفر	دسترسی به ابزار هوش مصنوعی را به کاربران مجاز در زمینه‌های تعریف‌شده محدود می‌کند	به محتوای ارسال‌های مجاز نمی‌پردازد

کنترل‌های سازمانی که مکمل پیشگیری فنی هستند

کنترل‌های فنی نشت را از طریق اجرای خودکار کاهش می‌دهند. کنترل‌های سازمانی نشت را از طریق قضاوت و رفتار کارمندان کاهش می‌دهند که تعیین می‌کنند آیا کنترل‌های فنی دور زده می‌شوند، نادیده گرفته می‌شوند یا به‌طور واقعی در نحوه انجام کار ادغام می‌شوند.

یک سیاست واضح طبقه‌بندی داده که سطوح حساسیت را به محیط‌های مجاز پردازش هوش مصنوعی نگاشت می‌کند، به کارمندان قاعده‌ای برای تصمیم‌گیری می‌دهد که می‌توانند به‌طور پیوسته بدون مراجعه به اسناد سیاست برای هر کار آن را اعمال کنند. وقتی کارمندی می‌داند که داده‌های طبقه‌بندی‌شده به‌عنوان محرمانه فقط می‌توانند از طریق ابزارهای هوش مصنوعی داخلی یا ابزارهای ابری سطح سازمانی با توافقنامه‌های داده امضاشده پردازش شوند، یک راهنمای قابل اجرا دارد، نه یک دستور مبهم به مراقبت.

آموزشی که از سناریوهای مشخص و خاص نقش به جای محتوای آگاهی عمومی حفاظت از داده استفاده می‌کند، تغییر رفتاری ایجاد می‌کند که آموزش انتزاعی ایجاد نمی‌کند. مهندسی که می‌تواند توصیف کند چه اتفاقی برای کد منبع ارسال‌شده به یک دستیار کدنویسی پرطرفدار تحت شرایط خدمات پیش‌فرض آن می‌افتد، دانش عملی دارد که رفتارش را تغییر می‌دهد. مهندسی که در آموزش اصول حفاظت از داده شرکت کرده، آگاهی دارد که ممکن است یا ممکن نیست به رفتار متفاوت ترجمه شود هنگامی که یک ضرب‌الاجل فشار می‌آورد که از سریع‌ترین ابزار در دسترس استفاده شود.

فرآیندهای افشای حادثه که افشاهای اولیه استفاده گذشته از هوش مصنوعی سایه را به‌عنوان فرصت‌های یادگیری و نه نقض انطباق تلقی می‌کنند، امنیت روانی ایجاد می‌کنند که کارمندان را تشویق به آشکارسازی در معرض قرارگیری موجود به جای پنهان کردن آن می‌کند. هزینه سازمانی نشت ناشناخته بالاتر از هزینه نشت شناخته‌شده است که می‌توان آن را ارزیابی و حل کرد.

درک اینکه چگونه ویژگی‌های هوش مصنوعی در ابزارهای هوش مصنوعی سازمانی تأیید‌شده، رویه‌های مدیریت داده خود را به کاربران منتقل می‌کنند، به سازمان‌ها کمک می‌کند آموزشی بسازند که الزامات سیاست را به رفتارهای خاص ابزاری که کارمندان در عمل با آن مواجه می‌شوند مرتبط می‌سازد، نه اینکه ارتباط بین سیاست و ابزار را به‌عنوان چیزی که کارمندان باید مستقلاً پیدا کنند تلقی کند.

ساختن یک برنامه پیشگیری از نشت داده‌های هوش مصنوعی

پایه فهرست و ارزیابی

برنامه‌های پیشگیری از نشت داده‌های هوش مصنوعی که کار می‌کنند با تصویری دقیق از ابزارهای هوش مصنوعی در حال استفاده در سراسر سازمان شروع می‌شوند، نه فقط آنچه به‌طور رسمی تأیید شده است. شکاف بین این دو فهرست، دامنه فوری برنامه پیشگیری را تعریف می‌کند.

ساختن فهرست واقعی ابزار هوش مصنوعی به ترکیب چندین منبع داده نیاز دارد، زیرا هیچ منبع واحدی تصویر کامل را ثبت نمی‌کند. فهرست‌های نرم‌افزاری مدیریت‌شده توسط فناوری اطلاعات ابزارهای رسماً تهیه‌شده را ثبت می‌کنند. تحلیل ترافیک شبکه دامنه‌هایی را نشان می‌دهد که ترافیک ابزار هوش مصنوعی به آنها در سراسر سازمان می‌رسد. نظرسنجی‌های کارمندان و مصاحبه‌های بخشی، ابزارهایی را که کارمندان از آنها استفاده می‌کنند و تهیه فناوری اطلاعات هرگز نمی‌بیند، آشکار می‌کنند. فهرست‌های افزونه مرورگر و نقطه پایانی، ابزارهای هوش مصنوعی نصب‌شده در سطح دستگاه فردی را شناسایی می‌کنند. فهرست کامل اتحادیه همه این منابع است و تقریباً همیشه بزرگ‌تر و متنوع‌تر از آن چیزی است که هر سازمانی قبل از انجام تمرین انتظار دارد.

پس از اینکه فهرست وجود داشته باشد، هر ابزار به ارزیابی در برابر الزامات امنیتی داده نیاز دارد که رویه‌های مدیریت داده فروشنده، وضعیت گواهینامه، در دسترس بودن حفاظت قراردادی و دسته‌های داده‌ای را که کارمندان واقعاً با آن استفاده می‌کنند، پوشش می‌دهد. خروجی ارزیابی، طبقه‌بندی ریسک‌محور هر ابزار هوش مصنوعی در فهرست است، از تأیید‌شده برای تمام دسته‌های داده تا تأیید‌شده با محدودیت‌ها تا ممنوع تا بازنگری تا ممنوع به‌طور کامل.

حفاظت‌های فروشنده و قراردادی

برنامه‌های پیشگیری که فقط بر کنترل‌های رفتاری و فنی بدون حفاظت‌های قراردادی متناظر تکیه می‌کنند، یک ساختار حاکمیتی ایجاد می‌کنند که در اساس خود ناقص است. کنترل‌های فنی احتمال نشت از طریق ابزارهای غیرمجاز را کاهش می‌دهند. حفاظت‌های قراردادی تعریف می‌کنند که چه حفاظت‌هایی هنگام استفاده از ابزارهای مجاز اعمال می‌شوند و سازمان چه چاره‌ای دارد وقتی این حفاظت‌ها رعایت نشوند.

هر فروشنده هوش مصنوعی که ابزارهای آن داده‌های سازمانی بالاتر از پایین‌ترین سطح حساسیت را پردازش می‌کند، به یک توافقنامه پردازش داده امضاشده نیاز دارد که به‌طور صریح استفاده از داده‌های آموزشی را ممنوع می‌کند، حدود نگهداری را تعریف می‌کند، به اطلاع‌رسانی نقض در بازه زمانی مورد نیاز متعهد می‌شود و کنترل‌های امنیتی اعمال‌شده بر داده‌های سازمانی را مستند می‌سازد. برای سازمان‌های مراقبت بهداشتی، توافقنامه شریک کسب‌وکار که محصول خاص هوش مصنوعی را پوشش می‌دهد، یک پیش‌نیاز قانونی است نه یک ترجیح قراردادی.

برنامه حفاظت قراردادی درست مانند کنترل‌های فنی به نگهداری نیاز دارد. فروشندگان شرایط خدمات خود را به‌روز می‌کنند. محصولاتی که تحت یک توافقنامه پوشش داده می‌شدند، ممکن است با تغییر پورتفولیو محصول از آن جدا شوند. دوره‌های گواهینامه به پایان می‌رسند. ساختن چرخه بررسی سالانه توافقنامه فروشنده در برنامه از وضعیتی جلوگیری می‌کند که داده‌های سازمانی تحت توافقنامه‌هایی پردازش می‌شوند که دیگر رویه‌های واقعی فروشنده را منعکس نمی‌کنند.

یک راهنمای هوش مصنوعی جامع درباره ساختاردهی برنامه‌های پیشگیری از نشت داده‌های هوش مصنوعی از فهرست و ارزیابی گرفته تا کنترل‌های فنی و مدیریت فروشنده، به سازمان‌ها کمک می‌کند برنامه‌هایی بسازند که به جای قابل‌مشاهده‌ترین بخش آن، به چالش کامل پیشگیری بپردازند.

مواردی که باید بدانید

چند واقعیت مهم درباره پیشگیری از نشت داده‌های هوش مصنوعی که سازمان‌ها به‌طور پیوسته در حین ساخت برنامه‌های خود با آنها مواجه می‌شوند:

محصولات سطح مصرف‌کننده از فروشندگان هوش مصنوعی سازمانی دارای رویه‌های مدیریت داده متفاوت از محصولات سازمانی خود هستند، گاهی به‌طور چشمگیر. همان قابلیت هوش مصنوعی زیربنایی که از طریق یک حساب شخصی و از طریق یک حساب سازمانی قابل دسترس است، ممکن است سیاست‌های داده آموزشی، رویه‌های نگهداری و در دسترس بودن حفاظت قراردادی کاملاً متفاوتی داشته باشد. کارمندانی که به ابزارهای هوش مصنوعی سازمانی از طریق حساب‌های شخصی دسترسی پیدا می‌کنند، زیرا حساب‌های سازمانی به تأیید نیاز دارند یا هزینه دارند، از حفاظت‌های سطح مصرف‌کننده بر روی داده‌های کاری استفاده می‌کنند بدون اینکه تفاوت را تشخیص دهند.

قانون ۳۰٪ برای هوش مصنوعی به‌طور مفید برای طراحی برنامه پیشگیری از نشت داده اعمال می‌شود. کنترل‌های فنی خودکار باید تقریباً ۳۰٪ از کار پیشگیری را انجام دهند، به‌طور خاص وظایف اجرای سیاست با فرکانس بالا که خودکارسازی به‌طور پیوسته در مقیاس مدیریت می‌کند. قضاوت انسانی و حاکمیت سازمانی ۷۰٪ باقیمانده را پوشش می‌دهد که شامل ارزیابی ریسک، ارزیابی فروشنده، پاسخ به حادثه و آموزش و فرهنگ‌سازی است که تعیین می‌کند آیا کنترل‌های فنی در نحوه واقعی انجام کار ادغام می‌شوند یا به‌عنوان موانعی برای دور زدن تلقی می‌شوند.

استفاده از ابزار هوش مصنوعی مبتنی بر مرورگر سخت‌ترین دسته برای کنترل از طریق مسدودسازی فقط در سطح شبکه است. کارمندانی که از راه دور در شبکه‌های شخصی کار می‌کنند، از دستگاه‌های شخصی برای کارهای کاری استفاده می‌کنند یا از طریق رابط‌های مرورگری که شبیه استفاده عمومی وب هستند به ابزارهای هوش مصنوعی دسترسی پیدا می‌کنند، چالشی کنترلی را ارائه می‌دهند که رویکردهای مبتنی بر نقطه پایانی بهتر از رویکردهای مبتنی بر شبکه به آن می‌پردازند.

ابزارهای هوش مصنوعی مولد جاسازی‌شده در نرم‌افزارهای بهره‌وری پرکاربرد، در معرض قرارگیری نشتی ایجاد می‌کنند که برای اکثر کارمندان شبیه استفاده از ابزار هوش مصنوعی به نظر نمی‌رسد. وقتی یک پردازنده کلمه از هوش مصنوعی برای پیشنهاد تکمیل متن استفاده می‌کند، یک صفحه گسترده از هوش مصنوعی برای تفسیر ورود داده استفاده می‌کند، یا یک کلاینت ایمیل از هوش مصنوعی برای پیش‌نویس پاسخ‌ها استفاده می‌کند، کارمند از هوش مصنوعی بدون هیچ‌یک از تصمیم‌گیری‌های آگاهانه‌ای که ممکن است او را وادار به در نظر گرفتن طبقه‌بندی داده کند، استفاده می‌کند. برنامه‌های حاکمیتی که فقط به ابزارهای هوش مصنوعی مستقل می‌پردازند، در اینجا نقاط کور دارند.

هشدار استیون هاوکینگ درباره هوش مصنوعی بر روی ریسک وجودی از سامانه‌های فوق‌هوشمند متمرکز بود نه به‌طور خاص نشت داده، اما احتیاط گسترده‌تر او درباره حرکت سریع‌تر با قابلیت هوش مصنوعی نسبت به حاکمیت هوش مصنوعی مستقیماً به مشکل نشت داده ترجمه می‌شود. سازمان‌هایی که ابزارهای هوش مصنوعی را سریع‌تر از آنچه چارچوب‌های حفاظت از داده آنها می‌توانند سازگار شوند مستقر می‌کنند، دقیقاً همان در معرض قرارگیری مدیریت‌نشده‌ای را ایجاد می‌کنند که نگرانی عمومی هاوکینگ درباره حاکمیت ناکافی هوش مصنوعی به آن اشاره می‌کرد. درس عملی برای پیشگیری از نشت داده این است که زیرساخت حاکمیت باید پیش از مقیاس استقرار توسعه یابد، نه اینکه به آن برسد.

کیفیت رد حسابرسی تعیین می‌کند که سازمان‌ها چقدر خوب می‌توانند به حوادث نشت پاسخ دهند زمانی که رخ می‌دهند. دانستن اینکه یک کارمند داده‌های حساس را به یک ابزار هوش مصنوعی غیرمجاز ارسال کرده مفید است. دانستن اینکه چه داده خاصی ارسال شده، چه زمانی، پاسخ ابزار هوش مصنوعی چه بوده و کارمند با آن پاسخ چه کرده، چیزی است که پاسخ مؤثر به حادثه را ممکن می‌سازد. زیرساخت ثبت برای پیشگیری از نشت داده‌های هوش مصنوعی باید برای سودمندی تحقیق حادثه ساخته شود، نه فقط برای رضایت چک‌لیست انطباق.

کارمندان بین‌المللی و دفاتر، پیچیدگی اقامت داده را به پیشگیری از نشت اضافه می‌کنند. یک ابزار هوش مصنوعی که برای استفاده با داده‌های کسب‌وکار غیرشخصی در یک حوزه قضایی تأیید شده است، ممکن است هنگام استفاده با همان دسته‌های داده در یک حوزه دیگر، نقض اقامت داده ایجاد کند. سازمان‌های چندملیتی به برنامه‌های پیشگیری از نشت داده نیاز دارند که تنوع حوزه قضایی را در نظر بگیرند، نه اینکه سیاست‌های جهانی یکنواخت را بدون حساسیت جغرافیایی اعمال کنند.

پیشگیری از نشت داده‌های هوش مصنوعی به‌عنوان یک نظم مستمر

پیشگیری از نشت داده‌های هوش مصنوعی پروژه‌ای با تاریخ تکمیل نیست. این یک نظم عملیاتی مستمر است که باید همگام با چشم‌انداز ابزار هوش مصنوعی، محیط نظارتی و ردپای هوش مصنوعی سازمانی که اداره می‌کند، تکامل یابد. ابزارهایی که دوازده ماه پیش وجود نداشتند، امروز بخش‌های استاندارد جریان‌های کاری بسیاری از کارمندان هستند. مقرراتی که یک سال پیش آرمانی بودند، اکنون الزامات قابل اجرا هستند. قابلیت‌های هوش مصنوعی که به ابزارهای مستقل محدود بودند، در زیرساخت عملیاتی به‌گونه‌ای جاسازی شده‌اند که مرز بین استفاده از ابزار هوش مصنوعی و استفاده منظم از سامانه را محو می‌کنند.

سازمان‌هایی که پیشگیری از نشت داده‌های هوش مصنوعی را به‌عنوان یک برنامه عملیاتی پایدار، با زیرساخت دید، فرآیندهای حاکمیت و بنیادهای فرهنگی که آن را به جای وابسته به اجرا، خودتقویتی می‌سازد، می‌سازند، حفاظتی می‌سازند که در طول زمان جمع می‌شود. هر ابزار تأیید‌شده‌ای که به برنامه اضافه می‌شود، جذابیت گزینه‌های سایه را کاهش می‌دهد. هر چرخه آموزشی، قضاوت کارمندان درباره طبقه‌بندی داده و انتخاب ابزار را بهبود می‌بخشد. هر بررسی توافقنامه فروشنده، انحراف بین حفاظت‌های مستند و واقعی را قبل از اینکه در معرض قرارگیری تشخیص داده نشده ایجاد کند، تشخیص می‌دهد.

داده‌هایی که از طریق ابزارهای هوش مصنوعی سازمان شما جریان می‌یابند، برخی از حساس‌ترین اطلاعاتی هستند که کسب‌وکار شما تولید می‌کند، که در زمینه‌هایی پردازش می‌شوند که کنترل‌های عادی حاکم بر مدیریت داده در آنجا کمترین بلوغ را دارند. ساختن برنامه پیشگیری که به‌طور مناسب از آن حفاظت می‌کند، یک تمرین انطباق نیست. این یک سرمایه‌گذاری امنیتی بنیادی در کسب‌وکار توانمندشده با هوش مصنوعی است که سازمان شما در حال تبدیل شدن به آن است.

سؤالات متداول

نشت داده در هوش مصنوعی چیست؟

نشت داده در هوش مصنوعی به افشای اطلاعات سازمانی حساس از طریق استفاده از ابزار هوش مصنوعی اشاره دارد، که هنگامی رخ می‌دهد که کارمندان داده‌های محرمانه را به سامانه‌های هوش مصنوعی ارسال می‌کنند که رویه‌های مدیریت داده، سیاست‌های نگهداری یا استفاده از داده‌های آموزشی فروشنده‌شان افشای غیرمجاز فراتر از هدف پردازش مورد نظر ایجاد می‌کند. این با نشت داده متعارف متفاوت است، زیرا از طریق کانالی اتفاق می‌افتد که ابزارهای DLP موجود اغلب آن را نظارت نمی‌کنند، از طریق اقدامات کارمندی که واقعاً تولیدی هستند نه غفلت‌آمیز یا مخرب، و با پیامدهایی که ممکن است نه تنها در معرض قرارگیری فوری، بلکه رمزگذاری مستمر اطلاعات حساس در زیرساخت مدل فروشنده را شامل شود.

قانون ۳۰٪ برای هوش مصنوعی چیست؟

قانون ۳۰٪ برای هوش مصنوعی این اصل است که سامانه‌های هوش مصنوعی و کنترل‌های خودکار باید تقریباً ۳۰٪ از یک جریان کاری یا عملکرد برنامه را انجام دهند، به‌طور خاص وظایفی با فرکانس بالا، به‌خوبی تعریف‌شده و قابل اجرا به‌طور پیوسته که در آنها خودکارسازی مزایای کارایی و قابلیت اطمینان واضحی فراهم می‌کند، در حالی که قضاوت انسانی و حاکمیت ۷۰٪ باقیمانده را پوشش می‌دهد که شامل ارزیابی زمینه‌ای، تصمیمات ریسک و مسئولیت‌پذیری است که باید بر دوش افراد قرار گیرد نه سامانه‌های خودکار. در پیشگیری از نشت داده هوش مصنوعی به‌طور خاص، این به این معنی است که کنترل‌های فنی خودکار اجرای سیاست روتین را انجام می‌دهند در حالی که حاکمیت انسانی مالک ارزیابی ریسک، ارزیابی فروشنده، پاسخ به حادثه و ابعاد فرهنگی و آموزشی است که تعیین می‌کند آیا کنترل‌های فنی در رفتار واقعی ادغام می‌شوند.

هشدار استیون هاوکینگ درباره هوش مصنوعی چه بود؟

هشدار اصلی استیون هاوکینگ درباره هوش مصنوعی به ریسک وجودی بالقوه از هوش مصنوعی عمومی مربوط می‌شد که از قابلیت‌های شناختی انسان فراتر می‌رود و اهدافی را دنبال می‌کند که با رفاه انسان همسو نیستند، و این نگرانی را ابراز می‌کرد که بشریت در حال حرکت بسیار سریع در توسعه قابلیت هوش مصنوعی بدون توجه کافی به ایمنی و حاکمیت است. در حالی که نگرانی او به ریسک وجودی بلندمدت معطوف بود نه به امنیت داده کسب‌وکار کوتاه‌مدت، اصل حاکمیت زیربنایی مستقیماً به استقرار عملی هوش مصنوعی ترجمه می‌شود: سازمان‌هایی که قابلیت هوش مصنوعی را سریع‌تر از سازگار شدن چارچوب‌های حاکمیت خود پیش می‌برند، همان ریسک مدیریت‌نشده ناشی از قابلیت بدون پاسخگویی را ایجاد می‌کنند.

چگونه از هوش مصنوعی بدون نشت داده استفاده کنیم؟

استفاده از هوش مصنوعی بدون نشت داده به چهار رویه نیاز دارد که به‌طور پیوسته اعمال شوند: ارسال تنها داده‌هایی که قبل از هر استفاده در برابر دسته‌های داده تأیید‌شده ابزار هوش مصنوعی ارزیابی شده‌اند، تکیه انحصاری بر ابزارهای هوش مصنوعی سطح سازمانی با توافقنامه‌های پردازش داده امضاشده که استفاده از داده‌های آموزشی را ممنوع می‌کنند، درک رویه‌های مدیریت داده خاص هر ابزار هوش مصنوعی مورد استفاده برای کارهای کاری از جمله آنهایی که در نرم‌افزار بهره‌وری جاسازی شده‌اند، و پیروی از سیاست‌های طبقه‌بندی داده سازمانی که تعریف می‌کنند چه سطوح حساسیتی با چه ابزارهای هوش مصنوعی مجاز هستند. برای بالاترین دسته‌های حساسیت داده، تنها رویکرد کاملاً ضد نشت، استفاده از ابزارهای هوش مصنوعی مستقر شده روی زیرساخت خصوصی است که داده‌ها هرگز محیط شبکه خود سازمان را ترک نمی‌کنند.

چه چیزی را نباید به ChatGPT بگویید؟

از طریق رابط مصرف‌کننده استاندارد ChatGPT، کارمندان نباید اطلاعات شخصی مشتری، سوابق کارمند، ارتباطات دارای امتیاز قانونی، کد منبع یا الگوریتم‌های اختصاصی، پیش‌نویس افشاهای مالی یا اطلاعات مادی غیرعمومی، اسرار تجاری، اطلاعات محرمانه مشتری یا هر داده دیگری که افشای غیرمجاز آن پیامدهای قانونی، نظارتی، رقابتی یا قراردادی برای سازمان ایجاد می‌کند را ارسال کنند. نسخه مصرف‌کننده ChatGPT تحت شرایط خدماتی عمل می‌کند که شامل توافقنامه‌های پردازش داده، ممنوعیت‌های داده آموزشی و حفاظت‌های قراردادی نیست که ابزارهای هوش مصنوعی سطح سازمانی را برای داده‌های کسب‌وکار مناسب می‌کنند، که به این معنی است که محتوای ارسال‌شده از طریق حساب‌های شخصی ممکن است نگهداری شود و به‌طور بالقوه به روش‌هایی استفاده شود که سازمان‌ها نتوانند آنها را کنترل یا حتی کشف کنند.