امنیت هوش مصنوعی مبتنی بر اعتماد صفر، به‌کارگیری اصول اعتماد صفر در سیستم‌های هوش مصنوعی است که مستلزم آن است هر کاربر، مدل، منبع داده و نقطه ادغام به‌طور مستمر تأیید شود و تنها حداقل دسترسی لازم برای انجام عملکرد خود را دریافت کند، بدون آنکه بر اساس موقعیت شبکه یا احراز هویت قبلی اعتمادی ضمنی به آن اعطا شود. این رویکرد سیستم‌های هوش مصنوعی را به‌عنوان اهداف ارزشمندی تلقی می‌کند که به همان کنترل‌های دسترسی دقیق نیاز دارند که هر زیرساخت ممتاز دیگری به آن نیازمند است.

مدل محیط امنیتی سنتی فرض می‌کرد تهدیدها از خارج شبکه می‌آیند و سیستم‌های داخل آن قابل اعتماد هستند. این فرض حتی پیش از ظهور هوش مصنوعی نیز تحت فشار بود. استقرارهای هوش مصنوعی آن را به‌طور کامل درهم می‌شکنند. یک سیستم هوش مصنوعی متصل به پایگاه‌های داده داخلی، ایمیل، مخازن اسناد و APIهای خارجی، در مرز اعتمادی فعالیت می‌کند که مدل محیطی نمی‌تواند آن را تعریف کند، چه برسد به دفاع از آن. این سیستم ورودی‌ها را از هر جایی می‌پذیرد، محتوا را از منابع متعدد بازیابی می‌کند و در توالی‌هایی روی سیستم‌های متصل اقدام می‌کند که هیچ مدل کنترل دسترسی سنتی برای حاکمیت بر آن طراحی نشده است. سطح حمله یک محیط تعریف‌شده نیست؛ بلکه مجموعه کامل اتصالاتی است که یک سیستم هوش مصنوعی می‌تواند پیمایش کند، طیف کامل محتوایی که پردازش می‌کند و دامنه کامل اقداماتی است که مجاز به انجام آنهاست. امنیت هوش مصنوعی مبتنی بر اعتماد صفر به این واقعیت پاسخ می‌دهد، با جایگزینی فرض محیطی با تأیید مستمر در هر تعامل، هر دسترسی به داده و هر اقدامی که سیستم هوش مصنوعی انجام می‌دهد. این راهنما توضیح می‌دهد که اصول اعتماد صفر چگونه به‌طور خاص در استقرارهای هوش مصنوعی به کار می‌رود، هفت ستون آن در زمینه هوش مصنوعی چگونه به نظر می‌رسد و سازمان‌ها برای عملی‌سازی این مدل چه چیزی باید بسازند.

چرا امنیت محیطی به‌طور خاص برای سیستم‌های هوش مصنوعی شکست می‌خورد

مسئله هوش مصنوعی متصل

یک برنامه سازمانی متعارف مجموعه‌ای تعریف‌شده از کاربران، مجموعه‌ای تعریف‌شده از عملکردها و الگوهای نسبتاً قابل پیش‌بینی دسترسی به داده دارد. تیم‌های امنیتی می‌توانند کنترل‌های دسترسی را پیرامون این تعاریف ایجاد کنند، انحرافات را پایش کنند و ناهنجاری‌ها را به‌عنوان سیگنال‌هایی از خطر احتمالی تلقی کنند. این پیش‌بینی‌پذیری رفتار است که امنیت محیطی را حتی در حالت ناکامل، قابل اجرا می‌سازد.

سیستم‌های هوش مصنوعی، به‌ویژه سیستم‌های هوش مصنوعی عامل‌محور و آنهایی که به خط لوله‌های بازیابی متصل هستند، به همان معنا رفتار قابل پیش‌بینی ندارند. پاسخ‌های آنها با ورودی‌ها تغییر می‌کند. داده‌هایی که به آنها دسترسی پیدا می‌کنند، به آنچه پرسش‌ها در زمان اجرا تولید می‌کنند بستگی دارد، نه به فهرست دسترسی از پیش تعریف‌شده. اقداماتی که از طریق ابزارهای متصل انجام می‌دهند، به وظایفی که به آنها داده می‌شود بستگی دارد، نه به مجموعه ثابتی از عملکردها. امنیت محیطی که بر اساس تعریف ایستا از عملکرد سیستم ساخته شده باشد، نمی‌تواند با واقعیت پویای آنچه سیستم در عمل به آن دسترسی می‌یابد و اجرا می‌کند، همگام شود.

حملات تزریق پرامپت از این شکاف به‌طور مستقیم بهره‌برداری می‌کنند. مهاجمی که بتواند دستورالعمل‌های مخرب را در هر محتوایی که سیستم هوش مصنوعی بازیابی یا دریافت می‌کند تزریق کند، می‌تواند به‌طور بالقوه رفتار سیستم را به‌طور کامل تغییر دهد و باعث شود که به داده‌ها دسترسی پیدا کند، اقداماتی را انجام دهد یا اطلاعاتی را به شیوه‌هایی آشکار کند که از هر کنترل محیطی حاکم بر رفتار عادی سیستم عبور می‌کنند. این حمله از مرز شبکه عبور نمی‌کند؛ بلکه از یک مرز اعتماد در درون پردازش خود سیستم عبور می‌کند، در کانالی که دفاع‌های محیطی برای پایش آن جایگاهی ندارند.

امنیت هوش مصنوعی مبتنی بر اعتماد صفر با انتقال تأیید از محیط شبکه به هر تعامل فردی، به این موضوع پاسخ می‌دهد. به‌جای پرسیدن اینکه آیا یک کاربر یا سیستم درون شبکه قابل اعتماد است یا نه، می‌پرسد آیا این درخواست خاص، از این هویت خاص، برای این منبع خاص، در این لحظه خاص، مجاز است یا نه. این پرسش به‌طور مستمر پرسیده می‌شود، نه یک‌بار در زمان احراز هویت.

چگونه هوش مصنوعی پیامدهای نقض اعتماد را تشدید می‌کند

دلیل اینکه امنیت هوش مصنوعی مبتنی بر اعتماد صفر بیش از اعتماد صفر برای برنامه‌های متعارف اهمیت دارد، این نیست که سیستم‌های هوش مصنوعی ذاتاً کم‌امنیت‌ترند. دلیل این است که پیامدهای نقض اعتماد در یک سیستم هوش مصنوعی متصل، به‌واسطه اتصال‌پذیری و خودمختاری سیستم به شکلی تشدید می‌شود که در نقض‌های معادل در سیستم‌های متعارف وجود ندارد.

یک حساب کاربری به‌خطر افتاده در یک برنامه متعارف، دسترسی به آنچه آن کاربر می‌تواند به آن دسترسی داشته باشد را ایجاد می‌کند. یک عامل هوش مصنوعی به‌خطر افتاده یا دستکاری‌شده با دسترسی گسترده به ابزارها، می‌تواند به‌طور بالقوه چندین سیستم متصل را پیمایش کند، داده‌ها را از چندین منبع استخراج کند و در یک توالی خودکار اقداماتی را در چندین پلتفرم انجام دهد که تکرار دستی آن نیاز به تلاش گسترده مهاجم خواهد داشت. خودکارسازی‌ای که عوامل هوش مصنوعی را در وظایف مشروع ارزشمند می‌سازد، در زمانی که رفتارشان دستکاری یا دسترسی‌شان مورد سوءاستفاده قرار گیرد، آنها را در انجام وظایف نامشروع نیز کارآمد می‌کند.

امنیت هوش مصنوعی مبتنی بر اعتماد صفر، شعاع تخریب نقض‌های اعتماد را با اطمینان از اینکه حتی یک سیستم هوش مصنوعی که با موفقیت دستکاری شده، تنها می‌تواند به منابع خاصی که در زمینه فعلی به آن مجوز داده شده دسترسی داشته باشد و بر آنها اثر بگذارد، کاهش می‌دهد، به‌جای آنکه دسترسی گسترده‌ای را که در زمان احراز هویت اعطا شده و هرگز بازبینی نشده، به ارث ببرد.

بررسی اینکه چگونه تصمیمات معماری امنیت هوش مصنوعی در زمینه محدودسازی دسترسی و تأیید مستمر بر شعاع عملی تخریب در سازش سیستم هوش مصنوعی تأثیر می‌گذارد، به سازمان‌ها کمک می‌کند استقرارهایی بسازند که در آن پیامدهای شکست‌های امنیتی محدود و نه نامحدود باشد.

هفت ستون اعتماد صفر در کاربرد سیستم‌های هوش مصنوعی

امنیت اعتماد صفر بر اساس هفت ستون سازماندهی شده است که در کنار یکدیگر معماری کامل تأیید و کنترل را تعریف می‌کنند. هر ستون هنگامی که به سیستم‌های هوش مصنوعی به جای برنامه‌های متعارف اعمال می‌شود، ویژگی‌ها و الزامات خاصی پیدا می‌کند.

ستون اول: تأیید هویت

در اعتماد صفر متعارف، تأیید هویت کاربران انسانی و حساب‌های سرویس را پوشش می‌دهد. در امنیت هوش مصنوعی مبتنی بر اعتماد صفر، سطح هویت گسترش می‌یابد تا شامل خود مدل هوش مصنوعی به‌عنوان هویتی شود که باید تأیید گردد، عواملی که از طرف کاربران عمل می‌کنند و باید برای اهداف کنترل دسترسی از آن کاربران متمایز شوند، و حساب‌های سرویسی که سیستم‌های هوش مصنوعی برای دسترسی به منابع متصل استفاده می‌کنند و باید با همان دقت حساب‌های ممتاز انسانی مدیریت شوند.

احراز هویت مستمر به‌جای احراز هویت مبتنی بر نشست، استاندارد اعتماد صفر برای کاربران انسانی است که به سیستم‌های هوش مصنوعی دسترسی پیدا می‌کنند. احراز هویت چندعاملی، تحلیل رفتاری که الگوهای استفاده غیرعادی را پایش می‌کند و سیاست‌های دسترسی آگاه از زمینه که الزامات تأیید را بر اساس حساسیت آنچه درخواست می‌شود تنظیم می‌کنند، همگی در استقرارهای سیستم هوش مصنوعی کاربرد دارند.

برای عوامل هوش مصنوعی که به‌طور خودمختار عمل می‌کنند، چالش هویتی حفظ این اصل است که دسترسی عامل به وظیفه‌ای خاص که در حال انجام آن است محدود باشد، نه آنکه دسترسی کامل کاربر انسانی که آن را آغاز کرده به ارث ببرد. عاملی که وظیفه پژوهشی را از طرف کاربر انجام می‌دهد، باید دسترسی پژوهشی داشته باشد، نه ردپای دسترسی کامل کاربر. این محدودسازی به معماری هویت صریح نیازمند است، نه به وراثت پیش‌فرضی که بسیاری از چارچوب‌های عامل پیاده‌سازی می‌کنند.

ستون دوم: امنیت دستگاه

امنیت دستگاه در زمینه اعتماد صفر هوش مصنوعی، هم نقاط پایانی‌ای که کاربران از طریق آنها به سیستم‌های هوش مصنوعی دسترسی پیدا می‌کنند و هم زیرساختی که مدل‌های هوش مصنوعی روی آن اجرا می‌شوند را پوشش می‌دهد. برای دستگاه‌های کاربر، کنترل‌های استاندارد اعتماد صفر کاربرد دارند: تأیید سلامت دستگاه پیش از اعطای دسترسی، پوشش EDR و سیاست‌های دسترسی که بسته به وضعیت مدیریت دستگاه متفاوت‌اند.

لایه زیرساخت نیازمند توجه ویژه است، زیرا سخت‌افزار استنتاج هوش مصنوعی یک هدف ارزشمند محسوب می‌شود که امنیت نقاط پایانی سنتی برای آن طراحی نشده است. سرورهای GPU که مدل‌های بزرگ را اجرا می‌کنند، هم وزن‌های مدل را که نماینده مالکیت فکری قابل توجهی هستند و هم داده‌های در حال پردازش از طریق استنتاج را که ممکن است شامل اطلاعات سازمانی حساس باشد، در خود جای داده‌اند. امنیت فیزیکی و منطقی زیرساخت استنتاج هوش مصنوعی، شایسته همان مدیریت دسترسی ممتاز، پایش یکپارچگی و ثبت دسترسی‌هاست که سایر دارایی‌های زیرساختی با ارزش بالا دارند.

ستون سوم: تقسیم‌بندی شبکه

معماری شبکه اعتماد صفر، شبکه مسطح قابل اعتماد را با مناطق ریزتقسیم‌بندی‌شده جایگزین می‌کند که در آنها ترافیک بین بخش‌ها به اجازه صریح نیاز دارد، نه آنکه آزادانه درون محیط جریان یابد. برای سیستم‌های هوش مصنوعی، تقسیم‌بندی شبکه تعیین می‌کند کدام مؤلفه‌های معماری هوش مصنوعی می‌توانند با کدام دیگری ارتباط برقرار کنند و سیستم هوش مصنوعی به کدام منابع خارجی می‌تواند دسترسی داشته باشد.

سرورهای استنتاج هوش مصنوعی باید از منابعی که به دسترسی به آنها نیاز ندارند، از نظر شبکه تفکیک شوند. مدلی که به پرسش‌های خدمات مشتری پاسخ می‌دهد، نیازی به دسترسی شبکه‌ای به سیستم‌های مالی ندارد. ابزار پژوهشی هوش مصنوعی نیازی به دسترسی به پایگاه‌های داده منابع انسانی ندارد. معماری شبکه باید این جدایی‌ها را اعمال کند، نه آنکه بر این اعتماد کند که سیستم هوش مصنوعی به‌طور داوطلبانه به آنها احترام بگذارد، زیرا تزریق پرامپت و سایر تکنیک‌های دستکاری می‌توانند محدودیت‌های رفتاری را نقض کنند، در حالی که تقسیم‌بندی شبکه آنها را به‌طور فیزیکی اعمال می‌کند.

دسترسی به شبکه خارجی برای سیستم‌های هوش مصنوعی، از جمله دسترسی به جستجوی وب، APIهای خارجی و خدمات ابری، باید به‌طور صریح از طریق فهرست‌های مجاز اجازه داده شود، نه آنکه به‌طور پیش‌فرض اجازه داده شود و استثناها مسدود شوند. پیش‌فرض برای اتصال خارجی سیستم هوش مصنوعی در معماری اعتماد صفر، عدم دسترسی است، با اضافه شدن مقاصد مجاز خاص بر اساس الزامات عملیاتی مستندشده.

ستون چهارم: امنیت برنامه

امنیت برنامه در زمینه اعتماد صفر هوش مصنوعی، امنیت لایه برنامه هوش مصنوعی را پوشش می‌دهد، از جمله زیرساخت پرامپت، خط لوله‌های بازیابی، ادغام‌های ابزاری و منطق مدیریت خروجی که در کنار یکدیگر نحوه پردازش درخواست‌ها و تولید پاسخ‌ها توسط سیستم هوش مصنوعی را تعریف می‌کنند.

اعتبارسنجی و پاکسازی ورودی در لایه برنامه، نماینده اصل اعتماد صفر مبنی بر تأیید محتوا، نه فقط هویت، در کاربرد سیستم‌های هوش مصنوعی است. هر ورودی که به مدل می‌رسد، چه از کاربران، اسناد بازیابی‌شده، خروجی‌های ابزار یا پیام‌های سیستمی، باید به‌عنوان احتمالاً متخاصم تلقی شود و از طریق فیلتر مناسب پردازش گردد، نه آنکه به‌طور ضمنی به آن اعتماد شود.

اعتبارسنجی خروجی همان اصل را به‌صورت معکوس به کار می‌برد. هر خروجی که سیستم هوش مصنوعی تولید می‌کند، پیش از آنکه به کاربران، سیستم‌های متصل یا فرایندهای پایین‌دستی برسد، باید در برابر معیارهای تعریف‌شده‌ای بازرسی شود که محتوای مضر، نشت داده‌های حساس و ناهنجاری‌های رفتاری را که نشانه دستکاری مدل هستند، شناسایی می‌کنند.

درک اینکه چگونه تصمیمات معماری هوش مصنوعی در لایه برنامه بر پیاده‌سازی عملی کنترل‌های ورودی و خروجی اعتماد صفر تأثیر می‌گذارد، به سازمان‌ها کمک می‌کند سیستم‌های هوش مصنوعی‌ای بسازند که در آنها امنیت در خط لوله پردازش جاسازی شده باشد، نه آنکه در محیط به آن افزوده شده باشد.

ستون پنجم: امنیت داده

امنیت داده تحت اعتماد صفر هوش مصنوعی مستلزم آن است که هر دسترسی به داده توسط یک سیستم هوش مصنوعی، به مجوز صریح نیاز داشته باشد، نه آنکه مجوزهای گسترده را به ارث ببرد. این ستون جایی است که استقرارهای هوش مصنوعی به‌طور مستقیم‌تر به کنترل‌های اعتماد صفر تخصصی نیاز دارند، زیرا معماری‌های امنیت داده موجود برای الگوهای پویا و مبتنی بر پرس‌وجوی دسترسی به داده که سیستم‌های بازیابی هوش مصنوعی ایجاد می‌کنند، طراحی نشده‌اند.

طبقه‌بندی داده‌ای که سیستم‌های هوش مصنوعی در رفتار بازیابی و پردازش خود به آن احترام می‌گذارند، به یکپارچگی بین زیرساخت حاکمیت داده و لایه کنترل دسترسی هوش مصنوعی نیاز دارد. هنگامی که سطح مجوز کاربر تعیین می‌کند به کدام اسناد می‌تواند مستقیماً در یک سیستم مدیریت سند دسترسی داشته باشد، سیستم هوش مصنوعی که اسناد را از طرف آن کاربر بازیابی می‌کند، باید همان مرز مجوز را رعایت کند و فقط اسنادی را که کاربر مجاز به دیدن آنهاست بازگرداند، نه همه چیزی که در پایگاه دانش به پرسش او مربوط است.

حداقل‌سازی داده، یک اصل اساسی اعتماد صفر برای داده، مستلزم آن است که سیستم‌های هوش مصنوعی تنها به داده‌های خاص لازم برای وظیفه فعلی دسترسی پیدا کرده و آنها را پردازش کنند. دستیار هوش مصنوعی که از او خواسته می‌شود پاسخی برای یک ایمیل پیش‌نویس کند، نیازی به دسترسی به تاریخچه کامل مشتری ندارد. ابزار هوش مصنوعی که یک سند خاص را خلاصه می‌کند، نیازی به دسترسی به پوشه پیرامون آن ندارد. پیاده‌سازی حداقل‌سازی داده در سیستم‌های هوش مصنوعی نیازمند کنترل‌های دسترسی‌ای است که در سطح داده‌ای ریز عمل کنند، نه در سطح سیستم یا پایگاه داده.

بررسی اینکه ویژگی‌های هوش مصنوعی در پلتفرم‌های هوش مصنوعی سازمانی چگونه کنترل‌های دسترسی به داده و مجوز بازیابی را پیاده‌سازی می‌کنند، به سازمان‌ها کمک می‌کند ارزیابی کنند آیا معماری امنیت داده یک فروشنده از اصول اعتماد صفر پشتیبانی می‌کند یا برای دستیابی به همان اثر به کنترل‌های مکمل نیاز دارد.

ستون ششم: مشاهده‌پذیری و تحلیل

امنیت اعتماد صفر بر توانایی شناسایی ناهنجاری‌هایی که نشان‌دهنده نقض اعتماد هستند، استوار است، که این امر نیازمند مشاهده‌پذیری جامع از همه آن چیزی است که سیستم هوش مصنوعی انجام می‌دهد. بدون پوشش ثبت گزارش و پایش در هر تعامل سیستم هوش مصنوعی، تأیید اعتماد صفر هیچ سیگنالی هنگام وقوع نقض تولید نمی‌کند، زیرا شواهد لازم برای شناسایی آنها وجود ندارد.

برای سیستم‌های هوش مصنوعی، الزامات مشاهده‌پذیری فراتر از ثبت گزارش متعارف برنامه است. هر پرسش ارسال‌شده به مدل، هر سند بازیابی‌شده از طریق خط لوله‌های RAG، هر فراخوانی ابزار اجرا شده توسط یک عامل، هر خروجی تولید شده توسط سیستم و هر تصمیم کنترل دسترسی گرفته شده در هر نقطه بازرسی تأیید، باید در گزارش‌هایی ثبت شود که تیم‌های عملیات امنیتی بتوانند آنها را پایش و بررسی کنند.

تحلیل رفتاری اعمال‌شده بر گزارش‌های فعالیت سیستم هوش مصنوعی، قابلیت تشخیص ناهنجاری را ایجاد می‌کند که مشاهده‌پذیری اعتماد صفر را قابل اقدام می‌سازد. مدل‌های پایه‌ای از رفتار عادی سیستم هوش مصنوعی، از جمله الگوهای معمول پرسش، حجم‌های معمول بازیابی و فراوانی‌های استاندارد استفاده از ابزار، امکان شناسایی انحرافاتی را فراهم می‌کنند که ممکن است نشان‌دهنده تزریق پرامپت، تلاش برای استخراج داده یا الگوهای دسترسی غیرمجاز باشند که بدون نقاط مرجع رفتاری، نامرئی خواهند بود.

ستون هفتم: خودکارسازی و هماهنگ‌سازی

اعتماد صفر در مقیاس سازمانی نمی‌تواند به‌صورت دستی اداره شود. تصمیمات تأیید، پاسخ‌های ناهنجاری و به‌روزرسانی‌های سیاست دسترسی که تأیید مستمر به آنها نیاز دارد، با فرکانس و در پیچیدگی سیستمی رخ می‌دهند که عملیات انسانی قادر به همگامی با آن نیست. خودکارسازی و هماهنگ‌سازی، ستون نهایی اعتماد صفر، سیستم‌هایی را پوشش می‌دهد که اعتماد صفر را در مقیاس عملیاتی می‌سازند، نه آنکه آن را به‌صورت نظری در اسناد معماری باقی بگذارند.

به‌طور خاص برای سیستم‌های هوش مصنوعی، پاسخ خودکار به ناهنجاری‌های شناسایی‌شده، از جمله محدودیت نرخ ناشی از الگوهای پرسش غیرعادی، محدودیت دسترسی ناشی از ناهنجاری‌های رفتاری و تشدید هشدار ناشی از امضاهای احتمالی تزریق پرامپت، سرعت پاسخی را فراهم می‌کند که تشخیص اعتماد صفر را معنادار می‌سازد. تشخیص بدون پاسخ خودکار، سیستمی ایجاد می‌کند که تهدیدها را سریع‌تر از آنکه انسان‌ها بتوانند بر اساس آنها عمل کنند، شناسایی می‌کند.

ستون اعتماد صفر	برنامه متعارف	گسترش خاص سیستم هوش مصنوعی
هویت	تأیید کاربر و حساب سرویس	به‌علاوه هویت عامل هوش مصنوعی، اعتبارنامه‌های محدود به وظیفه
دستگاه	سلامت نقطه پایانی و وضعیت مدیریت	به‌علاوه یکپارچگی زیرساخت استنتاج هوش مصنوعی
شبکه	ریزتقسیم‌بندی بین مناطق	به‌علاوه فهرست‌های مجاز خاص هوش مصنوعی برای دسترسی خارجی
برنامه	اعتبارسنجی ورودی و پایش خروجی	به‌علاوه تشخیص تزریق پرامپت، فیلترسازی خروجی
داده	کنترل دسترسی مبتنی بر طبقه‌بندی	به‌علاوه مجوز بازیابی، حداقل‌سازی داده در پرس‌وجوها
مشاهده‌پذیری	گزارش‌های برنامه و دسترسی	به‌علاوه گزارش‌های پرسش مدل، بازیابی، فراخوانی ابزار و خروجی
خودکارسازی	اعمال سیاست و پاسخ به ناهنجاری	به‌علاوه تحلیل رفتاری و پاسخ خاص هوش مصنوعی

ساخت امنیت هوش مصنوعی مبتنی بر اعتماد صفر در عمل

شروع با ممیزی دسترسی

نقطه شروع عملی برای امنیت هوش مصنوعی مبتنی بر اعتماد صفر، یک ممیزی صادقانه از این موضوع است که هر سیستم هوش مصنوعی در استقرار سازمان در حال حاضر به چه چیزهایی می‌تواند دسترسی داشته باشد، در مقابل آنچه واقعاً برای عملکرد تعریف‌شده خود به آن نیاز دارد. شکاف بین این دو فهرست، کار اصلاحی حداقل امتیاز را تعریف می‌کند که استقرار را به اصول اعتماد صفر نزدیک‌تر می‌سازد.

بیشتر سیستم‌های هوش مصنوعی، به‌ویژه آنهایی که از طریق کار ادغام تدریجی تکامل یافته‌اند، مجوزهای دسترسی‌ای را انباشته‌اند که تاریخ آنچه را که متصل شده بازتاب می‌دهد، نه ارزیابی آگاهانه از آنچه ضروری است. یک ابزار پژوهشی هوش مصنوعی که با ایمیل برای بازیابی اسناد ارجاع‌شده ادغام شده، سپس برای زمینه گسترده‌تر به سیستم مدیریت سند متصل شده و سپس برای مراجعه مشتری به CRM پیوند یافته، اکنون ممکن است در سه سیستم دسترسی داشته باشد که هر یک حاوی داده‌های حساسی هستند که بسیار فراتر از آنچه هر وظیفه پژوهشی خاصی نیاز دارد.

ممیزی دسترسی یک نقشه قابلیت تولید می‌کند: هر سیستمی که یک ابزار هوش مصنوعی می‌تواند به آن دسترسی پیدا کند، هر اقدامی که می‌تواند انجام دهد و هر دسته داده‌ای که می‌تواند بازیابی کند، در کنار نقشه‌ای از الزامات عملیاتی: هر سیستمی که واقعاً برای عملکرد تعریف‌شده خود نیاز دارد، هر اقدامی که آن عملکرد به‌طور مشروع نیاز دارد و هر دسته داده‌ای که آن عملکرد واقعاً به آن نیاز دارد. اصلاح به‌معنای بستن شکاف بین این دو از طریق کاهش دامنه دسترسی، تقسیم‌بندی شبکه و استقرار الگوهای دسترسی به‌موقع برای قابلیت‌هایی است که سیستم گه‌گاه و نه به‌طور مستمر به آنها نیاز دارد.

پیاده‌سازی تأیید مستمر بدون افت عملکرد

یک نگرانی رایج درباره اعمال اصول اعتماد صفر بر سیستم‌های هوش مصنوعی این است که تأیید مستمر تأخیری ایجاد می‌کند که تجربه کاربری ابزارهای هوش مصنوعی‌ای را که باید سریع پاسخ دهند، تنزل می‌دهد. این نگرانی واقعی است اما از طریق انتخاب‌های معماری که تأیید را در نقاط درست قرار می‌دهند، نه آنکه آن را یکسان به هر تعامل اضافه کنند، قابل مدیریت است.

تأیید در سطح نشست برای دسترسی کاربر احرازشده، بخش عمده‌ای از سربار تأیید هویت انسانی را با یک رویداد احراز هویت واحد به‌جای هر پرسش پوشش می‌دهد. تصمیمات مجوز ذخیره‌شده برای الگوهای دسترسی به داده که به‌طور مکرر تکرار می‌شوند، سربار تأیید را برای عملیات بازیابی کاهش می‌دهند بدون آنکه از الزام تأیید چشم‌پوشی کنند. تأیید ناهمزمان برای عملیات با حساسیت کمتر که می‌توانند حل و فصل مجوز با تأخیر اندک را تحمل کنند، مسیر ممیزی اعتماد صفر را بدون تأخیر همزمان در هر تعامل حفظ می‌کند.

نقاط تأییدی که واقعاً به رفتار مسدودسازی همزمان پیش از ادامه نیاز دارند، آنهایی هستند که دسترسی به داده‌های با حساسیت بالا، اقدامات با پیامدهای قابل‌توجه یا برگشت‌ناپذیر و ناهنجاری‌های رفتاری را که موجب نظارت بیشتر می‌شوند، اداره می‌کنند. برای عملیات روزمره درون خطوط پایه رفتاری تثبیت‌شده، تأیید می‌تواند به‌طور کارآمد بدون تأخیر قابل‌مشاهده توسط کاربر از طریق معماری‌های کش و ناهمزمان به‌خوبی طراحی‌شده، اداره شود.

یک راهنمای جامع هوش مصنوعی درباره پیاده‌سازی معماری‌های امنیت هوش مصنوعی مبتنی بر اعتماد صفر که دقت تأیید را با عملکرد عملیاتی متعادل می‌کنند، به سازمان‌ها کمک می‌کند از انتخاب کاذب بین امنیت و قابلیت استفاده که پیاده‌سازی‌های ضعیف طراحی‌شده ایجاد می‌کنند، اجتناب کنند.

IMAGE SUGGESTION: A developer or security architect at a dual-monitor workstation reviewing access control configuration settings for an AI system deployment, organized technical environment, code or configuration visible on one screen and a system diagram on the other, no readable text visible on either screen.

چیزهایی که باید بدانید

چند واقعیت مهم درباره امنیت هوش مصنوعی مبتنی بر اعتماد صفر که سازمان‌ها هنگام حرکت از اصول معماری به پیاده‌سازی عملیاتی با آنها روبه‌رو می‌شوند:

اعتماد صفر یک فرایند مستمر است، نه یک وضعیت استقرار. سازمان‌ها اعتماد صفر را به دست نمی‌آورند و آن را به‌صورت غیرفعال حفظ نمی‌کنند. آنها به‌طور مستمر به سمت اعتماد صفر حرکت می‌کنند از طریق کاهش مداوم دامنه دسترسی، گسترش پوشش پایش و بهبود معماری تأیید. هدف جهت‌دار و مستمر است، نه یک وضعیت تکمیل تعریف‌شده.

ادغام‌های قدیمی هوش مصنوعی سخت‌ترین هدف اصلاح اعتماد صفر هستند. سیستم‌های هوش مصنوعی که پیش از اعمال اصول اعتماد صفر بر استقرار با زیرساخت موجود ادغام شده‌اند، اغلب الگوهای دسترسی‌ای دارند که از نظر فنی محدود کردن آنها بدون شکستن عملکرد دشوار است. اصلاح این ادغام‌ها نیازمند درک هم الزام اعتماد صفر و هم وابستگی عملیاتی است، که اغلب به این معناست که باید ادغام‌ها را یک‌به‌یک به‌جای اعمال یک تغییر سیاست یکنواخت بررسی کرد.

اصل 30 درصد برای خودکارسازی تأیید اعتماد صفر کاربرد دارد. کنترل‌های تأیید خودکار باید تقریباً 30 درصد از عملیات امنیتی را اداره کنند، به‌طور خاص تصمیمات دسترسی پرفرکانس مبتنی بر سیاست و پایش رفتاری که خودکارسازی به‌طور مداوم در مقیاس بزرگ اجرا می‌کند. متخصصان امنیت و مالکان حاکمیت 70 درصد باقی‌مانده را اداره می‌کنند که شامل ارزیابی ریسک، طراحی سیاست، بررسی ناهنجاری و تصمیمات امنیتی مبتنی بر قضاوت است که به مسئولیت‌پذیری انسانی به‌جای اجرای الگوریتمی نیاز دارند.

اعتماد صفر نیاز به امنیت محیطی را از بین نمی‌برد. این رویکرد در کنار کنترل‌های محیطی لایه‌بندی می‌شود، نه آنکه آنها را جایگزین کند. سازمان‌هایی که به امنیت هوش مصنوعی مبتنی بر اعتماد صفر حرکت می‌کنند، کنترل‌های محیط شبکه را حفظ می‌کنند و در عین حال لایه‌های تأیید هویت، داده و رفتاری را که اعتماد صفر فراهم می‌کند، اضافه می‌کنند. محیط به‌جای دفاع اصلی، به یک لایه در میان لایه‌های بسیار تبدیل می‌شود.

اثرات تجربه کاربر از پیاده‌سازی اعتماد صفر، موفقیت پذیرش را تعیین می‌کند. معماری‌های امنیتی که استفاده از ابزارهای هوش مصنوعی را به‌طور قابل توجهی دست‌وپاگیر می‌کنند، کارمندان را به سمت جایگزین‌های هوش مصنوعی سایه که خارج از هر کنترل اعتماد صفری عمل می‌کنند، سوق می‌دهند. طراحی جریان‌های تأییدی که برای استفاده مشروع کمترین مزاحمت را دارند و در عین حال کنترل‌های دقیق برای عملیات غیرعادی یا پرریسک را حفظ می‌کنند، یک الزام کیفیت پیاده‌سازی است، نه یک بهبود اختیاری.

پشتیبانی فروشندگان از اعتماد صفر در پلتفرم‌های هوش مصنوعی سازمانی به‌طور قابل توجهی متفاوت است. برخی از ابزارهای هوش مصنوعی سازمانی با نقاط ادغام اعتماد صفر طراحی شده‌اند، از جمله فدراسیون هویت، کنترل‌های دسترسی ریز، APIهای ثبت گزارش جامع و پشتیبانی از پایش رفتاری. برخی دیگر برای دستیابی به پوشش معادل اعتماد صفر به زیرساخت تکمیلی قابل توجهی نیاز دارند. ارزیابی پشتیبانی فروشنده از اعتماد صفر به‌عنوان بخشی از انتخاب ابزار هوش مصنوعی، در مقایسه با اضافه کردن کنترل‌های اعتماد صفر به ابزارهایی که برای آنها طراحی نشده‌اند، بار پیاده‌سازی را کاهش می‌دهد.

پاسخگویی مشترک بین تیم‌های امنیت و عملیات هوش مصنوعی برای برنامه‌های امنیت هوش مصنوعی مبتنی بر اعتماد صفر که در عمل کار می‌کنند، ضروری است. تیم‌های امنیت تخصص اعتماد صفر را به ارمغان می‌آورند. تیم‌های عملیات هوش مصنوعی، درک رفتار سیستم هوش مصنوعی، وابستگی‌های ادغام و الزامات عملیاتی را به ارمغان می‌آورند که تعیین می‌کند کنترل‌های تأیید کجا عملی هستند و کجا به راه‌حل‌های معماری نیاز دارند. برنامه‌هایی که توسط تیم‌های امنیت بدون ورودی عملیات هوش مصنوعی طراحی شده‌اند، تمایل دارند معماری‌های امنیتی نظری ایجاد کنند که در استقرار شکست می‌خورند.

اعتماد صفر به‌عنوان شالوده درست برای استقرار مطمئن هوش مصنوعی

امنیت هوش مصنوعی مبتنی بر اعتماد صفر، راحت‌ترین معماری امنیتی برای سیستم‌های هوش مصنوعی نیست. به طراحی دسترسی آگاهانه‌تر، سرمایه‌گذاری بیشتر در زیرساخت تأیید و انضباط عملیاتی بیشتر از امنیت محیطی یا مدل‌های اعتماد ضمنی نیاز دارد. سازمان‌هایی که این سرمایه‌گذاری را انجام می‌دهند، به‌طور مداوم درمی‌یابند که این سرمایه‌گذاری به‌جای محدود کردن، جاه‌طلبی‌های هوش مصنوعی آنها را ممکن می‌سازد، زیرا شالوده امنیتی‌ای می‌سازد که به سیستم‌های هوش مصنوعی اجازه می‌دهد به‌طور گسترده‌تر متصل شوند، عمیق‌تر مورد اعتماد قرار گیرند و در زمینه‌هایی با ریسک بالاتر از سیستم‌هایی که بدون دقت تأیید معادل عمل می‌کنند، مستقر شوند.

سیستم‌های هوش مصنوعی‌ای که در نهایت بیشترین ارزش سازمانی را خواهند داشت، آنهایی هستند که با حساس‌ترین داده‌ها مورد اعتماد قرار می‌گیرند، به مهم‌ترین سیستم‌ها متصل می‌شوند و مجاز به انجام تأثیرگذارترین اقدامات هستند. امنیت هوش مصنوعی مبتنی بر اعتماد صفر، معماری‌ای است که این اعتماد را به‌جای آرمانی، قابل دفاع می‌سازد و تأیید مستمر، مشاهده‌پذیری رفتاری و محدودسازی دسترسی را فراهم می‌کند که به سازمان‌ها اجازه می‌دهد به‌جای پذیرش قرار گرفتن در معرض ریسک به‌عنوان هزینه قابلیت، اعتماد معناداری به سیستم‌های هوش مصنوعی گسترش دهند.

پرسش‌های متداول

اعتماد صفر در هوش مصنوعی چیست؟

اعتماد صفر در هوش مصنوعی به‌کارگیری اصول تأیید مستمر و دسترسی حداقل امتیاز در سیستم‌های هوش مصنوعی است که مستلزم آن است هر کاربر، مدل، عامل، دسترسی به داده و تعامل ابزار، در برابر مجوز فعلی تأیید شود، به‌جای آنکه به اعتماد ضمنی اعطاشده در احراز هویت اولیه یا بر اساس موقعیت شبکه تکیه کند. این رویکرد سیستم‌های هوش مصنوعی را به‌عنوان اهداف ارزشمندی با رفتار پویا و متصل تلقی می‌کند که به معماری تأییدی نیاز دارد که به‌طور خاص برای نحوه عملکرد واقعی سیستم‌های هوش مصنوعی طراحی شده باشد، نه مدل‌های امنیتی برنامه‌های متعارفی که سطوح حمله خاص هوش مصنوعی را در نظر نمی‌گیرند.

امنیت اعتماد صفر چیست؟

امنیت اعتماد صفر یک مدل امنیتی است که بر این اصل بنا شده است که نباید به هیچ کاربر، دستگاه یا سیستمی بر اساس موقعیت شبکه‌اش اعتماد ضمنی شود، بلکه باید هر درخواست دسترسی به‌طور مستمر در برابر هویت، سلامت دستگاه و سیاست‌های مجوز مبتنی بر زمینه تأیید شود پیش از آنکه دسترسی اعطا گردد. این مدل، مدل محیط سنتی را که به همه چیز درون مرز شبکه اعتماد می‌کرد، با مدلی جایگزین می‌کند که هر تعامل را به‌عنوان احتمالاً غیرقابل اعتماد تلقی می‌کند و در هر نقطه دسترسی، صرف‌نظر از منشأ درخواست، به تأیید نیاز دارد.

مثالی از مدل امنیتی اعتماد صفر چیست؟

یک مثال عملی از مدل امنیتی اعتماد صفر در یک استقرار هوش مصنوعی، یک دستیار هوش مصنوعی سازمانی است که در آن هر کاربر پیش از دسترسی به سیستم با احراز هویت چندعاملی احراز هویت می‌شود، خط لوله بازیابی هوش مصنوعی، مجوزهای سند کاربر درخواست‌کننده را اعمال می‌کند تا فقط بتواند محتوایی را که او مجاز به دیدن آن است، نمایش دهد، همه فراخوانی‌های ابزار توسط عامل هوش مصنوعی به مجوز صریح برای هر اقدام نیاز دارند به‌جای ارث بردن مجوزهای گسترده حساب سرویس، و هر پرسش، بازیابی و اقدام برای پایش رفتاری ثبت می‌شود که ناهنجاری‌ها را برای بررسی امنیتی نشان‌گذاری می‌کند. این مثال اعتماد صفر را که در ابعاد هویت، داده و اقدام یک سیستم هوش مصنوعی به جای فقط در محیط شبکه اعمال می‌شود، نشان می‌دهد.

اعتماد صفر چگونه امنیت را بهبود می‌بخشد؟

اعتماد صفر امنیت را با کاهش شعاع تخریب حملات موفق از طریق محدودسازی دسترسی حداقل امتیاز که محدود می‌کند یک هویت به‌خطر افتاده یا یک سیستم هوش مصنوعی دستکاری‌شده به چه چیزهایی می‌تواند دسترسی داشته باشد، بهبود می‌بخشد، با امکان‌پذیر ساختن تشخیص سریع‌تر ناهنجاری از طریق ثبت جامع همه رویدادهای دسترسی در برابر خطوط پایه رفتاری، و با حذف فرضیات اعتماد ضمنی که مهاجمان از طریق حرکت جانبی پس از ورود به محیط شبکه از آن بهره‌برداری می‌کنند. به‌طور خاص برای سیستم‌های هوش مصنوعی، اعتماد صفر امنیت را با اعمال تأیید مستمر بر رفتار پویا و متصل عوامل هوش مصنوعی که دفاع‌های محیطی نمی‌توانند بر آن حکومت کنند، بهبود می‌بخشد، زیرا مرز تعریف‌شده‌ای برای محافظت ندارد.

هفت ستون اعتماد صفر چیست؟

هفت ستون اعتماد صفر عبارتند از: تأیید هویت که نیازمند احراز هویت مستمر کاربران و سیستم‌هاست؛ امنیت دستگاه که سلامت نقطه پایانی را پیش از اعطای دسترسی تضمین می‌کند؛ تقسیم‌بندی شبکه که شبکه مسطح قابل اعتماد را با مناطق ریزتقسیم‌بندی‌شده جایگزین می‌کند که بین آنها به مجوز صریح نیاز دارد؛ امنیت برنامه که اعتبارسنجی ورودی و پایش خروجی را در لایه برنامه اعمال می‌کند؛ امنیت داده که کنترل‌های دسترسی مبتنی بر طبقه‌بندی و حداقل‌سازی داده را اعمال می‌کند؛ مشاهده‌پذیری و تحلیل که ثبت گزارش جامع و تشخیص ناهنجاری رفتاری را فراهم می‌کند؛ و خودکارسازی و هماهنگ‌سازی که اعمال سیاست و پاسخ به ناهنجاری را در مقیاس و سرعتی که تأیید مستمر به آن نیاز دارد، ممکن می‌سازد. هنگامی که بر سیستم‌های هوش مصنوعی اعمال می‌شود، هر ستون گسترش‌های خاصی پیدا می‌کند که ویژگی‌های منحصربه‌فرد رفتار، اتصال‌پذیری و سطح حمله هوش مصنوعی را که امنیت برنامه‌های متعارف برای حکمرانی بر آن طراحی نشده، مورد توجه قرار می‌دهد.