أمن الذكاء الاصطناعي بانعدام الثقة هو تطبيق مبادئ انعدام الثقة على أنظمة الذكاء الاصطناعي، ويتطلب أن يتم التحقق باستمرار من كل مستخدم ونموذج ومصدر بيانات ونقطة تكامل ومنحه فقط الحد الأدنى من الوصول اللازم لأداء وظيفته، دون منح أي ثقة ضمنية بناءً على موقع الشبكة أو المصادقة السابقة. وهو يعامل أنظمة الذكاء الاصطناعي كأهداف عالية القيمة تتطلب نفس ضوابط الوصول الصارمة مثل أي بنية تحتية ذات امتيازات أخرى.

افترض نموذج المحيط الأمني التقليدي أن التهديدات تأتي من خارج الشبكة وأن الأنظمة بداخلها يمكن الوثوق بها. كان هذا الافتراض بالفعل تحت ضغط قبل وصول الذكاء الاصطناعي. عمليات نشر الذكاء الاصطناعي تحطمه تماماً. يعمل نظام الذكاء الاصطناعي المتصل بقواعد البيانات الداخلية والبريد الإلكتروني ومستودعات المستندات وواجهات برمجة التطبيقات الخارجية عبر حدود ثقة لا يستطيع نموذج محيطي تعريفها، ناهيك عن الدفاع عنها. يقبل المدخلات من أي مكان، ويسترجع المحتوى من مصادر متعددة، ويتخذ إجراءات عبر الأنظمة المتصلة بتسلسلات لم يتم تصميم أي نموذج تحكم في الوصول التقليدي لإدارتها. سطح الهجوم ليس محيطاً محدداً. إنه المجموعة الكاملة من الاتصالات التي يمكن لنظام الذكاء الاصطناعي اجتيازها، والنطاق الكامل للمحتوى الذي سيعالجه، والنطاق الكامل للإجراءات التي يحق له اتخاذها. يعالج أمن الذكاء الاصطناعي بانعدام الثقة هذا الواقع باستبدال افتراض المحيط بالتحقق المستمر عبر كل تفاعل وكل وصول إلى البيانات وكل إجراء يقوم به نظام الذكاء الاصطناعي. يشرح هذا الدليل كيفية تطبيق مبادئ انعدام الثقة على وجه التحديد على عمليات نشر الذكاء الاصطناعي، وكيف تبدو الركائز السبع في سياق الذكاء الاصطناعي، وما الذي تحتاج المؤسسات إلى بنائه لجعل النموذج يعمل على أرض الواقع.

لماذا يفشل الأمن المحيطي تحديداً مع أنظمة الذكاء الاصطناعي

مشكلة الذكاء الاصطناعي المتصل

يحتوي تطبيق المؤسسة التقليدي على مجموعة محددة من المستخدمين ومجموعة محددة من الوظائف ومجموعة من أنماط الوصول إلى البيانات يمكن التنبؤ بها نسبياً. يمكن لفرق الأمن بناء ضوابط الوصول حول هذه التعريفات ومراقبة الانحرافات ومعاملة الشذوذ كإشارات للاختراق المحتمل. القدرة على التنبؤ بالسلوك هي ما يجعل الأمن المحيطي قابلاً للتطبيق حتى عندما يكون غير مثالي.

أنظمة الذكاء الاصطناعي، وخاصة أنظمة الذكاء الاصطناعي الوكيلة وتلك المتصلة بخطوط أنابيب الاسترجاع، ليس لها سلوك يمكن التنبؤ به بنفس المعنى. تختلف استجاباتها مع المدخلات. تعتمد البيانات التي يصلون إليها على ما تولده الاستعلامات في وقت التشغيل بدلاً من قائمة وصول محددة مسبقاً. تعتمد الإجراءات التي يتخذونها من خلال الأدوات المتصلة على المهام المسندة إليهم بدلاً من مجموعة وظائف ثابتة. لا يستطيع الأمن المحيطي المبني حول تعريف ثابت لما يفعله النظام مواكبة الواقع الديناميكي لما يصل إليه ويتنفذه فعلياً.

هجمات حقن المطالبات تستغل هذه الفجوة مباشرة. يمكن للمهاجم الذي يستطيع إدخال تعليمات ضارة في أي محتوى يسترجعه أو يتلقاه نظام الذكاء الاصطناعي إعادة توجيه سلوك النظام بالكامل، مما يجعله يصل إلى البيانات، أو ينفذ الإجراءات، أو يكشف المعلومات بطرق تتجاوز كل ضوابط المحيط التي تحكم السلوك الطبيعي للنظام. الهجوم لا يعبر حدود الشبكة. إنه يعبر حدود الثقة داخل المعالجة الخاصة بالنظام، في قناة لا تكون الدفاعات المحيطية في وضع يسمح لها بمراقبتها.

يعالج أمن الذكاء الاصطناعي بانعدام الثقة هذا بنقل التحقق من محيط الشبكة إلى كل تفاعل فردي. بدلاً من السؤال عما إذا كان المستخدم أو النظام داخل الشبكة الموثوقة، فإنه يسأل عما إذا كان هذا الطلب المحدد، من هذه الهوية المحددة، لهذا المورد المحدد، في هذه اللحظة المحددة، مصرحاً به. يُطرح هذا السؤال باستمرار، وليس مرة واحدة عند المصادقة.

كيف يضخم الذكاء الاصطناعي عواقب انتهاكات الثقة

السبب في أن أمن الذكاء الاصطناعي بانعدام الثقة أكثر أهمية من انعدام الثقة للتطبيقات التقليدية ليس أن أنظمة الذكاء الاصطناعي أقل أماناً بطبيعتها. السبب هو أن عواقب انتهاك الثقة في نظام ذكاء اصطناعي متصل يتم تضخيمها من خلال اتصال النظام واستقلاليته بطرق لا تتم بها انتهاكات معادلة في الأنظمة التقليدية.

حساب مستخدم مخترق في تطبيق تقليدي يخلق وصولاً إلى أي شيء يمكن لذلك المستخدم الوصول إليه. يمكن لوكيل ذكاء اصطناعي مخترق أو تم التلاعب به مع وصول واسع إلى الأدوات أن يجتاز أنظمة متصلة متعددة، ويسحب البيانات من عدة مصادر، ويتخذ إجراءات عبر منصات متعددة في تسلسل آلي واحد سيتطلب جهداً واسعاً من المهاجم لتكراره يدوياً. الأتمتة التي تجعل وكلاء الذكاء الاصطناعي قيمين في المهام المشروعة تجعلهم أيضاً فعالين في المهام غير المشروعة عند التلاعب بسلوكهم أو استغلال وصولهم.

يقلل أمن الذكاء الاصطناعي بانعدام الثقة من نصف قطر انفجار انتهاكات الثقة بضمان أن نظام الذكاء الاصطناعي الذي تم التلاعب به بنجاح يمكنه فقط الوصول والتأثير على الموارد المحددة التي مُنحت إذناً لها في السياق الحالي، بدلاً من وراثة وصول واسع تم منحه عند المصادقة ولم تتم مراجعته أبداً.

مراجعة كيف تؤثر قرارات بنية أمن الذكاء الاصطناعي حول تحديد نطاق الوصول والتحقق المستمر على نصف قطر الانفجار العملي لاختراق نظام الذكاء الاصطناعي تساعد المؤسسات في بناء عمليات نشر حيث تكون عواقب فشل الأمن محدودة بدلاً من غير محدودة.

الركائز السبع لانعدام الثقة المطبقة على أنظمة الذكاء الاصطناعي

أمن انعدام الثقة منظم حول سبع ركائز تحدد معاً بنية التحقق والتحكم الكاملة. تأخذ كل ركيزة خصائص ومتطلبات محددة عند تطبيقها على أنظمة الذكاء الاصطناعي بدلاً من التطبيقات التقليدية.

الركيزة الأولى: التحقق من الهوية

في انعدام الثقة التقليدي، يغطي التحقق من الهوية المستخدمين البشر وحسابات الخدمة. في أمن الذكاء الاصطناعي بانعدام الثقة، يتوسع سطح الهوية ليشمل نموذج الذكاء الاصطناعي نفسه كهوية تحتاج إلى التحقق، والوكلاء الذين يعملون نيابة عن المستخدمين الذين يحتاجون إلى التمييز عن هؤلاء المستخدمين لأغراض التحكم في الوصول، وحسابات الخدمة التي تستخدمها أنظمة الذكاء الاصطناعي للوصول إلى الموارد المتصلة والتي تحتاج إلى الإدارة بنفس صرامة حسابات الامتيازات البشرية.

المصادقة المستمرة بدلاً من المصادقة المعتمدة على الجلسة هي معيار انعدام الثقة للمستخدمين البشر الذين يصلون إلى أنظمة الذكاء الاصطناعي. تنطبق المصادقة متعددة العوامل والتحليلات السلوكية التي تراقب أنماط الاستخدام الشاذة وسياسات الوصول المدركة للسياق التي تعدل متطلبات التحقق بناءً على حساسية ما يُطلب جميعها في عمليات نشر نظام الذكاء الاصطناعي.

بالنسبة لوكلاء الذكاء الاصطناعي الذين يعملون باستقلالية، فإن تحدي الهوية هو الحفاظ على المبدأ القائل بأن وصول الوكيل محدد للمهمة المحددة التي يؤديها بدلاً من وراثة الوصول الكامل للمستخدم البشري الذي بدأها. يجب أن يكون لوكيل ينفذ مهمة بحث نيابة عن مستخدم وصول بحث، وليس بصمة الوصول الكاملة للمستخدم. يتطلب هذا التحديد بنية هوية واضحة بدلاً من الوراثة الافتراضية التي تنفذها العديد من أطر عمل الوكلاء.

الركيزة الثانية: أمن الأجهزة

يغطي أمن الأجهزة في سياق الذكاء الاصطناعي بانعدام الثقة كلاً من نقاط النهاية التي يصل من خلالها المستخدمون إلى أنظمة الذكاء الاصطناعي والبنية التحتية التي تعمل عليها نماذج الذكاء الاصطناعي. بالنسبة لأجهزة المستخدم، تنطبق ضوابط انعدام الثقة القياسية، والتحقق من صحة الجهاز قبل منح الوصول، وتغطية الكشف عن نقطة النهاية والاستجابة، وسياسات الوصول التي تختلف بناءً على حالة إدارة الجهاز.

تتطلب طبقة البنية التحتية اهتماماً خاصاً لأن أجهزة استدلال الذكاء الاصطناعي تمثل هدفاً عالي القيمة لم يكن أمن نقطة النهاية التقليدي مصمماً له. تحتوي خوادم GPU التي تشغل نماذج كبيرة على كل من أوزان النموذج، التي تمثل ملكية فكرية كبيرة، والبيانات التي تتم معالجتها من خلال الاستدلال، والتي قد تشمل معلومات تنظيمية حساسة. الأمن المادي والمنطقي للبنية التحتية لاستدلال الذكاء الاصطناعي يستحق نفس إدارة الوصول المتميز ومراقبة السلامة وتسجيل الوصول مثل أصول البنية التحتية الأخرى عالية القيمة.

الركيزة الثالثة: تجزئة الشبكة

تستبدل بنية شبكة انعدام الثقة الشبكة المسطحة الموثوقة بمناطق مجزأة دقيقاً حيث تتطلب حركة المرور بين المقاطع تفويضاً صريحاً بدلاً من التدفق بحرية داخل المحيط. بالنسبة لأنظمة الذكاء الاصطناعي، تحدد تجزئة الشبكة أي مكونات بنية الذكاء الاصطناعي يمكنها التواصل مع أيها وأي الموارد الخارجية يمكن لنظام الذكاء الاصطناعي الوصول إليها.

يجب تجزئة خوادم استدلال الذكاء الاصطناعي بشبكتها عن الموارد التي لا تحتاج إلى الوصول إليها. نموذج يقدم استعلامات خدمة العملاء لا يحتاج إلى وصول شبكي إلى الأنظمة المالية. أداة ذكاء اصطناعي للبحث لا تحتاج إلى الوصول إلى قواعد بيانات الموارد البشرية. يجب أن تفرض بنية الشبكة هذه الفواصل بدلاً من الاعتماد على سلوك نظام الذكاء الاصطناعي لاحترامها طوعاً، لأن حقن المطالبات وتقنيات التلاعب الأخرى يمكن أن تتجاوز القيود السلوكية بينما تفرضها تجزئة الشبكة جسدياً.

يجب السماح بالوصول إلى الشبكة الخارجية لأنظمة الذكاء الاصطناعي، بما في ذلك الوصول إلى البحث على الويب وواجهات برمجة التطبيقات الخارجية والخدمات السحابية، صراحةً من خلال قوائم السماح بدلاً من السماح بشكل افتراضي مع حظر الاستثناءات. الإعداد الافتراضي للاتصال الخارجي لنظام الذكاء الاصطناعي في بنية انعدام الثقة هو عدم الوصول، مع إضافة وجهات محددة مسموح بها بناءً على المتطلبات التشغيلية الموثقة.

الركيزة الرابعة: أمن التطبيقات

يغطي أمن التطبيقات في سياق الذكاء الاصطناعي بانعدام الثقة أمن طبقة تطبيق الذكاء الاصطناعي نفسها، بما في ذلك البنية التحتية للمطالبات وخطوط أنابيب الاسترجاع وتكاملات الأدوات ومنطق معالجة الإخراج التي تحدد معاً كيفية معالجة نظام الذكاء الاصطناعي للطلبات وإنتاج الاستجابات.

يمثل التحقق من صحة المدخلات وتعقيمها في طبقة التطبيق مبدأ انعدام الثقة المتمثل في التحقق من المحتوى، وليس فقط الهوية، المطبق على أنظمة الذكاء الاصطناعي. كل إدخال يصل إلى النموذج، سواء من المستخدمين، أو المستندات المسترجعة، أو مخرجات الأدوات، أو رسائل النظام، يجب التعامل معه باعتباره محتملاً عدائياً ومعالجته من خلال تصفية مناسبة بدلاً من الوثوق به ضمنياً.

ينطبق التحقق من المخرجات على نفس المبدأ بشكل عكسي. كل مخرج ينتجه نظام الذكاء الاصطناعي قبل وصوله إلى المستخدمين أو الأنظمة المتصلة أو العمليات النهائية يجب فحصه وفقاً لمعايير محددة تكشف عن المحتوى الضار وتسريب البيانات الحساسة والشذوذات السلوكية التي تشير إلى أنه تم التلاعب بالنموذج.

فهم كيفية تأثير قرارات بنية الذكاء الاصطناعي في طبقة التطبيق على التنفيذ العملي لضوابط الإدخال والإخراج لانعدام الثقة يساعد المؤسسات في بناء أنظمة ذكاء اصطناعي حيث يكون الأمن مدمجاً في خط أنابيب المعالجة بدلاً من إضافته في المحيط.

الركيزة الخامسة: أمن البيانات

يتطلب أمن البيانات بموجب الذكاء الاصطناعي بانعدام الثقة معاملة كل وصول إلى البيانات بواسطة نظام ذكاء اصطناعي على أنه يتطلب تفويضاً صريحاً بدلاً من وراثة أذونات واسعة. هذه الركيزة هي حيث تتطلب عمليات نشر الذكاء الاصطناعي بشكل مباشر ضوابط انعدام الثقة المبنية لغرض محدد لأن بنى أمن البيانات الحالية لم تُصمم لأنماط الوصول الديناميكية إلى البيانات المدفوعة بالاستعلام التي تنشئها أنظمة استرجاع الذكاء الاصطناعي.

يتطلب تصنيف البيانات الذي تحترمه أنظمة الذكاء الاصطناعي في سلوكها في الاسترجاع والمعالجة تكاملاً بين البنية التحتية لإدارة البيانات وطبقة التحكم في الوصول للذكاء الاصطناعي. عندما يحدد مستوى تفويض المستخدم أي المستندات يمكنه الوصول إليها مباشرة في نظام إدارة المستندات، يجب أن يحترم نظام الذكاء الاصطناعي الذي يسترجع المستندات نيابة عن ذلك المستخدم نفس حدود التفويض، ويعيد فقط المستندات التي يحق للمستخدم رؤيتها بدلاً من كل ما في قاعدة المعرفة ذي صلة باستعلامه.

تتطلب تقليل البيانات، وهو مبدأ أساسي لبيانات انعدام الثقة، أن تصل أنظمة الذكاء الاصطناعي إلى البيانات المحددة الضرورية للمهمة الحالية وتعالجها فقط. لا يحتاج مساعد ذكاء اصطناعي مطلوب منه صياغة رد بريد إلكتروني إلى الوصول إلى التاريخ الكامل للعميل. لا تحتاج أداة ذكاء اصطناعي تلخص مستنداً محدداً إلى الوصول إلى المجلد المحيط. يتطلب تنفيذ تقليل البيانات في أنظمة الذكاء الاصطناعي ضوابط وصول تعمل على مستوى البيانات الدقيق بدلاً من مستوى النظام أو قاعدة البيانات.

مراجعة كيفية تنفيذ ميزات الذكاء الاصطناعي في منصات الذكاء الاصطناعي للمؤسسات لضوابط الوصول إلى البيانات وتفويض الاسترجاع تساعد المؤسسات في تقييم ما إذا كانت بنية أمن بيانات البائع تدعم مبادئ انعدام الثقة أو تتطلب ضوابط تكميلية لتحقيق نفس التأثير.

الركيزة السادسة: الرؤية والتحليلات

يستند أمن انعدام الثقة على القدرة على اكتشاف الشذوذات التي تشير إلى انتهاكات الثقة، مما يتطلب رؤية شاملة لكل ما يفعله نظام الذكاء الاصطناعي. بدون تغطية التسجيل والمراقبة عبر كل تفاعل لنظام الذكاء الاصطناعي، لا ينتج التحقق من انعدام الثقة أي إشارة عند حدوث انتهاكات لأن الدليل المطلوب لاكتشافها غير موجود.

بالنسبة لأنظمة الذكاء الاصطناعي، تمتد متطلبات الرؤية إلى ما هو أبعد من تسجيل التطبيقات التقليدي. يجب التقاط كل استعلام يتم تقديمه للنموذج، وكل مستند مسترجع من خلال خطوط أنابيب RAG، وكل استدعاء أداة ينفذه وكيل، وكل ناتج ينتجه النظام، وكل قرار تحكم في الوصول يتخذ في كل نقطة فحص التحقق في سجلات يمكن لفرق عمليات الأمن مراقبتها والتحقيق فيها.

تنشئ التحليلات السلوكية المطبقة على سجلات نشاط نظام الذكاء الاصطناعي قدرة اكتشاف الشذوذ التي تجعل رؤية انعدام الثقة قابلة للتنفيذ. نماذج خط الأساس للسلوك الطبيعي لنظام الذكاء الاصطناعي، بما في ذلك أنماط الاستعلام النموذجية وأحجام الاسترجاع المعتادة وترددات استخدام الأدوات القياسية، تمكن من اكتشاف الانحرافات التي قد تشير إلى حقن المطالبات أو محاولات تسريب البيانات أو أنماط الوصول غير المصرح بها التي ستكون غير مرئية بدون نقاط مرجعية سلوكية.

الركيزة السابعة: الأتمتة والتنسيق

لا يمكن تشغيل انعدام الثقة على مستوى المؤسسة يدوياً. قرارات التحقق واستجابات الشذوذ وتحديثات سياسة الوصول التي يتطلبها التحقق المستمر تحدث بتردد وعبر تعقيد نظام لا يمكن للعمليات البشرية مطابقته. الأتمتة والتنسيق، الركيزة الأخيرة لانعدام الثقة، تغطي الأنظمة التي تجعل انعدام الثقة عملياً على نطاق واسع بدلاً من نظري في وثائق البنية.

بالنسبة لأنظمة الذكاء الاصطناعي تحديداً، توفر الاستجابة الآلية للشذوذات المكتشفة، بما في ذلك تحديد المعدل الذي يتم تشغيله بواسطة أنماط استعلام غير عادية، وتقييد الوصول الذي يتم تشغيله بواسطة الشذوذات السلوكية، وتصعيد التنبيهات الذي يتم تشغيله بواسطة تواقيع حقن المطالبات المحتملة، سرعة الاستجابة التي تجعل اكتشاف انعدام الثقة ذا معنى. يخلق الاكتشاف بدون استجابة آلية نظاماً يحدد التهديدات بشكل أسرع مما يمكن للبشر التصرف عليها.

ركيزة انعدام الثقة	التطبيق التقليدي	الامتداد الخاص بأنظمة الذكاء الاصطناعي
الهوية	التحقق من المستخدم وحساب الخدمة	بالإضافة إلى هوية وكيل الذكاء الاصطناعي وبيانات اعتماد المهمة المحددة النطاق
الجهاز	صحة نقطة النهاية وحالة الإدارة	بالإضافة إلى سلامة البنية التحتية لاستدلال الذكاء الاصطناعي
الشبكة	التجزئة الدقيقة بين المناطق	بالإضافة إلى قوائم السماح الخاصة بالذكاء الاصطناعي للوصول الخارجي
التطبيق	التحقق من الإدخال ومراقبة الإخراج	بالإضافة إلى اكتشاف حقن المطالبات وتصفية الإخراج
البيانات	التحكم في الوصول القائم على التصنيف	بالإضافة إلى تفويض الاسترجاع وتقليل البيانات في الاستعلامات
الرؤية	سجلات التطبيق والوصول	بالإضافة إلى سجلات استعلام النموذج والاسترجاع واستدعاء الأدوات والإخراج
الأتمتة	إنفاذ السياسة والاستجابة للشذوذ	بالإضافة إلى تحليلات سلوكية واستجابة خاصة بالذكاء الاصطناعي

بناء أمن الذكاء الاصطناعي بانعدام الثقة على أرض الواقع

البدء بتدقيق الوصول

نقطة البداية العملية لأمن الذكاء الاصطناعي بانعدام الثقة هي تدقيق صادق لما يمكن لكل نظام ذكاء اصطناعي في نشر المؤسسة الوصول إليه حالياً مقابل ما يحتاج فعلاً إلى الوصول إليه لوظيفته المحددة. الفجوة بين هذين المخزونين تحدد عمل المعالجة بأقل الامتيازات الذي يقرب النشر من مبادئ انعدام الثقة.

تراكمت في معظم أنظمة الذكاء الاصطناعي، خاصة تلك التي تطورت من خلال عمل التكامل التكراري، أذونات وصول تعكس تاريخ ما تم توصيله بدلاً من تقييم متعمد لما هو ضروري. أداة ذكاء اصطناعي بحثية تم دمجها مع البريد الإلكتروني لاسترجاع المستندات المرجعية، ثم متصلة بنظام إدارة المستندات لسياق أوسع، ثم مرتبطة بـ CRM لمرجع العميل، قد يكون لها الآن وصول عبر ثلاثة أنظمة تحتوي كل منها على بيانات حساسة تتجاوز بكثير ما تتطلبه أي مهمة بحث محددة.

ينتج تدقيق الوصول خريطة قدرات، كل نظام يمكن لأداة ذكاء اصطناعي الوصول إليه، وكل إجراء يمكنها اتخاذه، وكل فئة بيانات يمكنها استرجاعها، جنباً إلى جنب مع خريطة متطلبات تشغيلية، كل نظام تحتاجه فعلاً لوظيفتها المحددة، وكل إجراء تتطلبه تلك الوظيفة بشكل مشروع، وكل فئة بيانات تحتاجها الوظيفة حقاً. المعالجة هي سد الفجوة بين الاثنين من خلال تقليل نطاق الوصول وتجزئة الشبكة ونشر أنماط الوصول في الوقت المناسب للقدرات التي يحتاجها النظام أحياناً بدلاً من باستمرار.

تنفيذ التحقق المستمر دون إضعاف الأداء

قلق شائع بشأن تطبيق مبادئ انعدام الثقة على أنظمة الذكاء الاصطناعي هو أن التحقق المستمر سيقدم زمن استجابة يضعف تجربة المستخدم لأدوات الذكاء الاصطناعي التي تحتاج إلى الاستجابة بسرعة. هذا القلق حقيقي ولكن يمكن إدارته من خلال اختيارات البنية التي تضع التحقق في النقاط الصحيحة بدلاً من إضافته بشكل موحد إلى كل تفاعل.

يتعامل التحقق على مستوى الجلسة لوصول المستخدم المصادق عليه مع غالبية النفقات العامة للتحقق من الهوية البشرية بحدث مصادقة واحد بدلاً من لكل استعلام. تقلل قرارات التفويض المخزنة مؤقتاً لأنماط الوصول إلى البيانات التي تتكرر بشكل متكرر من النفقات العامة للتحقق لعمليات الاسترجاع دون التخلي عن متطلبات التحقق. يحافظ التحقق غير المتزامن للعمليات الأقل حساسية التي يمكنها تحمل دقة تفويض متأخرة قليلاً على مسار تدقيق انعدام الثقة دون زمن استجابة متزامن في كل تفاعل.

نقاط التحقق التي تتطلب فعلاً سلوك حظر متزامن قبل المتابعة هي تلك التي تحكم الوصول إلى البيانات عالية الحساسية والإجراءات ذات العواقب الكبيرة أو غير القابلة للعكس والشذوذات السلوكية التي تثير تدقيقاً مرتفعاً. بالنسبة للعمليات الروتينية ضمن خطوط الأساس السلوكية المعمول بها، يمكن التعامل مع التحقق بكفاءة دون زمن استجابة مرئي للمستخدم من خلال بنى تخزين مؤقت غير متزامن مصممة جيداً.

دليل ذكاء اصطناعي شامل حول تنفيذ بنى أمن الذكاء الاصطناعي بانعدام الثقة التي توازن صرامة التحقق مع الأداء التشغيلي يساعد المؤسسات على تجنب الخيار الزائف بين الأمن وقابلية الاستخدام التي تنشئها التطبيقات المصممة بشكل سيئ.

اقتراح صورة: مطور أو مهندس أمن في محطة عمل ذات شاشتين يراجع إعدادات تكوين التحكم في الوصول لنشر نظام ذكاء اصطناعي، بيئة تقنية منظمة، الكود أو التكوين مرئي على شاشة واحدة ومخطط النظام على الأخرى، لا يوجد نص قابل للقراءة مرئي على أي من الشاشتين.

أمور يجب معرفتها

عدة حقائق مهمة حول أمن الذكاء الاصطناعي بانعدام الثقة تواجهها المؤسسات وهي تنتقل من مبادئ البنية إلى التنفيذ التشغيلي:

انعدام الثقة عملية مستمرة، وليس حالة نشر. لا تحقق المؤسسات انعدام الثقة وتحافظ عليه بشكل سلبي. تنتقل باستمرار نحو انعدام الثقة من خلال تقليل نطاق الوصول المستمر وتوسيع تغطية المراقبة وتحسين بنية التحقق. الهدف اتجاهي ومستمر بدلاً من حالة إكمال محددة.

تكاملات الذكاء الاصطناعي القديمة هي أصعب هدف معالجة لانعدام الثقة. غالباً ما تحتوي أنظمة الذكاء الاصطناعي التي تم دمجها مع البنية التحتية الحالية قبل تطبيق مبادئ انعدام الثقة على النشر على أنماط وصول يصعب تقنياً تحديد نطاقها دون كسر الوظائف. تتطلب معالجة هذه التكاملات فهم كل من متطلبات انعدام الثقة والتبعية التشغيلية، مما يعني غالباً العمل من خلال التكاملات واحدة تلو الأخرى بدلاً من تطبيق تغيير سياسة موحد.

ينطبق مبدأ الـ 30% على أتمتة التحقق من انعدام الثقة. يجب أن تتعامل ضوابط التحقق الآلية مع حوالي 30% من عمليات الأمن، تحديداً قرارات الوصول القائمة على السياسة عالية التردد والمراقبة السلوكية التي تنفذها الأتمتة بشكل متسق على نطاق واسع. يتعامل المتخصصون في الأمن وأصحاب الحوكمة مع الـ 70% المتبقية التي تتضمن تقييم المخاطر وتصميم السياسات والتحقيق في الشذوذ وقرارات الأمن المكثفة في الحكم التي تتطلب مساءلة بشرية بدلاً من تنفيذ خوارزمي.

لا يلغي انعدام الثقة الحاجة إلى الأمن المحيطي. إنه يطبق مع ضوابط المحيط بدلاً من استبدالها. تحتفظ المؤسسات المنتقلة إلى أمن الذكاء الاصطناعي بانعدام الثقة بضوابط محيط الشبكة مع إضافة طبقات التحقق من الهوية والبيانات والسلوك التي يوفرها انعدام الثقة. يصبح المحيط طبقة من بين عدة طبقات بدلاً من الدفاع الأساسي.

تحدد تأثيرات تجربة المستخدم لتنفيذ انعدام الثقة نجاح الاعتماد. تدفع بنى الأمن التي تجعل أدوات الذكاء الاصطناعي أكثر إرهاقاً للاستخدام بشكل كبير الموظفين نحو بدائل ذكاء اصطناعي ظل تعمل خارج أي ضوابط انعدام ثقة. تصميم تدفقات التحقق التي تكون أقل تطفلاً للاستخدام المشروع مع الحفاظ على ضوابط صارمة للعمليات الشاذة أو عالية المخاطر هو متطلب جودة تنفيذ، وليس تحسيناً اختيارياً.

يختلف دعم البائع لانعدام الثقة بشكل كبير عبر منصات الذكاء الاصطناعي للمؤسسات. تم تصميم بعض أدوات الذكاء الاصطناعي للمؤسسات بنقاط تكامل انعدام الثقة بما في ذلك اتحاد الهوية وضوابط الوصول الدقيقة وواجهات برمجة التطبيقات الشاملة للتسجيل ودعم المراقبة السلوكية. يتطلب البعض الآخر بنية تحتية تكميلية كبيرة لتحقيق تغطية مكافئة لانعدام الثقة. يقلل تقييم دعم البائع لانعدام الثقة كجزء من اختيار أدوات الذكاء الاصطناعي من عبء التنفيذ مقارنة بتعديل ضوابط انعدام الثقة على الأدوات التي لم تُصمم لها.

المساءلة المشتركة بين فرق الأمن وعمليات الذكاء الاصطناعي ضرورية لبرامج أمن الذكاء الاصطناعي بانعدام الثقة التي تعمل على أرض الواقع. تجلب فرق الأمن خبرة انعدام الثقة. تجلب فرق عمليات الذكاء الاصطناعي فهم سلوك نظام الذكاء الاصطناعي وتبعيات التكامل والمتطلبات التشغيلية التي تحدد أين تكون ضوابط التحقق عملية وأين تتطلب حلولاً معمارية. تميل البرامج المصممة من قبل فرق الأمن دون مدخلات عمليات الذكاء الاصطناعي إلى إنشاء بنى أمن نظرية تفشل في النشر.

انعدام الثقة كأساس صحيح لنشر الذكاء الاصطناعي بثقة

أمن الذكاء الاصطناعي بانعدام الثقة ليس بنية الأمن الأكثر ملاءمة لأنظمة الذكاء الاصطناعي. يتطلب تصميم وصول أكثر تعمداً واستثماراً أكبر في البنية التحتية للتحقق وانضباطاً تشغيلياً أكبر من الأمن المحيطي أو نماذج الثقة الضمنية. تجد المؤسسات التي تقوم بهذا الاستثمار باستمرار أنه يمكنها بدلاً من تقييدها من طموحات الذكاء الاصطناعي لأنه ينشئ الأساس الأمني الذي يسمح لأنظمة الذكاء الاصطناعي بالاتصال على نطاق أوسع، والثقة بها بعمق أكبر، ونشرها في سياقات أعلى مخاطر من الأنظمة العاملة دون صرامة تحقق مماثلة.

أنظمة الذكاء الاصطناعي التي ستحمل في النهاية القيمة التنظيمية الأكبر هي تلك التي يتم الوثوق بها بأكثر البيانات حساسية، والمتصلة بأكثر الأنظمة أهمية، والمصرح لها باتخاذ أكثر الإجراءات تأثيراً. أمن الذكاء الاصطناعي بانعدام الثقة هو البنية التي تجعل تلك الثقة قابلة للدفاع عنها بدلاً من تطلعية، وتوفر التحقق المستمر والرؤية السلوكية وتحديد نطاق الوصول الذي يسمح للمؤسسات بتوسيع ثقة ذات معنى إلى أنظمة الذكاء الاصطناعي بدلاً من قبول التعرض كتكلفة للقدرة.

الأسئلة الشائعة

ما هو انعدام الثقة في الذكاء الاصطناعي؟

انعدام الثقة في الذكاء الاصطناعي هو تطبيق مبادئ التحقق المستمر والوصول بأقل الامتيازات على أنظمة الذكاء الاصطناعي، ويتطلب التحقق من كل مستخدم ونموذج ووكيل ووصول إلى البيانات وتفاعل مع الأدوات مقابل التفويض الحالي بدلاً من الاعتماد على الثقة الضمنية الممنوحة عند المصادقة الأولية أو القائمة على موقع الشبكة. يعامل أنظمة الذكاء الاصطناعي كأهداف عالية القيمة ذات سلوك ديناميكي ومتصل يتطلب بنية تحقق مصممة خصيصاً لكيفية عمل أنظمة الذكاء الاصطناعي فعلاً بدلاً من نماذج أمن التطبيقات التقليدية التي لا تأخذ في الاعتبار أسطح هجوم الذكاء الاصطناعي المحددة.

ما هو أمن انعدام الثقة؟

أمن انعدام الثقة هو نموذج أمني مبني على مبدأ أنه لا ينبغي الوثوق بأي مستخدم أو جهاز أو نظام ضمنياً بناءً على موقعه في الشبكة، ويتطلب بدلاً من ذلك التحقق المستمر من كل طلب وصول مقابل سياسات الهوية وصحة الجهاز والتفويض السياقي قبل منح الوصول. يستبدل نموذج المحيط التقليدي الذي يثق بكل شيء داخل حدود الشبكة بنموذج يعامل كل تفاعل على أنه غير موثوق به محتملاً ويتطلب التحقق في كل نقطة وصول بغض النظر عن مكان نشأة الطلب.

ما هو مثال على نموذج أمن انعدام الثقة؟

مثال عملي على نموذج أمن انعدام الثقة في نشر الذكاء الاصطناعي هو مساعد ذكاء اصطناعي للمؤسسات حيث يصادق كل مستخدم بمصادقة متعددة العوامل قبل الوصول إلى النظام، ويفرض خط أنابيب الاسترجاع للذكاء الاصطناعي أذونات مستند المستخدم الطالب بحيث يمكنه فقط إظهار المحتوى الذي يحق له رؤيته، تتطلب جميع استدعاءات الأدوات التي يقوم بها وكيل الذكاء الاصطناعي تفويضاً صريحاً لكل إجراء بدلاً من وراثة أذونات حساب خدمة واسعة، ويتم تسجيل كل استعلام واسترجاع وإجراء للمراقبة السلوكية التي تشير إلى الشذوذات لمراجعة الأمن. يوضح هذا المثال انعدام الثقة المطبق عبر أبعاد الهوية والبيانات والإجراءات لنظام الذكاء الاصطناعي بدلاً من فقط في محيط الشبكة.

كيف يحسن انعدام الثقة الأمن؟

يحسن انعدام الثقة الأمن من خلال تقليل نصف قطر انفجار الهجمات الناجحة من خلال تحديد نطاق الوصول بأقل الامتيازات الذي يحد مما يمكن لهوية مخترقة أو نظام ذكاء اصطناعي متلاعب به الوصول إليه، من خلال تمكين اكتشاف الشذوذ بشكل أسرع من خلال التسجيل الشامل لجميع أحداث الوصول مقابل خطوط الأساس السلوكية، ومن خلال القضاء على افتراضات الثقة الضمنية التي يستغلها المهاجمون من خلال الحركة الجانبية بمجرد دخولهم محيط الشبكة. بالنسبة لأنظمة الذكاء الاصطناعي تحديداً، يحسن انعدام الثقة الأمن من خلال تطبيق التحقق المستمر على السلوك الديناميكي والمتصل لوكلاء الذكاء الاصطناعي الذي لا تستطيع الدفاعات المحيطية إدارته لأنه ليس لديها حدود محددة للحماية.

ما هي الركائز السبع لانعدام الثقة؟

الركائز السبع لانعدام الثقة هي: التحقق من الهوية الذي يتطلب المصادقة المستمرة للمستخدمين والأنظمة، وأمن الجهاز الذي يضمن صحة نقطة النهاية قبل منح الوصول، وتجزئة الشبكة التي تستبدل الشبكة المسطحة الموثوقة بمناطق مجزأة دقيقاً تتطلب تفويضاً صريحاً بينها، وأمن التطبيقات الذي يطبق التحقق من الإدخال ومراقبة الإخراج في طبقة التطبيق، وأمن البيانات الذي يفرض ضوابط الوصول القائمة على التصنيف وتقليل البيانات، والرؤية والتحليلات التي توفر تسجيلاً شاملاً واكتشاف الشذوذ السلوكي، والأتمتة والتنسيق التي تمكن من إنفاذ السياسة والاستجابة للشذوذ بالنطاق والسرعة التي يتطلبها التحقق المستمر. عند تطبيقها على أنظمة الذكاء الاصطناعي، تأخذ كل ركيزة امتدادات محددة تعالج الخصائص الفريدة لسلوك الذكاء الاصطناعي والاتصال وسطح الهجوم التي لم يتم تصميم أمن التطبيقات التقليدي للتحكم فيها.