AI לפרטיות נתוני בריאות נמצא בצומת של שני דברים הנושאים השלכות עצומות כאשר משהו משתבש: מידע רפואי ומערכות אוטומטיות המעבדות אותו בקנה מידה רחב. AI בבריאות יכול באמת לשפר את תוצאות המטופלים, לצמצם שגיאות אבחון, ולהקל על העומס המנהלי הצורך את זמן הצוות הקליני שאמור היה להיות מוקדש לטיפול. אך אותן המערכות שמאפשרות את השיפורים הללו גם יוצרות שאלות חדשות לגבי מי יש לו גישה למידע בריאותי רגיש, כיצד הוא נעשה בו שימוש מעבר למטרה הקלינית המיידית, ומה קורה כאשר מערכת נכשלת או נפרצת.

הבנת אופן פעולתם של סיכונים אלה, אילו הגנות קיימות, ואיך נראית פריסת AI אחראית בהקשר של בריאות אינה ידע אופציונלי עבור נותני שירות, מנהלים או מטופלים המנווטים במערכת המשתנה מהר יותר ממה שרוב האנשים מבינים.

מדוע נתוני בריאות ראויים לסטנדרט שונה

לא כל הנתונים האישיים נושאים אותה רגישות. מידע פיננסי הוא רציני. נתוני מיקום נושאים השלכות משמעותיות. אך נתוני בריאות תופסים קטגוריה מובחנת בגלל מה שהם חושפים ומה שהם מאפשרים. ההיסטוריה הרפואית של אדם, רישומי האבחון, מידע על תרופות, נתונים גנטיים, והיסטוריה של בריאות הנפש יכולים להשפיע על זכאותו לביטוח, סיכויי התעסוקה שלו, מערכות יחסיו האישיות והבטיחות הפיזית שלו אם זה יגיע לידיים הלא נכונות או ישמש בדרכים שהאדם מעולם לא הסכים להן.

לכן בריאות פעלה היסטורית תחת כללי הגנת נתונים מחמירים יותר מרוב הסקטורים האחרים. באוסטרליה, ה-Privacy Act וה-Australian Privacy Principles חלים על מידע בריאותי עם דרישות נוספות ספציפיות. ה-My Health Records Act מנהל את מערכת הרשומות הבריאותיות הדיגיטליות הלאומית. חקיקת הרשומות הבריאותיות ברמת המדינה מוסיפה התחייבויות נוספות במספר תחומי שיפוט. בקנה מידה בינלאומי, מסגרות כמו HIPAA בארצות הברית ו-GDPR באירופה קובעות סטנדרטים המשפיעים על כל מערכת AI הפועלת מעבר לגבולות או משתמשת במודלים שפותחו בינלאומית.

מה ש-AI עושה לנוף זה הוא להציג מורכבות חדשה בכל נקודה שבה נתונים זזים, מעובדים, או מספקים מידע להחלטה. מערכת רשומות בריאות אלקטרונית מסורתית מאחסנת נתונים והופכת אותם לנגישים למשתמשים מורשים. מערכת AI שאומנה על נתוני בריאות, נפרסה לסייע בהחלטות קליניות, או משמשת לעיבוד רשומות מנהליות עושה משהו שונה מבחינה מבנית. היא לומדת מהנתונים. היא מבצעת הסקות. היא מייצרת פלטים שעשויים לשאת עקבות של המידע שעליו אומנה בדרכים שאינן תמיד שקופות או צפויות.

הבנת ארכיטקטורת ה-AI של כל מערכת הנפרסת בהקשר של בריאות היא נקודת ההתחלה להבנת אילו סיכוני פרטיות נתונים היא יוצרת בפועל, מכיוון שהארכיטקטורה קובעת לאן הולכים הנתונים, מה נשמר, ואילו הגנות אפשריות מבחינה טכנית.

חששות הפרטיות האמיתיים של AI בנתוני בריאות

סיכוני הפרטיות ש-AI מציג לבריאות אינם היפותטיים. הם ספציפיים, מתועדים, וגדלים ככל שפריסת AI בסביבות קליניות ומנהליות מאיצה.

חשיפת נתוני האימון היא אחד הסיכונים המשמעותיים והפחות נראים. מערכות AI רבות בשימוש בבריאות אומנו על מערכי נתונים גדולים שכללו מידע מטופלים אמיתי. אם אימון זה לא נערך תחת תקני דה-זיהוי מתאימים, המודל עשוי לקודד ביעילות את נתוני המטופלים בפרמטרים שלו בדרכים שלפעמים ניתן לחלץ באמצעות שאילתות ממוקדות. המטופל שרשומותיו תרמו לאימון מערכת AI אבחנתית לא בהכרח הסכים לשימוש זה, ועשוי לא להיות לו דרך לדעת שזה קרה.

סיכון הסקה ועזרת זהות מתרחש כאשר מערכות AI משמשות להסקת מסקנות מנתוני בריאות שחורגות ממה שהמטופל שיתף או הסכים לו. AI המנתח דפוסים ברשומות בריאות אלקטרוניות עשוי להסיק מצב בריאות נפשי מרישומי תרופות, היריון מדפוסי מרשם, או נטייה גנטית מהיסטוריית אבחנה. כל אחת מההסקות הללו יוצרת פיסת מידע רגיש חדשה שלא הייתה קיימת ברשומה המקורית ושהמטופל אולי לא חשף או הסכים לשתף.

חשיפה לספק צד שלישי היא סיכון מבני ברוב פריסות AI בבריאות. כלי ה-AI המשמשים בסביבות קליניות כמעט אף פעם אינם נבנים על ידי הארגון הבריאותי המשתמש בהם. הם מוצרים של חברות טכנולוגיה שנוהלי הטיפול בנתונים שלהן, תקני האבטחה שלהן וההתחייבויות החוזיות שלהן משתנים משמעותית. כל קשר עם ספק מציג הסדר שיתוף נתונים שצריך להעריך מול התחייבויות פרטיות, והערכות אלה לעתים קרובות פחות קפדניות מהערכת הקליניות של אותם כלים.

צבירת נתונים בין מערכות יוצרת סיכוני פרטיות שאינם קיימים כאשר מידע מוחזק ברשומה אחת. מערכות AI המשתמשות במקורות נתונים מרובים, המשלבות רשומות קליניות עם נתונים מנהליים, מידע חיוב, ופוטנציאלית מערכי נתונים חיצוניים, יוצרות פרופילים שהם הרבה יותר חושפניים מכל מקור יחיד. רגישות נתוני הבריאות המצרפיים גדלה באופן לא ליניארי עם מספר המקורות המשולבים.

אילו מערכות AI נחשבות בטוחות יותר לפרטיות נתוני בריאות

הבטיחות בהקשר של AI בבריאות ופרטיות נתונים אינה בינארית. זוהי פונקציה של אופן עיצוב המערכת, אילו נתונים היא מעבדת, אילו בקרות קיימות, וכיצד היא מנוהלת בפריסה. עם זאת, מאפיינים מסוימים מבחינים באופן עקבי בין מערכות AI המטפלות בנתוני בריאות באחריות רבה יותר לבין אלה היוצרות סיכון מיותר.

מערכות המעבדות נתונים מקומית במקום לשדר אותם לשרתים חיצוניים מצמצמות משמעותית את שטח החשיפה. פריסות בארגון או בענן פרטי שבהן הארגון הבריאותי שומר על שליטה במיקום הנתונים ומי יכול לגשת אליהם הן בעלות סיכון נמוך יותר מבחינה מבנית ממערכות מבוססות ענן שבהן הנתונים משודרים ומעובדים על ידי תשתית הספק. זה לא הופך את AI הבריאות מבוסס הענן ללא בטוח באופן מובנה, אך זה אומר שתהליך הערכת הספק צריך להיות קפדני יותר.

מערכות הפועלות על נתונים שעברו דה-זיהוי או נתונים סינתטיים כאשר המשימה הקלינית מאפשרת זאת מצמצמות את סיכון פרטיות המטופל מבלי להפחית בהכרח את התועלת הקלינית. AI אבחנתי שניתן לאמן ולתקף על מערכי נתונים שעברו דה-זיהוי כראוי מספק את אותה יכולת אנליטית עם סיכון מופחת משמעותית של חשיפת נתוני מטופלים אמיתיים.

מערכות שקיבלו אישור אבחנת רלוונטי להקשרים בריאותיים, כגון SOC 2 Type II, ISO 27001, ויותר ויותר ISO 42001 לממשל ספציפי ל-AI, מספקות הבטחה כלשהי שבקרות האבטחה אומתו באופן עצמאי במקום להיות מדווחות עצמית.

מערכות עם התחייבויות חוזיות ברורות לגבי שמירת נתונים, הגבלות שימוש משני והודעה על הפרה מספקות את המסגרת המשפטית המאפשרת אחריות ספק במקום שאיפה. ספקים שאינם יכולים או רוצים להתחייב חוזית באופן ספציפי על מה שהם עושים עם נתוני הבריאות שמערכותיהם מעבדות אינם מתאימים לפריסה קלינית ללא קשר ליכולותיהם הטכניות.

ה עמדת אבטחת AI של ספק AI בבריאות צריכה להיות מוערכת באותה קפדנות המופעלת על כל כלי קליני. העובדה שמשהו הוא תוכנה ולא מכשיר רפואי אינה מצמצמת את ההשלכות של כשלונו או פריצתו כאשר נתוני בריאות מעורבים.

כיצד AI יכול באמת לעזור עם פרטיות נתוני בריאות

הקשר בין AI לפרטיות נתוני בריאות אינו יריב בלבד. כלי AI, שעוצבו ונפרסו כראוי, יכולים לשפר באופן פעיל את הגנת הפרטיות בסביבות בריאות בדרכים שתהליכים ידניים אינם יכולים להשתוות בקנה מידה גדול.

דה-זיהוי אוטומטי הוא אחת הדוגמאות הברורות ביותר. הסרה או טשטוש של מידע מזהה מרשומות קליניות לפני שהן משמשות למחקר, שיפור איכות או אימון היא משימה הצורכת זמן ונוטה לטעויות כאשר היא נעשית ידנית. מערכות AI שאומנו לזהות ולערוך מידע מזהה יכולות לעבד נפחים גדולים של רשומות בעקביות גדולה יותר מצוותי סקירה אנושיים, מצמצמות את הסיכון ששם, כתובת או פרט מזהה ייחודי יחלוף לתוך מערך נתונים שאמור להיות אנונימי.

זיהוי חריגות גישה משתמש ב-AI כדי לנטר מי ניגש לרשומות מטופלים, מתי, ולאיזו מטרה לכאורה. דפוסי גישה חריגים, איש צוות המוריד מספר גדול של רשומות מחוץ לשעות העבודה הרגילות, משתמש הניגש לרשומות עבור מטופלים מחוץ לעומס הקליני שלו, או דפוסי שאילתות המצביעים על קציר נתונים ולא על שימוש קליני, הם אותות הניתנים לזיהוי שמערכות ניטור AI יכולות לסמן לסקירה. סוג זה של מעקב יהיה לא מעשי לבצע ידנית במערכת בריאות גדולה.

אוטומציה של ניהול הסכמה עוזרת לארגוני בריאות לעקוב אחר אילו מטופלים הסכימו לאילו שימושים בנתונים שלהם ולוודא שמערכות AI מעבדות נתונים רק במסגרת אותם גבולות הסכמה. ככל ששימוש בנתונים נעשה מורכב יותר עם AI, ניהול הסכמה באופן תכנותי הופך ליותר ויותר הכרחי ולא רק נחמד שיהיה.

אכיפת מינימיזציה של נתונים משתמשת ב-AI כדי להבטיח שמערכות אוספות ושומרות רק את הנתונים הדרושים להן למטרה המוצהרת שלהן. זהו עיקרון מרכזי של חוק הפרטיות שקשה לאכוף באופן עקבי במערכות בריאות גדולות ומורכבות ללא סיוע אוטומטי.

יישום AI לפרטיות	מה הוא עושה	תועלת לפרטיות
דה-זיהוי אוטומטי	מסיר מידע מזהה מרשומות בקנה מידה גדול	מאפשר שימוש בנתונים למחקר תוך הגנה על זהות המטופל
זיהוי חריגות גישה	מנטר ומסמן דפוסי גישה חריגים לרשומות	זיהוי מוקדם של גישה לא מורשית או שימוש לרעה פנימי
ניהול הסכמה	עוקב ואוכף שימוש בנתונים בתוך גבולות ההסכמה	מבטיח שמערכות AI מכבדות הסכמת מטופל באופן תכנותי
אכיפת מינימיזציה של נתונים	מגביל איסוף נתונים ושמירה למטרה המוצהרת	מצמצם חשיפה מנתונים המוחזקים מעבר לתקופה הנדרשת
זיהוי פריצה ותגובה	מזהה פשרת נתונים פוטנציאלית בזמן אמת	תגובה מהירה יותר מצמצמת את היקף תקריות הפרטיות

הסיכונים של AI בבריאות מעבר לפרטיות

AI לפרטיות נתוני בריאות יושב בתוך נוף סיכון רחב יותר שספקים ומנהלים צריכים להבין במלוא היקפו, מכיוון שכשלי פרטיות מתרחשים לעתים נדירות בבידוד מסוגי כשל מערכת אחרים.

הגברת שגיאות קליניות היא הסיכון שמערכת AI המבצעת המלצות שגויות עושה זאת באופן עקבי ובקנה מידה, בדרכים שקלינאי אנושי המבצע שגיאות בודדות לא יעשה. AI אבחנתי עם הטיה שיטתית כלפי או נגד אבחנה מסוימת יכול להשפיע על מאות או אלפי מטופלים לפני שהדפוס מתגלה, במיוחד אם קלינאים סומכים על פלט ה-AI ללא אימות עצמאי.

הטיה אלגוריתמית ב-AI בבריאות תועדה במספר תחומים קליניים. מערכות AI שאומנו על נתוני בריאות היסטוריים יורשות את ההטיות הקיימות באותם נתונים, כולל ייצוג חסר שיטתי של קבוצות דמוגרפיות מסוימות במערכי נתונים קליניים והאי-שוויון ההיסטורי באופן שאוכלוסיות שונות אובחנו וטופלו. מערכת AI המתפקדת היטב על האוכלוסייה שדומיננטית בנתוני האימון שלה עשויה לתפקד גרוע משמעותית על מטופלים מקבוצות בעלות ייצוג חסר, יוצרת איכות טיפול דיפרנציאלית המחמירה את אי-השוויון הבריאותי הקיים.

חשיפה רגולטורית ולחיוב היא סיכון גדל ככל שרגולטורים באוסטרליה ובינלאומית מפתחים ציפיות ספציפיות יותר ל-AI בבריאות. ה-Therapeutic Goods Administration פרסם הנחיות על תוכנה כמכשיר רפואי החלות על יישומי AI קליניים רבים. ארגוני בריאות הפורסים AI ללא הערכה רגולטורית מספקת מתמודדים גם עם חשיפה משפטית וגם עם שיבוש תפעולי של הצורך להסיר או לשנות מערכות שהפכו משולבות בזרמי עבודה קליניים.

מדריך מובנה לפריסת AI אחראית בתעשיות מוסדרות יכול לעזור לארגוני בריאות לנווט בצומת של דרישות קליניות, פרטיות ורגולטוריות ברצף המטפל קודם באלמנטים בעלי הסיכון הגבוה ביותר.

תקנים מעשיים לארגוני בריאות הפורסים AI

המרחק בין נוהלי פריסת AI הנוכחיים ברוב ארגוני הבריאות לבין ממשל פרטיות ואבטחה איתן באמת הוא אמיתי אך ניתן לגשר עליו. מספר תקנים מעשיים מספקים את המבנה הנדרש לפריסת AI בסביבות בריאות באחריות.

הערכות השפעת הגנת נתונים צריכות לקדם כל פריסת AI חדשה המערבת נתוני מטופלים. הערכות אלה מעריכות אילו נתונים המערכת מעבדת, אילו סיכונים אותו עיבוד יוצר, אילו צעדי הפחתה קיימים, והאם הסיכון השארי מקובל בהתחשב בתועלת הקלינית. הן נדרשות תחת מספר מסגרות פרטיות והן פרקטיקה טובה ללא קשר לחובה משפטית.

פרוטוקולי בדיקת נאותות של ספק צריכים לקבוע דרישות מינימום לכל ספק AI שמערכתו תעבד נתוני מטופלים. דרישות אלה צריכות לכסות אישורי אבטחה, הסכמי עיבוד נתונים, התחייבויות להודעה על הפרה, גילוי תת-מעבד, ומדיניות שמירה ומחיקה של נתונים. ספקים שאינם יכולים לעמוד בדרישות אלה לא צריכים להיות נפרסים בסביבות קליניות ללא קשר ליכולת הקלינית שכליהם מציעים.

אינטגרציה של ממשל קליני משמעה להתייחס למערכות AI בבריאות ככלים קליניים הכפופים לאותם תהליכי ממשל החלים על כלים קליניים אחרים, כולל הערכת ראיות קליניות, ניטור ביצועים מתמשך, דיווח על אירועים חריגים, וסקירה רגילה האם הכלי ממשיך לתפקד כצפוי בסביבה הקלינית בה הוא נפרס.

הכשרת צוות ב-AI ופרטיות מבטיחה שהקלינאים והמנהלים המשתמשים בכלי AI מבינים את התחייבויות הפרטיות שלהם בסביבה בסיוע AI, כולל אילו נתונים ניתן להזין למערכות AI, כיצד לפרש פלטי AI מבלי להסתמך עליהם יתר על המידה, וכיצד להעלות חששות לגבי התנהגות AI שנראית בלתי עקבית עם ציפיות קליניות או דרישות פרטיות.

תקן ממשל	מה הוא דורש	מי אחראי
הערכת השפעת הגנת נתונים	הערכת סיכוני פרטיות פורמלית לפני פריסה	קצין פרטיות וראש אינפורמטיקה קלינית
פרוטוקול בדיקת נאותות של ספק	דרישות אבטחה וטיפול בנתונים לכל ספקי AI	משפטי, אבטחת IT, ורכש
אינטגרציה של ממשל קליני	AI מטופל ככלי קליני הכפוף לממשל קליני	ועדת ממשל קליני
סקירת מסגרת הסכמה	הסכמת מטופל קיימת מוערכת מול שימוש בנתוני AI	משפטי וקצין פרטיות
תוכנית הכשרת צוות	הכשרת קלינאי ומנהל ב-AI ופרטיות	משאבי אנוש, חינוך קליני, ואינפורמטיקה
ניטור ביצועים מתמשך	סקירה רגילה של התנהגות מערכת AI ותוצאות	אינפורמטיקה קלינית וצוות איכות

דברים שצריך לדעת על AI לפרטיות נתוני בריאות

• מידע בריאותי מסווג כמידע רגיש תחת חוק הפרטיות האוסטרלי, כלומר הוא מושך דרישות הגנה גבוהות יותר ממידע אישי כללי ואינו יכול להיאסף או לשמש ללא בסיס משפטי ברור או הסכמה.
• מערכות AI המשתמשות בנתוני מטופלים לשיפור מודל ללא הסכמה מפורשת עלולות להפר התחייבויות פרטיות גם אם הנתונים עברו דה-זיהוי, מכיוון ששיטות דה-זיהוי אינן אחידות חזקות וסיכון העזרת הזהות תלוי בעושר מערך הנתונים.
• למערכת My Health Records באוסטרליה יש הגנות חקיקתיות ספציפיות המשפיעות על מה שמערכות AI יכולות לעשות עם רשומות שניגשים אליהן דרך אותה מערכת, וארגוני בריאות צריכים להבין הגבלות אלה לפני פריסת AI המתקשר עם נתוני My Health Records.
• הסכמת מטופל לטיפול בסיוע AI היא תחום מתפתח. תחומי שיפוט מסוימים נעים לעבר דרישות שמטופלים יידעו כאשר מערכות AI מעורבות בטיפול הקליני שלהם, ללא קשר אם ה-AI מקבל או תומך בהחלטות קליניות.
• AI לפרטיות נתוני בריאות אינו רק בעיה טכנולוגית. כשלי הפרטיות המשמעותיים ביותר בפריסות AI בבריאות בדרך כלל כללו פערים בממשל, כשלים בניהול ספקים, או התנהגות צוות ולא פשרה טכנית של המערכת.
• מודלי AI בינלאומיים המשמשים בסביבות בריאות אוסטרליות כפופים לחוק הפרטיות האוסטרלי ללא קשר למיקום בו פותח המודל או למיקום הספק, אם הנתונים המעובדים קשורים למטופלים אוסטרליים.
• תכנון תגובה לאירועי הפרת פרטיות הקשורים ל-AI בבריאות צריך להביא בחשבון את התחייבויות הפרת הנתונים הניתנות להודעה תחת ה-Privacy Act, הדורשת הודעה הן ל-OAIC והן ליחידים מושפעים כאשר מתרחשת הפרת נתונים חמורה.

ניווט אחראי ב-AI לפרטיות נתוני בריאות

מגזר הבריאות לא יאט את אימוץ ה-AI שלו, ויש סיבות אמיתיות מדוע אסור לו. הפוטנציאל של AI לתמוך באבחון מוקדם יותר, לצמצם שגיאות קליניות, להקל על עומס מנהלי ולהרחיב את ההישג של מומחיות מתמחה לאזורים שאינם מקבלים שירות מספיק הוא אמיתי ומשמעותי. האתגר אינו להתנגד ל-AI בבריאות אלא לפרוס אותו באופן שמטופלים יכולים לסמוך עליו וספקים יכולים להגן עליו.

אמון בהקשר זה אינו מושג רך. זוהי התוצאה המעשית של הגנת פרטיות מודגמת, טיפול שקוף בנתונים, אבטחה קפדנית, וממשל קליני המחזיק את מערכות ה-AI לאותו סטנדרט של ראיות ואחריות החל על כלים קליניים אחרים. מטופלים המבינים שנתוני הבריאות שלהם משמשים לאימון מערכות AI, שמערכות אלה עושות המלצות המשפיעות על הטיפול שלהם, ושיש אמצעי הגנה איתנים על אופן הטיפול בנתונים אלה הם מטופלים שיכולים לתת הסכמה משמעותית לטיפול בסיוע AI.

תכונות ה-AI ההופכות את AI הבריאות למשכנע בהקשר קליני צריכות להיות מותאמות עם תכונות פרטיות ואבטחה ההופכות אותן למקובלות בהקשר ממשל. ארגונים הבונים את שני הדברים האלה יחד מההתחלה ימצאו את עצמם במצב טוב משמעותית ככל שציפיות רגולטוריות בתחום זה ממשיכות להתפתח ולהפוך לספציפיות יותר.

שאלות נפוצות על AI לפרטיות נתוני בריאות

מהם חששות הפרטיות של AI בנתוני בריאות?

חששות הפרטיות העיקריים כוללים חשיפת נתוני אימון שבה מידע מטופלים מוטמע במודלי AI ללא הסכמה מספקת, סיכון עזרת זהות שבו AI מסיק מצבים רגישים מנתונים זמינים, שיתוף נתונים עם ספק צד שלישי ללא אמצעי הגנה מספקים, וצבירת רשומות בין מערכות היוצרת פרופילים רגישים יותר מכל מקור יחיד. כל אחד מהסיכונים הללו דורש תגובות ממשל ספציפיות ולא צעד הגנה אחיד אחד.

איזה AI בטוח לפרטיות נתונים?

מערכות AI המעבדות נתונים מקומית במקום לשדר אותם לשרתים חיצוניים, פועלות תחת הגבלות חוזיות ברורות לשימוש בנתונים, מחזיקות באישורי אבטחה עצמאיים כמו SOC 2 Type II ו-ISO 27001, ועברו הערכה באמצעות הערכת השפעת הגנת נתונים פורמלית, נחשבות בדרך כלל לבטוחות יותר לפרטיות נתוני בריאות. בטיחות היא פונקציה של ממשל וארכיטקטורה ולא מאפיין של כלי או ספק מסוים.

כיצד AI עוזר בפרטיות נתונים?

AI תומך באופן פעיל בפרטיות נתונים באמצעות דה-זיהוי אוטומטי של רשומות קליניות, זיהוי חריגות לגישה לא מורשית לנתונים, אכיפת ניהול הסכמה, ובקרות מינימיזציה של נתונים המגבילות איסוף ושמירה למה שהכרחי קלינית. יכולות אלה מאפשרות ליישם הגנות פרטיות באופן עקבי בקנה מידה בדרכים שתהליכים ידניים אינם יכולים להשיג באופן אמין במערכות בריאות גדולות.

כמה מאובטח AI בבריאות?

אבטחה ב-AI בבריאות משתנה משמעותית בהתאם לספק, מודל הפריסה ומסגרת הממשל החלה על ידי ארגון הבריאות. מערכות שנפרסו תחת בדיקת נאותות קפדנית של ספק, עם אישור אבטחה עצמאי, עיבוד נתונים מקומי כשאפשר, וניטור פעיל להתנהגות חריגה הן הרבה יותר מאובטחות מאלה שנפרסו ללא בקרות אלה, ללא קשר ליכולת הקלינית שהן מציעות.

מהם הסיכונים של AI בבריאות?

הסיכונים משתרעים על פני ממדים קליניים, פרטיות ותפעוליים כולל הגברת שגיאות אבחון בקנה מידה, הטיה אלגוריתמית נגד אוכלוסיות מטופלים בעלות ייצוג חסר, חשיפה רגולטורית מפריסה לא תואמת, הפרות פרטיות מניהול ספקים לא מספק, והסתמכות יתר על פלטי AI ללא אימות קליני מספק. ניהול סיכונים אלה דורש ממשל המתייחס ל-AI ככלי קליני הכפוף לאותם תקני ראיות ואחריות החלים על טכנולוגיות קליניות אחרות.