AI برای حریم خصوصی داده‌های بهداشت و درمان در تقاطع دو موضوعی قرار دارد که هنگام اشتباه، عواقب عظیمی به همراه دارند: اطلاعات پزشکی و سیستم‌های خودکاری که آن را در مقیاس وسیع پردازش می‌کنند. AI در بهداشت و درمان می‌تواند نتایج بیماران را به‌طور واقعی بهبود بخشد، خطاهای تشخیصی را کاهش دهد و بار اداری را که زمان کارکنان بالینی را که باید صرف مراقبت شود مصرف می‌کند، کاهش دهد. اما همان سیستم‌هایی که این بهبودها را ممکن می‌سازند، پرسش‌های جدیدی نیز ایجاد می‌کنند درباره اینکه چه کسی به اطلاعات حساس سلامت دسترسی دارد، چگونه فراتر از هدف بالینی فوری استفاده می‌شود، و چه اتفاقی می‌افتد وقتی یک سیستم خراب می‌شود یا به خطر می‌افتد.

درک اینکه چگونه این خطرات کار می‌کنند، چه محافظت‌هایی وجود دارد، و استقرار مسئولانه AI در بستر بهداشت و درمان چگونه به نظر می‌رسد، دانش اختیاری نیست برای ارائه‌دهندگان، مدیران یا بیمارانی که در سیستمی حرکت می‌کنند که سریع‌تر از آنچه اکثر مردم درک می‌کنند در حال تغییر است.

چرا داده‌های بهداشت و درمان شایسته یک استاندارد متفاوت هستند

همه داده‌های شخصی حساسیت یکسانی ندارند. اطلاعات مالی جدی است. داده‌های مکانی پیامدهای قابل توجهی دارند. اما داده‌های سلامت به دلیل آنچه که آشکار می‌کند و آنچه که فعال می‌سازد، در دسته‌ای متمایز قرار می‌گیرند. سابقه پزشکی یک شخص، سوابق تشخیص، اطلاعات دارو، داده‌های ژنتیکی و سابقه سلامت روانی می‌تواند بر صلاحیت بیمه، چشم‌انداز اشتغال، روابط شخصی و ایمنی فیزیکی او تأثیر بگذارد اگر به دست افراد نادرست برسد یا به روش‌هایی استفاده شود که فرد هرگز به آن رضایت نداده است.

به همین دلیل است که بهداشت و درمان تاریخاً تحت قوانین حفاظت از داده‌های سخت‌گیرانه‌تر از اکثر بخش‌های دیگر فعالیت کرده است. در استرالیا، Privacy Act و Australian Privacy Principles برای اطلاعات سلامت با الزامات اضافی خاص اعمال می‌شوند. My Health Records Act سیستم سوابق سلامت دیجیتالی ملی را اداره می‌کند. قانون سوابق سلامت ایالتی تعهدات بیشتری را در چندین حوزه قضایی اضافه می‌کند. در سطح بین‌المللی، چارچوب‌هایی مانند HIPAA در ایالات متحده و GDPR در اروپا استانداردهایی را تعیین می‌کنند که هر سیستم AI که در سراسر مرزها فعالیت می‌کند یا از مدل‌های توسعه‌یافته بین‌المللی استفاده می‌کند را تحت تأثیر قرار می‌دهد.

آنچه AI به این چشم‌انداز اضافه می‌کند، معرفی پیچیدگی جدیدی در هر نقطه‌ای است که داده‌ها حرکت می‌کنند، پردازش می‌شوند یا یک تصمیم را آگاه می‌سازند. یک سیستم سنتی سوابق سلامت الکترونیکی داده‌ها را ذخیره می‌کند و آنها را برای کاربران مجاز قابل دسترس می‌سازد. یک سیستم AI که بر روی داده‌های سلامت آموزش دیده، برای کمک به تصمیمات بالینی مستقر شده، یا برای پردازش سوابق اداری استفاده می‌شود، چیزی از نظر ساختاری متفاوت انجام می‌دهد. از داده‌ها یاد می‌گیرد. استنتاج می‌کند. خروجی‌هایی تولید می‌کند که ممکن است به روش‌هایی که همیشه شفاف یا قابل پیش‌بینی نیستند، آثار اطلاعاتی را که بر روی آن آموزش دیده حمل کنند.

درک معماری AI هر سیستمی که در بستر بهداشت و درمان مستقر می‌شود، نقطه شروع برای درک چه خطرات حریم خصوصی داده‌ای را واقعاً ایجاد می‌کند، است، زیرا معماری تعیین می‌کند داده‌ها کجا می‌روند، چه چیزی حفظ می‌شود، و چه محافظت‌هایی از نظر فنی ممکن است.

نگرانی‌های حریم خصوصی واقعی AI در داده‌های بهداشت و درمان

خطرات حریم خصوصی که AI به بهداشت و درمان وارد می‌کند، فرضی نیستند. آنها خاص، مستند شده و در حال رشد هستند زیرا استقرار AI در محیط‌های بالینی و اداری شتاب می‌گیرد.

قرار گرفتن در معرض داده‌های آموزش یکی از مهم‌ترین و کمتر قابل مشاهده‌ترین خطرات است. بسیاری از سیستم‌های AI که در بهداشت و درمان استفاده می‌شوند، بر روی مجموعه‌داده‌های بزرگی که شامل اطلاعات بیماران واقعی بودند، آموزش دیده‌اند. اگر آن آموزش تحت استانداردهای ناشناس‌سازی مناسب انجام نشده باشد، مدل ممکن است به طور موثر داده‌های بیمار را در پارامترهای خود به روش‌هایی کدگذاری کرده باشد که گاهی می‌توان از طریق پرس‌و‌جوهای هدفمند آنها را استخراج کرد. بیماری که سوابقش به آموزش یک سیستم AI تشخیصی کمک کرده، لزوماً به این استفاده رضایت نداده است و ممکن است هیچ راهی نداشته باشد که بداند چنین اتفاقی افتاده است.

خطر استنتاج و شناسایی مجدد زمانی رخ می‌دهد که سیستم‌های AI برای استنتاج نتیجه‌گیری‌هایی از داده‌های سلامت استفاده می‌شوند که فراتر از آنچه بیمار به اشتراک گذاشته یا به آن رضایت داده، می‌روند. یک AI که الگوهایی را در سوابق سلامت الکترونیکی تجزیه و تحلیل می‌کند، ممکن است یک وضعیت سلامت روانی را از سوابق دارویی، بارداری را از الگوهای تجویز، یا استعداد ژنتیکی را از سابقه تشخیص استنتاج کند. هر یک از این استنتاج‌ها یک قطعه جدید از اطلاعات حساس را ایجاد می‌کند که در سوابق اصلی وجود نداشت و ممکن است بیمار آن را افشا یا به اشتراک‌گذاری آن رضایت نداده باشد.

قرار گرفتن در معرض فروشنده ثالث یک خطر ساختاری در بیشتر استقرارهای AI بهداشت و درمان است. ابزارهای AI که در محیط‌های بالینی استفاده می‌شوند تقریباً هرگز توسط سازمان بهداشتی که از آنها استفاده می‌کند، ساخته نمی‌شوند. آنها محصولات شرکت‌های فناوری هستند که شیوه‌های مدیریت داده، استانداردهای امنیتی و تعهدات قراردادی آنها به طور قابل توجهی متفاوت است. هر رابطه با فروشنده یک ترتیب اشتراک‌گذاری داده را معرفی می‌کند که باید در برابر تعهدات حریم خصوصی ارزیابی شود، و این ارزیابی‌ها اغلب کمتر سختگیرانه از ارزیابی بالینی همان ابزارها هستند.

تجمیع داده‌ها در سیستم‌ها خطرات حریم خصوصی را ایجاد می‌کند که وجود ندارند زمانی که اطلاعات در یک سوابق واحد نگهداری می‌شود. سیستم‌های AI که از چندین منبع داده استفاده می‌کنند، سوابق بالینی را با داده‌های اداری، اطلاعات صورتحساب و احتمالاً مجموعه‌داده‌های خارجی ترکیب می‌کنند، پروفایل‌هایی ایجاد می‌کنند که به‌مراتب آشکارتر از هر منبع تنها هستند. حساسیت داده‌های سلامت تجمیع‌شده به‌صورت غیرخطی با تعداد منابع ترکیب‌شده افزایش می‌یابد.

کدام سیستم‌های AI برای حریم خصوصی داده‌های بهداشت و درمان امن‌تر در نظر گرفته می‌شوند

ایمنی در بستر AI بهداشت و درمان و حریم خصوصی داده‌ها دودویی نیست. این تابع نحوه طراحی یک سیستم، چه داده‌هایی را پردازش می‌کند، چه کنترل‌هایی در محل وجود دارد، و چگونه در استقرار اداره می‌شود، است. با این حال، ویژگی‌های خاصی به‌طور مداوم سیستم‌های AI که داده‌های بهداشت و درمان را مسئولانه‌تر مدیریت می‌کنند را از آنهایی که خطر غیرضروری ایجاد می‌کنند، متمایز می‌سازد.

سیستم‌هایی که داده‌ها را به‌جای انتقال به سرورهای خارجی، به‌صورت محلی پردازش می‌کنند، سطح قرار گرفتن در معرض را به‌طور قابل‌توجهی کاهش می‌دهند. استقرارهای داخل سازمان یا ابر خصوصی که در آن سازمان بهداشتی کنترل بر روی محل قرار داشتن داده‌ها و افرادی که می‌توانند به آنها دسترسی پیدا کنند را حفظ می‌کند، به‌صورت ساختاری خطر کمتری نسبت به سیستم‌های مبتنی بر ابر دارند که در آن داده‌ها به زیرساخت فروشنده منتقل و پردازش می‌شوند. این موضوع AI بهداشت و درمان مبتنی بر ابر را ذاتاً ناامن نمی‌سازد، اما به این معنی است که فرآیند ارزیابی فروشنده باید سختگیرانه‌تر باشد.

سیستم‌هایی که بر روی داده‌های ناشناس‌سازی‌شده یا مصنوعی کار می‌کنند، در جایی که وظیفه بالینی اجازه می‌دهد، خطر حریم خصوصی بیمار را بدون لزوماً کاهش کارایی بالینی کاهش می‌دهند. AI تشخیصی که می‌تواند بر روی مجموعه‌داده‌های به‌درستی ناشناس‌سازی‌شده آموزش داده شود و اعتبارسنجی شود، همان قابلیت تحلیلی را با خطر به‌مراتب کاهش‌یافته قرار گرفتن در معرض داده‌های بیمار واقعی فراهم می‌کند.

سیستم‌هایی که گواهی امنیتی مستقل مرتبط با بسترهای بهداشت و درمان دریافت کرده‌اند، مانند SOC 2 Type II، ISO 27001، و به‌طور فزاینده ISO 42001 برای حاکمیت خاص AI، اطمینان نسبی فراهم می‌کنند که کنترل‌های امنیتی به‌جای گزارش خود، به‌صورت مستقل تأیید شده‌اند.

سیستم‌هایی با تعهدات قراردادی واضح در مورد حفظ داده‌ها، محدودیت‌های استفاده ثانویه و اطلاع‌رسانی نقض، چارچوب قانونی را فراهم می‌کنند که مسئولیت‌پذیری فروشنده را به‌جای آرمانی، ممکن می‌سازد. فروشندگانی که نمی‌توانند یا نمی‌خواهند تعهدات قراردادی خاصی در مورد آنچه با داده‌های سلامتی که سیستم‌های آنها پردازش می‌کند انجام می‌دهند، ارائه کنند، صرف‌نظر از قابلیت‌های فنی‌شان، برای استقرار بالینی مناسب نیستند.

وضعیت امنیتی AI یک فروشنده AI بهداشت و درمان باید با همان سختگیری اعمال‌شده بر هر ابزار بالینی ارزیابی شود. این واقعیت که چیزی نرم‌افزار است و نه یک دستگاه پزشکی، عواقب خرابی یا به خطر افتادن آن را زمانی که داده‌های سلامت درگیر هستند، کاهش نمی‌دهد.

چگونه AI واقعاً می‌تواند به حریم خصوصی داده‌های بهداشت و درمان کمک کند

رابطه بین AI و حریم خصوصی داده‌های بهداشت و درمان صرفاً متخاصم نیست. ابزارهای AI، در صورتی که به‌درستی طراحی و مستقر شوند، می‌توانند به‌طور فعال حفاظت از حریم خصوصی را در محیط‌های بهداشت و درمان به روش‌هایی بهبود بخشند که فرآیندهای دستی نمی‌توانند در مقیاس وسیع با آنها مطابقت کنند.

ناشناس‌سازی خودکار یکی از واضح‌ترین نمونه‌هاست. حذف یا مبهم کردن اطلاعات شناسایی‌کننده از سوابق بالینی قبل از استفاده آنها برای پژوهش، بهبود کیفیت یا آموزش، وظیفه‌ای زمان‌بر و مستعد خطا است وقتی به‌صورت دستی انجام شود. سیستم‌های AI که برای شناسایی و حذف اطلاعات شناسایی‌کننده آموزش داده شده‌اند، می‌توانند حجم زیادی از سوابق را با هماهنگی بیشتر از تیم‌های بازبینی انسانی پردازش کنند، و خطر اینکه یک نام، آدرس یا جزئیات شناسایی منحصربه‌فرد به مجموعه‌داده‌ای که باید ناشناس باشد سرازیر شود، کاهش دهند.

تشخیص ناهنجاری دسترسی از AI برای نظارت بر اینکه چه کسی به سوابق بیماران دسترسی دارد، چه زمانی و با چه هدف ظاهری استفاده می‌کند. الگوهای دسترسی غیرعادی، یک کارمند که تعداد زیادی سوابق را خارج از ساعات کاری معمول دانلود می‌کند، کاربری که به سوابق بیمارانی خارج از حجم کار بالینی خود دسترسی پیدا می‌کند، یا الگوهای پرس‌و‌جو که جمع‌آوری داده را به جای استفاده بالینی نشان می‌دهد، سیگنال‌های قابل تشخیصی هستند که سیستم‌های نظارتی AI می‌توانند برای بازبینی علامت‌گذاری کنند. این نوع نظارت در یک سیستم بهداشتی بزرگ به‌صورت دستی غیرعملی خواهد بود.

اتوماسیون مدیریت رضایت به سازمان‌های بهداشتی کمک می‌کند تا ردیابی کنند کدام بیماران به کدام استفاده از داده‌های خود رضایت داده‌اند و اطمینان حاصل کنند که سیستم‌های AI فقط در محدوده آن رضایت‌ها داده‌ها را پردازش می‌کنند. با پیچیده‌تر شدن استفاده از داده‌ها با AI، مدیریت برنامه‌ای رضایت به‌جای یک ویژگی خوب، به‌طور فزاینده ضروری می‌شود.

اجرای حداقل‌سازی داده از AI برای اطمینان از این که سیستم‌ها فقط داده‌هایی را که برای هدف اعلام‌شده خود نیاز دارند جمع‌آوری و حفظ می‌کنند، استفاده می‌کند. این یک اصل اصلی قانون حریم خصوصی است که اجرای مداوم آن در سیستم‌های بهداشتی بزرگ و پیچیده بدون کمک خودکار دشوار است.

کاربرد AI برای حریم خصوصی	کاری که انجام می‌دهد	مزیت حریم خصوصی
ناشناس‌سازی خودکار	اطلاعات شناسایی‌کننده را از سوابق در مقیاس وسیع حذف می‌کند	استفاده از داده‌ها را برای پژوهش امکان‌پذیر می‌کند در حالی که هویت بیمار را حفظ می‌کند
تشخیص ناهنجاری دسترسی	الگوهای دسترسی غیرعادی به سوابق را نظارت و علامت‌گذاری می‌کند	تشخیص زودهنگام دسترسی غیرمجاز یا سوءاستفاده داخلی
مدیریت رضایت	استفاده از داده‌ها را در محدوده رضایت ردیابی و اجرا می‌کند	اطمینان حاصل می‌کند که سیستم‌های AI به‌صورت برنامه‌ای به رضایت بیمار احترام می‌گذارند
اجرای حداقل‌سازی داده	جمع‌آوری و حفظ داده را به هدف اعلام‌شده محدود می‌کند	قرار گرفتن در معرض از داده‌های نگهداری‌شده فراتر از دوره ضروری را کاهش می‌دهد
تشخیص و واکنش به نقض	به خطر افتادن بالقوه داده را به‌صورت بلادرنگ شناسایی می‌کند	پاسخ سریع‌تر دامنه حوادث حریم خصوصی را کاهش می‌دهد

خطرات AI در بهداشت و درمان فراتر از حریم خصوصی

AI برای حریم خصوصی داده‌های بهداشت و درمان در یک چشم‌انداز خطر گسترده‌تری قرار دارد که ارائه‌دهندگان و مدیران باید آن را در دامنه کامل آن درک کنند، زیرا شکست‌های حریم خصوصی به‌ندرت مجزا از سایر انواع شکست سیستم رخ می‌دهند.

تقویت خطای بالینی خطری است که در آن یک سیستم AI که توصیه‌های نادرست ارائه می‌کند، این کار را به‌صورت مداوم و در مقیاس وسیع به روش‌هایی انجام می‌دهد که یک پزشک انسانی که خطاهای فردی مرتکب می‌شود انجام نمی‌دهد. یک AI تشخیصی با تعصب سیستماتیک به‌سمت یا علیه یک تشخیص خاص می‌تواند بر صدها یا هزاران بیمار قبل از تشخیص الگو تأثیر بگذارد، به‌ویژه اگر پزشکان بدون تأیید مستقل به خروجی AI اعتماد کنند.

تعصب الگوریتمی در AI بهداشت و درمان در چندین حوزه بالینی مستند شده است. سیستم‌های AI که بر روی داده‌های سلامت تاریخی آموزش دیده‌اند، تعصب‌های موجود در آن داده‌ها را به ارث می‌برند، از جمله نمایندگی کم سیستماتیک گروه‌های جمعیتی خاص در مجموعه‌داده‌های بالینی و نابرابری‌های تاریخی در نحوه تشخیص و درمان جمعیت‌های مختلف. یک سیستم AI که در جمعیتی که بر داده‌های آموزش آن غلبه داشته‌اند خوب عمل می‌کند، ممکن است در بیماران از گروه‌های کم‌نماینده‌شده به‌طور قابل‌توجهی بدتر عمل کند، و کیفیت مراقبت متفاوتی ایجاد کند که نابرابری‌های سلامتی موجود را تشدید می‌کند.

قرار گرفتن در معرض نظارتی و مسئولیتی خطر در حال رشدی است زیرا تنظیم‌کننده‌ها در استرالیا و در سطح بین‌المللی انتظارات مشخص‌تری برای AI در بهداشت و درمان توسعه می‌دهند. Therapeutic Goods Administration راهنمایی‌هایی در مورد Software as a Medical Device منتشر کرده که برای بسیاری از کاربردهای بالینی AI اعمال می‌شود. سازمان‌های بهداشتی که AI را بدون ارزیابی نظارتی کافی مستقر می‌کنند، هم با قرار گرفتن در معرض قانونی و هم با اختلال عملیاتی ناشی از مجبور شدن به حذف یا اصلاح سیستم‌هایی که در گردش کارهای بالینی جا گرفته‌اند، روبرو می‌شوند.

راهنمای ساختاریافته برای استقرار مسئولانه AI در صنایع تحت نظارت می‌تواند به سازمان‌های بهداشتی کمک کند تا تقاطع الزامات بالینی، حریم خصوصی و نظارتی را در توالی‌ای پیمایش کنند که ابتدا به عناصر با بالاترین خطر می‌پردازد.

استانداردهای عملی برای سازمان‌های بهداشتی که AI را مستقر می‌کنند

فاصله بین شیوه‌های فعلی استقرار AI در بیشتر سازمان‌های بهداشتی و حاکمیت حریم خصوصی و امنیت واقعاً قوی واقعی است اما قابل پل زدن. چندین استاندارد عملی ساختار لازم برای استقرار مسئولانه AI در محیط‌های بهداشتی را فراهم می‌کنند.

ارزیابی‌های تأثیر حفاظت از داده باید پیش از هر استقرار جدید AI که شامل داده‌های بیمار می‌شود، انجام شود. این ارزیابی‌ها ارزیابی می‌کنند که سیستم چه داده‌هایی را پردازش می‌کند، چه خطراتی این پردازش ایجاد می‌کند، چه اقدامات کاهشی در محل وجود دارد، و آیا خطر باقیمانده با توجه به مزیت بالینی قابل قبول است یا خیر. آنها تحت چندین چارچوب حریم خصوصی الزامی هستند و صرف‌نظر از تعهد قانونی، یک رویه خوب هستند.

پروتکل‌های دیلیجنس فروشنده باید الزامات حداقلی برای هر فروشنده AI که سیستم آن داده‌های بیمار را پردازش خواهد کرد، تعیین کنند. این الزامات باید گواهی‌های امنیتی، توافق‌نامه‌های پردازش داده، تعهدات اطلاع‌رسانی نقض، افشای فرعی‌پردازش، و سیاست‌های حفظ و حذف داده را پوشش دهند. فروشندگانی که نمی‌توانند این الزامات را برآورده کنند، صرف‌نظر از قابلیت بالینی که ابزارهای آنها ارائه می‌دهد، نباید در محیط‌های بالینی مستقر شوند.

یکپارچه‌سازی حاکمیت بالینی به معنای رفتار با سیستم‌های AI در بهداشت و درمان به‌عنوان ابزارهای بالینی است که تابع همان فرآیندهای حاکمیتی اعمال‌شده بر سایر ابزارهای بالینی هستند، از جمله ارزیابی شواهد بالینی، نظارت مداوم بر عملکرد، گزارش رویدادهای نامطلوب، و بازنگری منظم اینکه آیا ابزار همچنان مطابق انتظار در محیط بالینی که در آن مستقر شده است عمل می‌کند یا خیر.

آموزش کارکنان در زمینه AI و حریم خصوصی اطمینان حاصل می‌کند که پزشکان و مدیرانی که از ابزارهای AI استفاده می‌کنند، تعهدات حریم خصوصی خود را در یک محیط با کمک AI درک می‌کنند، از جمله اینکه چه داده‌هایی را می‌توان وارد سیستم‌های AI کرد، چگونه خروجی‌های AI را بدون اعتماد بیش از حد به آنها تفسیر کرد، و چگونه نگرانی‌ها در مورد رفتار AI که با انتظارات بالینی یا الزامات حریم خصوصی ناسازگار به نظر می‌رسد را مطرح کرد.

استاندارد حاکمیت	آنچه نیاز دارد	چه کسی مسئول است
ارزیابی تأثیر حفاظت از داده	ارزیابی رسمی خطر حریم خصوصی پیش از استقرار	افسر حریم خصوصی و رهبر انفورماتیک بالینی
پروتکل دیلیجنس فروشنده	الزامات امنیتی و مدیریت داده برای همه فروشندگان AI	حقوقی، امنیت IT، و تدارکات
یکپارچه‌سازی حاکمیت بالینی	AI به‌عنوان ابزار بالینی تابع حاکمیت بالینی در نظر گرفته می‌شود	کمیته حاکمیت بالینی
بررسی چارچوب رضایت	رضایت موجود بیمار در برابر استفاده از داده‌های AI ارزیابی شد	حقوقی و افسر حریم خصوصی
برنامه آموزش کارکنان	آموزش پزشک و مدیر در زمینه AI و حریم خصوصی	منابع انسانی، آموزش بالینی، و انفورماتیک
نظارت مداوم بر عملکرد	بررسی منظم رفتار و نتایج سیستم AI	تیم انفورماتیک بالینی و کیفیت

چیزهایی که باید درباره AI برای حریم خصوصی داده‌های بهداشت و درمان بدانید

• اطلاعات سلامت تحت قانون حریم خصوصی استرالیا به‌عنوان اطلاعات حساس طبقه‌بندی می‌شوند، که به این معنی است که الزامات حفاظتی بالاتری را نسبت به اطلاعات شخصی عمومی جذب می‌کند و نمی‌توان آن را بدون مبنای قانونی واضح یا رضایت جمع‌آوری یا استفاده کرد.
• سیستم‌های AI که از داده‌های بیمار برای بهبود مدل بدون رضایت صریح استفاده می‌کنند ممکن است حتی اگر داده‌ها ناشناس‌سازی شده باشند تعهدات حریم خصوصی را نقض کنند، زیرا روش‌های ناشناس‌سازی به‌طور یکنواخت قوی نیستند و خطر شناسایی مجدد به غنای مجموعه‌داده بستگی دارد.
• سیستم My Health Records در استرالیا حفاظت‌های قانونی خاصی دارد که بر کاری که سیستم‌های AI می‌توانند با سوابق دسترسی‌یافته از طریق آن سیستم انجام دهند تأثیر می‌گذارد، و سازمان‌های بهداشتی باید این محدودیت‌ها را قبل از استقرار AI که با داده‌های My Health Records تعامل می‌کند، درک کنند.
• رضایت بیمار برای مراقبت با کمک AI یک حوزه در حال تکامل است. برخی حوزه‌های قضایی به سمت الزاماتی حرکت می‌کنند که بیماران در هنگامی که سیستم‌های AI در مراقبت بالینی آنها درگیر هستند، صرف‌نظر از اینکه AI تصمیمات بالینی را اتخاذ می‌کند یا از آنها پشتیبانی می‌کند، مطلع شوند.
• AI برای حریم خصوصی داده‌های بهداشت و درمان صرفاً یک مشکل فناوری نیست. مهم‌ترین شکست‌های حریم خصوصی در استقرارهای AI بهداشت و درمان معمولاً شامل شکاف‌های حاکمیتی، شکست‌های مدیریت فروشنده، یا رفتار کارکنان بوده است، نه به خطر افتادن فنی سیستم.
• مدل‌های بین‌المللی AI که در محیط‌های بهداشتی استرالیا استفاده می‌شوند، صرف‌نظر از اینکه مدل کجا توسعه یافته یا فروشنده در کجا مستقر است، اگر داده‌های پردازش‌شده مربوط به بیماران استرالیایی باشد، تابع قانون حریم خصوصی استرالیا هستند.
• برنامه‌ریزی پاسخ به حوادث برای نقض‌های حریم خصوصی مرتبط با AI در بهداشت و درمان باید تعهدات نقض داده قابل اطلاع‌رسانی تحت Privacy Act را در نظر بگیرد، که در صورت وقوع نقض جدی داده، اطلاع‌رسانی به OAIC و افراد آسیب‌دیده را الزامی می‌کند.

پیمایش مسئولانه AI برای حریم خصوصی داده‌های بهداشت و درمان

بخش بهداشت و درمان پذیرش AI خود را کند نخواهد کرد، و دلایل واقعی برای این که چنین نکند وجود دارد. پتانسیل AI برای پشتیبانی از تشخیص زودهنگام‌تر، کاهش خطاهای بالینی، کاهش بار اداری، و گسترش دسترسی تخصصی متخصص به مناطق کم‌خدمت واقعی و قابل توجه است. چالش این نیست که در برابر AI در بهداشت و درمان مقاومت کنیم بلکه این است که آن را به‌گونه‌ای مستقر کنیم که بیماران بتوانند به آن اعتماد کنند و ارائه‌دهندگان بتوانند از آن دفاع کنند.

اعتماد در این بستر یک مفهوم نرم نیست. این نتیجه عملی حفاظت قابل اثبات از حریم خصوصی، مدیریت شفاف داده، امنیت سختگیرانه و حاکمیت بالینی است که سیستم‌های AI را به همان استاندارد شواهد و پاسخگویی اعمال‌شده بر سایر ابزارهای بالینی نگه می‌دارد. بیمارانی که می‌فهمند داده‌های سلامت آنها برای آموزش سیستم‌های AI استفاده می‌شود، که این سیستم‌ها توصیه‌هایی می‌دهند که بر مراقبت آنها تأثیر می‌گذارد، و که حفاظت‌های قوی در مورد نحوه مدیریت آن داده‌ها وجود دارد، بیمارانی هستند که می‌توانند رضایت معناداری به مراقبت با کمک AI بدهند.

ویژگی‌های AI که AI بهداشت و درمان را در یک بستر بالینی جذاب می‌کند، باید با ویژگی‌های حریم خصوصی و امنیتی که آنها را در یک بستر حاکمیتی قابل قبول می‌سازد، مطابقت داشته باشد. سازمان‌هایی که این دو چیز را از ابتدا با هم می‌سازند، با ادامه تکامل و خاص‌تر شدن انتظارات نظارتی در این زمینه، خود را به‌طور قابل‌توجهی در موقعیت بهتری خواهند یافت.

سؤالات متداول درباره AI برای حریم خصوصی داده‌های بهداشت و درمان

نگرانی‌های حریم خصوصی AI در داده‌های بهداشت و درمان چیست؟

نگرانی‌های اصلی حریم خصوصی شامل قرار گرفتن در معرض داده‌های آموزش که اطلاعات بیمار بدون رضایت کافی در مدل‌های AI تعبیه می‌شود، خطر شناسایی مجدد که AI از داده‌های موجود شرایط حساس را استنتاج می‌کند، اشتراک‌گذاری داده با فروشنده ثالث بدون محافظت کافی، و تجمیع سوابق در سیستم‌ها که پروفایل‌هایی حساس‌تر از هر منبع واحد ایجاد می‌کند. هر یک از این خطرات نیاز به پاسخ‌های حاکمیتی خاص به جای یک اقدام حفاظتی فراگیر دارد.

کدام AI برای حریم خصوصی داده ایمن است؟

سیستم‌های AI که داده‌ها را به‌جای انتقال به سرورهای خارجی به‌صورت محلی پردازش می‌کنند، تحت محدودیت‌های قراردادی واضح استفاده از داده عمل می‌کنند، گواهی‌های امنیتی مستقل مانند SOC 2 Type II و ISO 27001 را در اختیار دارند، و از طریق ارزیابی رسمی تأثیر حفاظت از داده ارزیابی شده‌اند، عموماً برای حریم خصوصی داده‌های بهداشت و درمان ایمن‌تر در نظر گرفته می‌شوند. ایمنی تابع حاکمیت و معماری است، نه ویژگی یک ابزار یا فروشنده خاص.

AI چگونه به حریم خصوصی داده کمک می‌کند؟

AI به‌طور فعال از حریم خصوصی داده از طریق ناشناس‌سازی خودکار سوابق بالینی، تشخیص ناهنجاری برای دسترسی غیرمجاز به داده، اجرای مدیریت رضایت، و کنترل‌های حداقل‌سازی داده که جمع‌آوری و حفظ را به آنچه از نظر بالینی ضروری است محدود می‌کند، پشتیبانی می‌کند. این قابلیت‌ها به اعمال مداوم حفاظت‌های حریم خصوصی در مقیاس وسیع به روش‌هایی که فرآیندهای دستی نمی‌توانند به‌طور قابل اعتمادی در سیستم‌های بهداشتی بزرگ به دست آورند، اجازه می‌دهد.

AI در بهداشت و درمان چقدر ایمن است؟

امنیت در AI بهداشت و درمان به طور قابل توجهی بسته به فروشنده، مدل استقرار، و چارچوب حاکمیتی اعمال‌شده توسط سازمان بهداشتی متفاوت است. سیستم‌هایی که تحت دیلیجنس سختگیرانه فروشنده، با گواهی امنیتی مستقل، پردازش محلی داده در صورت امکان، و نظارت فعال بر رفتار ناهنجار مستقر شده‌اند، به طور قابل توجهی ایمن‌تر از سیستم‌هایی هستند که بدون آن کنترل‌ها مستقر شده‌اند، صرف‌نظر از قابلیت بالینی که ارائه می‌دهند.

خطرات AI در بهداشت و درمان چیست؟

خطرات شامل ابعاد بالینی، حریم خصوصی، و عملیاتی هستند از جمله تقویت خطای تشخیصی در مقیاس، تعصب الگوریتمی در برابر جمعیت‌های بیمار کم‌نماینده‌شده، قرار گرفتن در معرض نظارتی از استقرار غیرمنطبق، نقض‌های حریم خصوصی از مدیریت ناکافی فروشنده، و اعتماد بیش از حد به خروجی‌های AI بدون تأیید بالینی کافی. مدیریت این خطرات نیاز به حاکمیتی دارد که AI را به‌عنوان یک ابزار بالینی تابع همان استانداردهای شواهد و پاسخگویی اعمال‌شده بر سایر فناوری‌های بالینی در نظر بگیرد.