AI ماڈل پوائزننگ کیا ہے؟ یہ ایک سائبر حملہ ہے جس میں بُرے ارادے رکھنے والے لوگ کسی AI سسٹم کے ڈیٹا یا تربیتی عمل کو جان بوجھ کر خراب کر دیتے ہیں تاکہ اس کے رویے کو اپنی مرضی کے مطابق ڈھال سکیں۔ اس کی وجہ سے ماڈل غلط، متعصبانہ، یا نقصان دہ نتائج دینے لگتا ہے، اور اکثر یہ بات اس وقت تک کسی کے علم میں نہیں آتی جب تک کہ اصل نقصان نہ ہو چکا ہو۔

زیادہ تر لوگ یہ سمجھتے ہیں کہ AI کے خطرات باہر سے آتے ہیں، جیسے ہیکرز جو سسٹم میں گھسنے کی کوشش کرتے ہیں۔ لیکن ماڈل پوائزننگ میں، حملہ خاموشی سے ہوتا ہے، اس ڈیٹا کے اندر دفن ہوتا ہے جس سے AI سیکھتا ہے۔ جب ماڈل تعینات ہو کر نقصان پہنچا رہا ہوتا ہے، اس وقت تک مسئلے کے ذرائع کا سراغ لگانا انتہائی مشکل ہو جاتا ہے۔ یہ گائیڈ آپ کو بتائے گی کہ یہ سب کچھ کیسے کام کرتا ہے، آپ کے کاروبار کے لیے یہ کیوں اہم ہے، اور سب سے سمجھدار تنظیمیں اپنے آپ کو محفوظ رکھنے کے لیے کیا کر رہی ہیں۔

AI ماڈل پوائزننگ سننے میں جتنی نظر آتی ہے اس سے زیادہ خطرناک کیوں ہے

AI ماڈل کو ایک طالب علم کی طرح سوچیں۔ اس طالب علم کو سالوں تک درست، اعلیٰ معیار کی معلومات فراہم کریں، اور وہ قابلِ اعتماد اور قابلِ بھروسہ بن جائے گا۔ لیکن اگر کوئی پہلے دن سے ہی گمراہ کن نصابی کتابیں خاموشی سے کلاس روم میں لے آئے تو کیا ہوگا؟ گریجویشن تک، طالب علم کا عالمی نقطۂ نظر مسخ ہو چکا ہو گا، اور اسے اس بات کا علم بھی نہیں ہو گا۔

ماڈل پوائزننگ بالکل اسی طرح کام کرتی ہے۔ حملہ آوروں کو فعال نظام میں گھسنے کی ضرورت نہیں ہوتی۔ انہیں صرف تربیتی پائپ لائن، ڈیٹاسیٹ، یا کبھی کبھار اس فیڈبیک لوپ تک رسائی درکار ہوتی ہے جو ماڈل اپنی مسلسل بہتری کے لیے استعمال کرتا ہے۔ ایک بار جب زہریلا ڈیٹا اس میں مل جاتا ہے، تو ماڈل اس سے بھی اسی طرح سیکھتا ہے جیسے وہ ہر دوسری چیز سے سیکھتا ہے۔

اس خطرے کو خاص طور پر پریشان کن یہ بات بناتی ہے کہ یہ کتنا غیر مرئی ہے۔ ماڈل کام کرتا رہتا ہے۔ یہ پھر بھی جوابات دیتا ہے۔ یہ معیاری بینچ مارک پر اچھے نمبر بھی حاصل کر سکتا ہے۔ خرابی نمایاں نہیں ہوتی، یہ سرجیکل نوعیت کی ہوتی ہے۔ اور اعلیٰ خطرے والے ماحول جیسے کہ صحت کی دیکھ بھال، مالیات، یا خود مختار نظاموں میں، باریک طریقے سے خراب کیا گیا ماڈل کسی کے انتباہ بلند کرنے سے پہلے بہت بڑا نقصان پہنچا سکتا ہے۔

اپنی تنظیم کو درپیش AI سیکیورٹی خطرات کو سمجھنا اس بات کو تسلیم کرنے سے شروع ہوتا ہے کہ خطرہ ہمیشہ ڈرامائی خلاف ورزی نہیں ہوتا۔ بعض اوقات یہ خاموشی سے زہر آلود ڈیٹاسیٹ ہوتا ہے جو ہر چیز کی بنیاد میں بیٹھا ہوتا ہے۔

ماڈل پوائزننگ اصل میں کیسے کام کرتی ہے

حملہ آور اس قسم کے حملے کو انجام دینے کے کچھ مختلف طریقے استعمال کر سکتے ہیں، اور ہر طریقہ AI پائپ لائن کے ایک مختلف حصے کو نشانہ بناتا ہے۔

ڈیٹا پوائزننگ

یہ سب سے زیادہ عام طریقہ ہے۔ حملہ آور تربیتی ڈیٹاسیٹ میں خراب یا تبدیل شدہ مثالیں شامل کرتا ہے۔ اگر AI سپیم ای میلز کا پتہ لگانا سیکھ رہا ہے، تو حملہ آور ہزاروں سپیم پیغامات کو جائز قرار دے کر شامل کر سکتا ہے۔ وقت کے ساتھ ساتھ، ماڈل اس چیز پر بھروسہ کرنا سیکھ لیتا ہے جسے اسے مسترد کرنا چاہیے تھا۔

ڈیٹا پوائزننگ خاص طور پر اس وقت آسان ہوتی ہے جب AI سسٹمز ہجوم کے ذریعے اکٹھے کیے گئے ڈیٹا، ویب سے سکریپ کیے گئے مواد، یا تیسرے فریق کے ڈیٹاسیٹس پر انحصار کرتے ہیں۔ زیادہ تر تنظیموں کو اس بات کا محدود اندازہ ہوتا ہے کہ ان کا تربیتی ڈیٹا کہاں سے آتا ہے، جو دروازہ کھلا چھوڑ دیتا ہے۔

بیک ڈور حملے

بیک ڈور حملہ زیادہ پیچیدہ ہوتا ہے۔ یہاں، حملہ آور صرف ماڈل کے عمومی رویے کو خراب نہیں کرتا۔ وہ ایک پوشیدہ ٹرگر لگاتے ہیں، ایک مخصوص ان پٹ پیٹرن جو حکم پر ماڈل کو ایک خاص طریقے سے برتاؤ کرنے پر مجبور کرتا ہے۔

مثال کے طور پر، ایک تصویر شناخت کرنے والا ماڈل ہر عام تصویر پر بالکل ٹھیک کام کر سکتا ہے۔ لیکن اگر حملہ آور تصویر میں ایک چھوٹا، مخصوص واٹر مارک شامل کر دے، تو ماڈل اچانک اسے غلط درجہ بندی کرنے لگتا ہے۔ ٹرگر صارفین کے لیے نظر نہیں آتا لیکن حملہ آور اسے مکمل طور پر کنٹرول کر سکتا ہے۔

ماڈل فائن ٹیوننگ حملے

ان صورتوں میں جہاں تنظیمیں تیسرے فریق کے ذرائع سے پہلے سے تربیت یافتہ ماڈل استعمال کرتی ہیں اور پھر اپنے ڈیٹا پر فائن ٹیون کرتی ہیں، پوائزننگ ان کے چھونے سے پہلے ہی پہلے سے موجود ہو سکتی ہے۔ یہ ایک بڑھتی ہوئی تشویش ہے کیونکہ زیادہ سے زیادہ کاروبار اوپن سورس یا تجارتی لائسنس یافتہ AI بنیادوں کو اپنا رہے ہیں بغیر یہ آڈٹ کیے کہ پہلے سے اندر کیا ہے۔

AI ماڈل پوائزننگ کی اقسام: ایک فوری حوالہ

حملے کی قسم	طریقہ	بنیادی ہدف
ڈیٹا پوائزننگ	جھوٹی تربیتی مثالیں شامل کرنا	تربیتی ڈیٹاسیٹس
بیک ڈور حملہ	ماڈل میں پوشیدہ ٹرگرز شامل کرنا	انفرنس مرحلہ
لیبل فلپنگ	درجہ بندی کو الجھانے کے لیے ڈیٹا کو غلط لیبل کرنا	زیرِ نگرانی سیکھنے والے ماڈلز
ماڈل فائن ٹیوننگ حملہ	پہلے سے زہر آلود ماڈل وزن فراہم کرنا	ٹرانسفر لرننگ پائپ لائنز
گریڈیئنٹ حملہ	تربیت کے دوران ماڈل اپ ڈیٹس میں تبدیلی	فیڈریٹڈ لرننگ سسٹمز

حقیقی دنیا کے منظرنامے جہاں یہ سنگین ہو جاتا ہے

یہ دیکھنا فائدہ مند ہے کہ یہ عملی طور پر کیسے ظاہر ہوتا ہے۔ یہاں کچھ مثالیں ہیں جو دکھاتی ہیں کہ اثر کتنا وسیع ہو سکتا ہے۔

طبی تشخیص کے اوزار: ریڈیولوجی سکین میں ٹیومر کا پتہ لگانے کے لیے تربیت یافتہ AI کو ایک خاص قسم کی نشوونما کو مسلسل نظر انداز کرنے کے لیے زہر آلود کیا جا سکتا ہے۔ مریضوں کو صحت مند ہونے کا سرٹیفکیٹ ملتا ہے۔ ماڈل کبھی بھی مسئلے کی نشاندہی نہیں کرتا۔ نقصان غیر مرئی اور ممکنہ طور پر جان لیوا ہوتا ہے۔

مالی فراڈ کا پتہ لگانا: زہر آلود کیا گیا فراڈ ڈیٹیکشن ماڈل بعض لین دین کے پیٹرنز کو گزرنے دینا سیکھ سکتا ہے، بنیادی طور پر مالی جرائم کے لیے بڑے پیمانے پر بغیر پتہ چلے رہنے کے لیے ایک بیک ڈور بنا سکتا ہے۔

مواد کی نگرانی: نقصان دہ مواد کو فلٹر کرنے کے لیے AI استعمال کرنے والے سوشل پلیٹ فارمز کو اس طرح کنٹرول کیا جا سکتا ہے کہ وہ بدسلوکی کی بعض اقسام کو مسلسل گزرنے دیں، جبکہ سطح پر معمول کے مطابق کام کرتے نظر آئیں۔

خود مختار گاڑیاں: تربیت کے دوران زہر آلود کیا گیا خود مختار ڈرائیونگ سسٹم بعض روشنی کے حالات میں کسی مخصوص سڑک کے نشان کو پہچاننے میں ناکام ہو سکتا ہے۔ بیک ڈور کو نظریاتی طور پر ایک کسٹم بصری ٹرگر کے ساتھ منسلک کیا جا سکتا ہے جو طلب پر خطرناک رویے کا سبب بنتا ہے۔

یہ فرضی بدترین صورتیں نہیں ہیں۔ جیسے جیسے AI زیادہ اہم سسٹمز میں شامل ہوتا جا رہا ہے، حملے کا دائرہ بڑھتا جا رہا ہے۔ وہ کاروبار جو سمجھتے ہیں کہ AI کی خصوصیات کیسے بنائی اور تعینات کی جاتی ہیں، اپنے اسٹیک میں پوائزننگ کے خطرات کہاں موجود ہیں اس کی نشاندہی کرنے کے لیے بہتر پوزیشن میں ہوتے ہیں۔

جاننے کی باتیں

• ماڈل پوائزننگ مخالف حملوں کی طرح نہیں ہے۔ مخالف حملے انفرنس کے وقت ان پٹس کو کنٹرول کر کے ہوتے ہیں۔ پوائزننگ تربیت کے دوران ہوتی ہے، جس کی وجہ سے بعد میں اس کا پتہ لگانا کہیں زیادہ مشکل ہو جاتا ہے۔
• اوپن سورس ماڈلز وراثت میں خطرہ لاتے ہیں۔ پہلے سے تربیت یافتہ ماڈل کو اس کی تربیتی تاریخ آڈٹ کیے بغیر ڈاؤن لوڈ اور تعینات کرنے کا مطلب ہے کہ اس میں جو کچھ بھی شامل تھا اسے قبول کرنا۔
• فیڈریٹڈ لرننگ نئے حملے کے دائرے متعارف کراتی ہے۔ جب ماڈلز کو تقسیم شدہ آلات یا تنظیموں میں تربیت دی جاتی ہے، تو ہر شریک کی ڈیٹا کنٹریبیوشن پوائزننگ کے لیے ایک ممکنہ داخلے کا مقام ہوتی ہے۔
• زہر آلود ماڈلز معیاری ٹیسٹ پاس کر سکتے ہیں۔ حملہ آور اکثر پوائزننگ حملوں کو اس طرح ڈیزائن کرتے ہیں کہ بینچ مارک ڈیٹاسیٹس پر مجموعی درستگی برقرار رہے، اس لیے معمول کا ٹیسٹ مسئلہ نہیں پکڑ پاتا۔
• ریگولیٹری ایکسپوزر حقیقی ہے۔ ریگولیٹڈ صنعتوں میں، ایسے ماڈل کو تعینات کرنا جو امتیازی یا غلط نتائج پیدا کرتا ہو، حتیٰ کہ نادانستہ طور پر بھی، سنگین تعمیلی نتائج کا سبب بن سکتا ہے۔
• ڈیٹا کی اصلیت زیادہ تر ٹیموں کے سوچنے سے زیادہ اہم ہے۔ یہ جاننا کہ ہر تربیتی ڈیٹا کہاں سے آیا، اور اس کی تصدیق کرنے کے قابل ہونا، اس قسم کے حملے کے خلاف سب سے کم استعمال ہونے والے دفاعوں میں سے ایک ہے۔

تنظیمیں کیسے جواب دے رہی ہیں

AI ماڈل پوائزننگ کیا ہے کے خلاف دفاع کے لیے ایک تہہ دار طریقہ کار درکار ہے۔ کوئی ایک حل اس حملے کے ہر قسم کو نہیں روکتا۔ لیکن وہ تنظیمیں جو AI سیکیورٹی کو سنجیدگی سے لیتی ہیں، ایسی عادات اور سسٹمز بنا رہی ہیں جو پوائزننگ کو انجام دینا بہت مشکل اور پکڑنا آسان بناتے ہیں۔

ڈیٹا آڈیٹنگ اور اصلیت کی ٹریکنگ: سب سے مؤثر نقطۂ آغاز اپنے ڈیٹا کو جاننا ہے۔ ٹیموں کو دستاویزات بنانی چاہئیں کہ تربیتی ڈیٹا کہاں سے آتا ہے، کس نے فراہم کیا، اسے کیسے لیبل کیا گیا، اور کیا راستے میں کوئی بے ضابطگیاں متعارف کرائی گئیں۔ وہ اوزار جو ڈیٹاسیٹس میں شماریاتی غیر معمولی قدروں کی نشاندہی کرتے ہیں، زہر آلود بیچز کو تربیتی پائپ لائن تک پہنچنے سے پہلے پکڑ سکتے ہیں۔

ماڈل کے رویے کی نگرانی: ایک بار جب ماڈل تعینات ہو جاتا ہے، تو غیر متوقع پیٹرنز کے لیے اس کے نتائج کی نگرانی کرنا اہم ہے۔ اگر فراڈ ڈیٹیکشن ماڈل اچانک لین دین کی ایسی قسم منظور کرنے لگے جسے وہ پہلے مسلسل نشاندہی کرتا تھا، تو یہ تحقیق کے قابل ہے۔ رویے کا بدلاؤ پوائزننگ کی ایک علامت ہو سکتی ہے جو تربیت کے دوران بچ نکلی۔

مخالف ٹیسٹنگ: تعینات شدہ ماڈلز کے خلاف جان بوجھ کر سٹریس ٹیسٹ چلانا، بشمول وہ منظرنامے جو پوشیدہ ٹرگرز کو ظاہر کرنے کے لیے ڈیزائن کیے گئے ہوں، حقیقی دنیا کے مخالفین کے انہیں پہلے تلاش کرنے سے پہلے بیک ڈور حملوں کو بے نقاب کرنے میں مدد دیتی ہے۔

تیسرے فریق کے آڈٹس: بیرونی ذرائع سے حاصل کیے گئے ماڈلز استعمال کرنے والی تنظیموں کے لیے، ماڈل کے فن تعمیر اور تربیتی تاریخ کے آزاد آڈٹ اعتماد کی ایک اضافی تہہ فراہم کرتے ہیں۔ یہ خاص طور پر اس وقت اہم ہے جب وہ ماڈلز اعلیٰ خطرے والے ایپلیکیشنز میں جا رہے ہوں۔

AI فن تعمیر کمزوری کو کیسے متاثر کرتا ہے کو سمجھنا تکنیکی ٹیموں کو یہ بہتر فیصلے کرنے میں مدد دیتا ہے کہ کنٹرول کہاں شامل کیے جائیں اور سپلائی چین حملوں کے خلاف دفاع کو کیسے ترتیب دیا جائے۔

بعض AI سسٹمز کو زیادہ کمزور کیا چیز بناتی ہے

ہر AI سسٹم یکساں طور پر بے نقاب نہیں ہوتا۔ کئی عوامل ماڈل کی پوائزننگ کے لیے حساسیت بڑھانے کا رجحان رکھتے ہیں۔

خطرے کا عنصر	یہ کمزوری کو کیوں بڑھاتا ہے
تیسرے فریق کے ڈیٹا پر انحصار	تربیتی پائپ لائن میں داخل ہونے والی چیز پر کم کنٹرول
بڑے، غیر آڈٹ شدہ ڈیٹاسیٹس	بڑے پیمانے پر انفرادی خراب نمونوں کو دیکھنا مشکل
مسلسل سیکھنے کے سیٹ اپ	جاری ڈیٹا انجیشن کا مطلب ہے جاری ایکسپوزر
تعیناتی کے بعد محدود نگرانی	زہر آلود رویہ مہینوں تک کسی کی نظر میں نہیں آ سکتا
پہلے سے تربیت یافتہ اوپن سورس بنیادوں کا استعمال	اپ اسٹریم ذرائع سے وراثت میں ملی ہوئی پوائزننگ

بڑی گفتگو ہمیں کیا بتاتی ہے

AI ماڈل پوائزننگ کے بارے میں تشویش خلا میں موجود نہیں ہے۔ یہ ایک بہت بڑی گفتگو میں فٹ ہوتی ہے جو سنجیدہ مفکرین برسوں سے اٹھا رہے ہیں۔

Stephen Hawking نے مشہور انداز میں خبردار کیا تھا کہ AI انسانیت کے ساتھ پیش آنے والی بہترین یا بدترین چیز ہو سکتی ہے، یہ مکمل طور پر اس بات پر منحصر ہے کہ آیا ہم اسے ذمہ داری سے تیار کرتے ہیں۔ ان کی تشویش صرف اس بات کی نہیں تھی کہ سپر ذہین سسٹمز قابو سے باہر ہو جائیں گے۔ یہ ان ساختی خطرات کے بارے میں تھی جو اس وقت ابھرتے ہیں جب طاقتور اوزار ہر تہہ پر مناسب حفاظتی اقدامات کے بغیر بنائے جاتے ہیں۔

Elon Musk نے بار بار اسی طرح کے نکات اٹھائے ہیں، بے قابو AI کی ترقی کو سب سے سنگین تہذیبی خطرات میں سے ایک قرار دیا ہے جس کا ہمیں سامنا ہے۔ ان انتباہات کے پیمانے کے بارے میں آپ کا نقطۂ نظر جو بھی ہو، بنیادی منطق ماڈل پوائزننگ پر براہ راست لاگو ہوتی ہے: خراب بنیادوں پر بنائے گئے طاقتور سسٹمز کمپاؤنڈ نقصان پیدا کرتے ہیں جسے وقت کے ساتھ ساتھ ریورس کرنا مشکل ہو جاتا ہے۔

یہ AI کو سست کرنے کے لیے دلائل نہیں ہیں۔ یہ اسے درست طریقے سے بنانے کے لیے دلائل ہیں۔ اور "اسے درست طریقے سے بنانے" میں یقینی طور پر آپ کی تربیتی پائپ لائن کو ایک ایسی سیکیورٹی سطح کے طور پر ٹریٹ کرنا شامل ہے جس کی حفاظت کے قابل ہو۔

AI ماڈل پوائزننگ کیا ہے کو سمجھنا: حتمی بات

AI ماڈل پوائزننگ کیا ہے؟ یہ آج کے انٹرپرائز AI میں سب سے خاموش، سب سے کم سراہے جانے والے خطرات میں سے ایک ہے۔ یہ الارم نہیں چھیڑتا۔ یہ پینیٹریشن ٹیسٹ کے نتائج میں نہیں آتا۔ یہ اس چیز کے اندر چھپتا ہے جس پر تنظیمیں سب سے زیادہ بھروسہ کرتی ہیں: وہ ڈیٹا جس سے ان کے ماڈلز نے سیکھا۔

جیسے جیسے AI کاروباری فیصلوں، مالی نظاموں، صحت کی دیکھ بھال کے اوزاروں، اور سیکیورٹی انفراسٹرکچر میں زیادہ گہرائی سے شامل ہوتا جا رہا ہے، ماڈل کی سالمیت سے منسلک داؤ بڑھتا جا رہا ہے۔ زہر آلود ماڈل صرف ایک تکنیکی مسئلہ نہیں ہے۔ یہ ایک ذمہ داری ہے، ایک تعمیلی خطرہ ہے، اور تعیناتی کے سیاق و سباق پر منحصر، ایک حفاظتی مسئلہ ہے۔

اچھی خبر یہ ہے کہ دفاع موجود ہیں اور بہتر ہو رہے ہیں۔ ڈیٹا کی اصلیت کے اوزار، رویے کی نگرانی، مخالف ٹیسٹنگ، اور فن تعمیر کی سطح کے کنٹرول سب ایک مضبوط پوزیشن میں حصہ ڈالتے ہیں۔ لیکن وہ دفاع صرف اس وقت کام کرتے ہیں جب تنظیمیں پہلے یہ تسلیم کر لیں کہ خطرہ حقیقی ہے۔

اگر آپ اپنے AI سسٹمز کی حفاظت کے بارے میں مزید گہرائی میں جانا چاہتے ہیں، تو AI خطرے اور فن تعمیر کے مکمل گائیڈ ان ٹیموں کے لیے ایک ٹھوس اگلا قدم ہے جو اپنی AI سیکیورٹی کے سفر کے کسی بھی مرحلے میں ہیں۔

اکثر پوچھے جانے والے سوالات

AI پوائزننگ کی مثالیں کیا ہیں؟

مثالوں میں ای میل فلٹرز میں غلط لیبل لگے سپیم کو شامل کرنا، چہرے کی شناخت کے ڈیٹاسیٹس میں خراب تصاویر لگانا، اور خود مختار گاڑیوں کے تربیتی ڈیٹا میں پوشیدہ ٹرگرز شامل کرنا شامل ہیں۔ کوئی بھی نظام جو بیرونی یا ہجوم کے ذریعے اکٹھے کیے گئے تربیتی ڈیٹا پر انحصار کرتا ہے اس قسم کے حملے کا امیدوار ہے۔

AI ماڈلز میں زہریلا پن کیا ہے؟

AI میں زہریلا پن ان نتائج کی طرف اشارہ کرتا ہے جو نقصان دہ، متعصبانہ، اشتعال انگیز، یا خطرناک ہوں، اکثر غیر فلٹر شدہ یا جان بوجھ کر خراب کیے گئے ڈیٹا پر تربیت کی وجہ سے۔ جب زہریلا رویہ بے ترتیب ڈیٹا کا حادثاتی ضمنی نتیجہ نہ ہو بلکہ جان بوجھ کر تیار کیا گیا ہو، تو یہ پوائزننگ کے ساتھ اوورلیپ ہوتا ہے۔

ماڈل پوائزننگ کیا ہے؟

ماڈل پوائزننگ تب ہوتی ہے جب کوئی حملہ آور AI نظام کے تربیتی ڈیٹا یا عمل کو خراب کر کے اسے نقصان دہ یا غلط طریقوں سے کام کرنے پر مجبور کر دے۔ یہ درجہ بندی کی درستگی کو نشانہ بنا سکتی ہے، بیک ڈورز متعارف کرا سکتی ہے، یا مخصوص ناکامی موڈز کا سبب بن سکتی ہے جو کنٹرول شدہ حالات میں فعال ہوتے ہیں۔

Stephen Hawking کی AI کے بارے میں انتباہ کیا تھا؟

Hawking نے خبردار کیا کہ AI انسانی تاریخ میں بہترین یا بدترین ترقی ہو سکتی ہے، یہ اس بات پر منحصر ہے کہ آیا اسے مناسب حفاظتی اقدامات کے ساتھ تیار کیا جاتا ہے۔ انہوں نے زور دیا کہ خطرات اس وقت کمپاؤنڈ ہو جاتے ہیں جب طاقتور سسٹمز کو ہر تہہ پر مناسب کنٹرول کے بغیر بنایا جاتا ہے۔

Elon Musk نے AI کے خطرات کے بارے میں کیا کہا؟

Musk نے بے قابو AI کی ترقی کو تہذیب کے لیے سب سے سنگین خطرات میں سے ایک قرار دیا ہے، اور ریگولیٹری نگرانی اور ذمہ دار ترقیاتی معیارات پر زور دیا ہے۔ ان کی تشویش AI خطرات کی کمپاؤنڈ نوعیت کے گرد گھومتی ہے جب بنیادی مسائل کو بے قابو چھوڑ دیا جاتا ہے۔