AI மாடல் விஷமூட்டல் என்றால் என்ன? இது ஒரு சைபர் தாக்குதலாகும், இதில் தீய நோக்கம் கொண்டவர்கள் ஒரு AI அமைப்பின் தரவு அல்லது பயிற்சி செயல்முறையை வேண்டுமென்றே சீரழித்து அதன் நடத்தையை கையாளுகின்றனர். இதனால் மாடல் தவறான, பாரபட்சமான அல்லது தீங்கான வெளியீடுகளை உருவாக்குகிறது, மேலும் உண்மையான சேதம் ஏற்கனவே நிகழ்ந்து விட்ட பிறகே பெரும்பாலும் யாரும் கவனிக்கிறார்கள்.

பெரும்பாலான மக்கள் AI அச்சுறுத்தல்கள் வெளியில் இருந்து வருகின்றன என்று எண்ணுகிறார்கள், ஒரு அமைப்பினுள் ஊடுருவ முயற்சிக்கும் ஹேக்கர்கள் போல. ஆனால் மாடல் விஷமூட்டலில், தாக்குதல் அமைதியாக நிகழ்கிறது, AI கற்றுக் கொள்ளும் தரவினுள் புதைந்திருக்கிறது. மாடல் வேலைக்கு அனுப்பப்பட்டு சேதம் ஏற்படுத்தும் நேரத்தில், பிரச்சினையின் மூலத்தை கண்டுபிடிப்பது மிகவும் கடினமாகிறது. இந்த வழிகாட்டி இது எவ்வாறு வேலை செய்கிறது, உங்கள் வணிகத்திற்கு இது ஏன் முக்கியமானது, மேலும் புத்திசாலி நிறுவனங்கள் தங்களை பாதுகாக்க என்ன செய்கிறார்கள் என்பதை விளக்குகிறது.

AI மாடல் விஷமூட்டல் தோன்றுவதை விட ஏன் ஆபத்தானது

ஒரு AI மாடலை மாணவராக நினைத்துப் பாருங்கள். அந்த மாணவருக்கு ஆண்டுகளாக துல்லியமான, உயர்தர தகவல்களைக் கொடுங்கள், அவர்கள் நம்பகமானவர்களாகவும் நம்பத்தகுந்தவர்களாகவும் ஆகுவார்கள். ஆனால் முதல் நாள் முதலே வகுப்பறையில் தவறான வழிநடத்தும் பாடப்புத்தகங்களை யாராவது கடத்தினால் என்ன ஆகும்? பட்டப்படிப்பு நேரத்தில், மாணவரின் உலகக் கண்ணோட்டம் சிதைந்துவிட்டது, அவர்களுக்கு அதைப் பற்றி கூட தெரியாது.

மாடல் விஷமூட்டல் சரியாக அதேபோல் வேலை செய்கிறது. தாக்குபவர்களுக்கு நேரடி அமைப்பினுள் ஊடுருவ வேண்டிய அவசியமில்லை. அவர்களுக்கு பயிற்சி பைப்லைன், தரவுத்தொகுப்பு, அல்லது சில நேரங்களில் மாடல் தொடர்ந்து மேம்பட பயன்படுத்தும் பின்னூட்ட சுழற்சிக்கான அணுகல் மட்டுமே தேவை. ஒருமுறை விஷமூட்டப்பட்ட தரவு கலந்துவிட்டால், மாடல் வேறு எல்லாவற்றிலிருந்தும் கற்றுக் கொள்வது போலவே அதிலிருந்தும் கற்றுக் கொள்கிறது.

இந்த அச்சுறுத்தலை மிகவும் தொந்தரவாக ஆக்குவது அது எவ்வளவு கண்ணுக்கு தெரியாததாக இருக்கிறது என்பது தான். மாடல் தொடர்ந்து செயல்படுகிறது. அது இன்னும் பதில்களைக் கொடுக்கிறது. அது நிலையான வரம்புகளில் நன்றாக கூட மதிப்பெண் பெறலாம். சிதைவு வெளிப்படையானது அல்ல, அது அறுவை சிகிச்சை போன்றது. மேலும் சுகாதாரம், நிதி, அல்லது தன்னியக்க அமைப்புகள் போன்ற உயர் பங்கு சூழல்களில், ஒரு நுட்பமாக சிதைக்கப்பட்ட மாடல் எவராவது எச்சரிக்கையை எழுப்பும் முன்பே மிகப்பெரிய சேதத்தை ஏற்படுத்தலாம்.

உங்கள் நிறுவனம் எதிர்கொள்ளும் AI பாதுகாப்பு அபாயங்களை புரிந்துகொள்வது அச்சுறுத்தல் எப்போதும் நாடகீய மீறல் அல்ல என்பதை அங்கீகரிப்பதிலிருந்து தொடங்குகிறது. சில நேரங்களில் அது எல்லாவற்றின் அடித்தளத்தில் அமைதியாக அமர்ந்திருக்கும் விஷமூட்டப்பட்ட தரவுத்தொகுப்பாகும்.

மாடல் விஷமூட்டல் உண்மையில் எவ்வாறு செயல்படுகிறது

தாக்குபவர்கள் இந்த வகையான தாக்குதலை செயல்படுத்த ஒரு சில வெவ்வேறு வழிகள் உள்ளன, மேலும் ஒவ்வொன்றும் AI பைப்லைனின் வெவ்வேறு பகுதியை இலக்காக கொள்கிறது.

தரவு விஷமூட்டல்

இது மிகவும் பொதுவான முறை. தாக்குபவர் சிதைக்கப்பட்ட அல்லது கையாளப்பட்ட எடுத்துக்காட்டுகளை பயிற்சி தரவுத்தொகுப்பினுள் செலுத்துகிறார். AI ஸ்பேம் மின்னஞ்சல்களைக் கண்டறிய கற்றுக் கொண்டிருந்தால், தாக்குபவர் ஆயிரக்கணக்கான ஸ்பேம் செய்திகளை சட்டப்பூர்வமானதாக லேபிளிட்டு சேர்க்கலாம். காலப்போக்கில், மாடல் அது நிராகரிக்க வேண்டியதை நம்ப கற்றுக் கொள்கிறது.

AI அமைப்புகள் கூட்டிலிருந்து பெறப்பட்ட தரவு, ஸ்க்ரேப் செய்யப்பட்ட வலை உள்ளடக்கம் அல்லது மூன்றாம் தரப்பு தரவுத்தொகுப்புகளை நம்பியிருக்கும் போது தரவு விஷமூட்டலை மேற்கொள்வது குறிப்பாக எளிதாகும். பெரும்பாலான நிறுவனங்களுக்கு தங்கள் பயிற்சி தரவு சரியாக எங்கிருந்து வருகிறது என்பதில் வரம்புக்குட்பட்ட பார்வை மட்டுமே உள்ளது, இது கதவை விரிவாக திறந்து விடுகிறது.

பின்கதவு தாக்குதல்கள்

ஒரு பின்கதவு தாக்குதல் மிகவும் அதிநவீனமானது. இங்கே, தாக்குபவர் வெறும் மாடலின் பொதுவான நடத்தையை மட்டும் சிதைக்கவில்லை. அவர்கள் மறைக்கப்பட்ட தூண்டுதலை, ஒரு குறிப்பிட்ட உள்ளீட்டு வடிவத்தை நடவு செய்கிறார்கள், இது மாடல் கட்டளையின் மீது ஒரு குறிப்பிட்ட வழியில் நடந்துகொள்ள காரணமாகிறது.

உதாரணமாக, ஒரு பட அங்கீகார மாடல் ஒவ்வொரு சாதாரண புகைப்படத்திலும் சரியாக வேலை செய்யலாம். ஆனால் தாக்குபவர் ஒரு படத்திற்கு ஒரு சிறிய, குறிப்பிட்ட நீர்க்குறியைச் சேர்த்தால், மாடல் திடீரென அதை தவறாக வகைப்படுத்துகிறது. தூண்டுதல் பயனர்களுக்கு கண்ணுக்கு தெரியாதது ஆனால் தாக்குபவரால் முற்றிலும் கட்டுப்படுத்தக்கூடியதாக உள்ளது.

மாடல் ஃபைன்-ட்யூனிங் தாக்குதல்கள்

நிறுவனங்கள் மூன்றாம் தரப்பு மூலங்களிலிருந்து முன்-பயிற்சி பெற்ற மாடல்களைப் பயன்படுத்தி பின்னர் தங்கள் சொந்த தரவில் ஃபைன்-ட்யூன் செய்யும் சந்தர்ப்பங்களில், அவர்கள் தொடுவதற்கு முன்பே விஷமூட்டல் ஏற்கனவே அதில் சேர்க்கப்பட்டிருக்கலாம். மேலும் வணிகங்கள் ஏற்கனவே உள்ளே என்ன இருக்கிறது என்பதை தணிக்கை செய்யாமல் திறந்த மூல அல்லது வணிக ரீதியாக உரிமம் பெற்ற AI அடித்தளங்களைப் பின்பற்றுவதால் இது வளர்ந்து வரும் கவலையாக உள்ளது.

AI மாடல் விஷமூட்டல் வகைகள்: ஒரு விரைவு குறிப்பு

தாக்குதல் வகை	முறை	முதன்மை இலக்கு
தரவு விஷமூட்டல்	பொய்யான பயிற்சி எடுத்துக்காட்டுகளை செலுத்துதல்	பயிற்சி தரவுத்தொகுப்புகள்
பின்கதவு தாக்குதல்	மாடலில் மறைக்கப்பட்ட தூண்டுதல்களை உட்பொதித்தல்	உய்த்தறிதல் கட்டம்
லேபிள் புரட்டுதல்	வகைப்படுத்தலை குழப்ப தரவை தவறாக லேபிளிடுதல்	மேற்பார்வையிடப்பட்ட கற்றல் மாடல்கள்
மாடல் ஃபைன்-ட்யூனிங் தாக்குதல்	முன்-விஷமூட்டப்பட்ட மாடல் எடைகளை வழங்குதல்	பரிமாற்ற கற்றல் பைப்லைன்கள்
சாய்வு தாக்குதல்	பயிற்சியின் போது மாடல் புதுப்பிப்புகளை கையாளுதல்	கூட்டிணை கற்றல் அமைப்புகள்

இது தீவிரமாகும் நிஜ உலக சூழ்நிலைகள்

இது நடைமுறையில் எவ்வாறு வெளிப்படுகிறது என்பதைப் பார்ப்பது உதவியாக இருக்கும். தாக்கம் எவ்வளவு பரந்ததாக இருக்க முடியும் என்பதை விளக்கும் சில எடுத்துக்காட்டுகள் இங்கே உள்ளன.

மருத்துவ நோயறிதல் கருவிகள்: ரேடியோலஜி ஸ்கேன்களில் கட்டிகளை கண்டறிய பயிற்சி பெற்ற AI ஒரு குறிப்பிட்ட வகை வளர்ச்சியை தொடர்ந்து தவறவிட விஷமூட்டப்படலாம். நோயாளிகள் சுத்தமான ஆரோக்கிய சான்றிதழ்களைப் பெறுகிறார்கள். மாடல் ஒருபோதும் பிரச்சினையை குறிக்காது. சேதம் கண்ணுக்குத் தெரியாதது மற்றும் சாத்தியமான வகையில் மரணம் தரக்கூடியது.

நிதி மோசடி கண்டறிதல்: விஷமூட்டப்பட்ட மோசடி கண்டறிதல் மாடல் சில பரிவர்த்தனை வடிவங்களை கடந்து செல்ல அனுமதிக்க கற்றுக்கொள்ளலாம், இது அடிப்படையில் நிதி குற்றங்கள் பெரிய அளவில் கண்டறியப்படாமல் இருக்க ஒரு பின்கதவை உருவாக்குகிறது.

உள்ளடக்க மிதப்படுத்தல்: தீங்கான உள்ளடக்கத்தை வடிகட்ட AI ஐப் பயன்படுத்தும் சமூக தளங்கள், மேற்பரப்பில் சாதாரணமாக செயல்படுவது போல் தோன்றும் போது, சில வகையான துஷ்பிரயோகங்களை தொடர்ந்து கடந்து செல்ல அனுமதிக்க கையாளப்படலாம்.

தன்னியக்க வாகனங்கள்: பயிற்சியின் போது விஷமூட்டப்பட்ட சுய-ஓட்டுதல் அமைப்பு குறிப்பிட்ட ஒளி நிலைமைகளில் ஒரு குறிப்பிட்ட சாலை அடையாளத்தை அங்கீகரிக்கத் தவறலாம். ஒரு பின்கதவு கோட்பாட்டளவில் தேவைக்கேற்ப ஆபத்தான நடத்தையை ஏற்படுத்தும் தனிப்பயன் காட்சி தூண்டுதலுடன் இணைக்கப்படலாம்.

இவை கற்பனை மிகவும் மோசமான வழக்குகள் அல்ல. AI மேலும் முக்கியமான அமைப்புகளில் உட்பொதிக்கப்படுவதால், தாக்குதல் மேற்பரப்பு தொடர்ந்து விரிவடைகிறது. AI அம்சங்கள் எவ்வாறு கட்டப்படுகின்றன மற்றும் வேலைக்கு அமர்த்தப்படுகின்றன என்பதைப் புரிந்துகொள்ளும் வணிகங்கள் தங்கள் சொந்த ஸ்டாக்கில் விஷமூட்டல் அபாயங்கள் எங்கு வாழ்கின்றன என்பதை அடையாளம் காண சிறந்த நிலையில் உள்ளன.

தெரிந்து கொள்ள வேண்டிய விஷயங்கள்

• மாடல் விஷமூட்டல் எதிரி தாக்குதல்களைப் போன்றது அல்ல. எதிரி தாக்குதல்கள் உள்ளீடுகளை கையாள்வதன் மூலம் உய்த்தறிதல் நேரத்தில் நிகழ்கின்றன. விஷமூட்டல் பயிற்சியின் போது நிகழ்கிறது, இது பின்னர் கண்டறிவதை மிகவும் கடினமாக்குகிறது.
• திறந்த-மூல மாடல்கள் பாரம்பரிய அபாயத்தை சுமக்கின்றன. ஒரு முன்-பயிற்சி பெற்ற மாடலின் பயிற்சி வரலாற்றை தணிக்கை செய்யாமல் பதிவிறக்கி வேலைக்கு அமர்த்துவது என்பது அதில் சேர்க்கப்பட்ட எதையும் ஏற்றுக்கொள்வதாகும்.
• கூட்டிணை கற்றல் புதிய தாக்குதல் மேற்பரப்புகளை அறிமுகப்படுத்துகிறது. மாடல்கள் விநியோகிக்கப்பட்ட சாதனங்கள் அல்லது நிறுவனங்கள் முழுவதும் பயிற்சி பெறும்போது, ஒவ்வொரு பங்கேற்பாளரின் தரவு பங்களிப்பும் விஷமூட்டலுக்கான சாத்தியமான நுழைவு புள்ளியாகும்.
• விஷமூட்டப்பட்ட மாடல்கள் நிலையான சோதனைகளை கடக்க முடியும். தாக்குபவர்கள் பெரும்பாலும் வரம்பு தரவுத்தொகுப்புகளில் ஒட்டுமொத்த துல்லியத்தை பாதுகாக்க விஷமூட்டல் தாக்குதல்களை வடிவமைக்கிறார்கள், எனவே வழக்கமான சோதனை பிரச்சினையைப் பிடிக்காது.
• ஒழுங்குமுறை வெளிப்பாடு உண்மையானது. ஒழுங்குமுறை தொழில்களில், தெரியாமல் கூட பாரபட்சமான அல்லது தவறான வெளியீடுகளை உருவாக்கும் மாடலை வேலைக்கு அமர்த்துவது கடுமையான இணக்க விளைவுகளை ஏற்படுத்தலாம்.
• தரவு வரலாறு பெரும்பாலான குழுக்கள் நினைப்பதை விட முக்கியமானது. ஒவ்வொரு பயிற்சி தரவு துண்டும் எங்கிருந்து வந்தது என்பதை அறிவது, அதை சரிபார்க்க முடிதல், இந்த வகை தாக்குதலுக்கு எதிரான மிகவும் குறைவாக பயன்படுத்தப்படும் பாதுகாப்புகளில் ஒன்றாகும்.

நிறுவனங்கள் எவ்வாறு திருப்பித் தாக்குகின்றன

AI மாடல் விஷமூட்டல் என்றால் என்ன என்பதிலிருந்து பாதுகாப்பதற்கு அடுக்கடுக்கான அணுகுமுறை தேவை. இந்த தாக்குதலின் ஒவ்வொரு மாறுபாட்டையும் எந்த ஒரு தீர்வும் நிறுத்துவதில்லை. ஆனால் AI பாதுகாப்பை தீவிரமாக எடுத்துக்கொள்ளும் நிறுவனங்கள் விஷமூட்டலை மிகவும் கடினமாக செய்து கண்டறிய எளிதாக்கும் பழக்கங்களையும் அமைப்புகளையும் கட்டமைக்கின்றன.

தரவு தணிக்கை மற்றும் வரலாறு கண்காணிப்பு: மிகவும் பயனுள்ள தொடக்க புள்ளி உங்கள் தரவை அறிவதாகும். குழுக்கள் பயிற்சி தரவு எங்கிருந்து வருகிறது, யார் பங்களித்தனர், அது எவ்வாறு லேபிளிடப்பட்டது, மற்றும் வழியில் ஏதேனும் முரண்பாடுகள் அறிமுகப்படுத்தப்பட்டனவா என்பதை ஆவணப்படுத்த வேண்டும். தரவுத்தொகுப்புகளில் புள்ளியியல் வெளிநிலை மதிப்புகளைக் குறிக்கும் கருவிகள் விஷமூட்டப்பட்ட தொகுப்புகள் பயிற்சி பைப்லைனை அடைவதற்கு முன்பே பிடிக்க முடியும்.

மாடல் நடத்தை கண்காணிப்பு: ஒரு மாடல் வேலைக்கு அமர்த்தப்பட்டவுடன், அதன் வெளியீடுகளை எதிர்பாராத வடிவங்களுக்கு கண்காணிப்பது முக்கியமானது. ஒரு மோசடி கண்டறிதல் மாடல் தொடர்ந்து குறித்து வந்த ஒரு பரிவர்த்தனை வகையை திடீரென ஒப்புதல் அளிக்கத் தொடங்கினால், அது விசாரிக்க தகுதியானது. நடத்தை மாற்றம் பயிற்சியின் போது தப்பித்த விஷமூட்டலின் அறிகுறியாக இருக்கலாம்.

எதிரி சோதனை: வேலைக்கு அமர்த்தப்பட்ட மாடல்களுக்கு எதிராக வேண்டுமென்றே அழுத்த சோதனைகளை இயக்குவது, மறைக்கப்பட்ட தூண்டுதல்களை வெளிப்படுத்த வடிவமைக்கப்பட்ட சூழ்நிலைகள் உட்பட, நிஜ உலக எதிரிகள் முதலில் கண்டுபிடிக்கும் முன்பு பின்கதவு தாக்குதல்களை வெளிப்படுத்த உதவுகிறது.

மூன்றாம் தரப்பு தணிக்கைகள்: வெளியில் இருந்து பெறப்பட்ட மாடல்களைப் பயன்படுத்தும் நிறுவனங்களுக்கு, மாடலின் கட்டமைப்பு மற்றும் பயிற்சி வரலாற்றின் சுதந்திரமான தணிக்கைகள் கூடுதல் நம்பிக்கை அடுக்கை வழங்குகின்றன. அந்த மாடல்கள் உயர் பங்கு பயன்பாடுகளில் செல்லும்போது இது குறிப்பாக முக்கியமானது.

AI கட்டமைப்பு பாதிப்பை எவ்வாறு பாதிக்கிறது என்பதைப் புரிந்துகொள்வது தொழில்நுட்ப குழுக்கள் கட்டுப்பாடுகளை எங்கே சேர்க்க வேண்டும் என்பதைப் பற்றி சிறந்த முடிவுகளை எடுக்கவும் வழங்கல் சங்கிலி தாக்குதல்களுக்கு எதிரான பாதுகாப்புகளை எவ்வாறு அமைக்க வேண்டும் என்பதைப் பற்றியும் உதவுகிறது.

சில AI அமைப்புகளை அதிக பாதிப்படையக்கூடியதாக்குவது எது

ஒவ்வொரு AI அமைப்பும் சமமாக வெளிப்படுத்தப்படவில்லை. பல காரணிகள் ஒரு மாடலின் விஷமூட்டலுக்கான பாதிப்பை அதிகரிக்க முனைகின்றன.

அபாய காரணி	இது பாதிப்பை ஏன் அதிகரிக்கிறது
மூன்றாம் தரப்பு தரவின் மீதான நம்பிக்கை	பயிற்சி பைப்லைனில் என்ன நுழைகிறது என்பதின் மீது குறைந்த கட்டுப்பாடு
பெரிய, தணிக்கை செய்யப்படாத தரவுத்தொகுப்புகள்	பெரிய அளவில் தனிப்பட்ட சிதைந்த மாதிரிகளை கண்டறிவது கடினம்
தொடர்ச்சியான கற்றல் அமைப்புகள்	தொடர்ந்து தரவு உள்வாங்குதல் என்பது தொடர்ந்து வெளிப்பாட்டை அர்த்தப்படுத்துகிறது
பின்-அமைத்தலுக்கு பிறகு வரம்புக்குட்பட்ட கண்காணிப்பு	விஷமூட்டப்பட்ட நடத்தை மாதங்களாக கவனிக்கப்படாமல் போகலாம்
முன்-பயிற்சி பெற்ற திறந்த-மூல அடித்தளங்களின் பயன்பாடு	மேல்நீரோட்ட மூலங்களில் இருந்து பாரம்பரியமாக பெறப்பட்ட விஷமூட்டல்

பெரிய உரையாடல் நமக்கு என்ன சொல்கிறது

AI மாடல் விஷமூட்டல் பற்றிய கவலை வெற்றிடத்தில் இல்லை. இது தீவிர சிந்தனையாளர்கள் ஆண்டுகளாக எழுப்பி வரும் ஒரு பெரிய உரையாடலில் பொருந்துகிறது.

Stephen Hawking பிரபலமாக எச்சரித்தார், AI மனிதகுலத்திற்கு நடக்கும் சிறந்த அல்லது மோசமான விஷயமாக இருக்க முடியும், இது நாம் அதை பொறுப்புடன் உருவாக்குகிறோமா என்பதைப் பொறுத்து முற்றிலும் சார்ந்துள்ளது. அவரது கவலை வெறும் சூப்பர் இன்டெலிஜெண்ட் அமைப்புகள் கட்டுப்பாட்டிற்கு அப்பால் செல்வதைப் பற்றி மட்டுமல்ல. ஒவ்வொரு அடுக்கிலும் போதுமான பாதுகாப்புகள் இல்லாமல் சக்திவாய்ந்த கருவிகள் கட்டப்படும்போது தோன்றும் கட்டமைப்பு அபாயங்களைப் பற்றியது.

Elon Musk மீண்டும் மீண்டும் இதே போன்ற கருத்துக்களை வைத்துள்ளார், கட்டுப்பாடற்ற AI வளர்ச்சியை நாம் எதிர்கொள்ளும் மிகவும் தீவிரமான நாகரிக அபாயங்களில் ஒன்றாக விவரிக்கிறார். அந்த எச்சரிக்கைகளின் அளவைப் பற்றிய உங்கள் பார்வை எதுவாக இருந்தாலும், அடிப்படை தர்க்கம் மாடல் விஷமூட்டலுக்கு நேரடியாக பொருந்தும்: சிதைந்த அடித்தளங்களில் கட்டப்பட்ட சக்திவாய்ந்த அமைப்புகள் காலப்போக்கில் திரும்ப மாற்ற கடினமாகும் கூட்டு சேதத்தை உருவாக்குகின்றன.

இவை AI ஐ மெதுவாக்குவதற்கான வாதங்கள் அல்ல. அவை அதை சரியாக கட்டுவதற்கான வாதங்கள். மேலும் "சரியாக கட்டுவது" என்பது உங்கள் பயிற்சி பைப்லைனை பாதுகாக்கத் தகுந்த பாதுகாப்பு மேற்பரப்பாக நடத்துவதை நிச்சயமாக உள்ளடக்குகிறது.

AI மாடல் விஷமூட்டல் என்றால் என்ன என்பதைப் புரிந்துகொள்வது: முடிவு வரி

AI மாடல் விஷமூட்டல் என்றால் என்ன? இது இன்றைய நிறுவன AI இல் மிகவும் அமைதியான, மிகவும் குறைவாக மதிக்கப்படும் அச்சுறுத்தல்களில் ஒன்றாகும். இது அலாரம்களை தூண்டாது. இது ஊடுருவல் சோதனை முடிவுகளில் தோன்றாது. நிறுவனங்கள் மிகவும் நம்பும் விஷயத்தில் இது மறைந்துள்ளது: அவர்களின் மாடல்கள் கற்றுக் கொண்ட தரவில்.

AI வணிக முடிவுகள், நிதி அமைப்புகள், சுகாதார கருவிகள் மற்றும் பாதுகாப்பு உள்கட்டமைப்பில் மேலும் ஆழமாக உட்பொதிக்கப்படுவதால், மாடல் ஒருமைப்பாட்டுடன் இணைக்கப்பட்ட பங்குகள் தொடர்ந்து உயர்ந்து வருகின்றன. ஒரு விஷமூட்டப்பட்ட மாடல் வெறும் தொழில்நுட்ப பிரச்சினை அல்ல. இது ஒரு பொறுப்பு, ஒரு இணக்க அபாயம், மேலும் வேலைக்கு அமர்த்தும் சூழலைப் பொறுத்து, ஒரு பாதுகாப்பு பிரச்சினை.

நல்ல செய்தி என்னவென்றால் பாதுகாப்புகள் உள்ளன மற்றும் மேம்படுகின்றன. தரவு வரலாறு கருவிகள், நடத்தை கண்காணிப்பு, எதிரி சோதனை, மற்றும் கட்டமைப்பு-நிலை கட்டுப்பாடுகள் அனைத்தும் வலுவான நிலைப்பாட்டிற்கு பங்களிக்கின்றன. ஆனால் அந்த பாதுகாப்புகள் நிறுவனங்கள் முதலில் அபாயம் உண்மையானது என்பதை ஏற்றுக்கொள்ளும் போது மட்டுமே வேலை செய்கின்றன.

உங்கள் AI அமைப்புகளைப் பாதுகாப்பதில் ஆழமாக செல்ல விரும்பினால், AI அபாயம் மற்றும் கட்டமைப்பிற்கான முழு வழிகாட்டி அவர்களின் AI பாதுகாப்பு பயணத்தின் எந்த கட்டத்திலும் உள்ள குழுக்களுக்கு திடமான அடுத்த படியாகும்.

அடிக்கடி கேட்கப்படும் கேள்விகள்

AI விஷமூட்டலுக்கான எடுத்துக்காட்டுகள் என்ன?

எடுத்துக்காட்டுகளில் மின்னஞ்சல் வடிகட்டிகளில் தவறாக லேபிளிடப்பட்ட ஸ்பேமை செலுத்துவது, முக அங்கீகார தரவுத்தொகுப்புகளில் சிதைந்த படங்களை நடவு செய்வது, மற்றும் தன்னியக்க வாகன பயிற்சி தரவில் மறைக்கப்பட்ட தூண்டுதல்களை உட்பொதிப்பது ஆகியவை அடங்கும். வெளி அல்லது கூட்டிலிருந்து பெறப்பட்ட பயிற்சி தரவை நம்பும் எந்த அமைப்பும் இந்த வகை தாக்குதலுக்கான வேட்பாளராகும்.

AI மாடல்களில் நச்சுத்தன்மை என்றால் என்ன?

AI இல் நச்சுத்தன்மை என்பது தீங்கான, பாரபட்சமான, புண்படுத்தும் அல்லது ஆபத்தான வெளியீடுகளைக் குறிக்கிறது, பெரும்பாலும் வடிகட்டப்படாத அல்லது வேண்டுமென்றே சிதைக்கப்பட்ட தரவின் மீது பயிற்சி அளிப்பதால் ஏற்படுகிறது. நச்சு நடத்தை குழப்பமான தரவின் தற்செயலான துணை விளைபொருளாக இருப்பதற்கு பதிலாக வேண்டுமென்றே வடிவமைக்கப்படும்போது இது விஷமூட்டலுடன் ஒன்றுபடுகிறது.

மாடல் விஷமூட்டல் என்றால் என்ன?

மாடல் விஷமூட்டல் என்பது ஒரு தாக்குபவர் AI அமைப்பின் பயிற்சி தரவு அல்லது செயல்முறையை சிதைத்து அதை தீங்கு விளைவிக்கும் அல்லது தவறான வழிகளில் நடந்துகொள்ள வைப்பது. இது வகைப்படுத்தல் துல்லியத்தை இலக்காகக் கொள்ளலாம், பின்கதவுகளை அறிமுகப்படுத்தலாம், அல்லது கட்டுப்படுத்தப்பட்ட நிலைமைகளின் கீழ் செயல்படுத்தப்படும் குறிப்பிட்ட தோல்வி பயன்முறைகளை ஏற்படுத்தலாம்.

AI பற்றி Stephen Hawking-இன் எச்சரிக்கை என்ன?

சரியான பாதுகாப்புகளுடன் உருவாக்கப்படுகிறதா என்பதைப் பொறுத்து AI மனித வரலாற்றில் சிறந்த அல்லது மோசமான வளர்ச்சியாக இருக்க முடியும் என்று Hawking எச்சரித்தார். ஒவ்வொரு அடுக்கிலும் போதுமான கட்டுப்பாடுகள் இல்லாமல் சக்திவாய்ந்த அமைப்புகள் கட்டப்படும்போது அபாயங்கள் கூடுகின்றன என்பதை அவர் வலியுறுத்தினார்.

AI யின் ஆபத்துகள் பற்றி Elon Musk என்ன கூறினார்?

ஒழுங்குமுறை மேற்பார்வை மற்றும் பொறுப்பான வளர்ச்சி தரநிலைகளுக்கு வாதிட்டு, கட்டுப்பாடற்ற AI வளர்ச்சியை நாகரிகத்திற்கான மிகவும் தீவிரமான அபாயங்களில் ஒன்றாக Musk அழைத்துள்ளார். அவரது கவலை அடிப்படை பிரச்சினைகள் கட்டுப்பாடு இல்லாமல் விடப்படும்போது AI அபாயங்களின் கூட்டு இயல்பை மையமாகக் கொண்டுள்ளது.