உற்பத்தி பணிப்பாய்வுகளில் AI/ML அனுமான ஒருங்கிணைப்பு

பெரும்பாலான நிறுவன AI திட்டங்கள் டெமோ மற்றும் உற்பத்திக்கு இடையிலான இடைவெளியில் இறந்துவிடுகின்றன. ஒரு குழு GPT-4 ஐப் பயன்படுத்தி ஆதரவு டிக்கெட்களை வகைப்படுத்த அல்லது சட்ட ஆவணங்களை சுருக்கமாக்க அல்லது சந்தைப்படுத்தல் உள்ளடக்கத்தை உருவாக்க ஒரு சான்று-கருத்தாக்கம் கட்டுகிறது. டெமோ வேலை செய்கிறது. தலைமை உற்சாகமடைகிறது. பிறகு திட்டம் மாதக்கணக்கில் தேங்கிவிடுகிறது — டெமோ ஒருபோதும் கேட்கப்படாத கேள்விகளுக்கு விடை கண்டுபிடிக்க முயற்சிக்கிறது: தரவு எங்கிருந்து வருகிறது? வெளியீடு எங்கே செல்கிறது? AI முடிவுகளை யார் அங்கீகரிக்கிறார்கள்? மாடல் தவறான தகவல் உருவாக்கும்போது என்ன நடக்கும்? அது என்ன செய்தது என்பதை எவ்வாறு தணிக்கை செய்வது? அது பார்க்கக்கூடாத தரவை அணுகுவதை எவ்வாறு தடுப்பது? தவறான இடத்திற்கு முக்கியமான தகவல் அனுப்புவதை எவ்வாறு நிறுத்துவது?

இவை கற்பனையான கவலைகள் அல்ல. நிறுவன ஜெனரேட்டிவ் AI பைலட்களில் 95% நிதி வருவாய் தர தோல்வியடைகின்றன, அதற்கான காரணம் தொழில்நுட்பம் வேலை செய்யாது என்பதல்ல. மாடல்கள் திறன் வாய்ந்தவை. தோல்வி கட்டமைப்பில் உள்ளது: AI அனுமானத்தை உண்மையான வணிக பணிப்பாய்வுகளில் நம்பகமாக ஒருங்கிணைப்பது — உற்பத்தி அமைப்புகளுக்குத் தேவையான பாதுகாப்பு கட்டுப்பாடுகள், பிழை கையாளுதல் மற்றும் தணிக்கை தடங்களுடன்.

வழக்கமான நிறுவன பதில் தனிப்பயன் ஒருங்கிணைப்பு அடுக்கை கட்டுவதாகும். ஒரு பொறியியல் குழு AI மாடலை தரவு மூலங்களுடன் இணைக்க, குழாயை கட்டமைக்க, அங்கீகாரம் சேர்க்க, பதிவை செயல்படுத்த, அங்கீகார பணிப்பாய்வு உருவாக்க மற்றும் பாதுகாப்பு சோதனைகளை இணைக்க மாதக்கணக்கில் செலவிடுகிறது. ஒருங்கிணைப்பு "உற்பத்திக்கு தயார்" ஆகும்போது, அசல் மாடல் புதிய ஒன்றால் மாற்றப்பட்டிருக்கும், வணிக தேவைகள் மாறியிருக்கும், மற்றும் குழு மீண்டும் தொடங்க வேண்டியிருக்கும்.

Triggerfish இதை எவ்வாறு தீர்க்கிறது

AI அனுமானத்தை பணிப்பாய்வு இயந்திரத்தில் முதல்-தர படியாக மாற்றுவதன் மூலம் Triggerfish ஒருங்கிணைப்பு இடைவெளியை நீக்குகிறது — அமைப்பில் உள்ள ஒவ்வொரு செயல்பாட்டிற்கும் பொருந்தும் அதே பாதுகாப்பு அமலாக்கம், தணிக்கை பதிவு மற்றும் வகைப்படுத்தல் கட்டுப்பாடுகளால் நிர்வகிக்கப்படுகிறது. Triggerfish பணிப்பாய்வில் LLM துணை-முகவர் படி ஒரு கூட்டப்பட்ட கூறு அல்ல. இது HTTP அழைப்பு அல்லது தரவுத்தள வினவல் போலவே அதே கொள்கை hooks, வரிசை கண்காணிப்பு மற்றும் write-down தடுப்புடன் ஒரு நேட்டிவ் செயல்பாடு.

தனி அமைப்பாக அல்ல, பணிப்பாய்வு படியாக AI

பணிப்பாய்வு DSL-ல், LLM அனுமான படி call: triggerfish:llm உடன் வரையறுக்கப்படுகிறது. பணி விளக்கம் இயற்கை மொழியில் துணை-முகவருக்கு என்ன செய்வது என்று சொல்கிறது. துணை-முகவருக்கு Triggerfish-ல் பதிவுசெய்யப்பட்ட ஒவ்வொரு கருவியிலும் அணுகல் உள்ளது. இது இணையத்தில் தேட, MCP கருவிகள் மூலம் தரவுத்தளங்களை வினவ, ஆவணங்களை படிக்க, வலைத்தளங்களை உலவ மற்றும் கடந்தகால அமர்வு நினைவகத்தை பயன்படுத்த முடியும். படி முடிந்தவுடன், அதன் வெளியீடு நேரடியாக பணிப்பாய்வின் அடுத்த படியில் செல்கிறது.

இதன் பொருள் ஒருங்கிணைக்க தனி "AI அமைப்பு" இல்லை. அனுமானம் பணிப்பாய்வின் உள்ளே நடக்கிறது, அதே சான்றுகள், அதே தரவு இணைப்புகள் மற்றும் மற்றவை எல்லாவற்றிலும் உள்ள அதே பாதுகாப்பு அமலாக்கத்தைப் பயன்படுத்தி. ஒரு பொறியியல் குழுவிற்கு தனிப்பயன் ஒருங்கிணைப்பு அடுக்கை கட்ட வேண்டியதில்லை, ஏனெனில் ஒருங்கிணைப்பு அடுக்கு ஏற்கனவே உள்ளது.

தனிப்பயன் பொறியியல் தேவைப்படாத பாதுகாப்பு

AI பணிப்பாய்வை உற்பத்திக்கு தயாராக்குவதில் மிகவும் நேரம் எடுக்கும் பகுதி AI அல்ல. இது பாதுகாப்பு மற்றும் இணக்க வேலை. மாடல் எந்த தரவை பார்க்க முடியும்? அது எங்கே வெளியீட்டை அனுப்ப முடியும்? முக்கியமான தகவல் கசிவதை எவ்வாறு தடுப்பது? எல்லாவற்றையும் தணிக்கைக்காக எவ்வாறு பதிவு செய்வது?

Triggerfish-ல், இந்த கேள்விகளுக்கான விடைகள் திட்டம்-குறிப்பிட்ட பொறியியலால் அல்ல, தள கட்டமைப்பால் பதிலளிக்கப்படுகின்றன. வகைப்படுத்தல் அமைப்பு ஒவ்வொரு எல்லையிலும் தரவு உணர்திறனை கண்காணிக்கிறது. மாடல் வகைப்படுத்தப்பட்ட தரவை அணுகும்போது அமர்வு taint அதிகரிக்கிறது. Write-down தடுப்பு அமர்வின் taint நிலைக்கு கீழே வகைப்படுத்தப்பட்ட சேனலுக்கு வெளியீடு செல்வதை தடுக்கிறது. ஒவ்வொரு கருவி அழைப்பு, ஒவ்வொரு தரவு அணுகல் மற்றும் ஒவ்வொரு வெளியீடு முடிவும் முழு வரிசையுடன் பதிவு செய்யப்படுகின்றன.

வாடிக்கையாளர் பதிவுகளை (CONFIDENTIAL) படிக்கும் மற்றும் சுருக்கம் உருவாக்கும் AI பணிப்பாய்வு அந்த சுருக்கத்தை பொது Slack சேனலுக்கு அனுப்ப முடியாது. இது மாடல் புறக்கணிக்கலாம் என்ற ஒரு prompt வழிமுறையால் அமலாக்கப்படவில்லை. இது மாடல் பார்க்க முடியாத, மாற்ற முடியாத மற்றும் தவிர்க்க முடியாத PRE_OUTPUT hook-ல் உள்ள நிர்ணயமான குறியீட்டால் அமலாக்கப்படுகிறது. கொள்கை hooks LLM அடுக்கிற்கு கீழே இயங்குகின்றன. LLM ஒரு செயலை கோருகிறது, மற்றும் கொள்கை அடுக்கு அதை அனுமதிக்கலாமா என்று முடிவு செய்கிறது. காலாவதி நிராகரிப்புக்கு சமம். மாடலிலிருந்து வெளி உலகிற்கு அமலாக்கத்தை கடக்காத பாதை எதுவும் இல்லை.

ஏற்கனவே இருக்கும் தணிக்கை தடங்கள்

Triggerfish பணிப்பாய்வில் ஒவ்வொரு AI முடிவும் தானாகவே வரிசை பதிவுகளை உருவாக்குகிறது. வரிசை மாடல் அணுகிய தரவு, அது சுமந்த வகைப்படுத்தல் நிலை, பயன்படுத்தப்பட்ட மாற்றங்கள் மற்றும் வெளியீடு எங்கே அனுப்பப்பட்டது என்பதை கண்காணிக்கிறது. இது இயக்கப்படவோ கட்டமைக்கப்படவோ வேண்டிய ஒரு பதிவு அம்சம் அல்ல. இது தளத்தின் கட்டமைப்பு பண்பு. ஒவ்வொரு தரவு உறுப்பும் உருவாக்கல் முதல் ஒவ்வொரு மாற்றத்தின் வழியாக அதன் இறுதி இலக்கு வரை தோற்றவிடம் மெட்டாடேட்டா சுமக்கிறது.

ஒழுங்குமுறை தொழில்களுக்கு, இதன் பொருள் ஒரு AI பணிப்பாய்வுக்கான இணக்க சான்றுகள் முதல் நாளிலிருந்தே உள்ளன. ஒரு தணிக்காளர் எந்த AI-உருவாக்கிய வெளியீட்டையும் முழு சங்கிலி வழியாக தடமறிய முடியும்: எந்த மாடல் அதை உருவாக்கியது, அது எந்த தரவை அடிப்படையாகக் கொண்டது, தர்க்கம் செய்யும்போது மாடல் பயன்படுத்திய கருவிகள், ஒவ்வொரு படியிலும் பயன்படுத்தப்பட்ட வகைப்படுத்தல் நிலை மற்றும் எந்த கொள்கை அமலாக்க நடவடிக்கைகள் நிகழ்ந்தன. இந்த சான்றுகள் சேகரிப்பு தானாக நடக்கிறது, ஏனெனில் இது அமலாக்க hooks-ல் கட்டமைக்கப்பட்டுள்ளது — ஒரு அறிக்கையிடல் அடுக்காக பின்னர் சேர்க்கப்படவில்லை.

மறு-கட்டமைப்பு இல்லாத மாடல் நெகிழ்வுத்தன்மை

Triggerfish LlmProvider இடைமுகம் மூலம் பல LLM வழங்குநர்களை ஆதரிக்கிறது: Anthropic, OpenAI, Google, Ollama வழியாக உள்ளூர் மாடல்கள் மற்றும் எந்த திசைப்படுத்தப்பட்ட மாடலுக்கும் OpenRouter. வழங்குநர் தேர்வு முகவர்-கட்டமைவு தகுதியுள்ளது, தானியங்கி failover உடன். சிறந்த மாடல் கிடைக்கும்போது அல்லது வழங்குநர் விலை மாற்றும்போது, மாறுவது பணிப்பாய்வு வரையறைகளைத் தொடாமல் கட்டமைவு நிலையில் நடக்கிறது.

இது "திட்டம் அனுப்புவதற்கு முன்பே காலாவதியாகிவிடுகிறது" பிரச்சனையை நேரடியாக தீர்க்கிறது. பணிப்பாய்வு வரையறைகள் AI என்ன செய்ய வேண்டும் என்று விவரிக்கின்றன — எந்த மாடல் அதை செய்கிறது என்று அல்ல. GPT-4 இலிருந்து Claude-க்கு அல்லது நுணுக்கமான உள்ளூர் மாடலுக்கு மாறுவது ஒரு கட்டமைவு மதிப்பை மாற்றுகிறது. பணிப்பாய்வு, பாதுகாப்பு கட்டுப்பாடுகள், தணிக்கை தடங்கள் மற்றும் ஒருங்கிணைப்பு புள்ளிகள் அனைத்தும் மாறாமல் தொடர்கின்றன.

Cron, Webhooks மற்றும் நிகழ்வு-இயக்கப்படும் செயல்படுத்தல்

அட்டவணையில் அல்லது நிகழ்வுகளுக்கு பதிலாக இயங்கும் AI பணிப்பாய்வுகளுக்கு மனிதன் அவற்றை தூண்டத் தேவையில்லை. திட்டமிடி திரும்ப திரும்ப வரும் பணிப்பாய்வுகளுக்கு ஐந்து-புலம் cron வெளிப்பாடுகளையும் நிகழ்வு-இயக்கப்படும் தூண்டுதல்களுக்கு webhook இறுதிப்புள்ளிகளையும் ஆதரிக்கிறது. தினசரி அறிக்கை உருவாக்கல் பணிப்பாய்வு காலை 6 மணிக்கு இயங்குகிறது. webhook வழியாக புதிய கோப்பு வரும்போது ஆவண வகைப்படுத்தல் பணிப்பாய்வு இயங்குகிறது. ஒவ்வொரு புதிய ஆதரவு டிக்கெட்டிலும் உணர்வு பகுப்பாய்வு பணிப்பாய்வு தூண்டப்படுகிறது.

ஒவ்வொரு திட்டமிடப்பட்ட அல்லது நிகழ்வு-தூண்டப்பட்ட செயல்படுத்தல் புதிய taint உடன் தனிமைப்படுத்தப்பட்ட அமர்வை உருவாக்குகிறது. பணிப்பாய்வு தன்னுடைய சொந்த பாதுகாப்பு சூழலில் இயங்குகிறது, எந்த ஊடாடும் அமர்வுகளிலிருந்தும் சுதந்திரமாக. cron-தூண்டப்பட்ட பணிப்பாய்வு CONFIDENTIAL தரவை அணுகினால், அந்த செயல்படுத்தலின் வரலாறு மட்டுமே CONFIDENTIAL-ல் வகைப்படுத்தப்படுகிறது. PUBLIC வகைப்படுத்தலில் இயங்கும் மற்ற திட்டமிடப்பட்ட பணிப்பாய்வுகள் பாதிக்கப்படாமல் இருக்கின்றன.

பிழை கையாளுதல் மற்றும் சுழற்சியில் மனிதன்

உற்பத்தி AI பணிப்பாய்வுகள் தோல்வியை தகுதியாக கையாள வேண்டும். பணிப்பாய்வு DSL பணி வரையறைகளில் பிழை கையாளுதல் மூலம் வெளிப்படையான பிழை நிலைகளுக்கு raise மற்றும் try/catch செமாண்டிக்ஸை ஆதரிக்கிறது. LLM துணை-முகவர் குறைந்த நம்பிக்கை வெளியீட்டை உருவாக்கும்போது அல்லது அது கையாள முடியாத சூழ்நிலையை சந்திக்கும்போது, பணிப்பாய்வு மனித அங்கீகார வரிசைக்கு வழிமாற்றலாம், அறிவிப்பு சேவை மூலம் அறிவிப்பு அனுப்பலாம் அல்லது மாற்று நடவடிக்கை எடுக்கலாம்.

அறிவிப்பு சேவை முன்னுரிமை மற்றும் நகல் நீக்கத்துடன் அனைத்து இணைக்கப்பட்ட சேனல்களிலும் எச்சரிக்கைகளை வழங்குகிறது. AI-உருவாக்கிய ஒப்பந்த திருத்தம் அனுப்பப்படுவதற்கு முன் பணிப்பாய்வுக்கு மனித அங்கீகாரம் தேவைப்பட்டால், அங்கீகார கோரிக்கை Slack-ல், WhatsApp-ல், மின்னஞ்சலில் அல்லது அங்கீகரிப்பவர் இருக்கும் இடத்தில் வரலாம். அங்கீகாரம் வரும் வரை பணிப்பாய்வு இடைநிறுத்தப்படுகிறது, பிறகு நிறுத்தப்பட்ட இடத்திலிருந்து தொடர்கிறது.

நடைமுறையில் இது எப்படி இருக்கிறது

ஒரு சட்டத் துறை ஒப்பந்த மதிப்பாய்வை தானியங்கி செய்ய விரும்புகிறது. பாரம்பரிய அணுகுமுறை: பதிவேற்றப்பட்ட ஒப்பந்தங்களிலிருந்து உட்பிரிவுகளை பிரித்தெடுக்கவும், ஆபத்து நிலைகளை வகைப்படுத்தவும், நிலையற்ற நிபந்தனைகளை கொடியிடவும் மற்றும் மதிப்பாய்வு செய்யும் வழக்கறிஞருக்கு சுருக்கம் உருவாக்கவும் ஒரு குழாயை கட்ட ஆறு மாத தனிப்பயன் வளர்ச்சி. திட்டத்திற்கு ஒரு அர்பணிக்கப்பட்ட பொறியியல் குழு, ஒரு தனிப்பயன் பாதுகாப்பு மதிப்பாய்வு, ஒரு இணக்க ஒப்புதல் மற்றும் தொடர்ச்சியான பராமரிப்பு தேவைப்படுகிறது.

Triggerfish-உடன், பணிப்பாய்வு வரையறை எழுத ஒரு நாள் எடுக்கும். பதிவேற்றல் ஒரு webhook-ஐ தூண்டுகிறது. ஒரு LLM துணை-முகவர் ஒப்பந்தத்தை படிக்கிறது, முக்கிய உட்பிரிவுகளை பிரித்தெடுக்கிறது, ஆபத்து நிலைகளை வகைப்படுத்துகிறது மற்றும் நிலையற்ற நிபந்தனைகளை கண்டறிகிறது. ஒரு சரிபார்ப்பு படி பிரித்தெடுத்தலை நினைவகத்தில் சேமிக்கப்பட்ட நிறுவனத்தின் உட்பிரிவு நூலகத்துடன் சரிபார்க்கிறது. சுருக்கம் ஒதுக்கப்பட்ட வழக்கறிஞரின் அறிவிப்பு சேனலுக்கு அனுப்பப்படுகிறது. முழு குழாயும் RESTRICTED வகைப்படுத்தலில் இயங்குகிறது, ஏனெனில் ஒப்பந்தங்களில் வாடிக்கையாளர் சலுகை தகவல் உள்ளது, மற்றும் write-down தடுப்பு எந்த ஒப்பந்த தரவும் RESTRICTED-க்கு கீழே உள்ள சேனலுக்கு கசியாமல் உறுதிசெய்கிறது.

நிறுவனம் LLM வழங்குநர்களை மாற்றும்போது (ஒரு புதிய மாடல் சட்ட மொழியை சிறப்பாக கையாளுகிறது, அல்லது தற்போதைய வழங்குநர் விலை உயர்த்துகிறது என்பதால்), மாற்றம் கட்டமைவில் ஒரு வரி. பணிப்பாய்வு வரையறை, பாதுகாப்பு கட்டுப்பாடுகள், தணிக்கை தடம் மற்றும் அறிவிப்பு வழிப்படுத்தல் அனைத்தும் மாறாமல் தொடர்கின்றன. நிறுவனம் தங்கள் ஆபத்து கட்டமைப்பில் புதிய உட்பிரிவு வகையை சேர்க்கும்போது, LLM துணை-முகவர் பிரித்தெடுப்பு விதிகளை மீண்டும் எழுதாமல் அதை எடுக்கிறது, ஏனெனில் அது வடிவங்களுக்காக அல்ல பொருளுக்காக படிக்கிறது.

இணக்க குழு முதல் நாளிலிருந்தே முழுமையான தணிக்கை தடத்தை பெறுகிறது. செயலாக்கப்பட்ட ஒவ்வொரு ஒப்பந்தம், பிரித்தெடுக்கப்பட்ட ஒவ்வொரு உட்பிரிவு, ஒதுக்கப்பட்ட ஒவ்வொரு ஆபத்து வகைப்படுத்தல், அனுப்பப்பட்ட ஒவ்வொரு அறிவிப்பு மற்றும் பதிவுசெய்யப்பட்ட ஒவ்வொரு வழக்கறிஞர் அங்கீகாரம், மூல ஆவணத்திற்கான முழு வரிசையுடன். வாரக்கணக்கான தனிப்பயன் அறிக்கையிடல் வேலை எடுக்கும் சான்றுகள் சேகரிப்பு தளத்தின் கட்டமைப்பு பண்பாக தானாகவே உள்ளது.