에어 갭 AI(Air Gapped AI)란 인터넷 및 모든 외부 네트워크로부터 물리적·논리적으로 격리된 하드웨어에 배포된 인공지능 시스템을 말합니다. 이는 AI 배포에 활용 가능한 최고 수준의 데이터 보안 방식으로, 침해 사고의 위험이 너무 커서 어떠한 외부 연결도 용납할 수 없는 상황에서 사용됩니다.

비공개 AI 배포를 검토하는 대부분의 기업들은 온프레미스 환경이나 프라이빗 클라우드 구성을 떠올립니다. 대다수의 활용 사례에서는 이러한 방식이 충분히 견고한 선택지입니다. 그러나 VPN 액세스를 갖춘 엄격한 프라이빗 서버조차도 부족한 조직의 범주가 존재합니다. 기밀 정보를 다루는 정부 기관, 무기 시스템 데이터를 처리하는 방위 산업체, 핵심 인프라 운영자, 그리고 민감한 발견을 다루는 연구 기관들은 네트워크 격리가 선호 사항이 아닌 필수 요건인 환경에서 운영됩니다. 본 가이드는 에어 갭 AI가 실제로 어떤 모습인지, 어떻게 배포되며, 운영 비용은 어떠한지, 그리고 귀하의 조직이 진정으로 이를 필요로 하는 것인지 아니면 그저 그렇게 생각하는 것인지를 설명합니다.

에어 갭이 실제로 의미하는 것

이 용어는 격리된 시스템과 연결된 네트워크 사이의 물리적인 공기 간격(air gap)에서 유래했습니다. 인터넷으로 연결되는 이더넷 케이블이 없습니다. 활성화된 WiFi 어댑터가 없습니다. 블루투스도 없습니다. 데이터는 오직 물리적 매체, 즉 USB 드라이브, 광디스크, 또는 그 자체로 외부 연결이 없는 에어 갭 파일 전송 워크스테이션을 통해서만 입출력됩니다.

이는 방화벽, VPN, 심지어 프라이빗 클라우드 배포와도 근본적으로 다릅니다. 이 모든 방식에서는 데이터가 암호화되고 접근 통제된 네트워크일지라도 네트워크를 통해 이동합니다. 에어 갭 시스템은 어떠한 네트워크를 통해서도 데이터를 전송하지 않습니다. 격리는 단지 논리적인 것이 아니라 물리적인 것입니다.

AI 맥락에서 이는 모델, 추론 엔진, 학습 데이터, 그리고 시스템이 생성한 모든 출력물이 배포 이후 공용 인터넷에 단 한 번도 접속한 적 없는 하드웨어 위에서 동작함을 의미합니다. 모델 업데이트는 물리적 매체 전송을 필요로 합니다. 새로운 학습 데이터도 같은 방식으로 반입됩니다. 출력물은 통제된 물리적 절차를 거쳐 검토되고 반출됩니다.

대부분의 조직에게는 이것이 극단적으로 들리는데, 그 이유는 실제로 그렇기 때문입니다. 그러나 이 방식이 적용되는 환경에서는, 이들이 실제로 직면한 위협 모델을 충족시킬 수 있는 유일한 아키텍처입니다.

누가 에어 갭 AI를 필요로 하며 그 이유는 무엇인가

국방 및 정보 응용 분야

AI가 등장하기 훨씬 전부터, 군과 정보 기관은 에어 갭 프로토콜의 원조 설계자였습니다. 기밀 시스템은 수십 년간 완전한 네트워크 격리 상태로 운영되어 왔는데, 이러한 환경에서의 침해 결과는 데이터 유출 통지 비용이 아니라 인명과 국가 안보의 결과로 측정되기 때문입니다.

이러한 환경에 AI를 도입한다고 해서 격리 요건이 달라지지는 않습니다. 이미 물리적 분리를 요구하는 인프라에 새로운 기능을 더하는 것뿐입니다. 신호 정보 분석, 위협 패턴 인식, 또는 군수 최적화를 위해 AI를 활용하는 기관들은 외부 세계와 단 한 번도 연결되지 않은 기밀 네트워크 안에서만 동작하는 모델을 필요로 합니다.

핵심 인프라 운영자

전력망, 정수 시설, 원자력 발전소, 그리고 금융 청산 시스템은 중단 시 사회 전반에 연쇄적 파급 효과를 일으키는 범주에 속합니다. 이러한 환경을 관리하는 산업 제어 시스템은 이상 탐지와 예측 유지보수를 위해 AI를 점점 더 많이 통합하고 있습니다. 이러한 AI 구성 요소를 에어 갭 네트워크에서 실행하면, 침해된 외부 시스템이 물리 인프라를 관리하는 운영 기술(OT)에 도달하지 못하도록 보장할 수 있습니다.

극도의 프라이버시 요구를 가진 의료 및 법률 환경

모든 에어 갭 사용 사례가 국가 기밀과 관련된 것은 아닙니다. 매우 민감한 연구 데이터를 처리하는 병원, 증거를 다루는 법의학 실험실, 그리고 사건의 존재 자체가 비밀인 사안을 관리하는 로펌도 특정 AI 워크로드에 대해 완전한 네트워크 격리를 요구하는 경우가 있습니다. 여기서의 위협 모델은 국가 차원의 행위자보다는 철저한 비밀유지 보호와 우발적 공개를 절대로 허용하지 않는 규제 준수에 가깝습니다.

이러한 환경을 위한 AI 보안 아키텍처가 어떻게 설계되는지를 이해하면, 조직이 자신의 실제 위협 모델이 진정한 에어 갭을 요구하는지, 아니면 잘 보호된 비공개 배포로 충분한지를 평가하는 데 도움이 됩니다.

에어 갭 AI 배포가 실제로 동작하는 방식

모델을 격리 환경으로 반입하기

에어 갭 AI 시스템을 구축하는 과정은 어떤 하드웨어가 랙에 장착되기도 전에 이미 시작됩니다. AI의 동작 방식을 정의하는 거대한 파일인 모델 가중치는 다운로드되고, 검증되며, 승인된 물리 매체 경로를 통해 격리 환경으로 전송되어야 합니다.

전형적인 보안 배포에서는, 별도의 통제된 스테이징 머신에서 모델을 다운로드하고, 무결성 검증을 실행해 파일이 변조되지 않았음을 확인한 뒤, 위생 처리된 물리 매체로 옮겨, 그 매체를 격리 환경으로 직접 운반하여 에어 갭 하드웨어에 적재하는 절차를 따릅니다.

모델에 대한 모든 업데이트도 동일한 절차를 거칩니다. 자동 업데이트 메커니즘은 존재하지 않습니다. 모든 변경은 의도된 것이며, 문서화되고, 물리적으로 실행됩니다.

전송 단계	절차	보안 통제
모델 다운로드	인터넷 연결된 스테이징 머신에서 확보	알려진 체크섬과의 해시 검증
매체 준비	위생 처리된 물리 전송 장치에 기록	1회 기록 매체 또는 위생 처리된 드라이브
물리적 전송	보안 경계 내부로 운반	관리 책임자 연결고리 문서화
설치	에어 갭 하드웨어에 적재	보안 측에서 무결성 검사 재실행
출력물 반출	역방향 절차를 통해 결과 반출	반출 전 콘텐츠 검토

격리된 하드웨어에서 추론 실행하기

모델이 설치되고 나면, 사용자 관점에서의 일상 운영은 여느 온프레미스 AI 배포와 유사합니다. 분석가나 애플리케이션이 질의를 제출하고, 모델이 이를 처리하며, 응답이 돌아옵니다. 차이점은 전적으로 표면 아래에서 일어나는 일에 있습니다. 외부로 나가는 텔레메트리가 없습니다. 외부 서비스로의 API 호출이 없습니다. 시스템은 자기 완결적입니다.

이로 인해 이해해 둘 만한 운영상의 제약이 발생합니다. 검색 증강 생성(RAG)은 AI 시스템이 연결된 데이터베이스에서 최신 정보를 가져오도록 해주지만, 이는 해당 데이터베이스 역시 에어 갭 환경 안에 존재해야 함을 요구합니다. 실시간 정보는 시스템으로 들어온 마지막 물리적 데이터 전송 시점만큼만 최신일 수 있습니다. 대다수의 에어 갭 사용 사례에서는, 보안상의 이점을 감안할 때 이는 수용 가능한 절충입니다.

에어 갭 배포 초기에 내려진 AI 아키텍처 결정은 나중에 변경하기가 어렵기 때문에, 표준 클라우드 또는 온프레미스 환경에 비해 초기 설계를 제대로 잡는 것이 훨씬 더 중요합니다.

하드웨어 고려사항

에어 갭 AI 시스템은 클라우드 기반 하드웨어 확장에 의존할 수 없습니다. 처음에 프로비저닝한 컴퓨팅 자원이 곧 보유 자원의 전부가 됩니다. 그렇기 때문에 정확한 용량 산정이 매우 중요합니다.

조직 유형	일반적 모델 규모	하드웨어 접근법
제한적 질의를 처리하는 소규모 보안 팀	70억 ~ 130억 파라미터	GPU 탑재 고사양 워크스테이션 한 대
중간 규모 보안 부서	130억 ~ 340억 파라미터	다중 GPU를 탑재한 전용 서버
기관 또는 엔터프라이즈 규모	340억 ~ 700억 파라미터	현장 설치형 다중 노드 GPU 클러스터
멀티모달 요구를 갖춘 연구	특수 대형 모델	맞춤형 하드웨어 조달 필요

연결된 환경에 비해 여기서는 이중화 계획이 더욱 중요합니다. 클라우드 환경에서는 하드웨어 장애 시 용량이 자동으로 이전됩니다. 에어 갭 환경에서는 하드웨어 장애가 곧 물리적 교체 부품이 조달, 위생 처리, 설치될 때까지의 용량 감소를 의미합니다. 운영 환경에서는 초기 하드웨어 사양에 이중화를 포함시키는 것이 선택 사항이 아닙니다.

에어 갭 AI 운영의 실제 모습

일상은 실제로 어떤 모습인가

에어 갭 시스템을 운영하는 조직은 그 제약 조건을 중심으로 잘 짜인 운영 리듬을 발전시킵니다. 모델 업데이트는 요청에 따른 즉시 대응이 아니라 정해진 일정에 따라 이루어집니다. 데이터 반입은 다중 결재가 포함된 문서화된 절차를 따릅니다. 보안 경계를 벗어나기 전에 출력물에 대한 반출 검토가 수행됩니다.

이러한 신중함은 특정 맥락에서는 오히려 이점입니다. AI 환경에 대한 모든 변경 사항이 추적되고, 문서화되며, 감사 가능합니다. 규제 산업에서는 이러한 감사 추적이 실질적인 가치를 갖습니다. 기밀 환경에서는 이것이 의무 사항입니다.

문제는, 클라우드 AI 도구에 익숙한 팀들이 기대하는 속도에 비해 일의 진행이 느려진다는 점입니다. 클라우드 플랫폼에서는 몇 초 만에 끝낼 수 있는 프롬프트 반복이, 새로운 데이터를 반입하거나 모델 업데이트를 물리 전송 절차로 적용해야 한다면 에어 갭 환경에서는 며칠이 걸릴 수도 있습니다.

유용한 참고 자료로는 AI 가이드 리소스에서 다루는 단계적 배포 접근 방식이 있는데, 이는 이 환경에 그대로 적용됩니다. 좁고 명확하게 정의된 사용 사례부터 시작한 뒤 에어 갭 시스템의 범위를 확장하면, 팀이 환경 관리에 필요한 절차적 숙련도를 갖추기도 전에 범위 확장으로 인한 운영 문제가 발생하는 것을 막을 수 있습니다.

인력 및 전문성 요구사항

에어 갭 AI 시스템을 운영하려면 AI 스택과 격리 환경을 관할하는 보안 프로토콜을 모두 이해하는 인력이 필요합니다. 이러한 조합은 실로 드물며 상당한 보상이 따릅니다. 기밀 또는 에어 갭 AI 환경을 관리하는 특수 직무들은 기술 부문에서 상위 보상을 받는 자리에 속하며, 이는 필요한 보안 허가와 실무 AI 엔지니어링 기술을 동시에 보유한 인력이 희소함을 반영합니다.

이러한 시스템을 처음 구축하는 조직은 일반적으로 인력 운영의 복잡성을 과소평가합니다. 부수 업무로 이를 처리하는 IT 일반직이 아니라, 모델 관리 수명 주기를 전담하는 인력을 계획하십시오.

에어 갭과 기타 비공개 배포 방식의 비교

완전한 에어 갭과 잘 보호된 비공개 배포 사이의 결정이 항상 분명한 것은 아닙니다. 이를 판단하기 위한 실용적 접근은 다음과 같습니다.

주된 관심사가 데이터 프라이버시와 규제 준수라면, 강력한 접근 통제와 공용 인터넷 노출이 전혀 없는 적절히 구성된 온프레미스 배포만으로도 진정한 에어 갭의 운영적 부담 없이 일반적으로 요구 사항을 충족할 수 있습니다.

관심사가 정교한 능력을 갖춘 위협 행위자, 국가 수준의 공격, 내부자 위협, 또는 암호화된 네트워크 트래픽조차도 용납될 수 없는 위험을 의미하는 모든 시나리오라면, 에어 갭은 다른 접근 방식이 다룰 수 없는 위협 모델을 다룹니다.

대부분의 기업에 대한 솔직한 평가는, 진정한 에어 갭은 그들이 필요로 하는 수준을 넘어선다는 것입니다. 실제로 이를 필요로 하는 기업들은 보통 선택지를 조사하기 전에 이미 자신들이 그것을 필요로 한다는 사실을 알고 있습니다. 규제, 계약, 또는 임무 맥락의 요건이 보통 그들 대신 결정을 내려 줍니다.

알아둘 사항들

에어 갭 AI 배포에 대한 초기 논의에서 종종 간과되는 몇 가지 세부 사항이 있습니다:

물리적 보안은 디지털 보안만큼 중요합니다. 에어 갭 시스템은 그것이 자리한 방의 보안만큼만 안전합니다. 물리적 접근 통제, 감시, 인원 검증은 어떠한 기술적 보안 조치 못지않게 중요합니다.

남아 있는 주된 위험은 내부자 위협입니다. 네트워크 기반 공격 경로가 제거되고 나면, 현실적으로 남는 위협은 시스템에 물리적으로 접근할 수 있는 사람들입니다. 인원 심사와 접근 로깅이 최전선의 보안 통제 수단이 됩니다.

업데이트 배포 전 테스트는 매우 중요합니다. 연결된 환경에서는 잘못된 모델 업데이트를 신속히 롤백할 수 있습니다. 에어 갭 환경에서는 롤백 역시 또 한 번의 물리적 전송 사이클을 의미합니다. 에어 갭 구성을 그대로 반영하는 스테이징 환경이 운영 환경에 문제가 도달하기 전에 이를 잡아내는 데 도움이 됩니다.

에너지 및 냉각 인프라에 대한 계획이 필요합니다. 대규모 GPU 워크로드를 처리하는 에어 갭 시스템은 상당한 열을 발생시키고 상당한 전력을 소모합니다. 시설 계획은 이를 일찌감치 고려해야 합니다.

문서화 요건은 광범위합니다. 에어 갭 환경과 관련된 모든 절차는 단지 규제 준수만을 위해서가 아니라, 물리 전송 워크플로에서 절차적 일관성이 보안 사고를 예방하는 핵심이기 때문에 철저히 문서화되어야 합니다.

이러한 환경에서는 오픈 소스 모델이 강하게 선호됩니다. 라이선스 검증 호출이나 사용 텔레메트리 보고를 요구하는 독점 모델은 진정한 네트워크 격리와 본질적으로 양립할 수 없습니다. 오픈 소스 모델 생태계는 거의 모든 에어 갭 AI 배포의 실질적 기반입니다.

에어 갭 AI가 그 모든 부담을 감수할 만한 경우

에어 갭 AI의 운영 복잡성과 비용 프리미엄은 실제로 존재합니다. 이는 다른 어떤 배포 방식보다도 팀, 시설, 계획 절차로부터 더 많은 것을 요구합니다. 위협 모델이 이를 정당화하는 조직에게는, 그러한 부담은 단지 수용 가능한 것이 아니라 바로 그 자체가 목적입니다.

격리 그 자체가 곧 제품입니다. 시스템이 수행하는 다른 모든 일——질의에 응답하기, 문서를 분석하기, 이상을 탐지하기, 의사결정을 지원하기——은 외부 행위자가 도달할 수 없는 경계 안에서 일어납니다. 이러한 보장이 필요한 조직에게는, 다른 어떠한 아키텍처도 이를 제공할 수 없습니다.

자주 묻는 질문

AI에서 에어 갭이란 무엇입니까?

AI에서의 에어 갭이란 AI 시스템의 완전한 물리적·네트워크적 격리를 의미하며, 인터넷 연결도, 외부 네트워크 접근도, 어떠한 형태의 무선 인터페이스도 존재하지 않음을 뜻합니다. 데이터는 오직 통제된 물리 매체 전송을 통해서만 입출력되며, 이는 민감한 AI 워크로드에 대해 활용 가능한 가장 안전한 배포 아키텍처에 해당합니다.

"air gapped"란 무슨 뜻입니까?

"air gapped"란 시스템이 모든 외부 네트워크로부터 물리적으로 격리되어 있어, 시스템과 연결된 어떠한 인프라 사이에도 말 그대로 공기 간격이 존재함을 의미합니다. 이 용어는 군과 정부 컴퓨팅에서 시작되어, 네트워크 격리가 주된 보안 통제 수단으로 사용되는 모든 배포를 가리키는 표현으로 확장되었습니다.

연봉 90만 달러짜리 AI 직무란 무엇입니까?

연봉 90만 달러짜리 AI 직무란 일반적으로 최상위 기술 기업의 고도로 전문화된 AI 안전 연구원 또는 수석 AI 과학자를 가리키며, 주식과 보너스를 포함한 총 보상 패키지가 이 수준에 도달한 것을 뜻합니다. 기밀 환경을 위한 보안 허가와 AI 엔지니어링 전문성을 결합한 직무 또한, 두 가지 요건을 모두 충족하는 자격 있는 인력의 희소성을 반영하는 매우 높은 수준의 보상을 받습니다.

AI의 30% 법칙이란 무엇입니까?

AI의 30% 법칙은 AI가 특정 워크플로의 약 30%를 자동화하고 나머지 70%는 인간의 판단과 맥락적 추론에 맡겨야 한다는 지침입니다. 이는 조직이 여전히 인간의 의사결정에 의존하는 프로세스를 과도하게 엔지니어링하지 않으면서도 현실적인 자동화 목표를 식별하도록 돕습니다.

2030년에는 어떤 직업들이 사라질까요?

반복적인 데이터 입력, 기본적인 문서 처리, 일상적인 고객 문의 처리, 수작업 보고서 작성에 중심을 둔 직무들은 AI 시스템이 이러한 기능을 흡수함에 따라 2030년까지 상당히 감소할 것으로 폭넓게 예상됩니다. 다만 대다수 분석가들은 직무의 전면적 소멸보다는 직무 전환이 지배적인 양상이 될 것이며, AI 관리·감독·배포를 중심으로 새로운 직무들이 등장할 것으로 전망합니다.