팔란티어·엔비디아, 미 정부용 보안 AI 플랫폼 공개

팔란티어(Palantir)와 엔비디아(NVIDIA)가 6월 29일(현지시각) 미국 정부 기관과 주요 인프라 운영자를 위한 보안 AI 플랫폼을 발표했다. 이번 협력의 핵심은 엔비디아의 네모트론(Nemotron) 오픈 모델을 팔란티어의 소버린 AI 운영 체제(Sovereign AI Operating System)에 통합해, 외부 네트워크와 완전히 단절된 에어갭(air-gapped) 환경에서도 AI를 구동하는 것이다. 양사는 이 플랫폼이 공개 클라우드 실험이 아닌 보안과 통제가 핵심인 환경을 겨냥하고 있음을 분명히 했다. 팔란티어 최고경영자 알렉스 카프(Alex Karp)는 이 파트너십이 정부 기관들이 대형 언어 모델을 활용하면서도 독점 정보가 외부 AI 시스템으로 유출될 위험을 줄일 수 있게 한다고 밝혔다. 엔비디아 최고경영자 젠슨 황(Jensen Huang)은 오픈 AI 모델이 국가 안보를 지원하는 임무 핵심 시스템에 어떻게 적용될 수 있는지 보여주는 협력이라고 말했다.

오픈 모델, 폐쇄 환경에 들어가다

이번 플랫폼의 기술적 핵심은 엔비디아 네모트론 오픈 모델을 에어갭 환경에 배치하는 데 있다. 에어갭 환경이란 비보안 외부 네트워크와 물리적으로 완전히 격리된 구성을 뜻하며 기밀 분류 시스템이나 주요 인프라 운영에 쓰인다. 기관과 운영자는 자체 인프라에서 커스터마이징된 네모트론 모델을 구동하고 자체 데이터로 추가 학습시킬 수 있다. 그 결과물로 생성된 모델의 가중치(weights)를 포함한 완전한 소유권 역시 기관이 직접 보유한다.

플랫폼 구조는 팔란티어의 소프트웨어 스위트인 AIP, 온톨로지(Ontology), 파운드리(Foundry), 아폴로(Apollo)와 엔비디아의 가속 컴퓨팅 및 오픈 모델을 결합한 형태다. 엔비디아 AI 엔터프라이즈 소프트웨어와 NIM 마이크로서비스가 기업 규모의 배포를 담당하며 팔란티어의 소프트웨어 계층이 운영 데이터 처리, 접근 제어, 워크플로 맥락 관리를 맡는다. 이는 앞서 양사가 발표한 소버린 AI 운영 체제 레퍼런스 아키텍처(Reference Architecture)를 확장한 것이기도 하다.

보안·데이터 주권을 설계의 중심에

이번 플랫폼이 내세우는 기능 목록은 화려하진 않지만 실무적이다. 명시적 데이터 인가, 보안 경계 적용, 고객별 데이터 격리, 데이터 이동성, 삭제권, 완전한 감사 기능이 포함된다. 이 요소들은 데이터의 이동 경로, 출처, 감사 추적이 엄격하게 통제되어야 하는 환경에서 시스템 도입 가능 여부를 결정하는 기준이 된다. 기술 구매 담당자들이 주목하는 것도 단순한 모델 접근 권한이 아니라 이러한 배포 제어 능력이다.

양사는 피드백 루프 구조도 함께 제공한다. 기관 내부에서 발생하는 텔레메트리(telemetry), 추적 데이터, 사용자 결과물을 활용해 모델을 특정 임무에 맞게 지속적으로 정렬할 수 있다. 고객은 자체 데이터셋과 임무별 결과물을 활용해 모델 가중치를 수정하고 프롬프트와 맥락 정보를 최적화할 수 있다. 팔란티어의 소프트웨어 계층이 이 전 과정에서 운영 데이터와 접근 제어를 통합 관리한다.

미국 연방 정부, 세계 최대 규모의 '기업'

팔란티어와 엔비디아가 이번 플랫폼의 주요 대상으로 미국 연방 정부를 꼽는 데는 규모의 논리가 있다. 미국 연방 정부는 약 300만 명의 민간 직원을 보유하고 있어 사실상 세계 최대 규모의 기업에 준하는 조직이다. 상업, 에너지, 의료, 농업, 교육, 교통 등 다양한 분야에서 민간 기업과 유사한 운영 구조를 갖추고 있다.

이처럼 복잡하고 방대한 조직에 AI를 도입하면 운영 효율과 정보 생산성을 높일 수 있다는 것이 양사의 시각이다. 식품 안전 감시에서 고속도로 인프라 안전 관리까지, 정부 기관이 직면한 운영 과제는 민간 기업의 그것과 본질적으로 다르지 않다. 오픈 모델 기반 AI는 도메인별 맞춤 설계를 통해 고객이 독점 데이터, 모델 가중치, 배포 환경에 대한 통제권을 유지하면서도 최첨단 수준의 AI 역량을 활용할 수 있게 한다.

오픈소스 전통과 미국 AI 리더십

엔비디아는 이번 협력을 미국의 오픈소스 혁신 전통의 연장선으로 설명한다. 오픈 모델은 기업과 정부 기관이 민감한 환경에서 AI를 직접 검토·적용·배포할 수 있도록 투명성과 제어 가능성을 제공한다. 독점 데이터나 모델 가중치, 배포 환경에 대한 통제권을 고객이 유지할 수 있다는 점에서 국가 안보와 산업 혁신에 필수적인 요소로 평가받는다.

이번 발표는 팔란티어가 엔비디아의 가속 컴퓨팅, CUDA-X 라이브러리, 네모트론 모델을 온톨로지에 통합하는 기존 협력 관계를 기반으로 한다. 폐쇄적이고 통제된 AI 에이전트 환경으로의 전환이 산업 전반에서 확산되는 흐름 속에서, 두 회사의 협력이 한층 심화되는 양상이다.