Claude의 안전정책은 국방 조달의 문턱이 됐다

모델보다 사용권

최첨단 AI 회사가 국방부와 계약한다는 말은 보통 성능 경쟁처럼 들린다. 어느 모델이 더 똑똑한가. 어느 모델이 어느 보안 등급의 클라우드에 먼저 들어가는가. 하지만 Anthropic과 펜타곤의 충돌은 다른 질문을 앞에 세웠다. 모델을 쓸 수 있더라도, 누가 그 사용 범위를 정하는가.

2025년 7월 펜타곤은 Google, xAI, Anthropic, OpenAI와 각각 최대 2억 달러 규모의 AI 계약을 맺었다. 국방 임무에 고성능 AI를 더 넓게 쓰기 위한 계약이었다.¹ 그런데 몇 달 뒤 Anthropic의 Claude는 단순한 공급 후보가 아니라 국방 조달에서 제외될 수 있는 공급망 리스크로 다뤄지기 시작했다.²

Polymarket의 Will Anthropic make a deal with the Pentagon by...?에서 4월 30일 안에 계약이 나온다는 항목은 No로 끝났다. 5월 31일까지 계약 가능성은 13%, 6월 30일까지는 27.5%다.³ 낮지만 무시할 숫자는 아니다. 시장은 Anthropic이 완전히 돌아올 가능성을 기본값으로 두지 않는다. 그렇다고 펜타곤과의 접점이 끊겼다고 보지도 않는다.

여기서 쟁점은 Claude가 좋은 모델인지가 아니다. 국방부 직원이 Claude나 Anthropic 모델을 쓸 수 있게 하는 실제 상업 계약이 다시 생기는지다. 성능이 아니라 접근권이다.

안전정책이 계약 조건이 될 때

Anthropic의 입장은 단순한 군사용 AI 거부가 아니다. 회사는 정부 고객의 임무와 법적 권한에 맞춰 사용 제한을 조정할 수 있다고 설명한다. 다만 무기 설계나 사용, 국내 감시, 허위정보 작전, 악성 사이버 활동 같은 제한은 유지한다고 밝힌다.⁴

펜타곤이 부딪힌 지점이 바로 여기다. AP 보도에 따르면 펜타곤은 Anthropic을 공급망 리스크로 지정하면서 군은 중요한 기술을 모든 합법적 목적에 쓸 수 있어야 하고 공급자가 지휘계통 안에 끼어들면 안 된다고 봤다.² 반대로 Anthropic은 Claude가 미국인 대규모 감시나 완전 자율 무기에 쓰일 수 있다는 우려를 내려놓지 않았다.²

소비자 서비스에서 사용정책은 약관에 가깝다. 어떤 요청은 거절되고 어떤 계정은 제한된다. 하지만 군사 네트워크 안에서는 같은 정책의 의미가 달라진다. 모델 공급자가 “이 용도는 안 된다”고 말하면 그것은 제품 윤리 문구를 넘어 작전 권한의 경계가 된다.

이 충돌은 AI 안전론과 국방 조달이 정면으로 만난 사례다. 국가는 “법적으로 가능한 임무라면 쓸 수 있어야 한다”고 보고 모델 회사는 “법적으로 가능해도 제품이 허용하지 않는 용도가 있다”고 말한다. 둘 다 일관된 말이다. 그만큼 충돌도 쉽게 풀리지 않는다.

공급망 리스크라는 무거운 말

공급망 리스크 지정은 보통 성능이 부족한 제품에 붙는 말이 아니다. 미국 연방 조달 규정은 특정 연방 조달 공급망 보안법 명령이 있으면 행정부 기관이 해당 제품이나 서비스를 조달하거나 계약을 연장할 수 없다고 정한다.⁵ 원래 이 말은 외국 적대자의 침투, 방해, 감시 같은 위험을 다루는 장치에 가깝다.

Anthropic 사건이 중요한 건 이 도구가 미국 AI 회사의 사용정책 문제에 적용됐기 때문이다. AP는 펜타곤이 Anthropic을 공급망 리스크로 공식 통보했다고 보도했다. 이 조치는 방산업체들의 Claude 사용에도 영향을 줄 수 있다.² 같은 기사에서 전직 국방·안보 당국자들은 외국 적대자에 맞서기 위한 권한을 미국 기업의 안전장치 거부에 쓰는 것은 상당히 이례적인 권한 확장이라고 비판했다.²

펜타곤 입장에서도 문제는 단순하지 않다. Reuters가 본 내부 메모에 따르면 펜타곤은 국가안보에 꼭 필요하고 대안이 없을 때 Anthropic AI 도구 사용을 6개월 전환 기간 이후에도 예외적으로 허용할 수 있다고 했다.⁶ 전면 배제라는 말과 임무상 예외라는 문장이 동시에 존재한다.

이 예외가 중요하다. 국방 AI는 버튼 하나로 교체되는 소비자 앱이 아니다. 모델이 이미 업무 흐름, 계약업체, 분류망, 분석 도구 안에 들어가 있으면 제거 자체가 작전 문제가 된다. 그 때문에 시장에는 0%가 아니라 27.5%가 남아 있다.

남는 길은 좁다

6월 말까지의 계약 가능성 27.5%는 낮다.³ 그래도 가능한 타협의 모양은 보인다. 펜타곤은 군이 필요한 합법적 사용을 막지 않는 계약을 원한다. Anthropic은 정부 사용을 전부 닫지는 않되 감시와 자율무기 같은 금지선을 유지하려 한다.

그 사이의 길은 아주 좁다. 예를 들어 정보분석, 문서 처리, 사이버 방어, 병참 같은 용도는 허용하고 완전 자율 무기나 국내 대규모 감시에는 별도 금지선을 두는 방식이 있을 수 있다. Anthropic도 정부 고객별 제한 조정 가능성을 열어 두고 있다.⁴ 하지만 그 조정이 펜타곤의 “모든 합법적 목적” 요구와 함께 설 수 있는지는 별개의 문제다.

또 하나의 쟁점은 통제 방식이다. AP에 따르면 Anthropic은 Claude가 분류된 펜타곤 네트워크에 배치된 뒤에는 회사가 그 모델을 조작할 수 없다고 법원에 낸 문서에서 주장했다.⁷ 그렇다면 실제 통제는 기술적 스위치보다 계약과 배치 조건에 더 가깝다. 모델 회사가 나중에 멈추는 것이 아니라, 처음 들어갈 때 어떤 용도를 허용할지 정해야 한다.

큰 그림

이 사건에서 AI 안전정책은 실제 조달 절차 안으로 들어간다. 회사 웹사이트의 사용정책, 정부 계약서의 문장, 연방 조달의 공급망 리스크 지정, 현장 부대의 예외 요청이 한 줄로 이어진다.

최첨단 AI의 국방 경쟁은 앞으로 모델 성능만으로 결정되지 않는다. 군이 원하는 만큼 쓸 수 있는가. 회사가 금지선을 유지할 수 있는가. 그 금지선이 법률, 계약, 조달 규정 안에서 버틸 수 있는가. Anthropic과 펜타곤의 시장은 이 질문에 가격을 붙인다.

가장 좋은 모델이 항상 가장 깊이 들어가는 것은 아니다. 국가가 쓰기 쉬운 모델, 계약 조건을 맞출 수 있는 모델, 작전권과 안전정책의 충돌을 견딜 수 있는 모델이 들어간다. Claude의 다음 펜타곤 계약은 한 회사의 매출 문제가 아니다. 군사용 AI에서 누가 사용 규칙을 정하는지에 대한 첫 가격표다.