구글과 엔비디아를 포함한 주요 기술 기업들이 미국 국방부와 인공지능 분야의 협력 협약을 체결했습니다. 이번 협력은 국방 분야에서의 AI 기술 활용을 강화하기 위한 것입니다.
미국 국방부, 8개 기술 기업과 AI 협력 계약 체결
구글, 엔비디아, 스페이스X를 포함한 8개 기술 기업이 미국 국방부와 AI 기술 협력 계약을 체결했습니다. 오픈AI, 마이크로소프트, 아마존 웹 서비스, 오라클, AI 스타트업 리플렉션도 이번 협력에 참여하게 됩니다. 국방부는 이번 협약이 미군을 ‘AI 우선 전력’으로 전환하고 전쟁터에서의 의사결정 우위를 강화할 것이라고 밝혔습니다.
각 기업은 국방부의 ‘기밀 네트워크’에 AI 기술을 배포하여 ‘합법적 작전 운용’을 지원하게 됩니다. 국방부는 각 기업이 받을 보상액을 공개하지 않았으며, 일부 기업은 이미 활발한 계약을 진행 중이고 다른 기업들은 정식 계약을 앞두고 있는 상태입니다. 국방부 최고 기술 담당자인 에밀 마이클은 이번 다양한 기업과의 협력이 앤스로픽과의 분쟁 이후 파트너 다각화를 위한 것이라고 설명했습니다.
이번 협력은 기술 기업들이 미군과의 관계를 확대하는 추세를 보여줍니다. 그러나 자율 무기와 대량 감시에 AI를 사용하는 것에 대한 우려가 업계 내에서 계속 제기되고 있습니다. 이러한 우려는 기술 기업들과 국방부 간의 신뢰 구축에 중요한 과제로 남아있습니다.
앤스로픽 논쟁과 기술 기업들의 고민
챗봇 클로드를 개발한 샌프란시스코 기업 앤스로픽은 올해 초 국방부와 기술 사용 안전장치를 두고 충돌했습니다. 국방부는 앤스로픽이 군사 결정에 대한 ‘거부권을 장악하려 한다’고 비난했으며, 앤스로픽은 이러한 주장에 반박했습니다. 트럼프 행정부는 앤스로픽을 공급망 위험으로 지정하고 연방 기관에 해당 기업의 도구 사용을 중단하도록 지시했습니다.
이번 분쟁으로 인해 기술 업계 내 저항이 다시 불거졌습니다. 구글의 수백 명 직원들은 최고경영자 순다르 피차이에게 기밀 작업에 AI 시스템을 사용하지 말 것을 촉구하는 편지를 보냈습니다. 직원들은 기밀 작업의 특성상 자신들의 동의 없이 비인도적이거나 극도로 해로운 방식으로 기술이 사용될 수 있다고 우려했습니다.
국방부 최고 기술 담당자는 안전장치가 각 기업마다 협상 가능하며 기업들이 이에 대해 서로 다른 입장을 가지고 있다고 언급했습니다. 그는 또한 안전장치가 정부의 가치관과 제한 사항과 일치해야 한다고 덧붙였습니다. 이는 기술 기업과 국방부 간의 균형 잡힌 협력이 얼마나 복잡한지를 보여줍니다.
각 기업의 협력 내용과 입장
엔비디아의 국방부 협력은 칩이 아닌 ‘Nemotron’ AI 모델 작업을 포함하고 있습니다. 이 모델은 작업을 완료할 수 있는 AI 에이전트를 구축하는 데 사용됩니다. 협력 계약에는 모델 사용이 시민의 자유, 헌법적 권리, 적용 법률과 일치해야 한다는 조항이 포함되어 있습니다.
오픈AI는 국방부와의 협력이 올해 초 체결한 기존 협약을 지칭한다고 설명했습니다. 회사는 ‘미국을 방어하는 사람들이 최고의 도구를 갖기를 원한다’고 밝혔으며, 자신들의 기술이 대량 국내 감시, 고위험 자동화 결정, 자율 무기 지휘에 사용되지 않을 것이라고 명시했습니다. 앤스로픽 논쟁 이후 오픈AI의 국방부 협력은 업계 내 비판을 받기도 했습니다.
마이크로소프트, 오라클, 아마존 웹 서비스 등 다른 기술 기업들도 군부대를 지원하고 최고의 AI 도구에 접근할 수 있도록 하겠다는 입장을 표명했습니다. 아마존 웹 서비스의 팀 배렛 대변인은 ‘국방부의 현대화 노력을 계속 지원하고 중요한 임무를 수행하도록 돕는 AI 솔루션을 구축하기를 기대한다’고 성명했습니다.
AI 안전장치와 투명성 문제
국방부와 기술 기업 간의 협력에서 가장 핵심적인 쟁점은 AI 사용에 대한 안전장치입니다. 국방부 최고 기술 담당자는 안전장치가 각 기업과의 협상을 통해 결정되며, 기업마다 이에 대한 관점이 다르다고 설명했습니다. 이는 일관된 기준을 적용하기 어려운 상황을 만들고 있습니다.
기술 기업 직원들은 기밀 작업의 특성상 투명성 부족을 우려하고 있습니다. 구글 직원들의 편지에서 드러난 바와 같이, 기밀 네트워크에서의 작업은 개발자들이 자신의 기술이 어떻게 사용되는지 알 수 없게 만듭니다. 이러한 정보 비대칭은 기술 기업 내부의 윤리적 우려를 증폭시키고 있습니다.
국방부는 안전장치가 정부의 가치관과 법적 제한 사항과 일치해야 한다고 강조했습니다. 그러나 각 기업이 서로 다른 안전장치를 적용하는 것이 장기적으로 일관된 정책 운영을 가능하게 할지는 불명확합니다. 이 문제는 앞으로 국방부와 기술 기업 간의 지속적인 협상 대상이 될 것으로 보입니다.
기술 기업들의 군사 협력 가이드
기술 기업이 국방부와 협력할 때 고려해야 할 주요 사항들이 있습니다. 먼저 기술의 용도와 범위를 명확히 정의하고, 안전장치와 감시 메커니즘을 사전에 협의하는 것이 중요합니다. 또한 직원들의 윤리적 우려를 수렴하고 투명성을 최대한 확보하려는 노력이 필요합니다.
기업 내부적으로는 AI 기술의 군사 사용에 대한 명확한 정책을 수립하고, 직원들과 이를 공유하는 것이 좋습니다. 외부적으로는 국방부와의 협력 조건을 공개할 수 있는 범위 내에서 투명하게 소통하는 것이 신뢰 구축에 도움이 됩니다. 또한 정기적인 감시와 평가를 통해 기술이 의도한 대로 사용되고 있는지 확인하는 절차를 마련해야 합니다.
업계 차원에서는 AI 군사 사용에 대한 공통의 기준과 윤리 지침을 개발하는 것이 바람직합니다. 이를 통해 개별 기업의 부담을 줄이고, 국방부와의 협력에서 일관된 기준을 적용할 수 있습니다. 정부, 기업, 시민사회가 함께 참여하는 대화의 장을 마련하는 것도 중요한 과제입니다.
※ 정보 제공 목적의 요약으로, 법률·의료·투자 조언이 아닙니다.