자율무기체계의 군사적 효용성과 법적·윤리적 쟁점을 고려한 효과적인 자율능력 관리 및 소프트웨어 중심의 국방 획득 체계 발전 방안 doc_id PCY_201711220333185221_3

마지막으로 책무성(Accountability)(Thurnher, 2013)의 원칙은 행동의 결과에 대한 법적 책임의 주체가 있어야 한다는 원칙으로 인간이 판단이 배제된 자율무기체계는 합당한 책임의 주체가 없는 문제가 발생하게 되는데, 옹호자들은 인간 개발자에게 책무성을 부여하거나 자율무기체계 개발 시 교전 규칙을 반드시 지키도록 프로그램 하는 등의 방법으로 책무성의 원칙을 준수할 수 있다고 보고 있다. 따라서 자율무기체계 개발 시 책무성에 대한 한계를 명확히 해야 한다. 현재까지는 자율무기체계의 적법성을 옹호하는 입장과 반대하는 입장 모두 명쾌한 근거를 제시하지 못하고 있으며, 인공지능 기술이 지속적으로 발전하여 혁신적 패러다임을 가져오고 있는 상황에서 자율무기체계 일반에 대한 적법성 평가는 실용성이 매우 떨어질 수 있다(류병운, 2016). 그러나 적법성에 기반을 둔 원칙들을 고려하지 않는다면 국제적인 지탄과 제재에서 자유로울 수 없는 까닭에 자율능력을 연구하더라도 법적･윤리적 쟁점에 대한 지속적 관심을 가져야 한다. 이미 사회에서는 자율능력을 가져오는 기계학습, 빅데이터 등과 같은 인공지능 기술들이 급속도록 발전하고 여러 응용 분야에서 사용되어지고 있는 상황에서 상용품 및 상용기술을 바로 도입해서 사용하거나 관리하기보다는 군 및 관에 의한 자율능력 관리를 별도로 제시하는 이유는 다음과 같다. 먼저, 자율능력을 위한 상용품 및 상용기술은 ‘적’의 개념이 없이 만들어진 것이 대부분이다. 적의 자율능력에 대응하고 비대칭적으로 적의 약점을 최대화하는 방향으로 자율능력을 개발해야 하는 군의 현실상 단순히 사회에 알려진 인공지능 기술을 사용하기에는 제약사항이 따르며, 더욱이 그러한 기술들은 보안에 취약할 수 있고 이미 적에 의해 그 대응방안이 마련되어졌을 가능성도 가지고 있다. 둘째, 상용 분야의 자율능력은 그 복잡도 측면에서 다소 단순화된 혹은 안전한 환경을 가정하고 개발되어진 것들이 많다. 첫째, 소프트웨어 중심의 획득체계에 대한 지속적 연구가 필요하다. 자율무기체계는 하드웨어보다는 공인된 대행자로서 작동을 할 소프트웨어, 즉 알고리즘 그 자체가 될 것이다. 최신형 전투기 F-35는 90% 이상의 기능이 소프트웨어에 의해 수행된다는 것은 이미 널리 알려진 상황이며, 마치 컴퓨터의 겉모습이 같더라도 속의 연산능력에 의해 완전히 다른 컴퓨터가 되는 것과 같은 상황이다. 소프트웨어 중심의 획득체계는 소프트웨어의 특성상 요구사항 혹은 작전운용성능의 빈번한 변경이 발생하고, 의사결정자들의 이해가 부족하며, 기술에 대한 가치 측정이 어렵고, 신뢰성 측정이 난해한 점 등으로 인해서 많은 어려움을 겪어왔다. 국방 소프트웨어는 체계개발 중 체계 요구사항을 분석하여 소프트웨어 요구 사항을 도출하고, 소프트웨어 설계, 구현, 시험, 규격화를 통해 획득되는데, 아직까지는 소프트웨어 개발이 중심이기보다는 하드웨어 개발 중심의 획득관이 반영된 것으로 판단되며, 소프트웨어의 중요성에 대한 공감대가 부족한 것이 현실이다. 현재 우리 군은 소프트웨어 중심의 획득 체계를 뒷받침하기 위한 중요한 요소인 국방 소프트웨어 발전방향과 중장기 발전 로드맵이 부재한 상황으로 이를 타개하기 위한 기본적인 노력을 기울이고 있다(강동수･이수진･김경수･마정목, 2016). 현재까지의 정책 방향을 염출해보면 국방 소프트웨어 국산화와 품질 향상에 중점을 두고 있다는 것을 알 수 있으며, 무기체계 소프트웨어 개발에 필요한 기반 기술 확보와 국방 소프트웨어 기업 육성에 힘을 쏟고 있다. 하지만 현 발전 방향은 매우 현재 지향적이라 할 수 있으며 적극적으로 미래전에 대응하는 모습이라고 보기는 힘든 실정이다. 따라서 인공지능의 발전에 대비하여 사이버물리시스템(CPS: Cyber-Physical System) 고도화라는 방향 아래 국방 인공지능 플랫폼을 개발하여 그 토대를 마련하는 것이 중요하겠다. 중장기 발전 로드맵 측면에서도 현재 국방 소프트웨어 기술 수준을 파악하고(미국 100% 대비 75%, 주요 16개국 중 12위, 국방기술수준조사서 2015년 기준) 선진국의 발전추이를 면밀히 검토하여 중장기적으로 선진국 대비 기술력 격차를 줄일 수 있는 관리와 투자가 필요하다. 무분별한 대량 살상이 가능한 무기체계는 역사적으로 항상 비판의 대상이었고, 인류 전체가 공멸의 두려움에 떨기도 하였다. 자율능력은 특정 무기로서 뿐만이 아니라 상위 개념의 능력으로서 지휘통제통신, 감시정찰 및 정밀타격 체계(C4ISR-PGM) 전반에 걸쳐 영향을 줄 것으로 판단되며, 인간의 통제를 벗어날 수 있다는(Human-out-of-the-loop) 점에서 기존의 무기체계 전체가 통제력을 잃어버릴 수 있다는 위험성도 내포한다. 그럼에도 불구하고 자율능력을 효과적으로 개발하고 관리해야 하는 이유는 이미 우리 사회가 인공지능 기술들을 수용하기 시작하여 이를 막는다는 것은 불가능에 가까우며(즉, 이미 4차 산업혁명의 시작을 맞이함), 오히려 선제적으로 연구해서 의도치 않은 군사적 결과가 발생하는 것을 효과적으로 막는 것이 중요하기 때문이다. 앞으로도 선진국을 중심으로 자율능력에 대한 규제와 합의가 도출될 것이 분명하며, 우리도 이러한 트랜드에 발맞추어 연구와 표준화를 병행해야 한다. 본 연구는 새로운 전쟁의 세대로 이끌 원동력으로 인공지능 기술에 바탕을 둔 시스템의 자율성에 주목하였으며, 인공지능 달성이라는 목표를 위한 수단과 사용 분야를 구분하고, 이를 통해 얻어지는 능력인 자율능력을 어떻게 관리할 것인가에 초점을 맞추었다. 특히, 자율능력은 자동성에서부터 완전 자율성까지의 연속체 성격을 가짐을 강조하였다. 현재 공개적으로 알려진 자율무기체계의 종류와 특성을 통해 국방 분야에 있어 자율능력의 현주소를 살펴보았고, 임무 특성별로 자율능력의 군사적 필요성이 어떻게 달라지는지도 검토해 보았다. 특히, 아무리 군사적 효용성이 높더라도 법적･윤리적으로 논쟁의 소지가 있다면 국제적 지탄을 받을 수 있는 관계로, 유사한 논쟁 사례와 함께 적법성을 갖추기 위한 구별성, 비례성, 주관성, 책무성의 원칙을 살펴보았다. 가장 핵심이 되는 자율능력 관리 방안으로 ① 소프트웨어 중심의 획득 체계 발전, ② 법적･윤리적 쟁점의 이해, ③ 방어목적의 비살상용 자율능력 적극 개발, ④ 대항군 개념의 자율 대행자 활용, ⑤ 자율능력 시험평가 방법 연구, ⑥ 기존 체계 및 타 자율 대행자와의 상호작용 연구, ⑦ 인공지능 기술 및 인력 육성을 제시하였다. 각 방안들은 정책 차원의 개념들로 차후 보다 더 심도 있는 연구가 필요하다.