자율무기체계의 군사적 가치와 필요성, 그리고 이에 따른 법적·윤리적 쟁점 및 관리 방안에 관한 고찰 doc_id PCY_201711220333185221_1

자율무기체계에 대한 명문화된 법은 존재하지 않지만 국제 사회뿐만 아니라 우리 사회 구성원의 동의 없이 군사적 가치만을 내세우는 것은 매우 위험한 주장이다. 따라서 국방 분야에 자율능력이 필요한 논리적 근거를 구비하여야 하고 이를 위해서는 Ⅲ장에서 제시한 구별성, 비례성, 주관성, 책무성의 원칙의 준수와 더불어 부가적으로 다음과 같은 사항들을 고려해 볼 수 있다. 구별성 원칙의 측면에서는 우수한 피아식별체계(IFF: Identification Friend or Foe)의 개발과 이에 대한 국가적 인증이 필요하다. 현재 항공 분야는 감시 레이더를 통해 피아식별이 이루어지고 있으며, 주요 선진국은 우군 오인사격과 민간 피해 방지라는 목표를 위해 국가적 인증이 요구되지만, 우리는 피아식별체계에 대한 국가적 인증 장치가 부재하다. 비례성 원칙의 측면에서는 자율능력이 사용될 때에는 일반적인 군사적 상황보다도 더 엄격히 부수적인 민간 피해가 없도록 하는 규정과 절차를 마련해야 하며, 주관성 원칙의 측면에서는 인간을 완전히 배제하기보다는 인간의 주관적 판단이 어떤 형태로든 최종적 판단에 영향을 미칠 수 있도록 하는 장치의 마련이 필요하며, 책무성 원칙의 측면에서는 자율무기체계가 개발 및 작전에 투입될 때 그 책임의 주체를 명문화하도록 할 수 있다. 이뿐만이 아니라 첨단 유도무기들도 대부분 다양한 범위의 자율능력을 이미 보유하고 있으며 지속적으로 자율능력을 증가시키고 있는 실정이다. 예를 들어, 국과연과 LIG 넥스원에서 개발한 대함유도무기인 해성은 표적 지정 시 발사 후 스스로 최적의 고도와 비행경로를 탐색하여 비행하며, 표적을 명중시킬 때까지 반복 공격할 수 있는 것으로 알려져 있다(김관용, 2016). 무인기 및 드론도 이스라엘에서 우리 군이 도입한 하피(Harpy)는 대레이더 미사일과 비슷하지만 필요시 장시간 체공을 하면서 방공망을 무력화시킬 수 있는 체공형 스텔스 무인기 전술체계이다(김성진, 2015). 영국의 일간지 인디펜던트(The Independent)에서 세 가지 미래의 살인로봇(Killer Robots)을 지목하였는데, 앞선 센트리 가드 로봇 외에 타라니스(Taranis)라는 영국에서 개발 중인 공격형 스텔스 드론과 미국에서 개발 중인 X47-B라는 무인전투기가 있으며 이 둘은 매우 높은 수준의 자율능력을 갖출 것으로 전망하였다. 이처럼 자율능력이 가지는 연속체의 특성상 자동성의 연장선에서 보면 이미 많은 무기체계에서 자율성이 적용되고 있음을 알 수 있고, 언론을 통해 공개된 내용만을 살펴보더라도 자율능력이 미래의 무기체계 기획 시에 중요한 요소가 되었음을 짐작할 수 있다. 그럼에도 불구하고 국제적인 인권단체들의 비판과 법적･윤리적 문제들로 인해서 대부분의 국가들이 자율능력에 대해 조심스럽게 접근하고 있으며, 영국은 자율무기체계의 정의를 애매모호하게 하여 반대론자들로 부터 많은 비판을 받기도 했다(Article36, 2016). 이 와중에 가장 먼저 자율무기체계에 대한 공개적인 지침을 발표한 것은 미국이다. 미 국방부는 지침(DoD Directive) 3000.09 “무기체계의 자율성(Autonomy in Weapon Systems)”을 통해 자율무기체계의 배치에 대한 포괄적인 가이드를 제시하고 있다(ICRAC, 2017). 이 지침은 두 가지 목적을 명시하고 있는데, 첫째는 유/무인 체계를 포함하는 무기체계에 자율/반자율 기능을 사용하기 위한 책임을 설정하고, 둘째, 자율/반자율 무기체계가 의도하지 않는 교전상황으로 인해 발생할 수 있는 결과와 그 가능성을 최소화하도록 설계하는 가이드를 제시하기 위함이라고 밝혔다. 이처럼 기계에 자율능력을 부여할 수 있는 인공지능 기술은 미래 인간의 근본적인 삶 자체를 변화시킬 정도로 혁신적인 사회/경제/문화/군사적 패러다임을 가져올 것으로 예견된다. 테슬라 CEO 일론 머스크(Elon Musk)는 이를 두고 “핵보다 위험하다”고 말하였고, 스티븐 호킹(Stephen Hawking) 박사도 “인류의 종말을 가져올 수 있다”고 우려했는데, 과거 핵기술을 보유한 강대국들이 그러했듯이 인공지능 기술을 선점한 국가가 국제적으로 새로운 힘의 균형을 불러올 수 있을 것으로 보인다. 전문가들 중에서는 자율무기체계를 대량살상무기(WMD: Weapons of Mass Destruction)의 범주에 넣어야 할 날이 얼마 남지 않았다고 경고하기도 하고, 일부는 오히려 향상된 센서기술과 선별적인 표적처리로 인명피해가 줄어들 것이라는 상반된 주장을 펼치고 있다(Guizzo, 2016). 이러한 상황에서 본 연구에서는 무기체계에서 자율성이 군사적으로 어떠한 가치를 가지는지 살펴보고, 이와 더불어 자율무기체계의 법적･윤리적 한계를 검토해보며, 궁극적으로 국방 분야에서 자율능력이 어떻게 관리되어야 하는지 그 방안을 제시하고자 한다. 임무의 위험성은 자율능력의 개발을 촉진하는 대표적인 특성으로 전투원의 피해가 없도록 하는 것이 현대 인명중시 풍토에서 무엇보다 중요한 요소가 되었다. 오염된 지역이나 지뢰 및 급조폭발물(IED: Improvised Explosive Device) 의심 지역에서의 임무 시에는 자율능력을 통해 전투원의 치명적 피해를 방지할 수 있다. 작전의 복잡도는 인간의 인지적 능력 제한과 관계가 있으며, 대규모 동시다발 상황 대응 임무와 같이 복잡한 임무는 인간의 정상적인 상황판단을 도울 수 있는 자율능력이 반드시 필요해 진다. 마지막으로 많은 양의 데이터를 처리해야 하고 또한 데이터가 이질적인 경우(영상, 신호, 음성 등) 인간이 직관력을 발휘할 수 있는 범위를 넘어섬으로써 논리적인 대응과 상황인식이 어려울 수 있는데 데이터의 양과 이질성이 높을수록 자율능력은 그 가치가 커진다. 이처럼 자율능력이 가지는 연속체의 특성상 자동성의 연장선에서 보면 이미 많은 무기체계에서 자율성이 적용되고 있음을 알 수 있고, 언론을 통해 공개된 내용만을 살펴보더라도 자율능력이 미래의 무기체계 기획 시에 중요한 요소가 되었음을 짐작할 수 있다. 그럼에도 불구하고 국제적인 인권단체들의 비판과 법적･윤리적 문제들로 인해서 대부분의 국가들이 자율능력에 대해 조심스럽게 접근하고 있으며, 영국은 자율무기체계의 정의를 애매모호하게 하여 반대론자들로 부터 많은 비판을 받기도 했다(Article36, 2016). 이 와중에 가장 먼저 자율무기체계에 대한 공개적인 지침을 발표한 것은 미국이다. 미 국방부는 지침(DoD Directive) 3000.09 “무기체계의 자율성(Autonomy in Weapon Systems)”을 통해 자율무기체계의 배치에 대한 포괄적인 가이드를 제시하고 있다(ICRAC, 2017). 이 지침은 두 가지 목적을 명시하고 있는데, 첫째는 유/무인 체계를 포함하는 무기체계에 자율/반자율 기능을 사용하기 위한 책임을 설정하고, 둘째, 자율/반자율 무기체계가 의도하지 않는 교전상황으로 인해 발생할 수 있는 결과와 그 가능성을 최소화하도록 설계하는 가이드를 제시하기 위함이라고 밝혔다. 셋째, 두 번째 방안의 연장선으로 전쟁수행의 효율성을 높이거나 방어목적의 혹은 비살상용의 자율능력 개발은 적극적으로 연구될 수 있다. 인간의 육체적, 정신적 제한 사항으로 인해 지속적으로 감시를 해야 한다든지, 초 단위의 의사결정이 중요한 경우 등에 있어서 자율능력의 가치는 매우 높은데 이러한 영역에서 자율능력을 도입하는 것은 기존 무기체계의 임무수행 능력을 대단히 향상시킬 수 있다. 특히, 자율능력을 방어적으로 사용하는 부분은 근접방어무기체계(CIWS)와 같은 물리적인 영역 외에도 사이버 영역에서 매우 중요하게 작용할 수 있다. 예를 들면, 미래 사물인터넷으로 연결된 우리 전투체계에 적의 침입을 실시간으로 탐지하고 자율적으로 대응한다든지, 적의 사이버 공격을 여러 징후들을 통해서 분석하고 조기 경보를 내려줄 수 있으며, 무엇보다 국제적인 규제로부터 자유로울 수 있는 적대세력이 무분별하게 사이버공간에서 자율능력을 사용할 경우 이에 맞대응하기 위한 자율능력을 활용하는 것도 대단히 중요하다. 이처럼 임무의 특성별로 자율능력의 가치는 상대적으로 기존 수동식 무기체계에 비해 높아진다는 것을 알 수 있으며, 이러한 특성들이 중첩되는 부분은 자율능력의 군사적 필요성이 극대화되는 지점임을 알 수 있다. 즉, 장기간 주의를 요하고, 의사결정 속도가 빨라야 하고, 임무 자체가 위험하고 복잡하며, 처리해야할 정보가 인간의 인지적 한계를 뛰어 넘을 때, 자율능력은 현재의 능력으로는 가질 수 없는 군사적 가치를 창출하게 된다. 자율능력의 군사적 필요성을 활용 분야 차원에서 살펴보면 무기체계가 획득되는 전수명주기를 기준으로 하여 다음과 같은 다양한 활용 가능성을 식별할 수 있다. 소요기획의 시작점이 되는 작전개념(Concept of Operation) 및 교리개발을 위해 자율능력이 활용될 수 있다. 물론 이를 위해서는 상당한 수준의 자율능력이 요구되겠지만, 미래전의 양상으로 미루어 볼 때 적 및 아군에 대한 대규모의 이질적 정보 처리가 요구될 것이 분명하며, 자율능력이 수많은 시나리오를 탐색하여 작전개념 형성에 큰 도움을 줄 수 있다. 넷째, 적도 자율능력을 사용할 수 있다는 사실과 자율능력이 스스로 판단한다는 점을 상기한다면 우군에서 개발한 자율능력을 대항군 혹은 레드팀(Red Team)의 개념으로 사용하여 전투실험을 비롯하여 각종 M&S와 평가에 사용할 수 있다. 이는 지휘 및 통제 분야에서도 일대 변혁을 가져올 수 있는데, 자율 대행자 쌍방이 무수히 많은 시나리오 상황을 묘사하고 분석하여 고도로 숙련된 인간 지휘관에 의해 세워진 계획만큼이나 우수한 작전계획을 세울 수도 있을 것이다. 다섯째, 진화해나가는 자율능력의 특성상 요구사항 충족 여부를 검증하는 시험평가(T/E: Test and Evaluation) 방법에 새로운 패러다임이 요구된다. 현재는 무기체계가 개발되면 개발시험평가(DT/E: Developmental T/E)와 운용시험평가(OT/E: Operational T/E)를 통해 기준 충족 여부와 전투용 적합 여부를 판단하게 되는데, 학습을 통해 변화하는 대상을 어떻게 효율적으로 평가할 것인가는 큰 도전이 될 것이다. 자율능력의 고도화를 가져오는 인공지능은 양날의 검과 같이 그 중요성만큼이나 위험성을 함께 내포하고 있다. 살인로봇 금지 캠페인(Campaign to Stop Killer Robots)은 2013년에 조직되어 국제인권감시소(Human Rights Watch), 국제 로봇무기 통제 위원회(International Committee for Robot Control) 등의 단체들과 살상용 자율무기체계(LAWS: Lethal Autonomous Weapon Systems)를 반대하는 국가들로 구성되어 있으며, UN 특정재래식 무기의 사용금지 및 제한에 관한 협약(CCW: Convention on Conventional Weapons)을 통해 살상용 자율무기체계를 의제로 삼고 매년 국제적인 회의와 토의를 통해 살상용 자율무기체계 규제 방안을 마련하고 있다. 이미 세계의 석학들과 유명인사, 기업인들이 인공지능과 그 군사적 응용의 잠재적 위험에 대해 엄중히 경고하고 있으며, 각종 언론에서도 이러한 경고를 전달하여 경각심을 고취시키고 있다. 현재 자율무기체계에 대한 논의가 끊임없이 이루어지고 있지만 그 적법성을 규정하는 조약, 즉 국제성문법은 아직 존재하지 않고 있다. 그렇지만 국제인도법(International Humanitarian Law)이 명문화하여 금지하지 않았다고 해서 국제법 상 적법한 것은 아니며 자율무기체계의 적법성은 국제인도법의 성문법과 관습법, 그리고 국제관습법에 따라 판단해 보아야 할 문제이다(류병운, 2016; Thurnher, 2013). 우선 구별성(Distinction)(Thurnher, 2013)의 원칙은 군사적 공격의 대상은 군사적 대상만을 대상으로 해야 한다는 원칙으로 민간인과 민간 재산에 대한 보호를 목적으로 하고 있다. 이 원칙에서 자율무기체계가 적법하다는 주장은 자율무기체계가 민간인을 식별하도록 설계되어있고, 센서기술의 발달과 첨단 인공지능 기술을 통해 오히려 수동무기보다 구별성이 더 탁월하다고 주장한다. 자율무기체계, 특히, 살상용은 논쟁의 중심이 인간의 적절한 개입 없이 기계 스스로가 인간을 공격할 것이라는 점이다. 이미 사회에서는 살상 목적이 없는 자율주행차조차도 사망사고의 원인이 되었을 때, 사고에 대한 책임과 기계 윤리 등 복잡한 상황에 봉착하게 된다는 것을 목격하였으며, 주요 국가들도 아직 문제 해결을 위한 법규 마련에 고심하고 있는 상황이다(박형근, 2016; 이중기･오병두, 2016; 황창근･이중기, 2016). 군사적으로 유사한 논쟁을 살펴보면, 무인 살상무기체계의 대표적인 형태인 대인지뢰의 사용, 비축, 생산, 이전 금지 및 폐기에 관한 협약인 오타와 협약(Ottawa Treaty)을 들 수 있다. 이 협약은 대인지뢰의 특성상 전투원 및 비전투원의 구별이 없이 민간인들까지 무분별하게 피해를 줄 수 있는 점으로 인해 이를 금지하는 협약이다. 자율무기체계, 특히, 살상용은 논쟁의 중심이 인간의 적절한 개입 없이 기계 스스로가 인간을 공격할 것이라는 점이다. 이미 사회에서는 살상 목적이 없는 자율주행차조차도 사망사고의 원인이 되었을 때, 사고에 대한 책임과 기계 윤리 등 복잡한 상황에 봉착하게 된다는 것을 목격하였으며, 주요 국가들도 아직 문제 해결을 위한 법규 마련에 고심하고 있는 상황이다(박형근, 2016; 이중기･오병두, 2016; 황창근･이중기, 2016). 군사적으로 유사한 논쟁을 살펴보면, 무인 살상무기체계의 대표적인 형태인 대인지뢰의 사용, 비축, 생산, 이전 금지 및 폐기에 관한 협약인 오타와 협약(Ottawa Treaty)을 들 수 있다. 이 협약은 대인지뢰의 특성상 전투원 및 비전투원의 구별이 없이 민간인들까지 무분별하게 피해를 줄 수 있는 점으로 인해 이를 금지하는 협약이다.