통제가능한 자율무기체계의 개념과 설계에 관한 연구

많은 국가들이 국방분야의 자율성을 게임체인저로 인식하고 자율무기체계를 개발하기 위해 노력하고 있으나, 자율무기체계의 불명확한 개념과 함께 인간 존엄성을 침해한다는 우려로 인해 매우 논란이 되고 있다. 이 논문에서는 자율무기체계를 철학적 관점에서 분석해보고, 자율무기체계에 필요한 것은 자율성과 타율성의 조화라는 결론에 도달했다. 이를 자율무기체계 설계에 반영하기 위하여, 통제가능한 자율무기체계라는 새로운 개념과 함께 개념 설계 방안을 제시하였다. 제시된 개념 설계는 가치 민감 디자인과 도덕적 이유 및 책임자를 추론하는 시스템으로 구성되어 있다. 기존 자율무기체계와 관련한 연구들이 이슈 정리나 동향 소개에 중점을 둔 반면 본 연구는 자율무기체계와 관련한 논의가 좀 더 건설적인 방향으로 나아가기 위해 자율무기체계의 개념에 관한 탐구에서 시작하여, 통제가능한 자율무기체계의 개념 설계 방안을 제시하였다. 기존에 많은 학자들이 사용하고 있는 개념은 매우 불명확한 요소가 많으며, 그러한 이유를 자율성이라는 철학적 이론에서 찾고자 하였다. 특히, 무기체계의 자율성이라는 측면에서 사회가 요구하는 모습은 인류문명의 파멸을 막기 위해서 자율성과 타율성이 동시에 존재하는 모습이며, 이러한 특성은 기존의 인간에 의한 의미있는 통제와 유사한 개념이지만, 이마저도 불명확한 개념적 접근만 이루어진 상태이다. 본 연구는 여기서 한 발짝 더 나아가서 통제가능한 자율무기체계 설계를 위한 개념과 알고리즘을 제시함으로써 향후 계속 출현할 다양한 지능의 무기체계 기획 시 도움이 되도록 하면서도 안전하게 사용될 수 있는 기반을 마련하고자 하였다. 통제가능한 자율무기체계의 개념 설계는 가치 민감 디자인을 바탕으로 가치체계와 이해관계자들을 구성하도록 하였고, 무기체계가 필요한 행동을 할 때는 가치체계 추론과 즉응성에 따라 추론한 가치를 다른 가치들과 충돌없이 즉시 이행할 수 있어야 하고, 행동 전후에 적용된 가치체계 및 책임자들을 저장하고 필요시 제공할 수 있도록 설계하도록 하였다. 인간 이외 고도의 지능을 가진 존재를 허용하는 것이 타당한가에 대해서는 과거에도 그래왔고 앞으로도 많은 논쟁이 필요할 것이다. 특히, 무기체계의 경우 살상이 가능한 단일 무기체계에 의한 영향은 물론이거니와 지휘통제 체계의 지능화는 전 무기체계가 불안정한 상태에 놓일 위험성을 내포하고 있으며, 국제적으로 전략적 불안정성을 크게 증대시킬 수 있다. 이러한 상황에서 무기체계에 자율성과 타율성을 동시에 요구하는 것은 인간의 욕심이 반영된 결과가 아닌가 한다. 그럼에도 불구하고 현재 이루어지고 있는 기술적 진보와 국제적 협의가 무기체계에 요구되는 자율성과 타율성이 잘 조화를 이루는 데 도움이 될 수 있도록 관련 연구들이 활성화되기를 기대한다.