인공지능 알고리즘을 통해 생성되는 기계적 증거의 영향력 확대와 그에 따른 신뢰성 및 블랙박스 위험 등 법적 쟁점 doc_id PCY_201901090355087421_1

기계적 증거를 다루는 분야가 포렌식인데, 통상 포렌식은 ‘법적 분쟁을 해결할 결정적 관련 증거를 제공하는 과학 지식의 응용 등이라 정의된다. 포렌식 기계(forensic machine)나 유사한 도구에서 생성되는 증거는 유죄의 증거로서 막강한 힘을 지니고 있다. 예를 들어 DNA 분석은 범죄 수사와 기소에 혁명적 변화를 일으켰다고 해도 좋을 정도다. 이것이 결정적 증거가 되어 유죄 또는 무죄로 확정된 사건이 무수히 많다. 배심원들도 목격자 증언보다는 포렌식 증거를 더 신뢰하는 현실이다. 사실 기계적 증거의 위력을 실감하는 사례는 수없이 많다. 예를 들면 2004년 6월 15일 매사추세츠 검사가 기소한 피고인 Darrin Fernandez에 대한 강간 사건에서 채취된 정액에 대한 DNA 검사 기록은 Darrin Fernandez가 범인임을 가리키고 있었다. 우리가 인공지능의 놀라운 성능에 놀라며 초인공지능 운운하는 사이 약 인공지능이 어느새 형사재판의 판도를 바꿀 변화를 초래하고 있다. 기계의 재판이라고 불러도 무방할 만큼의 변화가 부지불식간에 이루어지면서 사람의 경험 진술을 중심으로 이루어지던 형사재판에서 기계(Machine)가 생성한 기계적 증거가 차지하는 비중이 점차 늘기 시작했다. 더 이상 목격한 사람의 증언이 아닌 기계가 생성한 증거를 더 신뢰하는 상황이 벌어졌다. 이런 현상이 심화되면 가히 기계에 의한 재판, 인공지능 알고리즘에 의한 재판의 상황이 도래할 수 있다. 물론 기계에 의한 재판이라고 하여 인공지능이 인간을 대신하여 재판을 한다는 의미가 아니고 인간의 증언이나 증거서류보다는 기계 또는 인공지능 알고리즘이 생성한 증거에 따라 재판이 좌우되는 그런 상황을 일컫는다. 이런 변화로 인해 알고리즘이 생성한 기계적 증거를 어떻게 취급할 것인가 하는 논의의 시급성이나 필요성이 커졌다. 기계적 증거의 개념은 포렌식 기계에 의하여 증거가 생성되는 새로운 현상의 포착에서 유래된 것으로 일의적 정의는 어렵지만, 포렌식 기계가 산출한 결과로서 사람의 진술로 분류할 수 없으면서도, 요증사실의 입증에 쓰이는 증거 데이터를 의미한다고 하여야 하겠다. 이러한 기계적 증거의 진술로서의 성격을 강조하기 위하여 기계증언(Machine Testimony)이라는 조어가 생기기도 했다. 이러한 기계적 증거는 그 기계를 운용하는 사람의 진술이라고 간주할 수 없는 특성을 지녀야 한다. 기계를 운용하여 어떤 결과를 얻었다 하더라도, 그것을 기계 운영자의 진술로 볼 수 있는 경우와 기계의 진술로 보아야 하는 경우로 구분될 수 있다. 기계 운용자가 그 기계를 단순한 도구로 사용한 경우는 그 결과물과 그와 관련한 진술은 전적으로 기계 운용자의 진술이다. 이러한 기계적 증거의 생성에 비교적 최근까지는 인간 전문가의 역할이 지대했다. 기계적 증거의 생성 과정을 설계하고, 각종 분석을 관장했다. 사용되는 공식도 비교적 단순했다. 비교적 복잡한 영역으로 여겨지는 DNA 분석과 같은 경우도 비교적 단순한 공식을 사용하고, 임의의 혼합물에서 보이는 대립 유전자와 일치하는 DNA 프로파일을 가질 확률 등도 인간 전문가가 결정했다. 그러나 기계적 증거의 생성과정에 혁신적 변화가 일어났으니, DNA 증거를 해석하는 컴퓨터 알고리즘인 Cybergenetics의 TrueAlleleTM의 등장이 바로 그것이다. TrueAllele는 특정 대립 형질 혼합체가 나타날 수 있는 확률, 경쟁가설 등 인공지능 알고리즘을 분석에 사용하여, 인간전문가의 개입 없이도 복잡한 혼합물로부터 제대로 된 결과를 내놓는다. 통상 인공지능 알고리즘이 적용되는 경우에 그 적용분야에 따라 신뢰성 문제의 취급 방향이 다를 수 있다. 예를 들어 인공지능을 이용한 범죄예측 알고리즘이나 판결예측 알고리즘의 경우는 설사 그 예측의 정확도, 즉 알고리즘의 신뢰성이 다소 떨어져도 유용성이나 예산 낭비와 같은 효율성의 문제일 뿐이다. 그러나 증거의 허용성과 관련하여 증거를 생성한 알고리즘의 신뢰성은 전혀 다른 문제다. 이러한 신뢰성에 따라 증거의 허용성 또는 증거능력 여부가 갈리기 때문에 첨예한 법적 쟁점이 될 수밖에 없다. 뿐만 아니라 이러한 기계적 증거의 생성에 사용되는 머신러닝의 속성 때문에 생겨나는 문제도 심각하다. 즉 머신러닝 알고리즘이 적용된 기계적 증거의 경우, 블랙박스 위험에서 자유롭지 못하며, 이러한 증거에 대하여 법원이 어떻게 통제할 수 있는 것인지가 문제된다. 따라서 기계적 증거뿐만 아니라, 더 나아가 그것에 적용된 인공지능 알고리즘의 속성도 이러한 기계적 증거의 증거능력 여부의 해석에 고려되어야 한다. DNA 분석뿐만 아니라, 기계적 증거로서 유용성이 커져가는 안면인식 알고리즘이나 지문인식 알고리즘에는 머신러닝 알고리즘이 적용되고 있다. 일부 연구자에 의하여 지문인식 분야에서 전통적 지문 인식의 결함을 보완하기 위하여 머신러닝 기법이 제안되기도 하였다. 심지어 일상에서 흔히 볼 수 있는 알코올 호흡측정 기계만 해도 측정 오류를 보정하는 데 컴퓨터 알고리즘을 사용한다. 인공지능 알고리즘의 본격적 적용 전에도 범인 식별을 위한 안면인식 프로그램이나 DNA 분석 기계 등 기계적 증거를 생성하는 기계에는 컴퓨터 알고리즘이 사용되고 있었는데, 기존 알고리즘의 한계를 극복하고, 성능의 고도화를 위해 인공지능 알고리즘 기법을 도입한 것이다. 인공지능 알고리즘을 법 분야에서 포섭할 때 항상 거론되는 난관이 바로 알고리즘의 불투명성이나 해석 불가능성이다. 인공지능 알고리즘의 블랙박스 위험과 편향성은 법 분야에서 특히 문제가 된다. 기계적 증거 생성에 사용되는 인공지능 알고리즘도 이런 투명성의 결여 문제에 노출되어 있다. 진실과 거짓을 가려야 하는 형사사법시스템에서 블랙박스 위험이 있어서는 아니된다. 그러한 블랙박스 위험은 미국 수정헌법 제5조 및 제14조를 위반한 것이다. 정부가 진위를 가리는 과정의 설명이 없는 증거 생성 시스템에 의존하거나, 증거의 정확성 여부를 따져볼 수 없는 시스템을 사용하도록 강제하는 것은 절차적 정의를 훼손하는 일이다. 인공지능 알고리즘의 블랙박스 위험은 최근 인공지능 알고리즘의 주류인 머신러닝의 특성에서 기인한다.