지능정보기술 사회에서 알고리즘의 편향성 및 불투명성으로 인한 부작용을 해결하기 위한 알고리즘 투명성과 책무성 확보 및 이용자 보호 방안에 관한 논의 doc_id CNTS-00118872225_1

현 시기는 4차 산업혁명이 주요 의제로 사물인터넷(Internet of Things; IoT), 인공지능(Artificial Intelligence; AI), 3D 프린팅, 로봇, 빅데이터, 바이오 등 고도화된 기술혁명을 통한 산업, 경제, 사회, 생활 삶 전반에서 혁신적인 기술이 미치는 영향력에 주목도가 증가하고 있는 기술환경사회로 정의될 수 있다. 이용자의 지능정보기술에 대한 정보이용 보호관점에서 비판적으로 제기되는 문제점으로 알고리즘 결과값의 차별성, 알고리즘 작동 시 비윤리적으로 수집되는 개인정보와 관련한 데이터, 알고리즘 작동방식의 타당성과 투명성 등이 학술적이고 실증적인 차원에서 주요한 논제로 떠오르고 있다. 따라서 지능정보기술 이용의 일상화가 도래하는 현 시점에서 2장에서는 알고리즘 이용과 관련한 선행연구의 쟁점 및 이슈를 통합적으로 검토하고, 이를 통하여 지능정보기술이 이용자에게 미칠 부정적 효과와 이와 관련한 이용자 보호에 대한 정책 차원의 선제적 대응과 법적 규제의 범위와 내용을 제안하고자 한다. 최근 지능정보기술의 발전으로 빅데이터, AI, IoT 등의 혁신적인 기술의 일상적 이용이 늘어나고 있는데 이러한 최신 서비스는 주로 컴퓨터 알고리즘을 기반으로 하고 있다. 이렇게 알고리즘 기반 서비스가 급속도로 확산되는 원인은 사람들이 인간을 대신해서 알고리즘이 특정 사안에 대해 더 ‘정확하고’, ‘효율적인’ 판단을 내려준다고 믿기 때문이다. 또한 선입견과 편견이 개입하는 인간의 판단과 달리 알고리즘 기반의 ‘기계’가 내리는 판단은 공정할 것이라는 믿음이 또 하나의 이유일 것이다. 흔히 알고리즘은 자동화된 연산 체계 정도로 이해되기 때문에 알고리즘이 열심히 일해 뽑아내는 결과물은 객관적이고 불편부당하며 가치중립적일 것이라 여겨진다. 그러나 최근 몇몇 저널리즘과 학계에서는 사람들과의 믿음과 달리 알고리즘에도 편향이 개입할 수 있음을 지적하고 있다. 알고리즘을 수행하는 컴퓨터는 계산 능력을 가지고 있지만, 스스로 판단하거나 해석할 수 없고, 데이터를 선택하고 문제를 푸는 절차나 방법을 제시하고 알고리즘을 설계하는 것은 사람의 몫이기 때문이다. 특히 이러한 알고리즘 편향의 문제는 지능정보기술 사회에서 이용자 보호 측면에서 시급히 해결해야 할 문제임에도 불구하고 아직 체계적인 논의가 부족한 형편이다. 알고리즘 기반 서비스가 금융, 의료, 법률 등 사회 전반에 도입되면서 우리 일상 깊숙이 영향을 미치고 있다. 하지만, 동시에 마이크로소프트사가 개발한 인공지능 챗봇 테이가 인종차별 ․ 욕설 등을 학습한 후 차별적 언어를 쏟아낸 사례에서 보여주듯 보고되는 부작용의 사례도 증가하는 추세이다. 인공지능 알고리즘의 효율성과 예측 능력은 날로 발전하고 있지만, 효율성과 예측 능력의 향상을 위해서 점차 알고리즘이 고도화됨에 따라 알고리즘이 내리는 의사결정 과정은 더욱 불투명해지고 있다. 즉 알고리즘에 의한 이용자들의 행위데이터를 기반으로 한 의사결정은 증가하고 있지만 어떠한 과정을 거쳤는가에 대해서는 거의 공개되지 않는다. 이에 따라 인공지능 알고리즘의 행위와 판단을 사람이 이해할 수 있는 형태로 설명할 필요성이 대두되면서 알고리즘 투명성(algorithmic transparency), 책무성(algorithmic accountability)에 대한 논의도 활발하게 전개되고 있다. 인공지능 알고리즘이 중립적이고 공정할 것이라는 일반인들의 믿음과 달리 최근 알고리즘이 차별적이고 편향된 결과를 도출한다는 부정적인 사례가 보고되고 있다. 우리나라에서도 최근 포탈 뉴스 알고리즘의 실시간 검색어 순위 조작 및, 음원사이트의 순위 조작, 영화 추천 사이트의 평점조작이 사회적 이슈로 등장함에 따라 알고리즘 편향 문제가 부각되고 있다. 우리나라보다 이러한 문제를 더 일찍 인지한 서구에서는 유럽연합(EU)이 2016년에 발표하고, 2018년 5월에 발효한 일반개인정보보호법(GDPR)을 통해 알고리즘 작동원리나 목적을 뚜렷이 명시할 것을 명문화하고 있다. 학계에서도 굿맨과 플랙스먼(Goodman & Flaxman, 2016)의 논문에서 알고리즘의 설명책무성 원리를 처음 도입한 이래 이용자 보호와 알고리즘 규제에 관한 학문적인 논의를 이어오고 있다. 최근의 연구들은 이러한 편향과 개인 정보 유출에 대한 이용자들의 불안감을 알고리즘 서비스의 작동원리나 목적을 어느 정도 설명함으로서 낮출 수 있다고 제시하고 있다. 그러나 어떤 면을 어느 정도로 설명해야 하는지에 대한 구체적인 대안 제시에는 미흡한 형편이다. 알고리즘을 기반으로 한 서비스는 인간의 편향으로부터 벗어나 보다 객관적이고 중립적인 시각에서 상황을 판단한다고 생각하기 쉽다. 이러한 믿음과 함께 알고리즘의 산업적 활용의 폭이 넓어지며 기술이 일상생활의 편리함을 제공하는 것을 넘어 인간의 일상을 재편하고 있다. 그러나 알고리즘 기반 기술의 적용 범위가 확대됨에 따라 인간의 보편적 권리와 충돌하는 사례도 점차 늘어나고 있으며, 이러한 현실에서 이용자 보호 측면에서의 알고리즘 이용의 윤리적 이슈들에 대한 기존 연구는 단편적인 사례 분석이나 쟁점 소개에 그치고 있다. 따라서 종합적인 시각에서 논의할 이론적 토대를 마련하고 새로운 방법론적 시도가 필요한 시점이다. 구체적으로 기존 연구들이 가지는 한계점은 다음과 같다. 우선 알고리즘 책무성과 관련하여 최근 연구들은 알고리즘의 편향이나 조작, 혹은 개인 정보 유출로 인한 이용자의 심리적 불안을 알고리즘에 대한 서비스 제공자의 설명 및 고지로 어느 정도 경감할 수 있다고 지적하고 있는 반면, 알고리즘의 어떤 측면을 어느 정도로 설명해야하는 지, 또는 알고리즘의 설명 효과는 어느 정도인지에 대한 경험적 연구는 거의 없는 형편이다. 이는 알고리즘 책무성에 대한 그간의 연구가 방법론적으로 문헌조사나 면접조사 정도에 머물러 있었기 때문이다. 책무성(accountability)이란 사회적 주체가 스스로의 활동을 공개적으로 알리고 설명할 책임으로 정의할 수 있다(안창현, 2008). 마이크로소프트사의 CEO인 사티아 나델라(Satya Narayana Nadella)가 제안한 인공지능 규칙 중 5번은 ‘인공지능은 의도하지 않은 피해를 인간이 복구 할 수 있도록 인간에 대한 알고리즘 차원의 설명 책임을 지닌다’라는 내용을 담고 있다. 알고리즘의 편견과 비윤리성으로부터 인간을 보호하기 위한 장치로서 알고리즘 책무성을 강조하고 있는 것이다(배진아, 2017 재인용). 알고리즘에 있어 책무성이란 결국 알고리즘이 작동하는 방식에 대한 설명 가능성을 의미한다. 알고리즘 책무성(algorithmic accountability)은 알고리즘 투명성과 일맥상통하는 개념으로 알고리즘은 편향적이고 배제적인 결과를 초래할 수 있어 그 내용을 투명하게 공개하고 설명해야 한다는 것이다. 또한 알고리즘 책무성은 알고리즘 개발자와 사업자가 ‘사회적 책임성’이라는 공적 가치에 의해 스스로 규제한다는 것을 의미한다(이원태, 2016). 올해 5월 발효된 유럽연합의 일반개인정보보호 규정(GDPR: General Data Protection Regulation)에는 ‘개인은 자동화된 개인정보 처리 과정에 대해 설명을 요구할 권리를 갖는다.’는 내용의 알고리즘 책무성에 관한 조항이 포함되어 있다. 현재 알고리즘의 의사결정에 관한 문제제기가 지속적으로 제기되고 있으나 알고리즘의 공개 범위와 설명방식 등에 대한 정확한 방법은 논의되지 못하고 있다. 앞으로의 알고리즘 매개사회에서 알고리즘 투명성이나 책무성이 새로운 미디어 규제 이슈로 대두될 것으로 예상된다. 본 절에서는 알고리즘 편향 검증을 위한 알고리즘의 투명성과 투명성 확보를 위한 대응과 더불어 그 대응에 있어 한계를 다루고자 한다. 또한 유럽연합의 일반개인정보보호 규정(GDPR)의 설명을 요구할 권리(Right to explanation)를 살펴보고, 마지막으로 알고리즘 책무성의 정의를 다루고자 한다.