지능정보화 이용자행태 조사방법론 개발 및 실증

일반적으로 인격권이란 권리주체와 분리될 수 없는 인격적 이익의 향유를 내용으로 하는 인격의 자유로운 발현에 관한 권리로서 인격을 형성, 유지 및 보호받을 수 있는 권리를 말한다. 인격권과 관련된 국내 법 체계는 다음에서 살펴볼 수 있다. 헌법재판소는 헌법 제10조 인간의 존엄과 가치 및 행복추구권 조항이 인격권의 근거라고 판시하고 있다. 구체적으로 헌법 제10조는 “모든 국민은 인간으로서의 존엄과 가치를 가지며, 행복을 추구할 권리를 가진다. 국가는 개인이 가지는 불가침의 기본적 인권을 확인하고 이를 보장할 의무를 진다”고 규정하고 있다. 이는 인간의 본질적인 가치인 인격권이 초국가적 자연권임을 인정한 것이며, 개별적인 법률유보조항을 삭제하여 이를 뒷받침하였다. 제37조 2항은 “국민의 모든 자유와 권리는 국가안전보장 ․ 질서유지 또는 공공복리를 위하여 필요한 경우에 한하여 법률로써 제한할 수 있으며, 제한하는 경우에도 자유와 권리의 본질적인 내용을 침해할 수 없다”고 하여 기본권의 제한을 엄격하게 규정하였다. 1948년 채택된 세계인권선언 제 19조는 ‘모든 사람은 의견과 표현의 자유를 누릴 권리를 가진다. 이 권리는 간섭을 받지 않고 자신의 의견을 가질 자유를 포함하며, 또한 모든 수단을 통하여 국경을 넘거나 넘지 않거나에 관계없이 정보와 사상을 추구하고 받고 전할 자유를 포함한다’라고 명시하고 있으며, 시민적 및 정치적 권리에 관한 국제규약(1966)의 제 19조 1항 ‘모든 사람은 간섭받지 아니하고 의견을 가질 권리를 가진다.’ 및 동조 2항 ‘모든 사람은 표현의 자유에 대한 권리를 가진다. 이 권리는 구두, 서면 또는 인쇄, 예술의 형태 또는 스스로 선택하는 기타의 방법을 통하여 국경에 관계없이 모든 종류의 정보와 사상을 추구하고 접수하며 전달하는 자유를 포함한다.’라고 표현의 자유에 대하여 직접 명시하고 있다. 알고리즘 편향과 관련된 네 번째 쟁점은 알고리즘에 의한 집단극화 문제이다. 집단극화는 사회심리학에서 집단의 의사결정이 구성원들 간의 상호작용 이후 개별적인 결정보다 더 극단적인 방향으로 흐르는 현상을 일컫는다. 인터넷 환경은 같은 생각을 가진 사람들이 좀 더 수월하게 좀 더 빈번하게 논의할 수 있는 공간을 제공해 주기 때문에 인터넷상의 공간에서도 집단극화 현상은 흔히 발견된다. 소셜미디어의 맞춤형 알고리즘은 이러한 집단 구성원간의 동조화(Homophily)를 더욱 촉진시켜 극단적인 정치적 대립각을 더욱 노골화시킬 수 있다. 일라이 퍼리서(Eli Pariser, 2012)는 페이스북과 구글의 맞춤형 검색서비스가 개인의 의사와 상관없이 개인의 취향이나 정치적 지향과 맞지 않는 정보를 걸러내 버림으로서(Filtering-out), 개인은 온전한 진실의 극히 일부분의 정보에 둘러싸여 자신만의 세계에 갇혀 버리게 되는 현상에 주목하여 이를 ‘필터 버블(Filter bubble)’이라고 명명하였다. 알고리즘이 만들어낸 필터 버블에 갇힌 고립된 개인들 간의 편향적 의견은 극단적 정치적 대립과 분열을 야기할 수 있다는 것이다. 개인 정보 혹은 행동데이터(historical data)에 접근 가능성이 높아질수록 정책결정자들이 이러한 데이터에 근거하여 동향을 예측하고 정책을 결정하는 일이 더 빈번해지고 있다. 이에 따라, 이러한 정책 결정의 전 과정이 자동화되는 추세, 즉 알고리즘화되는 추세는 더욱 가속화되고 있다. 그러나 앞서 언급했듯이 이러한 알고리즘에 의한 예측과 결정 과정에 숨겨져 있는 차별적 처우와 관행을 발견하는 일은 결코 쉽지 않은 일이다. 이러한 알고리즘의 차별적 요소를 발견하기 힘든 이유로 다음 두 가지를 들 수 있다. 첫째, 알고리즘의 예측과정에 이용되는 개인 정보(personal data)는 매우 다차원적이라는 점이다. 즉 하나의 변수가 다양한 상황 속에서 다양한 의미와 가중치를 가질 수 있다는 점이다. 금융기관에서 사용하는 개인의 신용등급을 결정하는 알고리즘의 예를 들자면, 비록 알고리즘이 특정 집단을 의도적으로 차별하도록 설계되지 않았다 하더라도 현실적으로 고령의 여성이 신용대출을 받기는 매우 어려운 것이 사실이다. 셋째, 알고리즘 편향은 많은 경우 머신러닝 알고리즘의 바탕이 되는 데이터 그 자체가 가지고 있는 편향에서 비롯될 수 있다. 현재 AI 서비스의 대부분은 머신러닝 기술에 의해 구현되고 있다. 머신러닝은 기존 데이터를 바탕으로 예측 ․ 판단이 가능한 모델(통계적 모델)을 만들고 그러한 모델을 바탕으로 새롭게 입력되는 데이터에 대해서 예측 ․ 판단 기능을 수행하고 모델을 업데이트하는 자동화된 시스템을 의미한다(Andrieu, De Freitas, Doucet & Jordan, 2003). 따라서 머신러닝 알고리즘은 데이터가 가지고 있는 편향 ․ 편견 ․ 선입견 ․ 고정관념(stereotypes)을 그대로 반영할 수밖에 없고 따라서 데이터가 이러한 편향을 품고 있다면 이를 바탕으로 한 알고리즘도 편향적일 수밖에 없는 것이다. 최근 데이터상의 편향을 지적하는 많은 연구가 진행되었는데, 특히 데이터상의 성차별적 ․ 인종차별적 편향에 대한 연구가 많다. 반 미텐버그(van Miltenburg, 2017)의 플리커 3만 장의 사진과 태깅을 데이터로 한 플리커 3만(Flickr 30K) 데이터셋의 편향 분석은 특정 이미지를 묘사하는 데 동원하는 특정 단어에 있어 체계적인 인종적 ․ 성적 차별이 나타남을 보여주었다. 둘째, 알고리즘 편향은 ‘의도되지 않은’ 설계상의 오류에서 비롯될 수 있다. 일례로 구글 포토(Google Photo) 앱의 자동 앨범 생성 알고리즘이 흑인 커플을 ‘고릴라’라고 잘못 태깅(tagging)한 사례가 있다. 구글은 이러한 오류가 발견되자마자 하루 만에 그러한 오류를 시정했고, 물론 이러한 오류는 흑인에 대한 구글의 편견이 반영된 것은 아니었고 단지 구글 이미지 인식 알고리즘의 오류에서 비롯한 것이었다. 비슷한 사례로서 오비츠(Orbitz)라는 호텔 추천 알고리즘이 맥 운영체제 이용자들에게 원도우 운영 시스템 이용자들보다 지속적으로 비싼 가격의 호텔을 추천해서 크게 화제가 된 적이 있었다. 이는 알고리즘이 맥 사용자들에게 차별적으로 설계되었다기보다는 기존 데이터를 바탕으로 설계된 모델을 새롭게 입력된 데이터를 통해 업데이트하는 과정에서 우연한 오류를 일으킨 것으로 밝혀졌다. 이는 알고리즘의 중립성 ․ 공정성보다는 차라리 알고리즘의 정확성과 보다 더 관련 있는 문제로서 뒤에서 알고리즘 정확성에 대한 쟁점을 논할 때 상술할 것이다. 컴파스는 노스포인트(Northpointe)라고 하는 사설회사에서 개발한 약 20여개 주의 미국 법원에서 사용하는 기소된 범죄자에 대한 위험 평가(risk assessment) 알고리즘이다. 컴파스은 1에서 10까지로 구분된 위험평가 등급을 기소된 범죄자에게 부여하여 5 이상의 등급을 받은 범죄자는 재범위험이 높은 것으로 판단하고 이는 판사가 피의자를 구속 수사할 지를 결정하는 데 중용한 참고자료로 활용된다. 그런데 프로퍼블리카라고 하는 미국의 유명 탐사 보도 전문 언론사는 “기계적 편향(Machine Bias)”이라는 제호의 기사에서 미국 플로리다(Florida)주 브로워드(Broward) 카운티의 범죄기록과 컴파스의 위험평가 스코어 그리고 해당 범죄자의 재범기록을 포함한 신상정보 등에 대한 데이터를 입수하여 분석한 후 컴파스 알고리즘을 인종편향적이라 고발하였다.