지능정보화 이용자행태 조사방법론 개발 및 실증

코버트－데이비스(Corbett-Davies et al., 2017) 등은 알고리즘의 ‘차별적 효과’라는 측면에서 컴파스의 편향과 공정성간의 딜레마에 접근한다. 그들에 따르면, 컴파스는 애시당초 ‘정확성’에 초점을 맞추어 설계된 알고리즘이다. 따라서 정확성 측면에서 인종 간 차이가 없었다는 것은 인종주의적 편향은 알고리즘 설계 그 자체에는 포함되지 않았다고 할 수 있다. 그럼에도 불구하고 ‘결과적으로’ 거짓 양성 비율에 있어 불평등을 보이는 이유는 흑인들의 기본적인 재범률(baseline recidivism probability) 자체가 백인들보다 높기 때문이라고 설명한다. 이어서 그들은 만일 차별적 효과까지 고려한 공정성 즉 결과적 공정성, 산술적 동등성(statistical party)까지 알고리즘 설계에 반영하기 위해서는 인종별로 다른 의미의 ‘차별적’ 기준(산술적으로 백인에게는 5 이상을 높은 위험 인물로 분류, 흑인에게는 7 이상을 높은 위함 인물로 분류)을 적용하는 수밖에 없다고 지적하고 있다. 즉 뉴스 추천 알고리즘 조작으로 인하여 사용자의 뉴스 콘텐츠 선택 ․ 이용 상의 감정전이를 통한 일종의 편향이 발생한 것이다. 문제는 페이스북이 사용자 수십만 명을 대상으로 실험을 진행하면서 어떤 통보도 하지 않았다는 점이다. 나도 모르는 사이에 페이스북이 내 감정을 마음대로 조작했다는 사실만으로도 사용자는 충분히 불쾌할 만한 일이다. 알고리즘은 여러 측면에서 현실세계에 큰 영향을 끼칠 수 있다. 특히 풍부한 정보에 접근 가능하도록 도와주는 검색 알고리즘이 일련의 조작에 의해 편향을 드러낸다면 우리가 가장 빈번하게 노출되는 알고리즘이니만큼 그 영향력은 더 크다 할 수 있다. 뉴타이와 루이스(Nechushtai & Lewis, 2018)의 구글 뉴스(Google News)를 대상으로 한 최근 실험은 검색 알고리즘의 편향을 나타내주는 또 하나의 사례이다. 이들은 168명의 실험 참가자들에게 힐러리 클린턴(Hilary Clinton)과 도날드 트럼프(Donald trump)를 검색하게 한 후 구글이 어떤 뉴스를 추천하는지를 살펴보았다. 사실 이러한 알고리즘 조작에 의한 사람들의 인지 ․ 선택 ․ 판단상의 편향 현상은 사회과학계에서 여러 번 실험적으로 검증한 바 있다. 구안과 커트렐(Guan & Cutrell, 2007)은 시선 추적(eye tracking) 방법을 사용하여 검색 알고리즘에 의해 결정되는 검색 순위가 사람들의 검색에 어떤 영향을 미치는지를 검증하였는데, 사용자들은 두 번째에 나타난 결과가 보다 관련성이 있더라도, 첫 번째 검색 결과를 클릭하는 경향이 있었음을 밝혀냈다. 레즈닉과 알버트(Resnick & Albert, 2014)도 역시 시선 추적 방법을 사용하여 상업적 페이지 내에서 웹 배너 광고의 위치가 배너광고를 무시하려는 이용자의 경향성(Banner blindness)에 영향을 미침을 보여주었다. 미국등 2개국에서 진행된 엡스타인과 로버트슨(Epstein & Robertson, 2015)의 검색엔진 알고리즘 조작 실험은 알고리즘이 심지어 선거 결과까지 뒤바꿀 수 있음을 암시하고 있다. 이들의 실험은 실험 처치된 편향된 검색 결과 순위가 부동층의 투표선호도를 20% 이상 이동시킴을 보여주었는데 대부분의 피실험자들은 실험에서 검색순위가 조작된 바를 인지하지 못했다. 둘째, 흔히 알고리즘에 의한 차별은 간접적인 방식으로 이루어진다는 점이다. 현대 대부분의 선진국에서는 인종이나 성별과 같이 차별로 이어질 수 있는 보호 속성(protected attributes)의 비식별화 조치를 취하고 있다. 따라서 알고리즘의 예측 ․ 결정 과정에서 이러한 보호 속성 변수들이 직접적으로 동원되지는 않는다 할지라도 좀 더 간접적 방식으로 알고리즘의 결정과정에 관여할 수 있다. 예를 들어 특정 지역 거주민들의 신용등급이 지속적으로 저평가 받는 상황의 경우, 인구통계학적으로 이 지역이 특정 인종 밀집 거주 지역이라면, 우리는 알고리즘이 간접적으로 인종차별적인 방식으로 작동하지 않았는지 의심해 볼 수 있다. 물론 이러한 의심과 추론은 생태학적 오류(ecological errors)에 빠지기 쉬운 추론이기 때문에 이러한 의심과 추론을 지지하는 엄밀한 과학적 방식에 의한 증거가 뒷받침되지 않는다면 지지되기 어렵다. 일반적으로 데이터마이닝은 알고리즘에 의한 차별과 편향의 주요 원인으로 지적되어왔다. 특히 머신러닝의 지도학습 방식인 분류 알고리즘(Classification algorithm)의 경우 주로 개인의 이력 및 행동 데이터에 기반하여 특정 모델을 개발한 뒤, 분류되지 않은 표본 집단에 모델을 적용시키는데, 앞서 언급했듯이 이러한 과정에서 데이터 자체가 포함하고 있는 차별적 ․ 편향적 요소가 반영되기 쉽다. 그러나 루기에리, 페드레티, 튜리니(2010)는 반대로 데이터 마이닝 기술이 알고리즘의 차별을 발견하는데 강력한 수단이 될 수 있다고 주장하며, 잠재적인 알고리즘에 의한 차별 위험을 진단하고 분석하기 위한 기준으로서 차별적 분류 기준(discriminatory classification rules)을 제시한다. 알고리즘이 사용하는 테스트 데이터셋에 차별적 분류 기준을 적용함으로서 데이터 자체가 내포하고 있을지 모르는 직 ․ 간접적인 편향을 검출하고, 특정 상황에서 차별이 발생하였는지를 측정할 수 있는 구체적인 기준을 제시할 수 있다고 하며, 이러한 과정을 프로그램화한 편향 검출 알고리즘을 디큐브(DCUBE)라 부른다. 차별적 효과로서의 알고리즘 편향은 알고리즘 개발 주체가 그 프로세스를 전부 공개하지 않는 한 확인하기 어렵다. 또한 설사 알고리즘 개발 주체가 그 프로세스를 공개한다 할지라도 알고리즘이 어떻게 그러한 판단 혹은 평가에 이르게 되었는지를 밝히는 것은 쉽지 않은 문제이다. 최근 들어 개발자가 알고리즘을 공개하지 않는다 하더라도 알고리즘 모델 생성에 사용하는 데이터를 통해서 알고리즘의 편향과 차별적 효과를 발견하고 교정하는 방법이 개발되었지만, 차별적 효과로서의 알고리즘 편향의 문제가 단순히 기술적 방법으로 해결할 수 있는 문제인지는 여전히 의문이다. 왜냐하면 차별적 효과로서의 알고리즘 편향의 문제는 사회적 합의가 필요한 다음의 쟁점 － ① 알고리즘의 공정성과 정확성과의 균형(trade-off) 문제, ② 알고리즘의 정확성 문제, ③ 알고리즘 영향력에 따른 규제 정도의 문제, ④ 맞춤형 알고리즘에 의한 집단극화(group polarization) 문제, ⑤ 알고리즘에 의한 배제의 문제－들과 긴밀히 연관되어 있기 때문이다. 최근 연구들이 지적하고 있는 바와 같이 알고리즘의 정확성 및 효율성과 공정성의 문제가 상호배타적이라면 어느 수준에서 또한 어떤 방식으로 정확성과 공정성 사이의 균형점을 찾을 것인가 하는 것이 주요 이슈로 증장할 것이다. 이는 기본적으로 알고리즘 서비스 사업자 와 알고리즘 서비스 이용자 간 사회적 합의가 필요한 문제라 하겠다. 이 점에서 정책당국은 알고리즘 편향 문제에 대한 일반인들의 경각심을 일깨움과 동시에 사업자 측에 이에 대한 주의 의무를 부과하는 방향으로 정책을 마련하는 것이 필요해 보인다. 그러나 기본적으로 사업자측은 알고리즘의 정확성과 효율성을 우선 과제로 추구하기 마련이기 때문에, 공정성 측면에서 얼마나 이러한 사업자의 목적을 조정할 수 있는 지 협의할 수 있는 사용자, 정책당국, 사업자간의 협상의 장을 마련하여 알고리즘 서비스 산업의 지속적인 성장을 저해하지 않으면서 동시에 이용자를 보호할 수 있는 균형점을 마련하는데 정책적 노력을 기울여야 할 것이다. 또한 이러한 논의의 바탕은 기본적으로 알고리즘이 정확성하다는 전제를 기반하고 있다고 할 때, 공공의 이익에 크게 영향을 미치는 알고리즘 서비스의 경우 정확성과 공정성에 대한 상시 영향 평가가 필요한 시점이라 할 수 있다.