인공지능 기술 발전이 초래하는 윤리적 문제, 사회적 차별, 경제적 불평등 및 인권 침해에 대한 우려와 사회적 합의의 필요성 doc_id CNTS-00120002474_1

세 번째로, 인공지능 활용이 대중들 사이에서는 아직 본격화되지 않은 만큼, 장차 발생 가능한 문제를 찾아내는 데 있어서 미래 사회를 주제로 한 영화나 드라마를 떠올릴 수 있다. 영화 <그녀(Her)>에서 인공지능 운영체제 사만다가 데오도르와 우정과 사랑을 나눈다. 그러나 사만다는 다중사용자 운영체제였으며 데오도르 외 수천명의 고객과 동시에 대화하는 중이었다. 인공지능을 인격체로 간주하여 반응하는 현상에 대해 앞으로 어떻게 바라보고 공존해가야 하는지 고민해야 한다는 시사점을 던져준다. 그 외 영화 <엑스 마키나> 혹은 드라마 <웨스트월드> 등 예는 셀 수 없이 많다. 과거 인류의 역사를 돌이켜봤을 때, 영화 속 내용이 현실화된 경우가 무시할 수 없을 만큼 많기에 영화를 통한 미래 사회에 대한 고민은 충분히 유의미하다. 인공지능 기술의 발전이 여러 영역에서 좋은 성과를 보이면서, 다양한 분야에서 활용되고 있다. 특히 구글, 마이크로소프트, 아마존 등의 클라우드 기업에서 인공지능 플랫폼과 개발 프레임워크를 제공하면서 기술력이 부족했던 기업도 첨단 수준의 인공지능 기술을 응용할 수 있는 환경이 이루어졌으며, 모바일 환경에서도 인공지능 칩이 내장되어 이제 인공지능은 애플리케이션 개발의 기본으로 기능화 되고 있다. 이와 동시에 개발에 활용된 데이터의 부족함 혹은 편향성이 내재된다거나, 사용 알고리즘 자체에 왜곡, 편향이 내포된다거나 또는 기술 자체의 부족함으로 인해 예상하지 못한 사회적, 윤리적 이슈가 발생하고 있으며 혹은 발생가능성을 보이고 있다. 구글의 이미지 인식 기술의 불완전성이 흑인 여성을 고릴라로 인식하거나, 위챗이 번역 과정에서 니그로라는 단어를 사용하고, 마이크로소프트의 테이 챗봇이 사용 과정에서 인종차별자나 혐오주의자의 표현을 사용하게 된 것 등은 알고리즘의 불완전성 또는 데이터의 부족, 잘못된 학습 등의 결과이다. 인간을 위협하는 인공지능의 출연은 더 이상 영화 속 상상이 아니다. 현실에서 벌어지고 있는 일이다. 탐사보도 전문매체 프로퍼블리카는 범죄 전과자의 얼굴 이미지를 기반으로 재범률을 예측하는 인공지능 알고리즘을 테스트했다. 결과적으로 인공지능은 흑인의 재범률을 백인에 비해 실제보다 훨씬 더 높게 추론했다. 인공지능이 판사를 대체할 경우, 인간은 기계에 의해 인종차별을 당할 수 있는 것이다. 미국 스탠포드 대학이 2017년 발표한 연구도 주목할 만하다. 인공지능에 온라인 데이트 사이트에 공개된 남녀 프로필 사진으로 성적 지향성을 추론하게 한 결과, 인공지능은 사람보다 더 정확한 판단을 내렸다. 성소수자가 감당해야 하는 사회적 불이익을 감안하면, 인공지능이 내놓은 값의 신뢰성을 따지기 전에 이러한 연구 자체도 비윤리적일 수 있다. 인공지능의 학습 알고리즘은 방대한 데이터를 기초로 하는 일종의 통계적 추론이다. 여성, 장애인, 유색인종 등 소수 집단의 데이터는 수집이 어렵기 때문에, 알고리즘이 학습하는 데이터에도 편향성이 생길 수 있다. 기업 인사팀이 수많은 구직자들의 이력서를 1차적으로 필터링하기 위해 인공지능을 도입한다면, 구직자들은 인공지능에 의한 차별을 당하게 되는 것이다. 최근 게임업계는 인공지능 발전에 의한 부작용을 우려하고 있다. 인공지능의 자동화 알고리즘은 인간과 비교할 수 없는 생산성을 자랑한다. 더욱이 최근에는 인간 고유의 영역이라 믿었던 예술 분야에서도 상당한 성취를 보이고 있다. 산업혁명 이후, 신기술은 실업과 양극화, 독과점을 초래해 왔다. 게임산업 역시 같은 위기에 봉착해 있다. 특히 게임은 한계비용 제로의 산업이다. 외식, 제조, 건설 등은 제품의 재생산을 위해서는 반드시 계속해서 원자재를 투입해야만 한다. 하지만 콘텐츠는 일단 만들어 놓으면 무제한으로 제공할 수 있다. 이러한 산업구조는 필연적으로 양극화와 독과점을 부른다. 소비자들은 대형 개발사가 막대한 자금력을 투자한 대작에 몰리고, 상대적으로 중소규모의 작품은 도태되기 쉽다. 인공지능의 발전은 이러한 게임 산업의 폐해에 기름을 붓는 격이다. 양질의 데이터가 필수적인 인공지능 분야에서 시장을 선점한 선도 기업들의 경쟁력은 압도적일 수밖에 없다. 더불어 플랫폼이 중요한 콘텐츠 산업 특성 상 대기업들의 시장 장악력은 독과점으로 이어질 가능성이 크다. 이것은 결국 개발팀의 축소, 나아가 개발자 일자리의 감소로까지 귀결될 수 있다. 자동차가 발명된 이후 교통사고 발생 시 책임소재는 사람에 있었다. 관련 법규에 따라 가해자와 피해자가 나누어지고 과실 비중을 따져 처벌 혹은 보상을 받았다. 자동차를 통제하고 운전하는 주체가 사람이었기 때문이다. 그러나 자율주행 자동차의 출연은 이러한 사법체계를 흔들고 있다. 자동차를 이용하는 것은 사람이지만, 이를 통제하는 주체는 사람이 아닐 수 있기 때문이다. 소비자로서는 난처한 일이다. 사고 발생 시 자동차의 운전자, 자동차의 제조사, 자율주행 프로그램의 개발사 중 어느 쪽에 책임소재를 물어야 할지 혼란스러워진 것이다. 이러한 상황에서 세계 최대 전기차 업체 테슬라는 인공지능 자율주행 자동차 사고의 책임을 운전자에게 돌렸다. 올해 3월, 테슬라의 자율주행 차량이 고속도로 중앙분리대를 들이받았다. 운전자는 사망했다. 테슬라는 운전자가 사고 직전 6초 동안 운전대에 손을 올리지 않았다며, 자율주행 모드에서도 운전자는 운전대를 잡고 주의를 기울일 필요가 있다고 주장했다. 그러면서도 테슬라는 자율주행 시스템이 중앙분리대를 인지하지 못한 이유에 대해서는 공개하지 않았다. 분노, 짜증, 기쁨, 슬픔, 즐거움 등 과업은 달라도 종업원들이 느끼는 감정은 비슷하다. 스트레스를 받으면 화가 나고 성과를 인정받으면 뿌듯하다. 그런데 최근 중국 항저우 중흥전자를 비롯한 일부 기업에서 사람의 감정을 파악해 관리했다는 사실이 드러나 논란이 되고 있다. 종업원들이 착용하는 안전모나 작업용 모자에 무선 센서를 부착해 즐거움, 분노, 기쁨, 슬픔 등을 느끼는 순간을 측정하는 것이다. 인공지능 알고리즘은 비정상적인 움직임을 보이는 종업원의 뇌파를 분류해 노출한다. 사측은 이렇게 종업원들의 감정 데이터를 분석하면 작업 흐름이나 업무량을 적절히 조절할 수 있고, 업무 현장에서 발생할 수 있는 폭력행위 등의 폐해를 방지하는 데도 효과적이라고 보고 있다. 실제로 해당 시스템을 활용하고 있는 모 기업은 장치 도입 후 지난 4년 간 3억 달러 이상의 이익이 발생했다고 발표했다. 종업원들의 감정관리가 업무 생산성 고취로 이어졌다고 주장한 것이다. 그러나 미국 MIT에서 발행하는 잡지, MIT 테크놀로지리뷰는 중국 기업이 발표한 뇌 활동 감시 효과에 회의적인 입장을 보였다. 뇌파검사법을 통해 피부 너머 뇌를 측정하는 것은 그 범위가 매우 제한적이며, 측정 신호에 실제 사람이 느끼는 감정이 잘 반영되는지도 명확히 밝혀진 바가 없다는 것이다. 일각에서는 기업의 경제적 이익 추구로 인해 종업원들의 인권이 침해되고 있다는 지적도 나오고 있다. CCTV 설치도 사생활 침해 논란에서 자유롭지 않은데 뇌파 같은 생체 데이터는 명백한 인권 침해라는 것이다. 중국 기업들은 이와 같은 지적에 별다른 대응을 하지 않고 있다. 그러나 생산성을 위해 사람의 감정을 감시하는 인공지능의 등장은 분명히 우려해야 하는 부분이 있다. 인권을 지키면서도 기술의 발전을 억압하지 않는 새로운 사회적 합의가 필요한 이유다.