신기술 발전에 따른 산업 지형의 변화 전망과 대응전략 제1권 종합편 분석틀과 사례요약 paragraph_id 14841

인지컴퓨팅 서비스가 야기한 사회적 문제에 대한 책임이 이를 개발한 인간과 기업에게 있다는 점을 명확히 할 필요가 있다. 구글의 자동 완성 추천어 알고리즘이 2012년 독일 전 총리의 아내의 명예를 훼손하였다고 벌어진 소송에서 법원은 인공지능의 판단을 객관적 사실로 간주하자는 ‘알고리즘적 중립성’을 인정하지 않고 유죄를 선언하였다(Dormehl, 2014: 275-278). 인공지능이 수행한 결과에 대한 책임이 인공지능을 개발한 인간에게 있다는 점을 명확히 한 판결로서 인지컴퓨팅 개발 기업은 발생 가능한 각종 문제를 사전 예상하고 선제적인 조처를 취하는 노력이 필요하다. 기계학습 알고리즘이 주어진 데이터를 학습하여 작동한다는 원리를 역이용하여 시스템을 교란시키려는 악의적인 사용자들도 등장 가능하다. 예를 들어 검색창에 자기에게 유리한 또는 경쟁자에게 불리한 텍스트를 대량 입력하는 것이다.