AI의 사회적 영향력 확대에 따른 위험 대응 및 신뢰 가능한 AI 구축을 위한 OECD AI 원칙의 수립 과정과 주요 내용 doc_id PCY_202004201051025721_1

인공지능(Artificial Intelligence, 이하 AI)은 디지털변혁을 견인하는 핵심 기술로 부상하고 있다. AI는 생산성 향상, 효율성 증가 및 비용 절감을 실현시킴으로써 경제의 판도를 바꿀 것으로 전망된다. 또한 사회적으로는 삶의 질을 향상시키고 더 정확한 예측과 판단을 통해 인간의 의사결정을 도울 것으로 보인다. 이러한 순기능과 동시에 AI에 대한 불안과 윤리적 우려도 심화되고 있다. AI 활용에 따른 일자리 대체, 편향된 AI의 결과와 그에 따른 활용, 개인정보침해 등 다양한 도전과제가 예상되고 있다. AI 활용에 따른 혜택을 극대화하고 위험을 최소화하기 위해, 개별 국가들과 AI 관련 기관들은 서로 앞 다투어 AI 전략 및 윤리 가이드라인을 수립하였다. OECD 회원국 및 파트너 국가 중 캐나다, 중국, 프랑스, 독일, 인도, 스웨인, 영국 및 미국은 AI 전략을 수립하였고, 우리나라를 포함한 덴마크, 일본 등 일부 국가는 더 광범위한 AI 관련 실행계획을 수립하였다. AI 윤리 가이드라인의 경우 AI 관련 기관 및 민간 사업자 중심으로 제정되고 있다. 우리나라도 AI에 따른 잠재적 혜택 및 위험에 대응하기 위해 2018년 과학기술정보통신부와 한국정보화진흥원(NIA)이 ‘지능정보사회 윤리 가이드라인’을 수립하였다. 동 가이드라인은 지능정보기술 및 서비스 개발자, 공급자의 책임윤리를 강화하고 이용자의 오남용 방지를 위한 지침을 제공하기 위한 것으로, 공통원칙(공공성·책무성·통제성·투명성) 및 개발자·공급자·이용자별 세부지침을 담은 지능정보기술 윤리의 기본원칙으로 이루어져 있다. 개별 국가 단위의 AI 가이드라인은 우리나라 외에도 일본, 중국, 미국, 싱가포르 등 다양한 국가에서 수립하였지만, 2019년까지 범국가적 수준의 AI원칙은 수립되지 않은 상태였다. AI가 전 세계에 영향을 미친다는 점을 감안할 때, 국제 수준의 합의를 이룬 AI원칙의 필요성이 대두되었다. 경제협력개발기구(Organization for Economic Cooperation and Development, 이하 OECD)는 이러한 수요에 맞춰 2019년 5월, 최초로 정부 간 합의를 이룬 AI 권고안(OECD Recommendation of the Council on Artificial intelligence, 이하 AI원칙)을 수립하였다. OECD CDEP은 2016년부터 AI에 관한 작업을 진행하고 OECD 차원의 AI 가이드라인을 만들 필요성에 대해 논의하였다. 2016년 11월에 열린 제73차 CDEP 정례회의에서는 AI 기술전망포럼을 개최하여 AI 분야의 주요 발전 동향 및 어플리케이션, 사회적 파급력, AI 관련 공공정책 등을 주제로 11명이 패널발표를 진행하였다. 연사들은 공통적으로 보건, 교통 등의 분야를 AI 유망 분야로 전망했으며, AI가 일상생활, 고용환경 등 사회 전반의 변화를 가져올 것이라고 전망하였다. 또한 윤리, 프라이버시, 사회 분야로의 통합, AI 기술에 대한 인간의 감정적 저항성 등이 향후 도전과제이며 이를 해결하기 위한 노력이 필요하다는 점을 강조하였다. 2017년 5월에 개최된 제74차 CDEP 정례회의에서는 일본 대표가 자국의 AI 네트워크 사회에 관해 발표하였다. 동 세션에서는 2017년 3월 일본 동경에서 개최된 AI포럼의 결과와 2017년 4월 일본 다카마쓰에서 열린 G7 ICT 장관회의에서 논의된 AI R&D 가이드라인을 소개하였다. OECD CDEP의 AI에 관한 작업에 일본이 적극적으로 참여하고 있는 바, 이후에도 정례회의마다 일본대표는 자국의 AI 관련 활동을 지속적으로 소개 및 발표하였다. OECD CDEP은 2018년부터 OECD AI 원칙 수립에 관한 논의를 본격적으로 진행하였다. 전 세계에서 AI 활용이 증대됨에 따라 설계자, 개발자, 운용자는 물론 정책결정자를 위한 AI원칙 수립의 필요성이 대두된 바, 2018년 5월에 개최된 제76차 CDEP 정례회의에서 사무국은 AI 분석보고서(AI in Society) 초안을 발표하고 회원국들은 AI에 관한 OECD 이사회 권고안 수립을 위해 전문가그룹(The AI expert Group at the OECD, 이하 AIGO)을 창설할 것에 동의했다. AIGO는 AI원칙 초안(strawman proposal)을 논의하기 위해 결성된 회의체로, 50여 명의 민·관·학·연 등 다양한 이해관계자 AI 전문가로 구성되었다. AI원칙 초안은 개별 기관 및 국가가 수립한 기존의 AI 원칙을 조사·분석하여 작성되었고, AI와 관련된 주제를 유지하면서 OECD 임무(mandate)에 따라 작성하는 것을 목표로 하였다. AIGO는 2018년 9월부터 2019년 2월까지 4차례에 걸친 오프라인 회의를 통해 OECD AI 권고안 초안의 세부내용에 대해 논의하였다. 또한 AI 원칙 수립과 더불어 AI에 대한 정의를 수립하고 AI 생애주기(lifecycle)를 규명하기 위해 산하연구반을 만들어 온·오프라인 회의를 진행하였다. 우리나라는 4차례의 걸친 AIGO 회의는 물론 산하연구반 작업에도 참여하여 의견을 개진하였다. 회원국 대표들은 전문가 차원에서 논의된 AI 권고안 초안을 논의 및 승인하기 위해 2019년 3월 CDEP AI 특별회의를 가졌다. AI 특별회의에서 회원국들은 구체적 내용에 대한 자구 수정을 요청하였고, 사무국은 이러한 의견을 반영하고 구체적 예시와 사례들을 추후에 부속서(companion document)를 만들어 수록할 것을 알렸다. 회원국의 승인을 받은 AI에 관한 이사회 권고초안은 집행위 및 이사회에 회부되어 논의되었으며, 2019년 5월 개최된 OECD 각료이사회(Ministerial Council Meeting, MCM)에서 OECD 차원의 승인을 얻었다. AI원칙에 관한 OECD 이사회 권고안(이하 AI원칙)은 2019년 OECD 각료이사회에서 채택되었다. OECD 36개 회원국뿐만 아니라 6개 파트너국(아르헨티나, 브라질, 콜롬비아, 코스타리카, 페루, 루마니아)이 동 원칙을 채택함으로써, OECD AI 원칙은 AI에 관한 세계 최초의 정부 간 표준 협약으로 기능할 수 있게 되었다. 또한 2019년 6월에 개최된 2019 G20 디지털경제 장관회의에서도 OECD AI원칙을 기반으로 하는 G20 AI원칙이 장관선언문에 수록되었다. OECD AI원칙은 △전문(preamble), △AI 관련 용어의 정의, △신뢰 가능한 AI 이행을 위한 5가지 일반원칙, 그리고 △국가 정책 및 국제협력을 위한 5가지 정부 권고사항으로 구성되어 있다. 구체적으로 다음과 같다. OECD AI원칙은 지금까지 개별 국가 및 기관에서 수립한 AI원칙을 바탕으로 작성되었다. 다양한 AI원칙에서 공통적으로 제시하고 있는 가치를 두고 전문가들이 치열한 논의 끝에 내린 결과물이라고 할 수 있다. 그래서 여타 AI원칙들 중에서 가장 포괄적이면서도 핵심적인 기본원칙을 천명하고 있다고 볼 수 있다. 또한 다른 AI원칙과 다르게 정부가 고려해야할 사항을 직접적으로 다루고 있다. OECD가 국가 간 정책연구 협력기관이라는 점에서 정부 정책 수립 시 고려해야할 사항을 제시하는 것은 강점을 보일 수 있는 부분이라고 판단된다. OECD AI원칙은 AI 수명주기를 분석하여, 각 단계마다 AI 행위자가 고려해야하는 사항을 제시함으로써 정부뿐만 아니라 AI 설계, 개발, 운영자 및 이용자 모두를 대상으로 한다. 하지만 궁극적으로는 신뢰할 수 있는 AI 구축을 위한 정부의 역할을 강조하고 있다고 볼 수 있다.