OECD AI원칙 수립 및 향후 계획상

상기한 바와 같이 OECD AI 원칙은 신뢰할 수 있는 AI에 대한 5가지 포괄적인 기본원칙과 이러한 원칙을 구현하기 위해 정부가 고려해야할 5가지 사항을 제시하고 있다. 구체적으로 살펴보면 다음과 같다.10) 선진국과 개발도상국 간의 기술 이용 격차에 따른 경제 성장 격차가 커지고 불평등에 대한 우려가 발생함에 따라 OECD AI 원칙은 첫 번째 기본원칙으로 ‘포용적 성장, 지속가능한 개발 및 웰빙’을 제시했다. 동 원칙에서는 이해관계자들의 인적 역량 증대, 창의력 향상, 소외계층의 포용 증진, 경제·사회적 및 성별 기타 불평등 해소, 자연 환경의 보호 등을 통하여 신뢰할 수 있는 AI를 위한 관리책무에 선제적으로 관여함으로써 포용적 성장과 지속가능한 개발, 웰빙을 증진하고 인류 및 지구 환경 모두에 이로운 결과를 추구해야한다고 천명하고 있다. 두 번째로 ‘인간중심의 가치 및 공정성’이다. 동 원칙에서는 AI 활용에 따른 민주주의 가치 및 인권을 훼손하는 일을 방지하기 위해, AI 행위자(actors)가 AI 시스템 수명주기 전반에 걸쳐 법규, 인권 및 민주주의 가치를 준수해야 한다고 명시하고 있다. 또한 이러한 민주주의 가치 수호에는 자유, 존엄, 자율성, 프라이버시, 데이터 보호, 비차별 및 평등, 다양성, 공정성, 사회정의, 국제적으로 인정받는 노동권을 포함하고 있다. 민주주의 가치 수호를 위해 AI 행위자는 이에 부합하는 메커니즘과 보호 장치를 구현할 것을 강조한다. 세 번째로 ‘투명성 및 설명가능성’이다. AI를 통해 도출한 결과를 활용한 의사결정이 다수의 사람들에게 피해가 될 수 있기 때문에, AI에 관한 논의가 시작되면서 투명성 및 설명가능성은 항상 이슈로 떠올랐다. OECD AI원칙은 AI 행위자로 하여금 AI 시스템에 관하여 투명성과 책임 있는 공개를 보장하도록 명시하고 있다. 여기에는 AI 시스템 전반에 대한 이해를 도울 수 있는 정보, 그 결과에 대한 설명뿐만 아니라 AI 시스템의 예측, 권고 또는 결정에 대한 근거로 쓰인 논리와 요소들을 이해하기 쉽게 설명할 것을 요구한다. 네 번째로 ‘견고성, 보안성 및 안전성’이다. 견고성, 보안성 및 안전성 원칙은 AI를 활용함에 따라 디지털보안, 물리적 보안 등 다양한 위험이 발생할 수 있으므로, 이를 방지하기 위해 수립한 원칙이다. 여기서 견고성이란 디지털보안 위험을 포함하여 불리한 조건을 견디거나 극복할 수 있는 능력을 뜻하며, 안전한 AI 시스템이란 물리적 보안을 포함하여 부당한 안전 위험이 제기되지 않는 시스템을 말한다. OECD AI원칙은 견고성, 보안성 및 안전성을 추구하기 위해 ‘추적가능성(traceability)’과 ‘위험관리 접근(risk management approach)’이라는 두 요소를 제시한다. 추적가능성은 AI 시스템의 결과 분석을 가능하게 하고 경우에 따라 질의에 응답해야하는 필요성과 관련된 요소이다. 위험관리 접근은 AI 시스템 생애주기 전반에 걸쳐 시스템의 행동 및 결과에 부정적인 영향을 미칠 수 있는 잠재적 위험을 식별, 평가, 우선순위 지정 및 처리할 수 있는 접근방식을 뜻한다. 이를 통해 프라이버시, 데이터 보안, 안전성, 편향 등 AI 시스템 활용에 관한 위험을 해결하고자 한다. OECD AI원칙은 마지막 기본원칙으로 ‘책임성’을 제시한다. 동 원칙은 조직 또는 개인이 설계, 개발, 운영 또는 구축한 AI 시스템의 수명주기 전반에 걸친 적절한 기능을 수행할 책임에 초점을 둔 것으로, AI 행위자가 자신의 행동과 의사결정 과정에 OECD AI 원칙을 존중할 것을 요청하고 있다. OECD AI원칙은 기본원칙 다음으로 정부 권고사항 5가지를 제시하고 있다. 첫 번째 권고사항은 ‘AI 연구개발에 대한 투자’다. AI를 활용할 경우 경제·사회적 편익이 증대될 것으로 예상되지만, 이는 반대로 AI를 활용하지 못하는 주체와의 격차를 심화시킬 수 있다는 것을 방증한다. 이러한 위험을 최소화하기 위해서는 OECD 회원국은 물론 세계 모든 국가가 AI 연구개발에 대한 투자를 확대해야할 것이다. 동 권고사항은 공공정책과 관련된 AI의 사회적, 법적 및 윤리적 함의에 관한 학제 간 연구에 대한 투자를 요청하는 것으로, AI 연구개발의 핵심요소로 프라이버시, 지식재산권 및 기타 중요한 권리를 침해하지 않는 개방적이고 접근가능하며 대표적인 데이터세트의 가용성을 꼽는다. 또한 전 세계적 관점에서 AI 연구개발을 촉진하기 위해 상호운용성과 표준 사용을 권고한다. 동 권고사항은 후술할 ‘AI를 위한 디지털 생태계 조성’을 보완하기 위한 것으로 볼 수 있다. 네 번째 권고사항은 ‘인적 역량 구축과 노동시장 변혁에 대한 대비’이다. OECD AI원칙 수립을 위한 AIGO포럼에서 지속적으로 논의된 사안은 디지털변혁에 따른 노동시장의 변화였다. 일반 사람들이 AI 활용에 따라 직접적으로 체감할 수 있는 변화이자 부정적 영향을 미칠 수 있는 부문이 일자리이기 때문이다. 동 권고사항은 사람들이 AI에 의한 일자리 대체에 따른 피해를 최소화하기 위해 정부로 하여금 교육 프로그램 제공, 평생교육 시행 확대, 새로운 취업 기회 제공 등을 이행할 것을 권고하고 있다. 또한 직장 내에 AI의 책임 있는 사용을 증진하고, 근로자의 안전과 일자리의 질을 향상시키며 기업가정신과 생산성을 장려할 것을 제시하였다. 마지막 권고사항으로 ‘신뢰할 수 있는 AI를 위한 국제 협력’이다. AI 활용에 따른 경제·사회적 영향은 한 국가에 국한해서 나타나지 않는다. 단순한 예로 미국, 유럽 등의 국가에서 AI를 많이 활용하게 될 경우, 텔레마케팅을 아웃소스 받았던 인도의 근로자들은 일자리를 잃게 된다. 또한 AI 활성화를 위해 필요한 데이터는 국경을 넘어서서 활용되기 때문에 데이터의 국경 간 이동에 관한 이슈가 대두되기도 한다. 두 번째 권고사항은 ‘AI를 위한 디지털 생태계 조성’이다. AI를 활성화시키기 위해서는 초고속 브로드밴드, 컴퓨팅 파워, 데이터 저장소와 같은 물리적 인프라는 물론 상기한 바와 같이 AI 연구개발 촉진, 데이터 공유 메커니즘 등의 제도적 인프라도 필요하다. 동 권고사항은 정부가 신뢰할 수 있는 AI를 위한 디지털 생태계의 발전과 접근을 장려할 것을 권고한다. 여기서 디지털 생태계란 대기업과 중소기업의 활동 모두를 아우르는 것으로, OECD AI원칙 이행을 위한 가이드라인에서 정부가 특히 중소기업을 위한 정책에 특별한 주의를 기울일 것을 당부하고 있다. 세 번째 권고사항은 ‘AI를 위한 정책 환경 조성 및 지원’이다. 동 권고사항은 상기한 ‘AI를 위한 디지털 생태계 조성’을 보완하기 위한 것으로, 정부가 신뢰할 수 있는 AI 시스템을 위하여 연구개발 단계에서부터 배포·운영 단계까지 AI 수명주기 전체에 걸쳐 정책 환경을 조성할 것을 권고한다. 정책 환경 조성 방안으로는 정책 및 규제 프레임워크, 평가 메커니즘을 적절히 검토하고 혁신 및 경쟁을 장려할 것을 제시하였다. OECD는 AI 원칙 수립과 함께 AI에 관한 작업으로 AI 분석보고서(AI in Society)를 발간하였다. 동 보고서는 2018년 상반기에 초안이 작성되었으며, 수정을 거듭하여 OECD AI원칙이 채택된 후 2019년 6월에 정식 발간되었다. OECD AI 분석보고서는 총 5장으로 구성되어 있다. 1장은 AI 기술 동향으로, AI 동향을 이해하고 관련 정책 이슈 규명에 활용할 수 있는 AI 연구 유형론(taxonomy)을 소개하고 있다. OECD는 AI 연구에 대한 유형으로 현재 진행되고 있는 25개의 머신러닝 연구 흐름을 4개의 클러스터(△활용 분야, △머신러닝 기술, △머신러닝 개선 및 최적화 방안, △머신러닝 재맥락화)로 분류하였다. 2장은 AI의 경제 동향 파트로, AI 스타트업 동향 및 통계수치를 제시하고 국가들의 과학 출판물 및 특허 활동을 분석하여 AI 경제 현황을 소개하고 있다. 2장의 결론을 요약하면, 현재 AI 스타트업의 투자 비중이 증가하고 있으며(2011년 3% 미만에서, 2018년 상반기 12%), 미국, 중국, 유럽연합이 전 세계 AI 민간 지분투자의 93%를 차지할 만큼 큰 비중을 차지하고 있다는 것이다. 3장에서는 AI 적용 및 활용 사례를 살펴보고 있다. 동 장에서는 AI 기술을 도입한 △자율주행차량을 포함한 교통, △과학, △헬스케어, △형사사법제도, △보안, △농업, △금융 서비스, △마케팅 및 광고, △증강/가상현실 분야 등 9개 분야를 검토하고, 분야별 정책 기회 및 도전과제를 규명하고 있다. 4장은 공공정책 고려사항으로, OECD에서 2년간 진행한 고잉디지털 프로젝트(Going Digital Project)의 최종 결과물인 통합된 정책 프레임워크(integrated policy framework)의 7가지 차원(△접근성, △활용, △혁신, △직업, △사회, △신뢰, △시장개방성)을 토대로 AI의 잠재력을 극대화하고 AI의 도전과제를 해결할 수 있는 방안 등을 제시하고 있다. 마지막으로 5장에서는 국가 및 기관의 AI 이니셔티브/원칙들을 소개함으로써 AI 정책 동향을 살피고 있다. 동 장에서는 AI 특화 전략을 보유한 국가(캐나다, 중국, 프랑스, 인도, 스웨덴, 영국)와 포괄적 전략 내 AI 행동 계획을 포함한 국가(덴마크, 일본, 영국)의 사례를 검토한다. 또한 국가 간 협의체의 주요 AI 활동, 전기전자기술협회(IEEE), MIT 미디어랩 등 파트너십 기관의 AI 이니셔티브 및 원칙을 소개하고 있다. 조사 결과, AI 관련 이니셔티브는 공통적으로 인간의 가치 및 인권, 비차별, 인식 및 통제, 데이터 접근, 프라이버시 및 통제, 안정성 및 보안, 역량, 투명성 및 설명가능성, 책임성 및 책무성, 사회담론, 측정 등의 요소를 내포하고 있는 것을 확인하였다. OECD AI 분석보고서는 OECD에서 진행하고 있는 AI 관련한 전반적 내용을 다룬 최초의 보고서로, 이후 AI와 관련하여 진행될 작업인 AI 원칙 이행을 위한 실용적 가이드라인에 참조되었으며 AI 정책 저장소 구축에 활용될 예정이다. 자세한 내용은 향후 계획 및 활동에서 후술하기로 한다.