"AI시대 주도" 윤리지침 세우는 각국.. 한국은 '지지부진'

인공지능시대 부작용 최소화 고민 나서 / EU 집행위, 사생활 보호 등 지침 발표 / 중국·일본, 개인정보·데이터 관리 강화 / 미국 ICT 기업들 앞서 자율규제 추진 / 우리정부 가이드라인 원론적 수준 그쳐 / 법제 토대 마련 없이 가시적 성과 욕심

# 제조업 분야에서 공개채용 과정에 AI를 도입하는 경우 여러 공채 기록 데이터를 바탕으로 AI 시스템을 교육하는 과정이 선행돼야 한다. 모든 데이터를 차별 없이 입력시켰지만, AI는 근로자의 대부분이 남성이라는 사실을 학습하게 될 수 있다. 기업은 성차별 없는 채용을 진행하려 한다 하더라도 AI가 채용과정에서 남성성을 선호하거나 높은 점수를 줄 수 있다.

# 장애인이 장착한 로봇팔을 누군가가 훼손할 경우 이는 기물파손일까, 과실치상일까. 이에 앞서 로봇팔을 사물로 볼 것인가 신체의 일부로 볼 것인가에 대한 논란이 발생한다. 로봇팔이나 관련 인공지능(AI)의 오작동으로 인해 피해가 발생할 경우도 가볍게 여길 수 없는 부분이다.

기술 발달로 AI가 사회 곳곳에 침투하면 인간과의 경계가 모호해지거나 AI가 의도치 않은 결과를 낳게 된다. AI는 시작부터 인간에게 이롭게 쓰여야 한다는 전제 속에서 개발되지만 실제 운용 과정에서는 다양한 문제가 생겨날 수밖에 없다. 세계 각국에서 AI의 법적·윤리적 책임 문제를 고민하고 있는 이유다.

◆AI 지침 정비 나서는 세계

유럽연합 집행위원회(European Commission)는 최근 AI 윤리 지침(인간 중심 인공지능에 대한 신뢰 구축)을 발표했다. △인간의 주체성 보장 △안전성과 정확성 △사생활 보호와 데이터에 대한 인간의 통제권 △투명성 △다양성과 비차별성, 공정성 △환경적·사회적 행복 △책임성 등 7개항으로 이뤄진 지침은 가이드라인 성격으로 법적 구속력은 없다. 그러나 유럽연합은 AI 기술에 대한 세계 리더가 되겠다는 목표를 밝히며 단계별 공동 투자계획과 실무적 구현 등에 대한 청사진을 제시했다. 이를 실현하기 위해 기업과 사회단체 등 각 분야의 전문가 52명이 모인 AI 전문가그룹(HLEG)이 출범했고 곧 AI 경쟁력 강화 및 투자권고안 등이 모습을 드러낼 전망이다.

일본 또한 지난해 말 ‘인간의 기본권 존중’ 및 ‘개인정보 관리’, ‘기업의 책임’ 등의 내용을 담은 AI 활용 원칙을 마련했다. 일본 정부는 이 원칙을 토대로 법을 정비하는 한편 국내에서 활동하는 외국기업에도 적용한다는 계획이다.

중국은 BATI(바이두·알리바바·텐센트·아이플라이텍)으로 불리는 4대 인공지능 기업을 선정하고 데이터 및 AI에 대한 관리를 강화하고 있다.

각국이 마련한 AI 윤리 지침은 데이터 및 개인생활보호 등과 관련한 안정성과 개발주체의 책임성, 비차별성 및 공정성, AI 개발·운영의 모든 단계를 인간이 이해할 수 있어야 한다는 것과 관련한 투명성 등을 골자로 하고 있다.

◆글로벌 기업 중심 토대 구축한 미국

구글과 마이크로소프트, 애플, 아마존, 페이스북 등 글로벌 정보통신기업(ICT)이 포진한 미국은 이들 기업을 통한 자율규제 형태였다. 정부가 가이드라인을 제시하기에 앞서 기업들이 먼저 관련 준비를 해온 셈이다.

구글의 경우 ‘과학적 우수성에 대한 높은 기준을 유지한다’는 항목을 추가한 것에서도 알 수 있듯 기술 개발의 가능성과 이로 인한 편리성 등에 좀 더 초점을 맞췄다. 관련 문건에서 기술의 진화와 함께 오픈소스 등 보편화에 대한 내용을 언급한 것도 이러한 차원으로 볼 수 있다. 다만, 우려와 관련한 부분에 대해서는 별도로 ‘인명 피해를 야기하는 무기 기술’이나 ‘감시목적으로 정보 수집하는 기술’ 등과 같이 AI를 활용하지 않을 분야를 명시했다.

마이크로소프트는 책자 발간 등을 통해 법적 규율에 대한 좀 더 상세한 내용을 공개했다. 현세대가 AI와 관련한 일상을 경험할 최초의 세대이지만 현행 법률 및 규제가 AI를 고려하지 않고 제정된 만큼 관련 법과 세계의 다양한 관련 규정을 참고했다. 미국의 공공정보규정(Fair Information Practices)과 유럽연합의 포괄적 데이터 보호지침(Data Protection Directive)·일반데이터보호규정(General Data Protection Regulation) 등이 대표적이다. 아울러 AI의 근간인 데이터와 관련해서는 소수의 기업에 쏠림현상 등 부작용을 우려해 공정한 경쟁과 정부의 감독에 대한 고려 부분도 함께 제시하고 있다.

마이크로소프트는 AI 기술 중 한 분야인 ‘대화형 AI봇’에 대한 개발자의 10가지 지침도 발표한 바 있다. 이 지침에는 인간과 봇의 상호작용, 언어 등 다양한 문화규범 존중 등 분야에 맞게 보다 세부적인 내용을 규율했다.

◆원론적 논의 수준에 머문 한국

우리 정부는 지난해 5월 윤리헌장과 지능정보사회 윤리 가이드라인을 마련했다. 공공성·책임성·통제 가능성·투명성의 4가지 원칙과 관련 실천항목 등을 담았지만 원론적 수준에 그치고 있어 분야별로 적용하기에는 갈 길이 멀다는 의견이 지배적이다. 과학기술정보통신부 관계자는 “세계 추세에 맞춰 우리 정부도 대응해왔지만 현시점에서 국내의 AI 윤리에 대한 이슈는 원론적 논의 수준”이라며 “기술 발전 양상과 구체적 서비스 모델을 감안해 실효성을 높일 수 있는 규범화 방법을 모색해야 한다”고 밝혔다.

글로벌 시장조사기관인 CB인사이트가 올해 발표한 AI 분야 100대 유니콘(기업가치 10억달러 이상의 스타트업) 리스트에서 미국은 77개로 압도적인 1위를 차지했고 중국·영국·이스라엘(각 6개)이 2위를 차지했다. 독일과 일본, 인도 등은 1개 기업씩 이름을 올렸지만 한국은 100위 안에 든 유니콘이 없었다. 중국의 경우 AI에 대한 투자를 아끼지 않으며 미국의 1위 지위를 위협하고 있다. 국제무역연구원에 따르면 지난해 중국의 AI 산업 규모는 전년 대비 75% 성장해 7조원을 돌파했고 관련 인력은 2만명에 육박하고 있다.

이러한 상황이지만 정부는 올해 초 ‘데이터·AI 경제 활성화 계획’을 통해 2030년까지 AI 분야에서 유니콘 기업 10개를 육성하겠다고 발표했다. AI와 관련한 질서·법제의 토대도 마련되지 않은 상황에서 성적부터 내겠다는 상황이다.

박승혁 국제무역연구원 수석연구원은 “우리나라는 의료와 선박영업 등 일부 산업 분야에서 AI를 활용하기 시작한 단계”라며 “향후 더욱 다양한 분야에서 AI 적용방안을 모색해야 한다”고 설명했다.
 
김준영 기자 papenique@segye.com