유엔 인권최고대표 "AI 기술 사용 중단해야"

"인권에 미치는 영향 검토하지 않으면 재앙적 결과 가져올 것"

미첼 바첼레트 유엔 인권최고대표가 15일(현지시간) “인권에 중대한 위험을 안길 수 있는 AI(인공지능) 사용을 중단해야 한다”고 요구했다. 그가 말한 AI 기술에는 공공장소에서 사람들의 얼굴을 스캔하는 시스템도 포함된다.

AP통신에 따르면 바첼레트 대표는 국제 인권법에 부합하지 않는 AI 기술을 즉각 금지할 것을 촉구했다. 그러면서 정부가 사람의 행동을 바탕으로 그를 점수화하거나 인종, 성별에 따라 사람을 분류하는 AI 툴을 예로 들었다. 

바첼레트 대표는 “AI 기술이 선한 영향을 행사할 수도 있지만 인권에 미치는 영향을 면밀히 검토하지 않는다면 부정적이고, 심지어 재앙적인 결과를 가져올 수 있다”고 강조했다. 그는 안면 인식 기술의 전면 금지를 요구하지는 않았지만 “정부는 이런 기술이 정확하고, 차별적이지 않으며 개인 정보 보호 및 데이터 보호 표준을 충족할 수 있을 때까지 사람의 특징을 스캔하는 것을 중단해야 한다”고 덧붙였다.

그의 이번 발언은 ‘정부와 기업이 제재나 검토가 수반되기 전에 AI 적용에 뛰어든다’는 내용의 UN 보고서가 발간된 뒤에 나온 것이다. 보고서는 특정 국가를 언급하지는 않았지만, 얼굴 인식 기술은 중국에서 폭넓게 활용되는 것으로 알려졌다. 특히 신장 자치구에서 감시용으로 악용된다는 지적이 나온다. 

보고서는 사람의 표정이나 신체 움직임으로 감정과 정신 상태를 추정하는 도구에 대해서도 우려를 표했다. 이런 기술이 편견에 취약하고 과학적 근거가 떨어진다는 이유에서다. 

윤지로 기자 kornyap@segye.com