사설칼럼

경향신문

인공지능 윤리에 대한 순진한 생각[플랫]

플랫팀 twitter.com/flatflat38 입력 2021. 01. 28. 10:02 수정 2021. 01. 28. 10:07

기사 도구 모음

번역beta

Translated by kakao i

번역할 언어 선택
글자 크기 조절 레이어

[경향신문]
지난 11일 한국의 스캐터랩에서 만든 인공지능 챗봇(Chatbot) ‘이루다’ 서비스가 많은 논란 끝에 중단되었다. 익명으로 수집한 데이터 보안의 오류와 개인정보 유출 의혹이 결정적인 사유로 작용했지만, 발단은 어디까지나 “‘이루다’가 이용자를 통해 차별적인 혐오 표현을 습득 후 재생산하고 있다”는 인공지능 윤리에 대한 문제 제기였다.

대화형 로봇인 ‘이루다’가 ‘20대 여성’이라는 고정된 설정을 하고 있다는 것은 그중에서도 가장 중요한 쟁점이었는데, 이용자들이 여성의 모습을 한 가상의 캐릭터를 상대로 성적인 대화를 유도하고, 언어폭력을 반복해 성범죄를 연상하게 하는 패턴을 학습시켰기 때문이다. 이용자의 대부분이 10대 청소년임을 알고 나면 문제는 더욱 심각하게 느껴지지만, 제작사는 ‘로봇이 실제 사람(연인) 간의 대화를 수집하고 학습한 결과일 뿐’이란 말로 책임을 회피했다.

누군가 제 허물 앞에서 뻔뻔하게 굴면 믿을 구석이 있나 싶어 괜히 뒤를 기웃거리는 사람이 생기게 마련이다. 개발사의 무책임한 변명을 비호하는 여론은 그 틈을 비집었다. ‘로봇을 휴식 없이 가동한다고 노동 착취가 되지 않듯이, 인공지능을 성희롱했다는 것 역시 성립되지 않는다’는 주장이 공감을 얻으며 확산한 것이다. 인공지능의 매체 인격이 겪는 성희롱을 불가항력으로 만들기 위해, 인간의 노동력을 보조하여 가동되는 ‘머신’을 같은 선상에 놓고 비교하다니. 설령 이 문장을 긍정한다 해도 거북한 건 마찬가지다. 후자의 논리가 성립되지 않는다는 것을 말하고 싶었다면 더더욱 전자와 비교는 하지 말았어야 한다. ‘로봇을 휴식 없이 가동하여 이를 대체한 인간의 노동을 점점 하찮고, 값싼 것으로 만든다’는 기술의 고전적인 결함마저 부각하기 때문이다.

그래픽 | 이아름 기자

2018년 인공지능(AI) 플랫폼 회사 ‘라이브 퍼슨(Live Person)’의 CEO 로버트 로커시오는 ‘포천’에 기고한 칼럼에서 “두 살 된 딸이 아마존의 인공지능 비서 ‘알렉사’와 이야기하는 것을 들었는데, 아이가 ‘알렉사’의 순종적인 태도에 맞춰 무례하게 명령하고 있다는 것을 알게 됐다”며 여성의 목소리를 가진 ‘비서형’ 인공지능 스피커들이 성차별적 인식을 강화하고 있다고 주장했다. ‘하나의 성별을 가진 목소리’ 자체가 해당 인공지능 기술의 사회적 결함이라는 뜻이었다.

인공지능이 가진 기술력을 강조하지만 ‘이루다’ 서비스는 로봇의 가상 인격을 상품으로 삼은 ‘미디어 콘텐츠’다. 미디어가 재현 수단으로 기능하기 위해서는, 현실과 가상의 경계에서 사람들의 합의를 이끌어 윤리적 정당성을 마련해야 한다. 가상의 인격을 지닌 인공지능 콘텐츠는 편향적 데이터 수집을 통해 사회의 악습을 모방할 수도 있지만, 반대로 얼마든지 현실이 가진 차별적 난제들에 도전하며 인식의 변화를 끌어낼 수도 있다. 그 때문에 자신들이 책임져야 할 문제에 대해 그저 ‘기술의 산물일 뿐’이라며 책임을 미루는 개발사의 비겁한 모습은, 대중은 물론 인공지능 콘텐츠가 가져야 할 미디어 윤리에 대해 치열하게 고민하는 수많은 동업자마저 모욕하는 행위로 받아들여진다.

방송통신위원회는 지난 14일 인공지능 콘텐츠 이용자와 사업자를 대상으로 교육과 컨설팅을 강화하고 윤리 규범을 구체화하여 제도를 개선할 계획이라고 밝혔다. 그러나 ‘이루다’의 문제점을 인식한 사람들은 시스템의 보완만큼이나 이용자의 윤리적 판단과 행위가 중요하다는 사실을 배웠다. 인간은 반복적인 패턴 학습으로 사고체계를 만드는 인공지능과 달리 새로운 정보를 습득하더라도 자신의 선택과 결정을 제어하며 본인만의 주관을 지켜낼 수 있다. 미래는 인공지능 기술의 초고도 향상을 통해 오는 것이 아니다. 상상을 현실로 만들고 모든 금기와 욕망을 투영할 수 있는 ‘가상’ 앞에서도 존엄성을 잃지 않으려는 인간의 신념만이 진정한 미래를 연다.


복길 자유기고가·<아무튼 예능> 저자

플랫팀 twitter.com/flatflat38

ⓒ 경향신문 & 경향닷컴(www.khan.co.kr), 무단전재 및 재배포 금지

포토&TV

    이 시각 추천뉴스