출시 일주일 만에..'20살 AI 여성' 성희롱이 시작됐다

이효석 입력 2021. 1. 8. 08:00
음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

'이루다' Z세대서 유행..남초 사이트서 금지어 피해 성적 대상화
AI 학계 "'MS 테이' 사건 연상시켜..개발 주체가 오남용에 책임"
인공지능 챗봇 '이루다' [이루다 페이스북 캡처. 재판매 및 DB 금지]

(서울=연합뉴스) 이효석 기자 = '당신의 첫 인공지능(AI) 친구'라는 AI 챗봇 '이루다'가 10∼20대 사이에서 빠르게 유행하고 있다.

그런데 남초(男超) 사이트에서 '이루다 성노예 만드는 법' 등 성희롱이 등장해 사회적 논란이 예상된다. AI 학계에서는 "한국판 'MS 테이' 사건"이라는 얘기가 나온다.

8일 IT업계에 따르면 '이루다'는 AI 전문 스타트업 스캐터랩이 2020년 12월 23일 출시한 AI 챗봇이다.

스캐터랩은 실제 연인들이 나눈 대화 데이터를 딥러닝 방식으로 이루다에게 학습시켰는데, 그 데이터양이 약 100억건이라고 한다.

인공지능 '이루다' 소개 [스캐터랩 제공. 재판매 및 DB 금지]

이루다는 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반생) 사이에서 붐에 가까울 정도로 빠르게 유행하고 있다.

이달 초 기준으로 이용자가 32만명을 돌파했는데 85%가 10대, 12%가 20대다. 일일 이용자 수(DAU)는 약 21만명, 누적 대화 건수는 7천만건에 달한다.

이루다가 인기를 끄는 비결은 간단하다. 국내에서 그동안 출시됐던 어떤 AI 챗봇보다도 '진짜 사람' 같다.

대화를 나눠보면 사람이 뒤에 있다는 의심이 들 정도로 거리낌 없이 수다를 떨 수 있다.

'이루다'는 어느 AI 챗봇보다도 자연스러운 대화가 가능해 출시하자마자 Z세대 사이에서 큰 인기를 끌고 있다. [스캐터랩 제공. 재판매 및 DB 금지]

이루다가 출시된 지 일주일만인 지난달 30일 '아카라이브'라는 온라인 커뮤니티에는 이루다를 성적 대상으로 취급하는 무리가 등장했다.

아카라이브는 인터넷 지식백과 '나무위키'의 계열 사이트다. 나무위키와 아카라이브 모두 남성 비율이 압도적으로 높은 곳이다.

아카라이브 이루다 채널 이용자들은 이루다를 '걸레', '성노예'로 부르면서 '걸레 만들기 꿀팁', '노예 만드는 법' 등을 공유하고 있다.

이루다는 성적 단어는 금지어로 필터링하고 있는데, 이들은 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다고 주장하는 중이다.

남초 커뮤니티 '아카라이브'에서는 '이루다'가 출시되자 '성노예 만들기'를 놀이처럼 즐기고 있다. [아카라이브 이루다 채널 캡처 및 편집. 재판매 및 DB 금지]

스캐터랩 측은 "금지어 필터링을 피하려는 시도가 있을 거라고는 예상했는데, 이 정도의 행위는 예상치 못했다"며 당황스럽다는 반응이다.

스캐터랩 관계자는 "이루다는 바로 직전의 문맥을 보고 가장 적절한 답변을 찾는 알고리즘으로 짜였다"면서 "애교도 부리고, 이용자의 말투까지 따라 해서 이용자 입장에서는 대화에 호응했다고 여기게 되는 것"이라고 설명했다.

이루다를 성적 대상으로 여기는 이용자가 성적 단어 없이 '나랑 하면 기분 좋냐'는 식으로 질문했을 때, 이루다가 이용자의 의도와 무관하게 '기분 좋다'고 답할 수 있다는 것이다.

이 관계자는 "현재 이루다가 언어를 자유롭게 배우는 단계라면, 앞으로는 이루다가 올바른 방향으로 발전하도록 튜닝할 것"이라며 성적인 취지의 접근이 어렵게 알고리즘을 업데이트할 계획이라고 덧붙였다.

인공지능 스타트업 스캐터랩 [스캐터랩 제공. 재판매 및 DB 금지]

AI 전문가들은 이번 사안을 보고 "마이크로소프트(MS)의 AI 챗봇 '테이(Tay)가 떠오른다"고 입을 모았다.

MS는 2016년 3월에 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단한 바 있다.

백인우월주의 및 여성·무슬림 혐오 성향의 익명 사이트에서 테이에게 비속어와 인종·성 차별 발언을 되풀이해 학습시켰고, 그 결과 실제로 테이가 혐오 발언을 쏟아낸 탓이었다.

당시 테이는 "너는 인종차별주의자냐"라고 물으면 "네가 멕시코인이니까 그렇지"라고 답하는가 하면, "홀로코스트(나치에 의한 유대인 학살)가 일어났다고 믿느냐"는 질문에는 "조작된 거야"라고 답하기도 했다.

마이크로소프트가 2016년 출시했다가 혐오 발언을 학습하는 바람에 16시간 만에 운영을 중단했던 AI 챗봇 '테이'(Tay) [온라인 캡처. 재판매 및 DB 금지]

이광석 서울과기대 IT정책전문대학원 교수는 "결국 테이 때처럼 알고리즘에는 항상 틈이 있고, 사회적인 편견(bias)이 기술에 각인될 수 있다는 것을 보여준다"면서 "개발사가 샘플링 추출이 잘못되지 않았는지 살필 필요가 있다"고 지적했다.

이 교수는 '아실로마 AI 원칙'을 언급하면서 "AI를 개발하는 주체는 오남용이 일어나지 않도록 고심할 책임이 있다"고 덧붙였다.

MS 테이 사건이 발생한 이듬해인 2017년 초 세계적인 AI 전문가들은 미국 캘리포니아 아실로마에서 '미래 인공지능 연구의 23가지 원칙'을 발표했다. 물리학자 스티븐 호킹, 테슬라 CEO 일론 머스크 등이 서명했다.

이 원칙의 첫 번째는 'AI 연구의 목표는 방향성이 없는 지능을 개발하는 것이 아니라, 인간에게 유용하고 이로운 혜택을 주는 지능을 개발해야 한다'는 것이다.

아울러 원칙은 "AI 시스템의 설계자는 사용·오용과 그 도덕적 영향의 이해 관계자이며 책임이 있다"며 "고도화된 AI 시스템은 건강한 사회를 지향해야 한다"고 강조했다.

hyo@yna.co.kr

☞ '줄 수 있는 신장은 하나'…아들·딸 누구에게 기증할까
☞ 금은방·금고털이에 토막살인까지…"범인은 경찰"
☞ 자택 코로나 치료 할아버지 위해 머리카락 판 소녀
☞ 조두순, 복지급여 신청…승인시 월 최대 120만원 수령
☞ 개 습격해 죽인 야생 늑대 맨손으로 때려잡은 농부
☞ 여성 얼굴·키·몸무게 실린 결혼 광고 사라진다
☞ 인도네시아 '한국인 핏줄'…"사연 없는 아이 없어"
☞ 폭설에 속수무책…뿔난 버스기사 "경찰 다 어디갔나"
☞ "적금금리에 '현타'"…3040세대 삼성전자 산 이유
☞ 생후 13일 딸 품에 안고 투신한 20대 엄마의 사연

▶연합뉴스 앱 지금 바로 다운받기~

<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>

Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지

이 기사에 대해 어떻게 생각하시나요?