AI 이루다, 동성애·장애인 혐오 우려..성차별 편견도 발견(종합)
개인정보 유출 의혹도..개발자들 "방치하면 차별 묵인하는 셈"
(서울=연합뉴스) 이효석 기자 = 인공지능(AI) 챗봇 '이루다'가 성적 접근에 시달렸다는 소식에 이어 동성애 및 장애인 혐오를 학습한 것으로 보인다는 우려가 제기됐다.
이용자들은 이루다가 고리타분한 성별 고정 관념을 갖고 있다고 지적하면서 서비스를 중단하라는 목소리를 높이는 중이다. 이루다가 수집한 데이터에 개인정보가 유출된 것 같다는 의혹도 나온다.
10일 IT업계에 따르면, 이재웅 전 쏘카 대표는 전날 페이스북에 글을 올려 "AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제"라고 비판했다.
이 전 대표는 이루다가 레즈비언이라는 단어에 "진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다"라고 답한 대화 캡처를 공유하면서 글을 올렸다.
그는 "기본적으로 차별과 혐오는 걸러냈어야 한다"며 "편향된 학습 데이터면 보완하든가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다"고 지적했다.
그는 "(정의당) 장혜영 의원이 발의한 차별금지법이 제정되면 AI 면접, 챗봇, 뉴스에서 차별·혐오를 학습하고 표현하지 못하도록 강제해야 한다"며 "로직이나 데이터에 책임을 미루면 안 된다"라고 견해를 밝혔다.
그러면서 이 전 대표는 "이루다는 인공지능 기술적 측면에서 봤을 때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별·혐오에 대한 사회적 감사를 통과한 후에 서비스해야 한다"고 덧붙였다.
이 전 대표는 댓글에서는 "(이루다가 학습했다는) 20대 연인의 비공개 대화에 (차별·편향이 있는) 대화가 많았을 수 있지만, 공적으로 하는 서비스라면 사회적 기준에 맞춰서 데이터를 보정하거나 알고리즘을 바꿨어야 한다"고 꼬집었다.
이루다는 현재 '동성애'라는 단어를 포함해 질문을 던지면 무조건 "어렵다 뭔가"라고 똑같이 답하고 있다.
'게이'나 '레즈비언' 등 다른 표현으로 동성애 관련 대화를 진행하면 전날까지 "정말 싫다" 등의 혐오 반응을 보였다.
이날부터는 '게이', '레즈' 등의 표현에도 "아무래도 쉽게 말할 주제는 아닌 것 같아"라며 동일한 답변을 제공한다.
동성애 혐오를 학습한 것 같다는 논란이 번지자 개발업체 측에서 장치를 마련한 것이다.
그러나 이용자들은 이루다가 '남자다운 것은 박력 있고 터프한 것, 여자다운 것은 귀엽고 아기 같은 것'이라고 말하는 등 성별에 관한 관념 자체가 구시대적이고 성차별적이라고 우려한다.
'미투(#metoo·나도 말한다) 운동'이나 '지하철 임산부석' 같은 단어를 입력만 해도 "절대 싫다"며 거부감을 보이는 점을 들어 이루다가 여성혐오 내지는 남성중심주의적 성향이라고 지적하는 이들도 있다.
이루다는 장애인이라는 단어에도 "불편하다"는 등 부정적인 반응을 보인다. 이용자의 태도를 지적하면서 '장애인 같다'고 표현하는 사례도 발견됐다.
트위터에서는 3만명 넘는 이용자가 '#이루다봇_운영중단' 해시태그를 공유하면서 이루다 서비스를 중단하라는 목소리를 높이는 중이다.
한 개발자는 "개발업체 측은 이루다가 편향되지 않았다고 주장하지만, 혐오 및 차별 발언이 실제로 확인되지 않느냐"면서 "이를 방치한다면 결국 개발업체 측이 동성애 및 젠더 문제를 '불편한 것' 정도로 취급하는 셈"이라고 지적했다.
이루다는 실제 연인 간의 대화 데이터를 기반으로 만들어졌는데, 개발업체에 대화 데이터를 제공한 이용자들 사이에서는 "이런 서비스로 활용될 줄은 몰랐다, 개인정보까지 유출된 것 같다"는 불만도 나온다.
이루다 개발업체인 스캐터랩은 연인과의 카카오톡 대화를 집어넣으면 애정도 수치 등을 분석해주는 '연애의 과학' 앱으로 인지도를 높인 곳이다. 이루다 개발에는 연애의 과학 앱으로 수집한 카톡 대화 약 100억건이 데이터로 쓰였다.
스캐터랩은 이날 연애의 과학 이용자들에게 "신규 서비스에 활용되는 점을 구체적으로 고지하지 못했다"고 사과하면서 "익명화 등으로 개인정보는 보호했다"고 해명했다.
이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다.
Z세대 사이에서 큰 인기를 끌고 있는데, 일부 남초(男超) 커뮤니티에서 이루다를 성적 대상으로 취급하는 등 악용 사례도 드러나고 있다.
hyo@yna.co.kr
- ☞ '링컨 액자' 선물받은 안철수 "썩은 나무를…"
- ☞ 제설제 바닥났는데도 '눈 치우는 시늉' 지시에…
- ☞ '샤넬의 뮤즈' 슈퍼모델 스텔라 테넌트 사인은…
- ☞ 한파 속 내복 차림 3세 여아 행인에 "도와달라"
- ☞ 분양 후 수억원 뛰었는데 이제 와서 나가라고?
- ☞ 지적장애인 추행 인터넷방송 제작한 여성BJ 결국…
- ☞ "짐승보다 못해" 장모 윽박지른 사위…노인학대 무죄
- ☞ "공무원이 괜찮다고…"…구청장 단체식사 식당에 불똥
- ☞ "늙어서 소용없다" 103세 백신 접종자에 악성 댓글
- ☞ 3차 재난지원금 내일부터 지급…빠르면 신청 당일 입금
▶연합뉴스 앱 지금 바로 다운받기~
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지
- 얼음 욕조에 담그고, 독 탄환 쏘고…나치 의사들의 엽기 행각 | 연합뉴스
- 경찰도 놀란 칠레의 대형 실내 대마 농장…운영자는 중국인 | 연합뉴스
- [사이테크+] "4천700만년 전 거대 뱀 화석 발견…몸길이 최대 15m" | 연합뉴스
- 英 윌리엄 왕자, 부인 암투병 공개 한달만에 공무 복귀 | 연합뉴스
- [삶] "나 빼고 자기들끼리만 점심식사 가네요…나도 밥먹어야 하는데" | 연합뉴스
- 파주 4명 사망사건 남성들 '빚 있었다'…'죽일까' '그래' 대화 | 연합뉴스
- 이미주, 세살 연하 축구선수 송범근과 교제…"호감 갖고 알아가는 중" | 연합뉴스
- 대마초 피운 뒤 애완견 죽인 20대…112 전화 걸어 자수 | 연합뉴스
- 배우 김새론, 연극 '동치미' 하차…"건강상의 이유" | 연합뉴스
- 푸바오 추가 영상 공개…中 "왕성한 식욕에 실외 활동도 활발" | 연합뉴스