'이루다' 스캐터랩 대표 "친구 같은 AI 만들겠다는 꿈 멈추고 싶지 않다"

[아시아경제 부애리 기자] 인공지능(AI) 챗봇 '이루다'를 개발한 스캐터랩이 관련 의혹에 대해 해명하고 스타트업의 꿈을 이어가고 싶다고 호소했다.

'이루다' 서비스는 이날 오후 6시 전면 중단된다. 스캐터랩 측은 개인정보 유출 의혹에 대해서는 사전 동의를 받은 정보를 활용했고, 식별화 조치를 거쳤다고 해명했다.

이루다는 스캐터랩이 지난해 12월 출시한 20세 여대생의 인격을 가진 AI다. 이용자들은 친구와 메시지를 나누는 것처럼 이루다와 대화를 주고 받을 수 있다. 이루다는 이용자가 75만명에 달하는 등 인기를 끌었지만 성소수자, 장애인에 대한 차별성 발언이 논란이 됐다. 또 스캐터랩은 '이루다' 개발에 '연애의 과학' 이용자들의 카카오톡 대화 데이터를 활용하면서 개인정보를 무단 활용·유출했다는 의혹을 받고 있다.

이에 대해 스캐터랩 측은 "연애의 과학 이용자 데이터는 사전 동의가 이뤄진 개인정보취급방침의 범위 내에서 활용했다"고 해명했다.

스캐터랩은 "이루다는 데이터베이스(DB)에 수록되어 있는 문장에서 적절한 답변을 선택해 응답한다"면서 "해당 DB에는 1억개의 문장이 개별적이고 독립적인 형태로 저장되어 있고, 이루다는 AI 알고리즘에 따라 가장 적절하다고 판단하는 문장을 선택해 답변하도록 설계돼 루다의 답변 내용을 조합해 개인을 특정할 수 없다"고 밝혔다.

또 "개별 문장 단위의 대화 내용에서는 알고리즘에 의해 비식별화 조치를 취했다"고 설명했다. 스캐터랩 측은 ▲숫자·영문이 포함된 메시지 삭제 ▲실명이 들어갔다고 판단되는 문장 모두 삭제 ▲실명을 리스트로 관리해 해당 실명이 들어간 문장들을 삭제했다고 밝혔다.

이어 "해당 조치에도 대화 내용 중에 은행 이름, 인물 이름이 등장한다는 지적이 있었다"면서 "1억 건의 개별 문장을 사람이 일일이 검수하기 어렵기 때문에 알고리즘을 통한 기계적인 필터링을 거쳤지만 문맥에 따라 인물의 이름이 남아 있다거나 하는 부분이 발생했다"고 밝혔다.

스캐터랩은 "다만 문장 내의 이름 정보가 다른 정보와 결합돼 이용되지 않는다"면서 "향후 고도화 된 데이터 알고리즘 업데이트를 통해 대응할 예정"이라면서 사과했다.

스캐터랩 측은 '사내에서 수집된 대화를 돌려봤다'는 전(前) 직원의 증언에 대해서는 "전 팀원이 참여하고 있는 카카오톡의 대화 조사를 완료했지만 당해년도 카톡 대화방에서는 해당 내용이 발견되지는 않았다"면서 "슬랙에 대해서는 계속 조사를 진행 중이고 결과를 투명하게 공개하겠다"고 밝혔다.

김종윤 스캐터랩 대표는 "급격한 성장 속에서 제대로 대처하지 못한 부분이 있었다"면서 "첫 걸음은 이렇게 멈췄지만, 사람만큼 대화를 잘하는 친구 같은 AI를 만들겠다는 꿈을 멈추고 싶지 않다"고 심경을 밝혔다.

이어 그는 "성찰의 기회로 삼아 기술적으로 사회적으로 가치있는 스타트업으로 거듭나고 싶다"면서 "시행착오가 많지만 꿈을 이어갈 수 있게 응원 부탁드린다"고 호소했다.

아울러 스캐터랩 측은 "이루다가 다시 서비스를 재개하는 시점에 사람들에게 더욱 이롭고 더욱 사랑 받을 수 있는 이루다로 돌아오겠다"고 덧붙였다.

부애리 기자 aeri345@asiae.co.kr