"제2의 이루다는 없다"..스마일게이트 AI 센터, 인공지능 혐오발언 데이터셋 공개

경기 성남시 판교에 위치한 스마일게이트 캠퍼스. /스마일게이트 제공

스마일게이트 AI(인공지능) 센터는 20일 악성댓글 및 혐오 발언 데이터셋을 공개한다고 밝혔다.

스마일게이트 AI센터에 따르면 이번 데이터셋 공개는 최근 혐오 표현이 온라인에서 광범위하고 증가하고, 사회적 문제로 이어질 가능성이 큰 데 따른 것이다. 앞서 스마일게이트 AI센터는 지식 콘텐츠 스타트업 언더스코어와 협업을 통해 혐오 표현 등을 선제적으로 감지하고, 대응하도록 악성 댓글과 혐오 발언 데이터셋을 구축했다.

악성 댓글 및 혐오 발언 데이터는 지난 2019년 1월 1일부터 지난해 7월 1일까지 포털 사이트, 커뮤니티 등 다양한 웹사이트의 게시글을 대상으로 수집했다. 수집 과정에서 혐오 관련 데이터의 시의성과 편향성을 고려해 약 55만개 데이터 중 1만개를 추렸다.

데이터셋 구축 과정에서 ‘여성/가족’ ‘성소수자’ ‘남성’ ‘인종/국적’ ‘연령’ ‘지역’ ‘종교’ ‘기타혐오’ 등으로 크게 나누고, 혐오 발언 분류를 위한 기준 모델도 공개했다.

스마일게이트 AI센터가 구축한 악성 댓글 및 혐오 발언 데이터셋은 향후 게임 커뮤니티 댓글, 고객 응대 상담 챗봇, 여론조사 등에서 활용할 수 있을 것으로 여겨진다. 센터 측은 향후 지속적인 연구개발을 통해 기술을 고도화한다는 방침이다. 이번에 수집된 데이터는 스마일게이트 AI 센터 깃허브 페이지를 통해 이달 안에 공개될 예정이다.

한우진 스마일게이트 AI 센터장은 “AI 센터는 자연어 처리 및 분류 관련 연구 목적 외에도 윤리성이 결여된 인공지능이 사회에 미치는 문제에 대해서 연구하고 있는 기관으로 책임과 문제의식을 갖고 있다”라며 “이번에 공개한 데이터가 좀 더 안전하게 인공지능을 활용하는 데 밑거름이 되기를 바란다”고 했다.

- Copyright ⓒ 조선비즈 & Chosun.com -