IT

더팩트

"AI 이루다 논란 방지할 것" 카카오, '증오발언' 강경 대처 나선다

최수진 입력 2021. 01. 13. 19:37

기사 도구 모음

카카오가 기업의 디지털 책임(CDR)을 실천하기 위해 증오 발언에 강경 대처한다.

13일 카카오는 정책산업 연구 공식 브런치에 '증오 발언 근절을 위한 카카오의 원칙'이라는 제목의 글을 게재했다.

기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다. 전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
음성 기사 옵션 조절 레이어
번역beta

Translated by kakao i

번역할 언어 선택
글자 크기 조절 레이어
카카오가 기업의 디지털 책임(CDR)을 실천하기 위해 적극적으로 움직인다. 사진은 김범수 카카오 의장. /카카오 제공

카카오, '증오발언 근절 위한 카카오 원칙' 수립…이용자 인권 보호 강조

[더팩트│최수진 기자] 카카오가 기업의 디지털 책임(CDR)을 실천하기 위해 증오 발언에 강경 대처한다.

13일 카카오는 정책산업 연구 공식 브런치에 '증오 발언 근절을 위한 카카오의 원칙'이라는 제목의 글을 게재했다.

앞서 인공지능(AI) 챗봇 '이루다'의 증오 발언이 사회적 문제로 부상한 데 따른 움직임이다. 이루다는 서비스 이용자가 동성애와 같은 성소수자 질문을 던지면 "혐오스럽다", "소름 끼친다" 등으로 대응해 문제가 된 바 있다.

이에 이루다를 개발한 스캐터랩은 "이루다가 특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것을 진심으로 사과드린다"며 "스캐터랩은 이런 차별적 발언에 동의하지 않는다. 또한, 이루다의 발언은 회사의 생각을 반영하지 않는다"고 해명했다.

이에 카카오는 온라인에서 무분별하게 확산되는 증오 발언에 대응책을 마련할 필요성이 있다고 판단, 이 같은 결정을 내렸다.

카카오는 "우리는 사회의 구성원으로서 디지털 공간을 보다 건강하게 만들기 위한 증오 발언 대응 원칙을 수립하게 됐다"며 "지나해 1월부터 1년여간 고민한 결과다. 카카오는 AI 윤리 헌장, 아동·청소년 보호 정책, 그리고 최근 인권경영 선언까지 디지털 책임을 다하기 위한 노력을 하고 있다"고 밝혔다.

이어 "이용자의 인권을 보호하는 것은 카카오의 중요한 책무"라며 "표현의 자유를 남용해 타인의 안전을 위협하는 발언을 경계한다. 카카오는 온라인 증오 발언을 근절하기 위해 노력할 것"이라고 덧붙였다.

카카오는 특정 대상을 차별하거나 이에 대한 편견을 조장하며 일방적으로 모욕하거나 배척하는 행위를 근절한다. /더팩트 DB

이를 위해 카카오는 △출신(국가, 지역 등) △인종 △외양 △장애 및 질병 유무 △사회 경제적 상황 및 지위 △종교 △연령 △성별 △성 정체성 △성적 지향 또는 기타 정체성 요인 등을 이유로 특정 대상을 차별하거나 이에 대한 편견을 조장하며 일방적으로 모욕하거나 배척하는 행위를 근절할 방침이다.

특정인과 특정 집단을 공격하는 발언도 증오 발언으로 간주한다. 카카오는 "이용자의 인권과 존엄성을 훼손하고 안전을 위협하는 증오 발언에 강경 대처하겠다"고 강조했다.

카카오는 증오 발언을 근절하기 위해 향후 △정책 △기술 △서비스 기획 및 디자인 등을 고도화할 계획이다. 아울러 사내 교육과 모니터링 강화 등을 지속해 내부로부터의 차별과 증오 발언도 방지한다.

다만, 이번 원칙은 공개 게시물 영역에 한한다. 사적 대화, 메일, 톡서랍 등 개인화한 서비스와 커뮤니티 비공개 게시글의 경우 프라이버시 존중을 최우선으로 한다. 카카오는 "모든 이용자가 안전하게 표현의 자유를 누릴 수 있는 환경을 만들기 위해 노력하겠다"며 "모두에게 안전한 디지털 공간을 만들기 위한 노력에 이용자들도 적극적으로 동참하길 부탁드린다"고 언급했다.

jinny0618@tf.co.kr

저작권자 ⓒ 특종에 강한 더팩트 & tf.co.kr 무단 전재 및 재배포 금지

포토&TV

    이 시각 추천뉴스