인스타그램, AI로 '가짜뉴스' 걸러낸다

카리나 뉴턴 공공정책 총괄
'거짓정보' 신고 기능에 추가
방심위·선관위·경찰청 등
한국 민관과 지속적 협력
스트라이크 아웃제 도입해
위반 잦은 계정 바로 삭제

인스타그램이 최근 사회문제로 떠오른 '허위조작정보(가짜뉴스)' 단속을 강화한다. 인스타그램은 이달부터 이용자가 신고할 수 있는 부적절 게시물 분류에 '거짓정보'라는 메뉴를 추가한다고 밝혔다. 음란물, 혐오 발언, 테러·폭력, 총기·마약류 판매 등과 같은 수준으로 규제하기로 한 것이다.

페이스북처럼 이용자들이 직접 신고할 수 있는 범위를 넓히고, 인공지능(AI) 기술을 적극 도입해 문제 콘텐츠를 선제적으로 발견·삭제하겠다는 것이 골자다. 이 같은 정책 변화를 설명하기 위해 한국을 찾은 카리나 뉴턴 인스타그램 공공정책 총괄은 본지와 인터뷰하면서 "K팝, 패션, 뷰티 등 한국의 파워 콘텐츠는 글로벌 트렌드로 떠오르고 있다"며 "이런 한국의 문화적 맥락을 이해하는 리뷰어가 철저하게 관리하고 있다는 것을 알려드리고 싶어 한국에서 가장 먼저 발표하게 됐다"고 말했다.

뉴턴 총괄은 "페이스북의 경우 제3자가 팩트를 확인해 거짓정보를 걸러낼 수 있는 제도가 있다"면서 "이를 인스타그램에서도 시행하는 것이 목표이고, 연말께 시스템을 갖출 수 있을 것"이라고 설명했다. 다만 한국에서는 다른 글로벌 국가와 달리 아직 팩트체크를 담당할 제3자 기관을 선정하지는 않았다. 인스타그램 관계자는 "방송통신심의위원회, 중앙선거관리위원회, 경찰청 등 정부 기관과 자살예방센터 등 민간 기구들과 지속적으로 소통·협력하고 있다"고 설명했다.

자해나 자살 관련 콘텐츠 관련 정책도 강화됐다. 지금까지는 이 같은 내용을 담고 있더라도 사용자의 고통을 토로하거나 도움을 요청하는 콘텐츠는 허가했지만, 앞으로는 자살이나 자해 관련 그래픽 이미지는 부적절한 게시물로 분류하기로 했다. 전 세계에서 3만여 명의 콘텐츠 리뷰어가 신고된 게시물을 24시간 검토하고, 한국에서도 미묘한 뉘앙스를 이해하는 리뷰어들이 콘텐츠를 모니터링 한다.

인스타그램은 이번에 '스트라이크 아웃' 제도를 도입해 계정 삭제 기준도 강화했다. 기존에는 전체 콘텐츠 중 위반 게시물이 특정 %를 넘어설 경우에만 계정을 비활성화했다. 그러나 앞으로는 특정 %를 넘어서는 경우는 물론 특정 기간 및 특정 횟수 위반 시에도 바로 계정이 삭제된다. 인스타그램은 정확히 몇 번 위반이 스트라이크 아웃 대상인지는 밝히지 않았다.

회사 차원에서는 '둘러보기'와 '해시태그'에 노출되는 콘텐츠에 더욱 엄격한 기준을 적용한다. 둘러보기는 누구를 폴로(follow)하는지, 관심 주제는 무엇인지, 콘텐츠는 어떻게 참여하는지를 고려해 자동 알고리즘이 맞춤 콘텐츠를 추천해준다.

인스타그램의 해시태그(#키워드)는 '미투운동'을 확산하는 등 글로벌 영향력을 발휘하는 소통 수단이 됐다.

뉴턴 총괄은 이를 활용해 NGO들과 함께 긍정적인 메시지 확산에도 힘쓰고 있다. 있는 그대로의 나를 사랑하자는 의미를 담은 '보디 포지티브(#bodypositive)' '컴애즈유아(#Comeasyouare)' 등의 캠페인이 대표적이다. 보디 포지티브는 1000만건 이상 게시물을 만든 히트작이다.

그는 전 세계에 폴로어 35만명을 보유하고 있는 이찬재 씨 부부의 예를 들며 "남녀노소 누구나 다양한 목적으로 활용할 수 있고, 세대와 국가를 넘어 관계를 맺을 수 있다는 게 인스타그램의 매력"이라며 "인스타그램을 즐기는 자녀와 어떻게 대화의 물꼬를 틀지 고민하는 분들을 위해 내놓은 '부모님 가이드라인'도 참고하면 좋을 것"이라고 말했다.

[신찬옥 기자]

[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]