닭싸움과 車충돌 영상도 구분 못하는 페이스북 AI

WSJ "페북 증오발언·폭력영상 탐지 5%도 못해"

페이스북 로고

페이스북이 야심차게 개발한 인공지능(AI)이 자동차 충돌 영상과 닭싸움인 투계 영상을 구별하지 못할 정도로 부적절한 콘텐츠를 걸러내지 못했다는 지적이 일고 있다.

17일(현지시각) 월스트리트저널(WSJ)은 페이스북 내부 문건을 인용해 "증오 발언, 과도한 폭력 등 규칙을 위반한 게시물을 삭제하기 위해 마련한 페이스북의 AI 시스템이 콘텐츠들의 차이를 일관되게 식별할 수 없는 것으로 드러났다"고 보도했다.

2019년 내부 문건에 따르면 페이스북은 사내 AI시스템을 활용해 자사 게시물 규정을 위반한 증오 발언 중 단 2%만 제거할 수 있었다. 한 수석 엔지니어는 "단기적으로 10~20% 이상으로 개선하기는 매우 어려울 것 같다"고 설명했다. 올해 3월에도 페이스북내에서 규정을 위반한 증오 발언 중 3~5%만 삭제된 것으로 알려졌다.

또 2018년에는 페이스북내 한 엔지니어가 자동차 충돌 영상과 닭싸움인 투계 영상이 페이스북에서 확산되고 있다는 것을 파악하고 이를 삭제하는 방안을 추진했지만, AI 시스템이 제대로 작동하지 않았다. 심지어 AI는 '싸우는' 닭과 '싸우지 않는' 닭을 구분하지도 못했으며 닭싸움 영상을 자동차 충돌 영상으로 분류하기도 했다.

페이스북 AI는 1인칭 시점 영상을 인식하는 데에도 취약성을 드러냈다. 페이스북은 2019년 뉴질랜드 크라이스트처치에서 한 테러리스트가 이슬람 사원에서 51명을 총격 살해하는 과정을 '1인칭 시점'으로 생중계해 문제가 불거진 이후 해당 영상을 걸러내는 작업을 시도했다. 그러나 AI는 이같은 영상을 제대로 탐지하지 못했다.

[실리콘밸리 = 이상덕 특파원]

[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]