포털 뉴스 표출 어떻길래..이재웅 "AI도 설계자 생각 반영"

윤영찬 갑질 논란, 포털 AI 뉴스편집 공정성 문제로 확전
카카오, 이용자 관심, 연령 따라 다르게 뉴스 노출
네이버도 개인 콘텐츠 소비 성향 따라 주제, 순서 배열
AI도 편향 작용..이재웅 "AI 중립성 감사 시스템 필요"

[서울신문]

8일 서울 영등포구 여의도 국회에서 열린 본회의에서 더불어민주당 윤영찬 의원이 본인 의원실 직원들과의 대화방으로 주호영 원내대표의 교섭단체 연설이 카카오톡 메인에 소개됐다는 연락을 받자 ‘카카오 너무하군요. 들어오라고하셍’이라고 입력하고있다. 2020. 9. 8 김명국 선임기자 daunso@seoul.co.kr

윤영찬 더불어민주당 의원의 ‘카카오 갑질’ 논란이 포털 인공지능(AI) 뉴스편집의 신뢰성 문제로 확전되고 있다.

논란은 지난 8일 네이버 부사장 출신인 윤 의원이 다음 뉴스에 야당 대표 연설이 여당보다 비중있게 배치됐다며 카카오를 압박하는 문자를 보내면서 촉발됐다. 네이버와 다음을 운영하는 카카오 양사 모두 “뉴스편집은 AI가 한다”는 입장을 내놨다. 그러자 다음 창립자인 이재웅 전 쏘카 대표가 자신의 페이스북에 “국회의원이 마음에 안 드는 뉴스가 메인에 올라왔다고 포털 담당자를 불러 항의하는 것은 문제지만 포털의 답변은 윤 의원의 항의만큼이나 무책임하다”고 비판하면서 AI 뉴스 편집의 공정성, 중립성 문제가 불거졌다.

카카오는 2015년 6월부터 개인 맞춤형 추천 AI 알고리즘(카카오i)을 통해 이용자마다 다르게 뉴스를 배치하고 있다. 개별 독자가 많이 본 분야의 기사나 해당 독자와 성, 연령대가 같은 집단이 많이 본 기사를 묶어 선별하고 배열하는 식이다. 하루에 쏟아지는 3만건의 기사 가운데 중복 기사나 광고 기사, 선정적인 기사는 자동화 시스템으로 걸러내는데 이를 확인하는 검수 인력은 따로 두고 있다.

네이버는 지난 2017년 2월부터 100% AI 알고리즘(에어스)으로 이용자들에게 뉴스를 자동 추천하고 있다. 기본 뉴스 화면에서는 각 언론사가 편집한 뉴스를 그대로 노출시키지만 ‘마이뉴스’에서는 개인의 콘텐츠 소비 성향, 관심사를 반영한 뉴스를 추천한다. 때문에 개인에 따라 묶음 기사 주제나 순서, 대표 기사 등이 다르게 보여진다는 설명이다.

하지만 이 대표는 AI가 가치 중립적이라는 생각은 맞지 않다는 입장이다. 그는 “규칙 기반의 AI는 그 시스템을 설계하는 사람의 생각이 반영될 수밖에 없다”며 “AI 시스템이 차별하지 않는지, 정치적으로 중립적인지 판단하기 위한 감사 시스템이 필요하다”고 지적했다.

전문가들도 AI를 통한 뉴스 편집은 진보, 보수로 정치적 양극화가 심한 우리나라 사회나 언론 지형 때문에 포털이 찾은 해결안이나, 뉴스를 제공하는 공급자의 다양성, 이용자의 인구학적 속성, 개인화된 추천 등에서 편향이 작용할 수밖에 없다고 지적한다.

송경재 경희대 교수는 “기술은 가치 중립적이나 기술을 이용하는 사람은 그렇지 않기 때문에 댓글 이력을 공개해 악플을 없애고 이용자 성향을 파악할 수 있게 한 것처럼 포털도 알고리즘, 데이터 등을 매년 투명하게 공개하며 사회적 책임을 다하는 것이 뉴스 편집에 대한 신뢰를 높이는 방법”이라고 지적했다.

하지만 업계는 AI 알고리즘 공개는 ‘영업비밀‘로 불가능하다는 입장이다. 황용석 건국대 미디어커뮤니케이션학과 교수는 “AI 추천 시스템 자체가 데이터 수집·선별 단계 등에서 여러 취약점이 있기 때문에 세계적으로도 공정성에 대한 요구가 높아지고 있고 어떤 정책이 바람직한지 논쟁이 이뤄지고 있다”면서도 “민간 사업자들의 경우 기업의 고유한 알고리즘 자체가 자산이기 때문에 공개는 어려울 것”이라고 말했다.

정서린 기자 rin@seoul.co.kr

▶ 밀리터리 인사이드 - 저작권자 ⓒ 서울신문사 -