페이스북, 120억원 투입해 '딥페이크 영상' 퇴출 나선다

입력 2019. 9. 6. 11:59
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

페이스북이 인공지능(AI) 기술로 감쪽같이 조작된 '딥페이크'(deepfake) 영상을 가려내기 위한 '딥페이크 탐지 챌린지' 프로젝트를 진행한다.

페이스북은 1천만 달러(약 120억원)를 투입해 딥페이크 영상 탐지 기술 연구에 박차를 가하기로 했다고 로이터, AFP 통신 등이 5일(현지시간) 보도했다.

이번 프로젝트를 통해 페이스북은 연구자들에게 딥페이크 영상의 샘플 데이터 세트를 만들어낸 뒤 탐지 도구를 시험해 보도록 할 예정이다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

MS·구글도 후원하고 학계도 참여..美대선 여론조작 우려 앞두고 추진
페이스북 마크 저커버그 최고경영자(CEO)의 인터뷰를 조작한 가짜 영상 [인스타그램 캡처=연합뉴스]

(서울=연합뉴스) 임성호 기자 = 페이스북이 인공지능(AI) 기술로 감쪽같이 조작된 '딥페이크'(deepfake) 영상을 가려내기 위한 '딥페이크 탐지 챌린지' 프로젝트를 진행한다.

페이스북은 1천만 달러(약 120억원)를 투입해 딥페이크 영상 탐지 기술 연구에 박차를 가하기로 했다고 로이터, AFP 통신 등이 5일(현지시간) 보도했다.

'딥러닝'(deep learning)과 '페이크'(fake·가짜)의 합성어인 딥페이크는 인공지능(AI)을 활용한 동영상 편집 기술로 특정인의 표정이나 억양, 목소리 등을 그대로 흉내내 하지도 않은 말을 한 것처럼 꾸밀 수 있다. '진짜 같은' 이런 가짜 영상은 여론에 영향을 미칠 수 있다는 우려를 낳아왔다.

이번 프로젝트를 통해 페이스북은 연구자들에게 딥페이크 영상의 샘플 데이터 세트를 만들어낸 뒤 탐지 도구를 시험해 보도록 할 예정이다.

페이스북은 올 12월 공개될 실험용 딥페이크 영상들에 전문 배우들이 등장할 것이며 이용자 데이터는 활용되지 않을 것이라고 설명했다.

페이스북을 비롯해 마이크로소프트, 알파벳(구글 모기업), 애플 등이 속한 연구 그룹 'AI 파트너십' 등이 후원하는 이 프로젝트에는 미국 매사추세츠공대(MIT), 코넬대, 버클리 캘리포니아대(UC버클리)와 영국 옥스퍼드대 등 명문대 소속 학자들도 다수 참여한다.

딥페이크 (CG) [연합뉴스TV 제공]

페이스북 마이크 슈레퍼 최고기술책임자(CTO)는 이번 프로젝트의 목표에 대해 "시청자들을 현혹하려는 의도로 편집된 영상에 사용돼 온 AI 기술을 모두가 더 잘 탐지해낼 수 있는 기술을 만드는 것"이라고 말했다.

슈레퍼 CTO는 딥페이크 기술이 "온라인에 있는 정보의 정당성을 결정하는 데 상당한 영향을 미치지만, 업계는 지금까지 이런 것들을 탐지해낼 좋은 샘플 데이터 세트를 확보하지 못했다"고 지적했다.

이번 프로젝트는 내년 미국 대선을 앞두고 딥페이크 기술이 악의적인 가짜 정보를 유포해 여론을 뒤흔들 수 있다는 우려가 고조되는 가운데 추진된다.

민주당 애덤 시프 미 하원 정보위원장은 지난 6월 내년 대선에 러시아가 또다시 개입할 수 있다면서 가장 심각한 경우는 "후보자가 절대 한 적 없는 발언을 하는 딥페이크 동영상"이 될 것이라고 우려했다.

최근 워싱턴 정가에서는 민주당 소속인 낸시 펠로시 하원의장의 가짜 영상이 확산해 논란을 빚은 바 있다.

이 영상은 딥페이크 기술이 활용된 것도 아니고 단지 원래 속도보다 느리게 편집하고 음조를 변조해 술에 취한 것처럼 왜곡한 기초적인 수준의 조작이었지만 보수 성향 소셜미디어를 중심으로 빠르게 확산됐다.

이는 앞으로 더욱 발전할 딥페이크 기술이 악용될 경우 닥칠 문제에 대한 경고성 사건이라는 분석이 나왔다.

sh@yna.co.kr

☞ 조국 "제 처가 딸 동양대 표창장 위조했다면 법적 책임"
☞ 한겨레 기자들 "조국 비판칼럼 삭제는 보도 참사"
☞ 사귀던 여성 TV로 내리쳐 식물인간 만든 60대
☞ 靑 "檢, 曺의혹 내란음모 수사하듯…장관 오는게 두려운 것"
☞ 조국 임명 반대 56% vs 찬성 40%…격차 벌어져
☞ 동양대 총장 "조국과 직접 통화…거짓 증언 종용"
☞ '조국 논란 핵심' 동양대 최성해 총장 삶 살펴보니…
☞ 손흥민의 쓴소리 "대표팀 놀러 오는 곳이 아냐!"
☞ "놀라지 말고 집으로 오라" 엄마 문자에 아들이…
☞ 수영하는 코끼리?…네스호 괴물 실체 밝혀지나

▶연합뉴스 앱 지금 바로 다운받기~

<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>

Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지

이 기사에 대해 어떻게 생각하시나요?