"화상회의에서 AI가 감정 읽어준다" 어떻게 생각하세요?[넥스트.찐]

[아시아경제 정현진 기자] 노트북 화면 속에 등장한 상사, 지금 어떤 감정 상태인지 알고 싶지만 도저히 파악하기 어려웠던 순간 있으신가요? 사무실에서 얼굴을 마주하며 근무할 땐 상사의 전후 사정을 미리 파악할 수 있고 기침소리나 행동을 볼 수 있어 이를 단서로 그의 감정 상태를 파악할 수 있었는데요. 원격·재택 근무를 하는 동안에는 얼굴 표정과 목소리 톤 외엔 비언어적 정보가 제한적이어서 화면 만으로 이를 파악해야해 어려움을 겪곤 하죠.

줌은 왜 감정 AI를 꺼내들었나

코로나19 팬데믹(세계적 대유행)을 거쳐 최대 수혜 기업으로 떠오른 화상회의 서비스 플랫폼 줌은 이러한 한계를 넘어서기 위해 지난달 줌IQ라는 서비스를 내놨습니다. 인공지능(AI)을 통해 화상회의에 참석한 사람의 감정이나 참석도를 분석하는 서비스인데요. 대화 과정에서 긍정적인지, 부정적인지 반응을 내놓는다는 것이죠. 특히 영업팀이 줌을 통해 고객을 만날 때 미묘한 반응을 분석해 받아볼 수 있도록 합니다.

고객이 응답하기까지 걸리는 시간을 집계해본다거나 음, 어, 좋아요, 오 등 일부 연구에서 판매 성사율에 부정적 영향을 줄 수 있다고 본 단어 사용 여부를 집계하는 식이에요. 이를 통해 어떤 질문을 해야 주로 긍정적인 답변을 받게 되는지도 분석하게 되고 의사소통을 원활히 해 거래가 성사되기 유리한 환경을 만들 수 있겠죠. 코로나19 시대가 거의 끝나가는 상황에서 화상회의 플랫폼인 줌이 야심차게 내놓은 서비스에요.

줌이 이 서비스를 내놓은 이유는 기업 고객을 확보해 다시한번 도약의 발판을 마련하기 위함으로 보입니다. 지난 3월 줌은 실적 발표를 통해 기업 고객에 방점을 찍고 단순한 화상회의 회사가 아닌 플랫폼 회사로 변모하겠다고 선언했는데요. 화상으로 거래하는 기업들이 이 서비스로 실적을 내는데 도움을 주겠다는 것이죠. 줌은 코로나19 영향으로 100달러도 채 되지 않던 주가가 2020년 10월 559달러까지 폭등했다가 현재 90달러대로 떨어지며 코로나19 이전 수준에 가까워진 상황인데요. 감정 AI는 미래 성장 동력을 찾기 위한 노력으로 해석됩니다.

'20여년 역사' 감정 AI가 화상회의에 등장했다

감정을 AI로 분석하는 서비스는 이번에 처음 나온 건 아니에요. 1995년 인간과 기계가 자연스럽게 의사소통할 수 있도록 인간의 감정을 처리하고 이해하며 복제할 수 있도록 하는 AI의 개발이 시초였죠. 이미 광고·마케팅을 포함한 다양한 분야에서 적극적으로 활용하고 있어요. 그런데 코로나19를 계기로 화상회의를 할 일이 빈번해지고 회의 화면상 상대방의 감정을 이해하고자 하는 니즈가 커지면서 감정 AI의 화상회의 진출이 속도를 내고 있는 겁니다.

줌 뿐만 아니라 인텔도 최근 감정 AI에 관심을 보이는 회사 중 하난데요. 기술 전문지 프로토콜에 따르면 인텔은 최근 화상 수업 소프트웨어 개발 스타트업인 클래스테크놀로지와 손잡고 학생들의 감정 상태를 파악할 수 있는 감정 AI 실험을 해보고 있다고 해요. 수업을 듣는 학생의 표정을 통해 지루해하는지, 이해를 하고 있는지 등을 파악하고 이를 통해 더 좋은 교습법을 찾는 데 도움을 준다는 거죠.

"편견 조장-개인정보 유출 우려" 비판 쏟아져

문제는 이러한 감정 AI를 둘러싸고 논란이 크다는 겁니다. 대상자의 표정이나 목소리 톤, 단어의 사용 빈도 등을 기반으로 감정 상태를 분석하는데 모든 인간이 동일한 표정과 동일한 감정을 표현하진 않기 때문이죠. 사회문화적 이해나 개인의 다양성을 고려한다면 감정 AI가 만들어지기 어렵고 정상이라는 기준을 만들어 차별과 편견 조장한다는 우려가 나옵니다. 동시에 개인 정보 유출 우려도 나왔죠.

블룸버그에 따르면 최근 미국시민자유연맹(ACLU)과 전자프라이버시정보센터(EPIC) 등 25개가 넘는 시민단체들은 에릭 위안 줌 최고경영자(CEO)에 서한을 보내 감정 분석은 과학에 의해 뒷받침되지 않고 차별을 조장하고 사생활이 노출될 가능성이 있다고 경고했어요. 단체는 또 줌의 새로운 기능을 막는 데 동의하는 사람들의 서명을 받는 사이트도 열었습니다. 이들은 기계가 인간의 감정 상태를 정확하게 평가하는 것을 믿을 수 없다며 그로 인한 부작용을 크게 우려하는 것이죠.

하지만 일각에서는 개인정보 보호장치를 마련하고 이 기술을 제한적으로 사용한다면 도움이 될 수 있다며 항변하고 있다고 미 매체 악시오스는 전했는데요. 기술이 인간을 좀 더 이해하고 작동할 수 있도록 도움을 줄 수 있다는 겁니다. 자동화된 전화 시스템이 고객의 분노나 짜증을 감지했을 때 인간 상담사로 연결해주는 식으로 삶에서 활용도가 높은 방향으로 사용하면 된다는 주장이에요.

논란은 당분간 지속될 것으로 보이는데요. 줌을 비롯한 기업들이 이러한 논란을 뚫을 수 있는 방안을 마련하고 감정 AI를 화상회의에서 사용할 수 있는 유용한 기능으로 만들 수 있을 지 주목됩니다.

편집자주 - [넥스트.찐]은 '비즈니스의 진짜 다음(next)을 내다본다'는 의미로 주요 기업의 미래 준비 소식들을 전하는 코너입니다. 전면에 드러난 큰 이슈부터 숨어있는 작지만 중요한 이슈까지 속속 발굴해 이해하기 쉽게 풀어서 소식을 전달하겠습니다.

정현진 기자 jhj48@asiae.co.kr