'비밀병기' 꺼낸 삼성전자, AI 연산속도 8배 빨라진다

온 디바이스 AI 경량화 기술 공개
시스템반도체 핵심 'NPU' 성능↑
삼성전자 제공

세계 최고 수준의 '온 디바이스 AI 경량화 알고리즘' 개발에 참여한 한재준 삼성전자 종합기술원 마스터(왼쪽부터), 손창용 전문연구원, 정상일 전문연구원, 최창규 상무.

[디지털타임스 박정일 기자] 삼성전자가 '2030년 시스템반도체 세계 1위'의 핵심 기술 중 하나인 신경망처리장치(NPU) 성능을 대폭 강화할 수 있는 '비밀병기'를 공개해 눈길을 끌고 있다. 딥러닝을 바탕으로 데이터의 핵심을 압축해 처리하는 기술로, 인공지능(AI) 연산 속도를 8배 가량 빠르게 하면서 동시에 전력 소모를 대폭 낮출 수 있는 것이 핵심이다.

2일 삼성전자에 따르면 삼성전자 종합기술원은 최근 컴퓨터 비전 분야의 글로벌 최대 학회인 CVPR(Computer Vision and Pattern Recognition)에서 세계 최고 수준의 '온 디바이스 AI(On-Device AI) 경량화 알고리즘'을 공개했다.

이 기술은 반도체가 특정 상황을 인식할 때 정확도를 유지하면서 딥러닝 데이터 크기를 8분의 1로 줄이는 것이 핵심이다. 학습을 거쳐 전체 정보 중 의미 있는 범위의 데이터만 양자화 해서 연산 속도를 높이고 동시에 전력 소모량을 낮춘다는 내용이다.

실험 결과 기본에 32비트로 연산하는 딥러닝 알고리즘을 4비트 이하로 '핵심'만 추려내 처리해도 다른 기술과 비교해 가장 높은 정확도를 얻을 수 있다는 것을 증명했다고 회사 측은 소개했다. 아울러 반도체 트랜지스터 개수를 기존보다 40분의 1에서 120분의 1만 사용하더라도 같은 연산 결과를 얻을 수 있었다고 덧붙였다.

삼성전자 측은 "보통 AI 기기가 복잡한 연산을 하기 위해 클라우드 서버를 거치는 것과 달리, 온 디바이스 AI는 수백·수천개의 연산을 기기에서 곧바로 수행토록 하는 기술"이라며 "이 기술의 핵심은 전력을 많이 소모하지 않으면서도 대용량 데이터를 고속으로 연산하는 것"이라고 설명했다.

이 온 디바이스 AI 기술로 클라우드 서버를 구축하는 비용을 줄이고, 동시에 자체 연산으로 자율주행과 가상현실(VR) 등의 상황에서 빠르고 안정적인 동작을 할 수 있게 해준다고 삼성전자 측은 강조했다. 회사는 이번에 종합기술원이 개발한 온 디바이스 AI 경량화 알고리즘을 엑시노스 시리즈 등 모바일 시스템온칩(SoC)뿐만 아니라 메모리와 센서에도 적용하는 등 경쟁력을 높일 계획이다.

최창규 삼성전자 종합기술원 상무는 "궁극적으로 주변의 모든 기기는 물론, 센서가 부착된 사물들이 '두뇌'를 갖게 되는 시대가 올 것"이라며 "저전력, 고속 연산의 숙제를 해결하는 차세대 온 디바이스 AI 기술이 이러한 미래를 열어줄 전망"이라고 말했다.

한편 삼성전자는 사람의 두뇌에 가까운 인공지능(AI) 반도체 NPU(신경망처리장치) 독자 기술 개발을 위해 관련 전문 인력을 지금의 10배인 2000명 규모로 늘리고 관련 인수·합병(M&A)도 추진한다고 밝힌 적이 있다.

박정일기자 comja77@dt.co.kr