노드VPN, 크롬 확장 프로그램에 ‘AI 음성 탐지’ 기능 추가

인공지능(AI) 음성 기술이 빠르게 발전하면서 온라인 환경에서 실제 사람의 목소리와 AI가 생성한 음성을 구별하기 어려워지고 있다. 특히 딥페이크 음성을 활용한 전화 사기와 신원 사칭 사례가 늘어나면서 보안 업계도 대응 기술 개발에 속도를 내는 분위기다.

이 가운데 글로벌 사이버보안 기업 NordVPN이 자사 크롬 브라우저 확장 프로그램에 ‘AI 음성 탐지(AI Voice Detection)’ 기능을 새롭게 도입했다. 이용자는 인터넷에서 재생되는 음성이 실제 사람의 목소리인지, AI가 생성한 합성 음성인지 실시간으로 확인할 수 있게 됐다.

실시간으로 AI 음성 여부 분석

새 기능은 현재 사용 중인 브라우저 탭에서 재생되는 오디오를 분석해 사람의 음성과 AI 생성 음성을 구분한다. 해당 기술은 NordVPN과 연구 조직인 NordLabs의 사이버보안 전문가들이 공동 개발했다.

AI 음성 탐지 모델은 수천 개의 실제 음성과 AI 생성 음성 샘플을 기반으로 학습됐으며, 자체 신경망(뉴럴 네트워크) 모델을 활용해 인간 음성과 기계 음성의 차이를 판별한다.

최근 생성형 AI 기술의 대중화로 몇 초 분량의 음성만으로 특정 인물의 목소리를 흉내 내는 서비스가 온라인에서 쉽게 제공되고 있다. 이에 따라 해외에서는 가족이나 지인을 사칭한 보이스피싱, 기업 임원을 가장한 금융 사기, 영상 콘텐츠 조작 사례 등이 증가하고 있다. 국내에서도 AI 딥페이크 범죄와 음성 합성 기술 악용에 대한 우려가 커지는 상황이다.

“AI 음성, 가장 설득력 있는 사기 도구 중 하나”

도미닌카스 비르비카스(Domininkas Virbickas) NordVPN 프로덕트 디렉터는 “AI 생성 음성은 현재 사기범들이 사용하는 가장 설득력 있는 도구 가운데 하나지만, 대부분의 사용자는 이를 정확히 구별하기 어렵다”고 말했다.

이어 “AI 음성 탐지 기능은 이러한 문제를 해결하기 위해 설계됐다”며 “모든 탐지가 사용자 기기 내부에서 실시간으로 처리되기 때문에 개인정보를 침해하지 않으면서도 사용자가 듣고 있는 음성을 신뢰할 수 있도록 돕는다”고 설명했다.

기기 내부에서만 처리…개인정보 보호 강조

이 기능은 사용자가 NordVPN 크롬 확장 프로그램에서 AI 음성 탐지를 활성화하면 작동한다. 현재 활성화된 브라우저의 오디오 스트림을 수집한 뒤, 기기 내부에서 실시간으로 신경망 모델이 분석을 수행하는 방식이다.

분석 결과는 확장 프로그램 팝업 창과 웹페이지 내 작은 알림 형태로 표시된다. 색상으로 결과를 구분해 직관성을 높였다.

• 녹색: 실제 사람 음성
• 빨간색: AI 생성 음성
• 노란색: AI 음성으로 추정되는 경우

NordVPN은 모든 분석 과정이 사용자 기기 내부에서만 이뤄진다고 강조했다. 사용자가 탐지 기능을 중단하거나 브라우저 탭을 닫으면 오디오 버퍼 데이터도 즉시 삭제된다고 설명했다.

음성 내용 자체는 분석하지 않아

회사 측은 AI 음성 탐지 기능이 음성의 내용 자체를 듣거나 해석하지 않는다고 밝혔다. 시스템은 오직 음향적 특성만 분석하며, 대화 내용을 이해하거나 기록·저장·해석하도록 설계되지 않았다는 설명이다.

또한 사용자 신원 정보, 검색 기록, 쿠키, 계정 정보 등에도 접근하지 않는다고 덧붙였다.

AI 음성 보안 기술 경쟁 본격화

AI 기반 음성 생성 기술은 콘텐츠 제작, 고객 서비스, 접근성 향상 등 다양한 분야에서 활용되고 있지만, 동시에 사이버 범죄 악용 가능성도 함께 커지고 있다. 이에 따라 글로벌 보안 업계에서는 AI 탐지 기술과 딥페이크 식별 기술 개발 경쟁이 본격화되는 모습이다.

전문가들은 앞으로 음성 기반 인증 서비스나 금융·공공기관의 비대면 시스템에서도 AI 음성 판별 기술의 중요성이 더욱 커질 것으로 보고 있다.