보안업계, 딥페이크 탐지 솔루션 고도화 속도

인공지능(AI)를 활용한 딥페이크(불법합성물)가 사회적 문제로 불거지면서 보안성 강화가 중요한 화두로 떠오른다. 보안업계는 딥페이크 등 AI로 생성한 위험한 콘텐츠 등을 탐지하는 보안 기술 고도화에 힘쓰고 있다.

딥페이크 탐지는 AI로 생성한 콘텐츠를 탐지하는 기술이다. AI를 통해 얼굴 변화를 감지하거나, 음성과 입 모양의 부자연스러운 부분을 분석한다. 또 혈류나 세부적인 피부 특징을 찾아내거나 AI 이미지 합성 툴 자체를 감지하는 등 다양하다.

라온시큐어는 생성형 AI를 활용해 보안 기술을 고도화 하는 연구개발을 진행해 왔다. 또 이를 확장해 딥페이크 기술 탐지 기술 고도화하고 있다.

라온시큐어가 선보일 딥페이크 탐지 기술은 합성된 얼굴과 정상 얼굴을 각각 학습해 이를 상호 비교해 분류할 수 있도록 AI를 학습시킨다. 정확도를 높이기 위해 여러 모델을 동시에 이용한다. 이미지부터 동영상, 안면 추출, 주파수 계열 변환 등 다양한 기술을 적용해 생성형 AI의 특징을 탐지한다.

라온시큐어는 올 하반기에 개인이 쉽게 딥페이크 여부를 체크할 수 있는 탐지 서비스를 자사의 개인용 모바일 백신 애플리케이션에 탑재할 계획이다. 또 AI가 작성한 콘텐츠를 탐지하는 기술을 개발해 사람이 직접 생성한 데이터인지 여부를 탐지하는 서비스로 확장할 계획이다.

샌즈랩은 올해 4월 정부가 추진한 '정보보호 핵심 원천기술 개발사업' 참여해 생성형AI 역기능 억제를 위한 사이버 보안 특화 검색증강생성(RAG) 기반 sLLM(소형언어모델)을 개발하고 있다. LG유플러스, 포티투마루, 로그프레소, 한국과학기술원이 함께 연구 중이다.

연구개발(R&D) 기간은 2024년 4월부터 총 4년이다. 70억원의 정부 지원 연구개발비 투입과 함께 총 사업비 100억원으로 추진된다. 샌즈랩은 분야별 데이터셋 구축, sLLM 및 대화형 인터페이스를 개발해 사이버 보안에 특화된 다양한 AI 기술 기반 응용 서비스를 선보일 계획이다.

플랜티넷은 유해콘텐츠 차단 서비스 기술을 딥페이크 탐지로 확장해 기술을 고도화하고 있다. 기존에는 사이트 중심의 유해 콘텐츠 차단을 해왔다면 2019년부터 영상까지 유해 콘텐츠 식별을 하는 서비스로 확장했고, 최근 딥페이크 음란 영상 필터링 기술도 준비하고 있다.

현재 불법차단물 유포방지를 비롯해 온라인그루밍 탐지(텔레그램, 카카오톡) 및 차단, 인공지능(AI) 기술 활용한 콘텐츠 판별 등 기술 연구도 병행하고 있다. 플랜티넷은 2021년 정부 기관 디지털 범죄 방지 공동연구개발기관으로 선정된 데 이어 지난해 경찰 유관기관과 협업을 논의하고 있다.

일각에서는 딥페이크 탐지 기술 구현에 앞서 초상권 데이터를 확보가 선행되어야 한다고 강조한다. 이를 위해 정부 차원의 적극적인 협조가 동반돼야 한다는 것이다.

업계 한 관계자는 "딥페이크를 탐지하려면 AI모델을 만들어야하고, 이 모델이 많은 초상권(표본) 데이터를 확보해야 기술 고도화에 유리하다"라며 "정부에서 합법적으로 일부 데이터를 활용할 수 있도록 공개는 했지만 충분하지 않은 실정이다. 정부에서도 딥페이크 위험성을 심각하게 받아들이고 보안업체들이 기술 고도화에 도움이 될 수 있도록 적극적인 지원이 필요하다"고 말했다.

이선율 기자 melody@chosunbiz.com