보이스피싱, 몸캠피싱 등 디지털 범죄 대응 전문기업 라바웨이브(대표 김준엽)는 카이스트 사이버보안연구센터와 공동 개발한 딥페이크 사전예방 기술을 경찰청 사이버범죄신고시스템 누리집을 통해 일반 국민이 직접 체험할 수 있도록 제공한다고 2일 밝혔다. 딥페이크 범죄가 급증하는 가운데 사후 대응의 한계를 넘어 근본적인 기술적 예방 수단을 국민에게 직접 선보이는 첫 사례로 주목된다.
이번에 공개된 딥페이크 사전예방 기술은 적대적 공격(Adversarial Attack) 기법을 기반으로 한다. 인물 사진에 육안으로는 식별할 수 없는 미세한 노이즈를 주입함으로써 AI가 해당 이미지를 딥페이크 합성에 활용할 경우 결과물이 심각하게 왜곡되도록 만드는 원리로서 이를 통해 원본 이미지의 시각적 품질은 그대로 유지하면서도 딥페이크 생성 자체를 기술적으로 억제할 수 있다.
라바웨이브는 경찰청과의 협업을 통해 일반 국민 누구나 자신의 인물 사진을 딥페이크로부터 보호할 수 있는 기능을 직접 경험할 수 있도록 하는 한편 이미 제작•유포된 딥페이크물에 대한 사후 조치의 한계를 극복하기 위해서는 기술적 사전 대응이 반드시 필요하다는 점을 지속적으로 강조할 방침이다.
이번 대국민 체험 서비스는 경찰청 사이버범죄신고시스템 누리집 누리집 뿐만 아니라 라바웨이브의 홈페이지, 블로그 및 인스타그램 등 다양한 접속 경로를 활용해 서비스 접근성을 최대화한다.
또한 딥페이크 생성 AI의 빠른 발전 속도에 발맞춰 지속적인 기술 고도화를 추진 중이고, 특히 최신 딥페이크 생성 버전과 전처리 제거 기능을 탑재한 오픈AI 모델에 대응하기 위한 기술 고도화 연구를 병행해 ‘범죄 콘텐츠 확대 억제’와 ‘그릇된 기술 발전에 대응하는 긍정 혁신’이라는 두 가지 목표를 동시에 달성한다는 전략이다.
라바웨이브 김준엽 대표는 "딥페이크 범죄는 사후 대응만으로는 근본적인 해결이 불가능하므로 기술로 예방하고, 국민이 직접 자신을 보호할 수 있는 환경을 만드는 것이 중요하다”며, "이번 체험 서비스를 시작으로 경찰청 및 관련 공공기관과의 협력을 더욱 강화하고 일반 국민 누구나 간편하게 딥페이크로부터 자신을 보호할 수 있는 환경을 만드는 것이 궁극적인 목표”라고 포부를 밝혔다.
|
