보이스피싱, 몸캠피싱 및 딥페이크 등 디지털 범죄 대응 전문기업 라바웨이브(대표 김준엽)가 10월 8일 부산 벡스코에서 열리는 ‘AI+X CONFERENCE 2026’에 참가해 ‘AI 신뢰성’ 세션에서 ‘AI가 만든 가짜, 우리는 어떻게 구별할까?’를 주제로 연사로 나섰다고 8일 밝혔다.
이번 참여에서 주목할 문제는 AI가 만들어낸 콘텐츠의 정교함 자체보다, 이를 악용한 범죄가 개인의 일상에 미치는 위협이다. 동의 없이 합성된 성적 이미지와 영상은 유포 협박이나 금전 요구의 수단이 될 수 있고, 이를 접한 타인의 비난이나 괴롭힘에 노출되는 피해자가 겪는 불안과 심리적 고통이 엄청나기 떄문이다.
디지털 범죄를 단순한 ‘가짜 콘텐츠 문제’로 바라봐서는 안 되는 이유도 여기에 있다. 중요한 것은 합성 여부를 가려내는 데서 그치지 않고, 이를 이용한 협박과 유포로부터 피해자를 보호하기 위해 콘텐츠의 진위를 해명하거나 범죄를 예방할 책임을 떠넘기기보다 기술적 대응과 사회적 보호 체계를 함께 강화해야 한다고 강조한다.
라바웨이브의 최근 활동 역시 피해 발생 이후의 대응을 넘어, 범죄 악용 가능성을 사전에 줄이는 방향으로 이어지고 있다. 지난 7월에는 KAIST 사이버보안연구센터와 공동 개발한 딥페이크 사전예방 기술의 특허 등록 결정을 받아 원본 이미지에 보호 신호를 적용해 악의적인 합성 과정을 방해하는 방식으로, 이미 만들어진 콘텐츠를 찾아내는 대응을 보완했다.
예방 기술을 일반 이용자가 직접 접할 수 있도록 하는 활동도 진행했다. 지난 4월에는 경찰청 사이버범죄 신고시스템(ECRM)을 통해 딥페이크 사전예방 기술의 대국민 체험 서비스를 제공해 단순 연구개발에 머무르지 않고 이용자가 자신의 이미지 보호와 디지털 범죄 예방의 필요성을 체감할 수 있는 접점을 마련한 것이다.
불법 콘텐츠가 반복적으로 유통되는 구조를 파악하기 위한 공공 협력도 확대했다. 지난 8월 라바웨이브는 성평등가족부와 ‘디지털성범죄 관련 불법 유해사이트 심층 분석 연구’ 계약을 체결해 불법 콘텐츠를 유통하는 해외 사이트의 운영 실태와 사이트 간 연관 관계, 수익화 구조 등을 분석해 차단과 수사 대응의 기반을 마련한 바 있다.
이번 연구는 개별 콘텐츠나 사이트에 대한 조치만으로 대응을 끝내기 어렵다는 문제의식과 맞닿아 있다. 불법사이트는 차단 이후에도 도메인이나 서버를 바꿔 다시 등장하기 때문에 눈앞의 유포물을 찾는 노력과 함께 반복적인 유통을 뒷받침하는 운영 구조를 분석하는 접근을 통해 관련 데이터를 교차 분석하고, 그 결과를 삭제 지원과 접속 차단 요청, 수사 의뢰 등에 활용하는 것을 추진했다.
라바웨이브 김준엽 대표는 “이번 컨퍼런스 참여가 이 같은 기술 개발과 공공 협력의 연장선에서 AI 시대의 안전과 신뢰를 위한 사회적 논의를 넓히는 계기가 될 수 있다”며 “AI 활용의 가능성을 논의하는 자리에서 범죄 악용의 위험도 함께 살피고 기술의 발전이 개인의 권리와 일상을 보호하는 방향으로 이어져야 한다는 메시지를 전하는 데 의미가 있다”고 강조했다.
한편 라바웨이브는 몸캠피싱 등 디지털 범죄 대응과 함께 ‘라바스캐너’를 활용한 웹•SNS 유포 탐지 및 모니터링 등 피해 확산에 대응하기 위한 서비스를 제공하고 있다.
|
