생성형 인공지능(AI) 전문 기업 딥브레인AI(대표 장세영)는 이미지•영상 속 인물을 분석해 딥페이크를 활용한 인물 도용을 방지하고 초상권 보호를 지원하는 ‘페이스 아이디(Face ID) 판별’ 기술 개발을 완료했다고 27일 밝혔다.
최근 생성형 AI 기술이 고도화되며 실제 인물의 얼굴을 무단 활용하거나 사칭하는 딥페이크 콘텐츠에 대한 우려가 커지고 있다. 이에 따라 콘텐츠 제작•공유 플랫폼에서 보호 대상 인물을 정확하게 식별하고, 무단 도용을 사전에 차단할 수 있는 기술의 중요성도 높아지고 있다.
페이스 아이디 판별은 딥브레인AI의 생성형 AI 안전 엔진 ‘AI 가드(AI Guard)’를 구성하는 핵심 기술 중 하나다. 이미지•영상 속 얼굴을 사전 등록된 보호 대상 인물 데이터베이스(DB)와 비교해 동일 인물 여부를 판별한다.
특히 안경, 모자, 앞머리, 수염, 촬영 각도, 표정 등 얼굴 인식에 영향을 미치는 다양한 조건을 고려해 판정 기준을 차등 적용한다. 외형이 달라진 상황에서도 보호 대상 인물을 식별하고, 외모가 유사한 다른 인물을 동일 인물로 잘못 판단하는 오인식 가능성을 줄이도록 설계했다.
판정 기준은 ▲안전 ▲주의 ▲일치 3단계로 구분된다. 페이스 아이디 판별 도입 기업은 보호 대상 인물 ‘일치’가 확인된 콘텐츠 생성 요청을 자동 차단한다. 추가 확인이 필요한 ‘주의’ 단계 요청은 담당자가 직접 검토하도록 운영할 수 있다. 성능 평가 도구와 실제 판별 서버에 동일한 판정 기준값을 적용해 개발 환경•운영 환경 간 결과 차이를 최소화했다.
얼굴 분석 과정에서는 검출된 얼굴을 주요 특징점에 맞춰 정렬한 뒤, 얼굴의 특징을 수치화한 데이터 ‘512차원 특징 벡터’로 변환해 등록된 인물과 비교한다. 비교 결과를 추가로 재정렬하는 절차를 적용해 외모가 유사한 다른 인물을 잘못 지목하는 사례를 줄이도록 구성했다. 특정 인물 인식 성능은 국제공인시험기관 시험에서 과제 기준을 충족했다.
보호 대상 인물의 DB 구축과 갱신을 지원하는 도구도 함께 개발했다. 인물 목록을 입력하면 여러 검색 소스에서 이미지를 수집하고, 신원 검증과 품질 검사를 거쳐 DB에 반영한다. 이 과정에서 흐릿한 사진, 동명이인의 사진, 단체사진, 중복 이미지 등을 걸러낸다. 신규 인물의 특징 벡터만 추가 계산하고, 판별 서버 검색 인덱스를 서비스 중단 없이 교체할 수 있도록 설계하는 등 DB 갱신 과정의 효율성도 강화했다.
영상 콘텐츠 분석 기능도 지원한다. 일정 간격으로 프레임을 추출해 얼굴을 분석하고, 동일 인물이 등장하는 시점을 묶어 구간별 판별 결과를 제공한다. 전체 판정 결과를 비롯해 최고 유사도, ‘일치•주의’ 판정 건수, 인물별 등장 구간 등을 함께 제시해 담당자가 추가 검토가 필요한 장면을 효율적으로 확인할 수 있다.
딥브레인AI는 얼굴 DB 구축•관리 4종과 인물 판별 2종 등 총 6종의 응용프로그램 인터페이스(API)를 제공하고 있다. 콘텐츠 플랫폼과 공공기관 등이 기존 서비스에 인물 식별 및 도용 방지 기능을 연동할 수 있도록 지원한다. 이미지•영상 속 보호 대상 인물의 무단 활용 여부를 사전에 확인하고, 추가 검토가 필요한 구간을 자동으로 분류해 담당자의 업무 부담을 줄이는 동시에 초상권 침해와 인물 사칭 위험에 대응할 수 있을 것으로 기대된다.
장세영 딥브레인AI 대표는 “얼굴 인식 기술에서 중요한 것은 보호 대상 인물을 정확하게 찾아내는 동시에 다른 사람을 동일 인물로 잘못 판단하는 오인식을 최소화하는 것”이라며 “다양한 촬영 환경과 얼굴 변화 조건에서도 신뢰할 수 있는 판별 기술을 바탕으로 인물 도용 방지와 초상권 보호 역량을 강화하고, 안전한 생성형 AI 콘텐츠 활용 환경을 조성해 나가겠다”고 밝혔다.
한편, 이번 기술은 문화체육관광부와 한국콘텐츠진흥원이 지원하는 문화기술 연구개발(R&D) 사업인 ‘악의적 활용을 차단하는 생성형 AI 모델을 탑재한 콘텐츠 창작 및 공유 플랫폼 기술 개발’(과제번호 RS-2024-00441174)을 통해 개발됐다. 한국전자기술연구원이 주관하고 딥브레인AI가 공동연구개발기관으로 참여했다.
|
