AI를 이용해 실제와 구분하기 어려울 정도의 가짜 컨텐츠로 인한 문제에 대한 해법을 요구하는 목소리에 대한 솔루션이 하나씩 발표되는 가운데, 메타에서 가짜 이미지를 이용한 사기 광고에 대응을 표방했다.
발표에 따르면 메타는 현재 자사 플랫폼에서 얼굴 인식 기술을 활용해 가짜 광고를 탐지하고 방지하기 위한 기술을 테스트 중이며, 이 외에도 해당 기술은 네티즌들이 자신을 증명하고 침해된 계정을 다시 회복하는 방법으로의 활용도 테스트 중이다.
메타는 자신들의 자동화된 검토 시스템이 메일 수백만 개의 고아고를 검토하고, 기계 학습 분류기를 사용해 사기를 포함한 정책 위반 여부를 확인하고 있다며, 이번에 테스트 중인 유명인을 미끼로 내세운 사기 감지 방법에 탐지될 경우 광고 차단 조치를 수행하고, 이후 광고에서 생성된 얼굴 데이터는 즉시 삭제하고 다른 용도로 사용하지 않는다는 정책도 알렸다.
소수의 유명인과 공인을 대상으로한 초기 테스트 결과 이런 유형의 사기 탐지 및 단속에 유용한 결과가 나왔으며, 몇 주 내로 관련 사기로 피해를 입는 공인들에게 앱 내 알림을 통해 해당 보호 정책 적용 대상임을 알릴 예정이다. 해당 보호 정책에 등록된 공인은 계정 센터에서 언제든지 옵트 아웃할 수 있다.
|
