인스타그램이 인공지능 기술을 활용해 앱 내 괴롭힘과 따돌림을 방지하고, 플랫폼에서 긍정적이고 유익한 경험만 하도록 돕는 두 가지 안전기능을 출시한다고 밝혔다.
그 첫번째는 ‘자동신고’ 기능이다. ‘머신 러닝’(기계학습, 빅데이터를 분석해 컴퓨터가 스스로 학습하는 인공지능 분야의 기술)에 기반해 인스타그램에 올라오는 사진과 글 중 비방을 목적으로 하는 게시물이나 악성 콘텐츠를 찾아 자동으로 신고한다. 지금까지 신고된 게시물을 중심으로 리뷰를 진행했던 것에서 한 걸음 더 나아가 부적절한 게시물을 직접 찾아 리뷰하고 삭제하기 위한 목적으로 개발됐다. 이를 통해 특히 청소년 사용자들을 온라인 상 괴롭힘, 따돌림으로부터 더 적극적으로 보호할 수 있을 것으로 기대하고 있다.
자동신고 기능은 스토리(Stories), 둘러보기(Explore) 뿐만 아니라 비공개 계정의 사진 게시물에도 적용되며, 신고된 사진이나 게시물에 포함된 비방용 문구 등을 리뷰하고 인스타그램의 커뮤니티 가이드라인을 준수하지 않는 경우 삭제 조치한다. 삭제된 글을 올린 사용자는 게시물 삭제 이유를 포함한 게시물 삭제 공지를 받게 된다.
다른 하나는 ‘비방 댓글 필터’ 기능의 확대이다. 기존 피드, 둘러보기, 프로필 페이지의 게시물에 적용되던 댓글 필터 기능을 라이브 방송에도 확대 적용한다. 이를 통해 인스타그램 라이브 중에도 비방용, 악성 댓글 등 부적절한 댓글을 자동으로 필터링 해 예상치 못하게 발생할 수 있는 사이버 불링 등을 일정 수준 예방할 수 있을 것으로 기대하고 있다. 라이브 방송 댓글 필터 기능은 현재 영어, 프랑스어, 독일어, 아랍어 등 총 9개 언어를 지원하며, 추후 한국어를 포함한 더 많은 언어를 지원할 예정이다.
인스타그램은 안전하고 유익한 플랫폼 구축을 위해 지속적인 노력을 기울이고 있다. 지난 9월에는 부모들이 청소년 자녀의 안전한 인스타그램 사용을 도울 수 있도록 제작된 ‘부모님을 위한 자녀의 안전한 인스타그램 사용 가이드’를 국문본으로 공개했으며, 이에 맞춰 이용자들이 인스타그램에서 안전하고 긍정적인 경험을 할 수 있도록 돕는 새로운 웹사이트도 개설한 바 있다. 이외에도 다양한 안전 도구와 디지털 웰빙 등의 여러 안전 관련 컨텐츠도 제공 중이다. |
