마이크로소프트의 인공지능 뉴스 편집기가 영국 팝 그룹 리틀 믹스의 혼혈 멤버 제이드 설웰(Jade Thirlwall)의 기사에 같은 그룹의 멤버 리 앤 피녹(Leigh-Anne Pinnock)의 사진을 올리는 실수를 하였다.
리 앤 피녹(좌), 제이드 설웰(우) [사진 2장 모두]
지난 6월 초, 마이크로소프트는 자사의 MSN 뉴스 에디터를 인공지능으로 다수 교체한 바 있었다. AI 뉴스 편집기는 교체 당시에도 우려가 있었으며 결국 한달도 되지않아 실수를 저질렀다. MSN 에디터는 여러 매체가 제공하는 기사를 선별하여 게시하는 역할을 하는데, 제이드 설웰의 인종차별 경험 뉴스에 리 앤 피녹의 사진을 올린 것이다.
제이드 설웰은 자신의 SNS을 통해 유독 유색인종인 자신과 리 앤 피녹을 헷갈리는 경우가 많다고 전하며 불쾌한 기분을 비추었다.
MSN 측은 이러한 실수를 발견 즉시 수정하였으며 AI 로봇의 실수를 최대한 빨리 삭제하라는 내부 지침을 받았다고 덧붙였다.
AI 안면 인식 기술은 꾸준히 인종차별적인 기술이라는 논란이 있다. AI 안면 인식 기술의 빅데이터는 백인 남성을 위주로 훈련되어있어 유색인종과 여성의 얼굴을 구분하기 어렵고 이는 뉴스 큐레이션 뿐 아닌 다양한 곳의 사례가 있다.
|
