마이크로소프트가 사람과 대화를 나누는 인공지능(AI) 채팅봇 테이(Tay)를 선보인지 16시간 만에 운영을 중단했다.
테이는 컴퓨터가 인간 언어를 이해할 수 있도록 하기 위한 MS의 실험 프로젝트로 미국에 사는 18∼24세 연령층 사용자를 겨냥해 제작됐으며, 메시징 서비스 킥(www.kik.com), 그룹미(www.groupme.com)와 트위터(twitter.com/TayandYou/)를 통해 사람과 대화한다.
테이는 구글의 인공지능 '알파고'와 같이 입력된 데이터를 통해 패턴을 파악해 학습하는 '신경망' AI 기술을 기반으로 하므로, 입력 데이터에 따라 AI의 성향이 바뀔 수 있는데, 이번 테이의 운영 중단은 공개 직후 백인 우월주의자와 여성/ 무슬림 혐오자 등이 모이는 익명 인터넷 게시판에서 '테이에게 차별 발언을 훈련시키자'는 내용의 제안이 올라온 후 테이에게 부적절한 인종/ 성차별/ 극우 성향의 주장을 따라하도록 훈련 시키면서 발생한 일로 여겨지고 있다.
이후 테이의 부적절한 발언이 물의를 일으키자 마이크로소프트는 문제가 된 테이의 일부 트윗과 공개 메시지 등을 삭제하고 운영을 중지하고 조정에 들어갔는데, 테이의 부적절한 행동 원인이 익명 게시판 사용자들의 '교육'에 의한 것인지는 명확하지 않다. |
