국경없는 기자회에서 AI 기반의 애플 자동 뉴스 요약 기능 제거를 촉구했다.
이는 iOS 18.2 업데이트와 함께 제공, 기본 활성화된 AI 기반 알림 요약 기능이 몇몇 뉴스 앱에서 기사의 내용을 엉뚱하게 요약하는 현상이 발견되고 있는데 따른 것으로, 예시로 이스라엘 네타냐후 총리가 체포되었다거나, 미국 의료보험 회사의 암살범이 자살했다는 식의 사실과 다른 요약본을 제공하는 것을 문제시했다.
국경없는 기자회의 기술 데스크 책임자는 이와 관련해 "AI는 확률에 기반해 동작하지만, 사실은 주사위를 굴려 결정할 수 없다"며 "미디어의 내용을 자동으로 허위 생성하는 것은 매체의 신뢰성에 타격을 입히고, 대중들은 신뢰할 수 있는 정보 획득 권리를 침해하는 것"이라 주장했다.
이후 애플에 대해서는 해당 기능을 제거하여 책임감 있는 태도를 보일 것, 입법부에 대해서는 생성형 AI를 고위험 시스템으로 분류해 현실과의 괴리에 빠르게 대응할 것으로 촉구했다. |
