(사진=월드뱅크/UN뉴스)
인공지능 음성비서의 여성 목소리가 성에 대한 부정적 관념(편견)을 야기한다는 유엔(UN) 보고서가 나왔다.
유엔(UN) 산하 교육과학문화 분야 위원회인 유네스코(UNESCO)가 최근 독일 정부와 소녀 및 여성의 기술 평등을 지원하는 평등기술연합(EQUALS Skills Coalition)과 함께 발행한 보고서에서 "여성 목소리의 인공지능 음성비서가 사용자에게 여성을 기꺼이 맹목적으로 순종하는 도우미라는 편견을 주입시키고 있다"고 지적했다.
유네스코의 <할 수="" 있다면="" 얼굴이="" 빨개질거야:="" 교육을="" 통한="" 디지털="" 기술의="" 성="" 격차="" 해소(i'd="" blush="" if="" i="" could:="" closing="" gender="" divides="" in="" digital="" skills="" through="" education)=""> 보고서는 "특히 우려스러운 점은 그들이 종종 모욕에 대해 '회피적인, 미숙한 또는 사과하는 반응'을 보인다는 것"이라며 알렉사(Alex)나 시리(Siri)와 같은 음성비서에 전통적인 여성 이름을 부여한 기술 기업들이 음성비서를 여성 목소리로 만드는 것을 중단해야 한다고 촉구했다.
보고서 제목 'I'd blush if i could'는 노골적인 성적 질문에 시리가 답한 반응에서 따왔다. 단순히 목소리 뿐만 아니라 애플이 시리의 성 정체성을 여성으로 부여했다는 점을 강조한 것이다.
보고서는 "남성 엔지니어가 압도적으로 많은 애플, 아마존과 같은 회사들은 여성화된 디지털 음성비서가 언어적 학대에 반응하도록 인공지능을 구축했다"면서 "대부분의 음성비서의 목소리는 여성이기 때문에, 여성이 버튼을 누르거나 '헤이' 또는 '오케이'와 같은 무뚝뚝한 음성 명령으로 사용할 수 있는 고분고분한 도우미라는 신호를 보낸다. 음성비서는 명령자가 요구하는 것 외에 어떠한 권한도 갖고 있지 않다. 명령에 따르고 어조나 적대감에 관계없이 질문에 답한다"고 꼬집었다.
이어 "많은 사회에서, 이것은 여성들이 낮은 대우에 복종하고 관대하다는 일반적인 성적 편견을 강화한다"고 강조했다.
보고서에 따르면 마이크로소프트의 코타나(Cortana)는 비디오게임 헤일로(Halo)의 여성 캐릭터 이름에서 따왔고, 애플 시리는 '아름다운 승리'를 뜻하는 노르웨이 등 스칸디나비아 지역과 인도 일부 지역에서 사용되는 여성 이름이다. 구글 어시스턴트(Google Assistant)는 중성적인 명칭이지만 기본 음성은 여성이다.
세계 최초로 사우디아라비아 시민권을 부여받아 화제가 된 홍콩 핸슨 로보틱스의 AI 로봇 '소피아(Sophia)'도 여성의 외형과 목소리를 가졌다.
(사진=세계경제포럼 WEF)
중국의 음성비서 3강인 알리바바 '티몰 지니', 샤오미 '샤오아이', 바이두 '샤오두'를 비롯해 비보 '조비', 오포 '브리노', 화웨이 '샤오이' 등 통신 및 기술 기업 대부분 여성 이름이나 목소리를 기본으로 사용한다. 국내 음성비 플랫폼인 네이버 '클로바', 카카오 '아이', SK '누구', KT '기가지니' 등도 마찬가지다.
일부 기술 회사들은 이같은 성 정체성에 대한 고정관념으로부터 탈피하기 위해 다양한 옵션을 제공하기도 한다. 구글은 여성과 남성 목소리 옵션을 제공하고 제품 색상별로 구분하던 목소리도 무작위 방식으로 수정했다. 어린이들의 사용이 늘면서 버릇 없이 말하는 습관을 유발한다는 지적에 '플리즈(Please)'나 '땡큐(Thank you)'와 같은 존중하는 단어를 함께 사용하면 '유쾌한 반응(delightful responses)'을 보상받는 프로그램을 선보이기도 했다. 아마존 알렉사도 비슷한 프로그램은 운영하고 있다.
그러나 보고서는 이러한 기능과 성별 옵션으로는 충분하지 않다고 지적했다. 인공지능 연구 분야는 대부분 백인 남성이 주도하고 있으며, 지난 4월 AI 나우 인스티튜(AI Now Institute)가 발표한 또다른 보고서에 따르면 AI 연구자의 약 80%가 남성이며 여성의 경우 페이스북은 15%, 구글은 10%에 불과했다.
유네스코는 이같은 문제의 해결책은 성 중립적인 목소리에 최대한 가깝게 만들고 성적 모욕을 방지하는 시스템을 만드는 것이라고 지적했다. 보고서는 더불어 기술 회사들이 더 작고 복종적인 인간처럼 다루기 위한 AI 훈련에서 벗어나야 한다며, 고정관념에서 완전히 탈피하는 유일한 방법은 강제적으로 비 인간적인 목소리로 재설계하는 것 뿐이라고 덧붙였다.
실제 나이와 성별 파괴를 의미하는 '젠더리스(genderless)' 음성비서가 등장하기도 했다.
북유럽 IT 기업 '버추(Virtue)'는 지난 3월 덴마크 인권단체 코펜하겐 프라이드와 함께 언어학자, 기술자, 사운드 디자이너 등이 참여해 개발한 무성(無性) 음성비서 '큐(Q)'를 공개했다.
남성과 여성과 같은 이분법으로 설명되지 않는 트랜스젠더나 젠더퀴어 등 '논 바이너리(non-binary)' 5명의 목소리를 녹음해 성중립 범위로 정한 145~175Hz 사이로 음성을 변조했다. 4600명을 대상으로 1(남성)~5(여성)까지 들리는 목소리를 구분해달라고 한뒤 변조음성을 재차 다듬었다.
버추는 음성비서에 대한 다양한 옵션이 주어진다 해도 여전히 남성과 여성이라는 이분법으로 구분된다고 지적하면서 애플, 아마존, 구글, 마이크로소프트 등 AI 음성비서 개발 기업들이 Q를 공유할 것을 제안했다.
버추는 "우리 사회는 성 정체성에 대한 이분법적 사고를 지속적으로 타파하고 있으며, 남성이나 여성으로 식별할 수 없는 사람들을 인식하고 있다면 우리가 만든 기술을 따라야 한다"고 강조했다.
글로벌 시장조사 기관 가트너에 따르면, AI 음성비서와 상호작용 할 수 있는 스마트 스피커는 2018년 전 세계 1억대가 판매됐으며, 유네스코 보고서는 월 10억 건의 작업을 처리하고 있다고 밝혔다.
가트너는 2020년이면 일부 사용자들이 배우자보다 음성비서와 더 많은 대화를 나눌 것이라고 전망했다.