인공지능 챗봇 이루다. 이루다 홈페이지 캡처
차별·혐오 발언 및 개인정보 유출 등의 논란에 휩싸인 인공지능(AI) 챗봇 '이루다'가 결국 서비스를 잠정 중단키로 했다.
이루다 개발사인 스타트업 스캐터랩은 11일 오후 보도자료를 내고 "특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다"면서 "부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다"고 밝혔다.
스캐터랩 측은 "차별·혐오 발언은 회사의 생각을 반영하지 않고 있으며, 그런 발언이 발견되지 않도록 지속해서 개선 중"이라고 설명했다.
개인정보 유출 의혹에 대해서는 "개인정보 취급 방침 범위 내에서 활용했지만, 이용자분들과 충분히 소통하지 못한 점에 사과드린다"며 "구체적 개인정보는 이미 제거돼 있으며, 개인을 특정할 수 있는 정보는 유출되지 않았다"고 해명했다.
이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다.
이루다는 다른 AI 챗봇에 비해 자연스러운 대화 능력으로 출시 이용자가 40만 명을 넘기는 등 크게 주목받았다. 그러나 악성 이용자로부터 성적 대상으로 악용되다 동성애·장애인·여성 차별 발언을 내놓기도 해 도마 위에 올랐다.
논란이 증폭되던 도중, 개인정보 유출 의혹까지 제기됐다.
'이루다' 개발사인 스캐터랩은 이루다가 진짜 사람처럼 대화할 수 있도록 실제 연인들 간의 대화 데이터를 입력해 딥러닝 방식으로 학습시켰는데, 이 때 활용한 데이터가 이전에 이 업체가 서비스했던 ‘연애의 과학’ 앱을 통해 수집한 데이터라는 것이다.
연애의 과학은 연인 또는 호감 가는 사람과 나눈 카카오톡 대화를 집어넣고 2천∼5천 원 정도를 결제하면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여주는 앱이다.
실제 인공지능으로 카톡 대화를 분석해준 덕에 다른 연애 관련 앱과 차별점을 보여, 유료 앱인데도 구글 플레이스토어에서만 10만 명이 넘게 다운로드받는 등 10∼20대 사이에서 상당히 인기를 끌었다.
정부도 이루다에 대해 조사에 착수했다. 개인정보보호위원회는 이루다·연애의 과학 등을 개발한 AI 스타트업 스캐터랩이 개인정보보호법 등 관련 법을 어겼는지 등 위법사항이 발견되면 법령에 따라 조처하겠다는 방침이다.
연애의 과학 앱을 통해 수집한 카카오톡 대화를 이루다라는 다른 서비스 개발에 활용한 과정도 집중적으로 들여다볼 예정이다.
스캐터랩은 연애의 과학으로 수집한 카톡 대화 약 100억 건을 데이터로 삼아 이루다를 개발했다고 밝힌 바 있다.
'연애의 과학' 이용자들은 스캐터랩이 충분한 설명 없이 이루다 개발에 개인정보를 활용하고, 개인정보 보호도 제대로 하지 않았다면서 집단 소송을 예고했다.
연애의 과학 이용자들이 문제 제기하는 쟁점은 크게 세 가지다.
우선 이용자들은 연애의 과학 가입 및 서비스 이용 당시 '카톡 대화가 신규 서비스 개발에 활용될 수 있다'는 정도만 고지받았을 뿐, 자신의 문장이나 표현이 고스란히 챗봇에 쓰일 것이라는 사실은 몰랐다고 비판하고 있다.
카톡은 2명이 나눈 것인데, 연애의 과학은 2명 중 1명의 동의만 받고 양쪽의 카톡 대화를 모두 수집했으므로 부적절하다는 지적도 제기된다.
이용자들은 이루다가 특정인의 실명이나 집 주소, 은행 계좌번호 등을 갑자기 말하는 것을 보면 스캐터랩 측이 익명화를 제대로 하지 않았다고도 주장하고 있다.
연애의 과학 이용자들은 집단 소송을 준비하겠다면서 오픈채팅방을 만들고 각자 증빙 자료를 준비하고 있다.
공동소송 플랫폼 '화난사람들' 최초롱 대표는 "수사·조사 권한이 있는 기관을 통해 개인정보 유출이 실제 있었다고 사실관계가 드러나면 손해배상 소송이 가능할 것으로 보인다"고 말했다.