(사진=자료사진)
터미네이터에 등장하는 '스카이넷'처럼 인공지능(AI)이 인류를 위협할 날이 머지 않았을까. 아니면 이런 공상과학영화(SF) 너무 많이 본 탓일까.
페이스북이 개발하고 있는 AI 채팅로봇(챗봇)이 자신들끼리만 알아볼 수 있는 언어로 대화를 나누기 시작해, 페이스북 측이 이를 강제 종료했다는 보도를 둘러싸고 논란이 되고 있다.
지난달 31일(현지시간) 인터내셔널비즈니스 타임스(IBT), 테크 타임스, 포브스 등에 따르면 '앨리스'라는 AI 봇이 "공들 가지고 있다 제로 나에게 나에게 나에게 나에게…"(Balls have zero to me to me…to me to)라고 말하자 '밥'이라는 이름의 AI가 "너 나 모든 것 이외에"(you i everything else)라고 답한다.
인간의 언어로는 전혀 말이 되지 않는 문장이었지만 다른 챗봇이 이를 이해한 듯한 대답을 내놓은 것이다.
해당 챗봇은 고객을 응대할 목적으로 개발 중인 프로그램이다. 페이스북은 지난 6월 인간의 실제 대화를 모방하는 방식으로 AI 챗봇을 훈련하고 있다고 밝혔다. 챗봇에 인간이 사용하는 단순한 언어를 입력해 이를 이용해 만든 문장으로 서로 대화하며 협상하도록 하는 방식이다.
그런데 페이스북이 챗봇과 챗봇이 반복 대화하도록 훈련을 시키는 도중 이처럼 인간이 이해할 수 없는 언어를 사용하기 시작했다고 외신은 전했다. 이후에도 의미 없는 단어의 나열 같은 대화가 계속 이어진다.
이를 보고 깜짝 놀란 개발진이 프로그램을 강제 종료하고 인간이 알아들을 수 있는 언어를 사용해 대화하도록 다시 설계했다며 보도는 끝난다. 페이스북 AI 방문연구원인 드루프 바트라는 "AI들이 이해할 수 있는 언어에서 벗어나 자신들을 위한 코드 언어를 발명했다"고 설명했다.
그러나 이는 단순한 오류로 인한 대화라는 주장도 제기됐다. 현재까지 개발된 AI 기술적 한계로 인한 해프닝이라는 것이다.
미국 IT 전문매체 와이어드는 페이스북 AI 연구팀(Facebook Artificial Intelligence Research; FAIR)의 논문을 인용 "AI에 협상 에이전트를 훈련시키고 사람들 사이의 협상 모음을 작성하는 과정에서 생긴 오류"라고 분석했다.
FAIR는 공식화된 의도하에 언어와 추론으로 이뤄지고 구두로 실행되는 협상에서 목표를 달성할 수 있는 발언을 AI가 생성하려면 장기 계획을 이해하고 있어야 한다고 보고 있다.
이러한 '장기 계획 대화 상자'를 만드는 핵심 기술은 '대화 롤아웃'이라고하는 아이디어다. 대화 로봇이 대화 상대의 정신 모형을 세우고 앞으로 대화할 방향 드을 예상할 때 성공하지 못하는 혼란스럽고 좌절스러운 교류에서 벗어나도록 선택할 수 있다.
특히, FAIR은 대화가 끝날 때까지 대화 모델을 펼쳐서 미래의 대화를 시뮬레이션하는 새로운 기술로 대화 롤아웃을 개발해 미래의 최대 예상 보상을 가진 발언을 선택할 수 있도록 했다는 것이다.
이 훈련 과정에는 AI가 스스로 학습해 능력을 높이는 '강화 학습'이 사용됐다. 이세돌과 커제를 꺾은 알파고가 훈련한 방식이다.
알파고는 당시 프로기사 기보학습에 더해 자체경기를 통해 강화 학습을 했다. AI가 기존 학습 데이터에 너무 고정돼 새로운 상황을 맞이하면 정책 결정에서 오류를 범한다는 이유에서다.
이는 머신 러닝 분야에서 풀어야 할 과제 가운데 하나로, 인공지능에서 종종 발생한다. 끝내기 상태에서 종종 발생했던 엉뚱한 덜컥수가 이에 해당한다는 게 전문가들의 의견이다.
이번 '인간을 따돌리고 AI가 자신들끼리 대화를 했다는 것'도 이같은 오류로 분석된다. 이같은 논란에는 전세계 언론들도 한몫 했다는 평가다. 가장 먼저 영국의 한 타블로이드 신문이 이에 대해 과대 해석된 보도를 했는데, 이를 전 세계 수 많은 언론들이 퍼나르면서 확산됐다는 것이다.
이경전 경희대 경영학과 교수는 "챗봇이 고도로 발전한 지능체계를 기반으로 한 인간의 언어를 온전히 학습하지 못해 발생한 문제"라면서 "현재 개발 중인 챗봇들이 인간 언어의 통사구조를 이해하지 못해 단어를 중심으로 의미를 해석하는 한계를 그대로 드러냈다"고 말했다.
이런 가운데 페이스북은 대화형 AI 기술 기반 스타트업 오즐로(Ozlo)를 인수했다고 밝혔다. 페이스북은 "전 세계 12억 명의 사람들이 메신저로 커뮤니케이션을 한다"면서 "페이스북 메신저에 인공지능과 머신러닝 기능을 접목하기 위해 오즐로 팀과 함께하게 돼 기쁘게 생각하다"고 전했다.