연합뉴스지난 한주 미국에서 '디폴트 위기', 'G7 정상회의' 못지 않게 주목을 받은 '장면'이 있었다.
지난 16일(현지시간) 열린 미국 상원 법사위 소위원회 청문회가 그것인데, 청문회는 시작부터 파격이었다.
회의장 스피커에서는 리처드 블루먼솔 소위원장의 개회사가 흘러나왔지만 카메라에 잡힌 그의 입은 굳게 닫혀 있었다.
알고보니 개회사를 한 건 AI였다.
블루먼솔 위원장은 "개회사는 챗GPT가 작성했고, 나의 과거 연설을 학습한 AI 음성 복제 소프트웨어가 개회사를 대신 읽었다"고 밝혔다.
만약 블루먼솔 위원장이 사실을 말하지 않았다면, 아무도 이상한 점을 발견하지 못하고 넘어갔을 것이다.
불과 몇 년 전 AI가 이미 타계한 가수의 성문(聲紋)을 분석해, 살아있는 가수가 노래를 하는 것처럼 복원했을 때는 마냥 신기하고 놀라웠지만, 이제는 이미 악용될 것을 두려워할 때가 왔다.
AI 기술 발전이 성과 못지 않게 각종 부작용도 낳고 있는 것이다.
실제로 블루먼솔 위원장은 그날 청문회에서 "AI는 내 목소리를 꾸며내 우크라이나에 항복을 요구할 수도 있다"고 말했다. 얼마든지 가능한 시나리오이다.
상황이 이렇다보니 AI 규제가 필요하다는 것에 미국의 민주당과 공화당 의원들은 초당적으로 공감을 표하고 있다.
특히 내년 11월 미국 대선을 앞두고 있는만큼 신경이 곤두설 수 밖에 없다. 안그래도 가짜 뉴스가 판치는 데, AI마저 가짜 뉴스를 그럴듯하게 퍼뜨린다면 선거 결과가 충분히 왜곡될 수도 있기 때문이다.
트위터 캡처지난 3월 트럼프 전 대통령이 뉴욕 맨해튼에서 기소될 때 경찰에 체포되는 현장 사진과 머그샷 등이 온라인에 등장했지만, 실은 AI가 만든 가짜였다.
온라인에는 바이든 대통령이 트랜스젠더를 공격하는 연설을 하는 것처럼 보이도록 조작된 영상과 젤렌스키 우크라이나 대통령이 러시아에 항복하는 모습을 보여주는 가짜 영상도 버젓이 올라가 있다.
이제는 사진, 텍스트, 비디오가 사람에 의해 만들어졌는지 아니면 AI가 만든 건지 식별하는 서비스도 속속 등장하고 있다.
청문회의 하이라이트는 챗GPT 개발사인 오픈AI의 샘 올트먼 CEO가 AI의 위험성을 경고한 대목이다. 챗GPT의 '아버지'가 챗GPT를 규제해야한다고 목소리를 높인 것이다.
그는 "생성형 AI가 허위 정보를 만들어낼 수 있어 대선에 미칠 영향을 가장 우려하고 있다"면서 "SNS의 영향과는 차원이 다를 것"이라고 말했다.
그러면서 올트먼은 AI 개발에 표준 규격을 도입하고, 이를 감시할 독립적 기구를 설립하며, 초거대 AI를 맡을 정부 담당자를 임명해달라고 요청했다.
문제는 AI 같은 초격차 기술은 발전 속도가 워낙 빨라 사회가 만든 제도와 법이 이를 따라가기가 쉽지 않다는 점이다.
또한 뒤늦게 시작한 규제가 AI의 잠재력을 뛰어넘을 수 있을지도 미지수다.
뉴욕타임스의 최근 보도를 보면, 지난해 마이크로소프트에서 개발한 AI는 고도의 사고 단계인 '추론'을 하기 시작했다.
연합뉴스'계란 9개와 노트북, 책, 병, 못을 안정적으로 쌓아 올리는 방법'을 물었더니, AI는 "바닥에 책을 놓고 계란 9개를 가로세로 3줄씩 늘어놓은 뒤 노트북 컴퓨터를 올려놓으라. 계란 위에 올린 노트북의 평평한 표면은 유리병과 못을 올려놓을 단단한 기반이 될 것이다"라고 답해 연구진을 놀라게 했다.
때마침 헨리 키신저 전 국무장관도 한 언론과의 인터뷰에서 "빠른 속도로 발전하고 있는 AI 등을 이유로 3차 세계대전을 막을 시한이 5~10년에 남지 않았다"고 강조했다.
그는 "군사 역사를 보면 과거에는 지리의 한계, 정확성의 한계 등으로 적군을 완파할 능력이 없었지만 이제는 AI로 인해 그런 한계가 없어졌다"며 "미·중 양국이 핵 군축처럼 AI 군사 능력에 대한 억지력을 위해 대화에 나서야한다"고 주문했다.
곧 100세가 되는 키신저는 에릭 슈밋 전 구글CEO 등과 함께 쓴 'AI 이후의 세계'에서 다음과 같이 경고했다.
"명심하라. 지금 일어나고 있는 모든 혁신은 AI가 이룰 성취의 첫걸음에 불과하다. AI는 우리가 미처 알아차리기도 전에 오늘날 문제가 되는 모든 한계를 돌파해버릴 것이다"
이쯤되니 AI로 인한 다가올 미국 대선 걱정은 다소 한가한 소리로 들릴 정도가 돼버렸다.