연합뉴스미 대선을 앞두고 인공지능(AI)을 이용한 선거 개입 가능성에 대한 우려가 커지고 있는 가운데, 미 연방통신위원회(FCC)가 올초 민주당 대선 경선 과정에서 AI를 이용해 가짜 전화 메시지를 만든 정치 컨설턴트에게 철퇴를 내렸다.
FCC는 23일(현지시간) 생성형 AI 기술로 바이든 대통령의 목소리를 흉내내 가짜 전화 메시지를 제작한 정치 컨설턴트 스티브 크레이머에게 600만달러(약 82억원)의 벌금을 부과했다.
이번 벌금은 크레이머에 대한 형사처벌과는 별개의 것이다.
제시카 로즌워슬 FCC 위원장은 "전화 발신자가 잘 알려진 정치인이면, 수신자는 사실이 아닌 것에 속을 가능성이 더 커진다"며 "이는 목소리를 조작하는 악의적 행위자들이 바라는 결과"라고 말했다.
크레이머는 지난 1월 뉴햄프셔 프라이머리 직전 바이든 대통령 말투로 '프라이머리에서 투표하면 11월(대선)에 투표할 수 없다'는 가짜 전화메시지를 만들어, 주민들에게 투표 거부를 독려한 혐의 등으로 기소됐다. 크레이머는 허위 사실로 투표를 방해하려 한 혐의 등 모두 24건의 혐의를 받고 있다.
당시 바이든 대통령은 뉴햄프셔주 프라이머리에 후보로 등록하지 않은 상태였다.
바이든 대통령은 지난 대선에서 성적이 저조했던 뉴햄프셔주 대신 다른 주에서 프라이머리를 시작하자고 요구했고, 이에 민주당은 뉴햄프셔 대신 사우스캐롤라이나에서 첫 경선을 치렀다. 다만 뉴햄프셔는 이에 굴하지 않고 민주당 승인없이 경선을 비공식으로 강행했다.
크레이머의 가짜 전화 메시지로 자칫 유권자들에게 혼돈을 줄 수 있는 상황이 발생하자 법무부는 즉각 성명을 내고 "뉴햄프셔 경선을 방해하는 불법적인 시도"라며 "경선에서 투표했다고 11월 선거에서 배제되는 게 아니니 유권자들은 메시지 내용을 완전히 무시해 달라"고 촉구하기도 했다.
이번 사건과 관련해 크레이머는 "바이든 캠프에 해를 끼치거나 선거에 개입하려는 의도가 없었다"면서 "AI 딥페이크에 대한 규제를 촉구하기 위해 이런 일을 벌였다"고 해명했다.
한편 FCC는 오는 11월 예정된 미국 대선 과정에서 AI를 활용한 허위 정보를 차단하기 위해, 정치 광고 등에 AI를 사용할 경우 이를 명시하도록 하는 방안을 추진하고 있다.