샘 올트먼 오픈AI 대표(오른쪽)와 그레그 브록먼 오픈AI 공동창업자가 9일 서울 여의도동 63스퀘어에서 소프트뱅크벤처스 주최로 열린 '파이어사이드 챗 위드 오픈AI' 대담에 참석하고 있다. 연합뉴스생성형 인공지능 챗GPT를 개발한 오픈AI의 샘 올트먼 최고경영자가 우리나라에서도 AI 규제 필요성을 강조했다. 인공지능이 야기할 수 있는 사회적 혼란을 막기 위해 규제가 필요하다는 원론적인 입장이지만, 업계 선두주자의 입맛대로 규제의 틀이 짜여질 경우 우리나라는 영원한 조연에 머물 것이라는 우려도 나오고 있다.
샘 올트먼 최고경영자는 이날 소프트뱅크벤처스가 여의도 63스퀘어에서 주최한 대담 행사에서 "AI 규제에 대해 전 세계적인 협력이 필요하다"고 강조했다.
그는 미국 의회 청문회에 출석해 AI 기술에 대한 정부 규제와 개입을 요구했고, 이번 주 중동 지역을 방문하면서도 AI가 인류의 위협이 되는 상황을 막기 위해 국제원자력기구(IAEA)와 같은 국제 감독 기관이 필요하다고 밝힌 바 있다. 이날 방한해서도 관련 입장을 재확인한 것이다.
전세계적인 생성형 AI 열풍 불러온 장본인이 AI 규제 필요성을 강조하는 어색한 상황인 셈인데 그가 우려하는 부분은 악용 가능성이다. 인공지능이 만들어낸 거짓 정보는 정치·경제 영역에 심각한 혼란을 일으킬 수 있고, 사이버범죄에 활용될 가능성도 다분하다.
지난달 22일(현지시간)에는 미국 펜타곤 근처에서 대형 폭발이 발생했다며 관련 사진이 SNS에서 확산됐고 미국 S&P500 지수가 0.3% 하락하는 등 증시가 출렁였는데, 이는 생성형 AI로 만들어진 가짜뉴스였다.
또 샘 올트먼은 미국 의회 청문회에서 "(미국) 대선이 가까워지고 기술이 발전하는 상황을 감안했을 때 일대일로 상호 작용하는 AI 모델이 여론을 조작하거나 움직이고 거짓 정보를 제공할 수 있다는 점은 심각하게 우려되는 부분"이라고 말했다.
여기에 생성형 AI를 서비스하는 업체가 오남용을 방지하기 위해 걸어놓은 제어 기능을 우회해 범죄에 활용하는 '탈옥' 행위도 벌어질 수 있다. 이에 업체의 책임을 명시하고, 용도를 제한하는 방식의 입법 논의가 전세계 각국에서 이뤄지고 있는 상황이다.
다만, 일각에서는 샘 올트먼이 AI 규제를 주장하는 배경에는 후발주자를 견제하기 위한 '사다리 걷어차기' 목적이 깔려 있다는 지적이 나오기도 한다. 자신들의 입맛에 맞게 규제를 만들어 이를 적용받게 되는 후발주자들의 자유로운 연구를 막는다는 의심이다.
이에 대해 오픈AI는 기술과 기술을 활용하는 행위를 구분하고, 활용을 규제해야 한다는 뜻을 밝혔다. 올트먼 대표와 함께 방한한 그렉 브록만 대표는 관련 우려에 대해 "기술을 자체를 규제할 게 아니라 그걸 활용하는 것을 규제해야 한다"며 "기술만 규제하면 결국 규제를 우회하는 기술이 나온다"고 말했다.
특히, 오픈AI 측은 규제가 기술 발전을 통한 혁신을 가로막는 행위에 대해 명백한 반대 입장을 밝혔다. 브록만 대표는 "리스크를 다루며 혁신을 줄여가는 방법으로 규제해선 안 된다"며 "기업들도 좀 더 책임감을 갖고 사회적 합의를 이뤄가는 것이 중요하다"고 강조했다.
과학기술 자체는 가치중립적이지만, 이를 악용하는 인간이 문제라는 원론적 입장이지만, 업계에서는 규제 필요성에 비해 규제의 부작용이 더 크게 와닿을 수 있다는 목소리가 나오고 있다. IT업계 관계자는 "미국이나 중국에 밀리고 있으니 우리가 경쟁력을 갖추기 위해서는 규제보다 진흥이 필요하다"며 "선두주자들의 입맛대로 규제 논의가 현실화된다면 우리의 AI 기술은 조연에만 머물 수 있다는 걱정이 크다"고 언급했다.