이종호 과학기술정보통신부 장관(오른쪽)과 미셸 도넬란 영국 과학혁신기술부 장관이 22일 서울 성북구 한국과학기술연구원(KIST)에서 AI 서울 정상회의와 AI 글로벌 포럼과 관련해 브리핑하고 있다. 과학기술정보통신부 제공21~22일 이틀 간 열린 'AI(인공지능) 서울 정상회의'가 막을 내렸다. 빠르게 진화하는 AI 기술에 대한 세계적인 규범 논의를 위해 세계 각국의 정부와 기업들이 모여 방향성을 논의했다. 영국에서 열린 1차 회의 때 '안전'에 이어 이번 서울 회의에선 '혁신'과 '포용'이란 더 확대된 방향을 제시했다.
행사 첫날 국제 협력 강화를 강조한 '서울 선언'에 이어, 둘째날에는 AI 안전·혁신·포용 증진을 위한 '서울 장관 성명'이 28개국 참여로 채택됐다. 구글·마이크로소프트·오픈AI·삼성전자·네이버 등 국내외 주요 인공지능 관련 업체들도 이에 화답하며 '서울 AI 기업 서약'을 발표했다.
구체적으로 이용자들이 오인하지 않도록 인공지능이 만든 콘텐츠에 워터마크를 붙이고, 국제 표준 개발에 협력하기로 했다. 또 AI 기술을 특정 계층만 향유하지 않도록 '누구도 소외되지 않는 방식의 인공지능 서비스 개발'에 나서기로 했다. 상대적으로 기술이 뒤처진 개발도상국과 신흥경제국의 대학·연구실 등에 인공지능 자원 및 인프라 지원에도 힘을 쓰겠다는 내용도 서약에 담겼다.
AI 전문가들이 모인만큼 AI 규제에 대한 다양한 의견도 나왔다. '기업과 전문가 포럼'의 기조연설자로 나선 앤드루 응 미국 스탠퍼드대 교수는 "모든 지식 근로자가 인공지능의 혜택을 받을 것"이라며 "인공지능 기술을 규제하면 발전은 더딜 것이다. 혁신과 안전 모두를 잡기 위해선 기술과 애플리케이션을 구분해, 기술이 아니라 애플리케이션을 규제해야 한다"고 강조했다.
반대의 목소리도 나왔다. '보편적 디지털 권리를 위한 동맹'의 아만다 마니아메는 함께 열린 '인공지능 글로벌 포럼' 전문가 세션에서 앤드루 응 교수를 겨냥하며 "기술과 애플리케이션을 나눠 거론한 발표도 있었는데, 기술도 규제가 필요하다"며 "해악이 내재된 기술을 응용 단계에서 규제하는 건 너무 늦다"는 의견을 냈다.
마커스 안데리융 AI 거버넌스 센터 정책 책임자는 "사이버 보안 등 AI 기술을 이용한 범죄 등 부작용에 대응하기 위해 딥페이크 방지 필터 적용 등 도구를 제공하는 한편 AI가 전기처럼 중단되지 않고 신뢰 가능한 체계로 운영될 수 있도록 AI 안전성을 추구해나가야 한다"고 지적했다.
이종호 과학기술정보통신부 장관은 이날 서울 성북구 한국과학기술연구원(KIST)에서 행사가 끝난 뒤 미셸 도널런 영국 과학혁신기술부 장관과 개최한 공동 기자회견 자리에서 "안전을 위한 기술적 발전, 즉 혁신이 함께 가야 한다"면서 "기술 격차가 거시적으로 안전성에 문제를 일으킬 수 있다는 지적도 있었다. 결국 안전과 혁신, 포용은 묶여 있다"고 말했다.
지난해 영국의 AI 안전 정상회의에 이어 이번에 서울에서 진전시킨 AI에 대한 전 세계적 논의는 내년 프랑스에서 열릴 AI 행동 정상회의로 이어진다.