연합뉴스정부가 앤트로픽의 차세대 인공지능(AI) 모델 '미토스'가 촉발한 사이버보안 우려를 계기로, 글로벌 AI 보안 협력망 참여를 본격 추진하고 있다.
국내 기업과 기관 가운데 미토스 접근권을 가진 곳이 없어 실제 위협 수준을 직접 검증하기 어려운 만큼, 앤트로픽과의 협력을 통해 정보 비대칭을 줄이고 AI 기반 해킹 대응 체계를 마련하겠다는 구상이다.
과기부·앤트로픽 회동…AI·사이버보안 협력 논의
12일 정부에 따르면 과학기술정보통신부는 전날 외교부, 국가정보원, 금융위원회, 인공지능안전연구소(AISI), 한국인터넷진흥원(KISA), 금융보안원과 함께 앤트로픽과 AI·사이버보안 분야 협력 방안을 논의하는 간담회를 열었다.
이번 간담회에는 류제명 과기부 2차관, 김명주 AISI 소장, 오진영 KISA 본부장 등이 참석했다. 앤트로픽 측에서는 마이클 셀리토 글로벌 정책총괄 등 관계자들이 자리했다.
과기부는 이번 간담회가 지난 2월 인도 AI 관련 국제회의에서 이뤄진 배경훈 부총리 겸 과기부 장관과 다리오 아모데이 앤트로픽 최고경영자(CEO) 간 협의의 후속 조치라고 설명했다.
최근 고성능 AI 모델의 사이버보안 활용을 둘러싼 국제적 관심이 커지면서, 양측 협력도 AI 산업 전반에서 사이버보안 분야로 확장되는 모습이다.
글래스윙 참여 타진…정보공유가 핵심
이번 간담회의 핵심은 사이버보안 협력이다. 과기부는 앤트로픽에 한국 기업·기관과의 사이버보안 협력을 제안하고, AI가 찾아낸 보안 취약점에 국내에서도 미리 대응할 수 있도록 정보 공유를 요청했다. 양측은 이번 간담회를 계기로 AI 모델의 사이버보안 활용과 관련한 실무 협력을 이어가기로 했다.
정부 안팎에서는 이를 앤트로픽의 글로벌 AI 보안 협력체인 '프로젝트 글래스윙' 참여 논의와 맞물린 흐름으로 보고 있다. 글래스윙은 앤트로픽이 미토스 등 고성능 AI 모델을 활용해 AI 기반 사이버 공격과 방어 기술을 검증하는 협력 프로그램으로 알려져 있다.
국내에서는 아직 미토스 접근권을 가진 기업이나 기관이 없는 상황이다. 이 때문에 미토스가 실제로 어느 수준까지 취약점을 탐지하고, 공격과 방어 양측에 어떤 영향을 미칠 수 있는지 직접 확인하기 어렵다. 정부가 앤트로픽에 한국 기업·기관과의 협력 및 정보 공유를 요청한 것도 이런 한계를 줄이기 위한 조치로 풀이된다.
AI 안전성 평가·제도 협력도 병행
AI 안전성과 신뢰 확보 방안도 주요 의제로 다뤘다. 과기부는 AI기본법이 AI 산업 혁신과 국민 신뢰 기반 조성의 근거를 마련한 선도적 사례라고 강조하며, 앤트로픽에 글로벌 AI 선도기업으로서 경험을 공유해 달라고 요청했다.
AISI와 앤트로픽 간 AI 모델 안전성 확보 협력 방안도 논의 테이블에 올랐다. 이는 단순한 미토스 접근권 확보에 그치지 않고, 고성능 AI 모델의 안전성 평가와 위험 관리 체계를 국내 제도와 연결하려는 시도로 풀이된다.
류제명 과기부 2차관은 "프론티어급 AI 모델의 성능이 빠르게 고도화하고 활용 범위도 확대되고 있어, AI 혁신과 더불어 국민과 기업이 AI를 안전하게 활용할 수 있는 환경을 조성하는 것은 중요한 과제"라며 "AI 모델의 안전성 확보와 사이버보안 역량 강화 등 AI 위험에 대한 예방·대응 체계를 강화하기 위해 글로벌 AI 선도기업들과 적극 협력해 나가겠다"고 밝혔다.
기존 보안체계 한계…이달 말 대응 방향 제시
정부는 이르면 이달 말 AI 기반 사이버 위협 대응 방향을 내놓을 계획이다. 과기부는 지난 8일 글로벌 AI 기업의 사이버보안 프로젝트 대응 방안을 논의하기 위해 산학연 전문가 간담회를 열고, 미토스 등 고성능 AI 모델의 사이버보안 활용이 국내에 미칠 영향과 향후 대응 방안을 논의했다.
간담회에는 SKT, 업스테이지, 모티프테크놀로지스 등 독자 파운데이션 모델 개발 참여 기업과 주요 AI 기업, 정보보호학계, 정보보호기업 대표, 주요 기업 최고정보보호책임자(CISO) 등이 참석했다.
참석자들은 AI 보안 모델의 영향에 대해 "사이버보안 분야에 상당한 변화를 가져올 것"이라는 견해와 "우려가 과도하다"는 의견을 함께 내놨지만, 미토스 등 고성능 AI 기반 사이버보안 서비스 등장에 따라 민관이 장단기 대응 방안을 마련해야 한다는 데에는 의견을 같이했다.
특히 글로벌 AI 기업의 사이버보안 프로젝트 참여 등을 통한 정보 비대칭 해소와 AI 보안 주권 확립 필요성을 강조했다.
배경훈 부총리는 "우리 사회의 정보보호 패러다임도 이제 AI 기반 보안으로의 대전환을 더 늦추기 어려운 상황"이라며 "국내 AI 보안 특화 모델 개발을 추진하는 한편, 사회 전 분야에 제로트러스트 철학을 확산하고 양자보안 등 원천적 방어체계를 확립하는 대응 방안을 각 분야 전문가와 함께 조속히 마련하겠다"고 밝혔다.
과기부는 독자 파운데이션 모델 개발 기업과 주요 CISO 의견 수렴에 이어, 조만간 보안 기업들과도 간담회를 열어 현장 의견을 추가로 들을 예정이다. 정부는 단기적으로 대규모 취약점 대응과 글로벌 AI 보안 프로젝트 참여를 추진하고, 중장기적으로는 'AI로 AI를 방어하는' 체계와 제로트러스트 기반 보안 전환을 검토할 것으로 보인다.