지난 2020년 21대 국회에서 처음으로 처음 'AI(인공지능) 기본법'이 발의됐지만 국회 해당 상임위에 통과되고 계류되다 결국 임기 내 제정되지 못하고 폐기됐다. 국회 논의가 공회전하는 4년 사이 AI 분야는 크게 성장했다. 지난 21대 국회 최종 병합안을 바탕으로 22대 국회에서도 '육성'과 '규제'라는 두 축을 중심으로 AI 기본법이 발의되고 있다. 그러나 AI 산업 현장과 동 떨어진 법안으로, 육성도 규제도 놓칠 수 있다는 우려가 나온다.
'육성'과 '규제' 두 축으로 구성된 'AI 기본법'
15일 국회의안정보시스템에 따르면 22대 국회에서 'AI 기본법'은 여야에서 6건이 발의됐다. 지난 21대 국회에서 논의된 AI 기본법 명칭은 '인공지능산업 육성 및 신뢰 기반 조성에 관한 법률안'이다. 이번에 발의된 법안 6건에도 '육성', '발전', '개발' 등 AI 산업을 지원하는 방향의 내용이 담겼다.
AI 산업이 폭발적으로 성장하고 있는 만큼 지원이 필요하다는 공감대가 모아진 결과다. 지난 21대 국회에서 발의된 법안들은 대부분 '교육'과 '책임'을 법안명에 담아 AI 이용자를 보호하는 데 초점이 맞춰있었다. 하지만 4년 새 AI 산업이 전방위적으로 발전했고, 산업 진흥에 필요한 환경을 조성하는 데 지원이 필요하다는 취지가 반영됐다.
법안 별로 차이는 있지만, 신뢰 기반을 마련하기 위해 공통적으로 대통령 혹은 국무총리 소속의 국가인공지능위원회를 설치하고, 경쟁력 강화를 위한 인공지능정책센터 및 협회를 세운다는 것이 골자다. 특히 민주당 조인철 의원이 대표 발의한 '인공지능산업 육성 및 신뢰확보에 관한 법률안'은 AI에 활용되는 데이터의 활용을 촉진하기 위해 실증 규제 특례를 운영한다는 내용이 포함됐다.
다만 '규제'에 있어서는 다소 차이가 있다. 법안에서 사람의 생명과 신체의 안전과 기본권의 보호에 영향을 미칠 수 있는 영역에서 활용되는 AI가 '고위험영역 AI'으로 정의됐다. 이러한 고위험 AI에 대해 고지할 의무를 부여하고, 사업자의 책무를 규정했다.
생성형 AI에 대한 규제도 새롭게 포함됐다. 소리, 그림과 영상 등 결과물을 다양한 자율성의 수준에서 생성하도록 만들어진 AI를 '생성형 AI'로 규정했다. 발의된 6건 법안들 중에서 절반인 3건이 생성형 AI에 대해 고지 및 표시 의무를 규정했다. 이밖에도 인공지능제품이 위험을 줄 수 있을 때는 비상정지될 수 있게 하고 금지된 인공지능을 개발과 이용을 제한하는 규정과 벌칙 조항은 비교적 강력한 규제로 꼽힌다.
전문가·업계·시민사회단체 "육성과 규제? 구체성 떨어져"
전문가들은 '육성'에 있어 국내 AI 산업의 경쟁력을 강화하는 방안이 부족하다는 지적이다. 당초 논의되던 AI 기본법이 이용자에 대한 보호에 초점이 맞춰져 있었고, 지난 21대 국회 법안을 토대로 22대 국회 법안들도 마련됐다. 다만 AI 산업이 국가전으로 진행되고 있는 상황에서 국내 산업을 보호하는 지원 전략이 필요하다는 주장이 나온다.
문성모 출연연과학기술연합회 회장은 "전 세계적으로 AI 산업의 규모가 커지고 있는 상황에서 미국과 같은 나라들이 주도하고 있는 한편 대한민국은 이에 비해 경쟁력이 떨어지고 있다"며 "정부가 동력을 마련하기 어려운 상황에서 자율성을 기반으로 산업이 발전될 수 있도록 지원하는 쪽이 맞다"고 말했다.
특히 업계에서는 기준 마련 차원에서 입법이 필요하다면서 안정적인 산업 발전을 위해 규제의 방향을 명확하게 정해줘야 한다는 목소리가 나온다. 데이터 활용 등 규제하는 범위가 명확히 규정돼야 국내 산업을 보호하면서도 업계에서 AI 기술을 안정적으로 개발할 수 있다는 입장이다.
업계 관계자는 "AI 경쟁에서 한국은 밀리고 있는 상황이고 어디까지 서비스를 제공할 수 있는지 데이터 활용 등을 명확하게 규정해 주는 게 필요하다"며 "AI 이용자 보호에 있어서는 자체적으로 알고리즘 헌장을 발표하고 기업 자체적으로도 노력하는 부분을 고려해 줬으면 좋겠는 바람"이라고 밝혔다.
시민사회 단체에서도 '규제' 조항 대다수가 구체성이 떨어진다고 주장한다. 오병일 진보네트워크 대표는 "유럽연합도 AI에 대해 안전 위협, 인권 위협과 고위험 순으로 위험 정도를 규정하고 있다"면서 "위험 완화나, 위험 원인을 추적할 수 있는 기록 의무를 부과하고 있는데 국내에는 그런 게 전혀 없다"고 지적했다.
덧붙여 생성형 AI에 대한 규제는 현실과 동떨어져 있다는 게 공통 지적이다. 현재 제공되는 서비스 수준에 맞춰 특정 AI를 '생성형 AI'로 단정지어 규정하게 되면 앞으로 다른 용어가 나오거나 대체되는 상황을 반영하지 못해 낡은 법안이 될 수 있다는 것이다. 민주화를위한변호사모임 김병욱 변호사는 "마치 약속했다는 듯이 22대 국회가 개원하자마자 여러 법안이 발의되고 있지만 21대와 마찬가지로 인공지능의 위험에 대해서는 형식적인 규제로 일관하고 있다"고 꼬집었다.