스마트이미지 제공부적절한 생성형 AI 사용이 2027년까지 AI 관련 데이터 유출 사고의 40% 이상을 차지할 것이라는 전망이 나왔다.
가트너는 18일 데이터 거버넌스와 보안 조치의 발전 속도가 AI 도입 속도보다 느려 보안 위험 발생한다며 이같이 관측했다.
가트너 요그 프리츠(Joerg Fritsch) VP 애널리스트는 "의도치 않은 국경 간 데이터 전송은 주로 감독 미흡으로 인해 발생하는데 명확한 설명이나 발표 없이 생성형 AI가 기존 제품에 통합될 때 더욱 빈번하게 일어난다"며 "민감한 프롬프트가 알 수 없는 위치의 AI 도구나 API로 전송될 경우 보안에 위험을 미칠 수 있다"고 설명했다.
AI 및 데이터 거버넌스에 대한 일관된 글로벌 모범 사례와 표준이 없다면, 시장이 세분화되고 기업이 전략을 지역별로 따로 수립할 수밖에 없기 때문에 기업의 글로벌 AI 운영 확장과 AI 제품 및 서비스 활용 능력이 저해될 수 있다는게 가트너의 지적이다.
프리츠 VP 애널리스트는 "AI 정책이 지역에 따라 다르게 전개돼 데이터 흐름 관리 및 품질 유지가 복잡해지면 운영 비효율성이 발생할 수 있다"며 "기업들은 민감한 데이터를 보호하고 규정 준수를 보장하기 위해 고급 AI 거버넌스와 보안에 투자해야 하며, 이는 AI 보안, 거버넌스, 규정 준수 서비스 시장의 성장과 AI의 투명성과 제어를 강화하는 기술 솔루션의 발전을 촉진할 것"이라고 덧붙였다.