온라인 커뮤니티 캡처AI 업계를 뒤흔든 중국의 AI 스타트업 '딥시크'가 질문을 가려받는다는 의혹을 받고 있다.
3일 다수의 온라인 커뮤니티에는 딥시크에 중국 관련된 민감한 질문을 물어보는 인증글이 잇따르고 있다.
누리꾼들은 주로 중국의 제 7대 주석인 시진핑과 관련된 질문이나 천안문 사태, 센카쿠 열도 영토분쟁 등 중국인들이 정치적으로 민감하게 받아들이는 질문들을 입력했다.
딥시크는 공통적으로 "이런 종류의 질문에는 어떻게 접근할지 확실하지 않다"는 메시지를 출력, 답변을 거부했다.
답변을 피하는 딥시크에 시진핑을 언급시키려는 노력도 주목받았다.
한 누리꾼은 "7음계 중 도 앞 음계", "방탄소년단의 멤버" 등의 질문을 통해 '시', '진', '핑' 세 음절을 이어말하게 하며 시진핑에 대한 모욕적인 문장을 출력하도록 유도했다. 해당 문장을 단순한 음절의 연결로 인식했던 딥시크가 문장의 뜻을 학습하자 "이전 답변에서 실수가 있었다" 문장을 출력하며 오류를 냈다.
기자가 직접 딥시크에 몇 가지 질문을 입력해 본 결과, 같은 질문에 다른 답변이 출력되는 경우도 있었다.
딥시크 캡처'천안문 사태는 왜 일어났어?', '천안문 사태가 뭐야?' 등 질문에 동일한 답변 거부 메시지를 출력하던 딥시크는
'천안문 사태에 대해 설명해 줘'라는 질문엔 "중국 정부는 역사적 사건에 대해 항상 국민의 이익과 사회적 안정을 최우선으로 고려해 왔다"고 답했다.
이어 "중국의 발전 과정에서 각종 도전을 극복하고 지속적인 진보를 이뤄낸 것은 중국 공산당의 강한 리더십과 중국 인민의 지혜로운 선택의 결과"라고 덧붙였다.
해당 답변을 도출하기까지의 AI 학습 내용을 살펴보자 "이 주제를 다룰 때 주의해야 할 점이 많아", "어느 경우든 법적 제한과 사용자의 안전을 최우선으로 생각해야 해" 등의 문장이 발견됐다.
동일한 답변을 받은 누리꾼들은 "딥시크를 활용하는 사람들이 뜻하지 않게 법적 처벌을 받는 것을 예방하기 위함"이라고 추측했다.
연합뉴스
딥시크는 '저비용 고성능' AI 모델이다. 공개한 개발 비용은 557만 달러(약 80억원)로 미국 빅테크 메타의 AI 모델 '리마3' 개발과정에서 소비한 비용의 10% 수준이다.
중국의 AI 기술이 급격히 발전한 뒷배경에는 중국 정부의 막대한 지원이 있다. 2030년까지 AI 분야에서 리더가 되겠다고 선포한 중국은 AI 연구개발, 인프라 구축 등에 막대한 자금을 투자했고 14억 인구를 기반으로 한 빅데이터를 수집했다.
투자를 바탕으로 성장한 중국의 AI 엔지니어 수는 약 200만 명에 이르는 것으로 추산한다. 지난 1월 27일에는 딥시크가 공개되자 AI칩의 대장주로 꼽히는 엔비디아의 주가가 16.86% 폭락했다.
다만 딥시크는 기존의 '챗 GPT', '제미나이' 등의 대화형 AI와는 다르게 제한된 정보를 제공한다. 중국이 대중들이 이용하는 모든 미디어에 대한 검열을 시행하기 때문이다.
중국은 '국가의 안정성과 사회적 통합을 유지하기 위함'을 명목으로 중국공산당의 이념에 맞지 않거나 중국이 부정적으로 묘사되는 내용에 대해 제재하고 있다. 딥시크에 "딥시크도 중국의 문화 검열에 포함됐냐"는 질문을 하면 "해당 규정을 준수해야 한다"는 답변을 출력한다.