선택의 순간, 당신은 AI와 공존할 준비가 됐나요?[책볼래]

"AI 시대, 우리는 어떤 선택을 해야 하는가"
하라리·러셀·카이푸리 3인 3색의 AI 시대 통찰

생성형 AI 이미지 합성
인공지능(AI)은 이제 단순한 기술 혁신을 넘어 인류 문명의 흐름을 바꿀 변곡점에 서 있다. 우리는 AI가 인간의 삶을 풍요롭게 할 도구로 남을 것인지, 아니면 사회를 지배하는 새로운 권력이 될 것인지 고민해야 하는 시대를 맞았다.

이러한 질문을 다룬, 흥미로운 세 권의 책이 있다. 역사학자이자 베스트셀러 저자인 유발 하라리 교수의 최신 저서 '넥서스'(2024, 김영사), AI 석학 스튜어트 러셀 UC버클리대 교수가 쓴 '어떻게 인간과 공존하는 인공지능을 만들 것인가'(2021, 김영사), 그리고 컴퓨터 과학자인 전 구글차이나 사장 카이푸리와 SF 작가인 천치우판의 논픽션 과학소설 'AI 2041'(2023, 한빛비즈). 이들 저자는 AI가 인간 사회에 미칠 영향을 각기 다른 시선으로 분석하며 우리가 직면할 미래를 깊이 있게 조망한다는 점에서 눈길을 끈다.

하라리 교수는 'AI가 새로운 권력이 되어 인간의 사고와 결정을 장악할 위험'을 경고하고, 러셀은 AI가 인간과 협력할 수 있도록 설계해야 한다는 기술적 해법을 제시한다. 반면, 카이푸리·천치우판은 미래의 AI 활용 사례를 구체적으로 묘사하며 우리가 맞이할 AI 시대를 현실적으로 이해하도록 돕는다.

이 세 권의 책이 우리에게 던지는 AI 시대의 메시지는 무엇일까.

유발 하라리 교수. 김영사 제공

AI, 인간을 초월한 권력이 될 것인가? – '넥서스'의 경고

하라리는 AI가 단순한 도구가 아니라 인간의 선택을 조종하는 새로운 권력으로 떠오를 가능성을 제기한다. 그는 "AI는 인간보다 우리를 더 잘 알게 될 것"이라고 말하며 AI가 우리의 감정과 사고방식을 분석하고 예측하는 시대가 도래할 것이라고 경고한다.

오늘날에도 AI 알고리즘은 소셜미디어 피드를 조작하고 우리의 관심사를 통제하며 정치적 여론 형성에 개입하고 있다. 하지만 AI의 진화 속도가 지금과 같다면 인간이 의식적으로 내리는 선택조차 AI에 의해 유도될 가능성이 커진다.

'넥서스'에서 하라리는 "이제껏 권력은 정보를 독점한 이들의 손에 있었다. AI는 이 흐름을 더 가속화할 것"이라고 말한다. 이는 AI가 특정 기업과 정부에 의해 독점될 경우 인간의 민주적 결정권이 위협받을 수 있음을 의미한다.

AI가 정보를 통제하는 존재가 된다면, 우리는 여전히 자유로운 선택을 하고 있다고 믿겠지만 실상은 AI가 제공하는 데이터와 분석 결과에 따라 움직이게 될지도 모른다. 하라리는 AI의 권력이 분산되지 않고 소수의 손에 집중될 경우 인류가 가장 중요한 주체성을 상실할 수 있다고 경고한다.

스튜어트 러셀 교수. UC버클리대 홈페이지

AI는 인간과 공존할 수 있을까? – 러셀 교수의 해법

하라리가 AI의 위험을 경고한다면, 러셀은 'AI가 인간과 조화롭게 공존할 방법'을 탐색한다. 그는 "AI는 인간이 원하는 바를 이해하도록 설계되어야 하며, 인간이 원하지 않는 방식으로 행동하지 않도록 해야 한다"고 주장한다.

러셀은 AI가 인간의 가치를 따르지 않는다면, 의도치 않은 위험한 결과를 초래할 수 있다고 경고한다. 예를 들어, AI에게 "환경을 보호하라"는 명령을 내렸을 때 AI가 산업 활동이 환경에 해롭다는 이유로 인간 경제를 전면 차단하는 결정을 내린다면 어떻게 될까? AI는 목표 달성을 우선시할 뿐, 인간 사회의 복잡성을 고려하지 않을 수도 있다.

이를 해결하기 위해 러셀은 "AI가 인간의 피드백을 지속적으로 학습하도록 설계되어야 한다"고 말한다. 즉, AI는 인간과 함께 학습하며 우리의 가치와 윤리를 반영하는 방향으로 진화해야 한다는 것이다.

흥미로운 점은, 러셀의 접근법이 하라리와 대비된다는 점이다. 하라리는 AI가 정보와 기술을 독점하는 소수 기득권(국가 또는 기업 등)에 의해 통제 불가능한 권력이 될 가능성을 우려하지만, 러셀은 "AI가 인간과 공존할 수 있도록 우리가 어떻게 설계하느냐에 달려 있다"고 주장한다.

카이푸리 전 구글차이나 사장. 카이푸리 SNS

AI 시대, 우리 삶의 변화는? – 'AI 2041'이 제시하는 미래

카이푸리·천치우판은 'AI 2041'을 통해 AI가 인간 사회에서 어떻게 실질적으로 활용될지를 10개의 단편 소설과 기술적 분석을 통해 묘사한다.

이들은 AI가 단순한 보조 도구가 아니라 인간의 삶 전반에 걸쳐 영향을 미치는 존재로 등장한다고 말한다. 예를 들어, AI 심리 상담사가 환자의 감정을 분석해 맞춤형 치료를 제공하는 미래, 자율주행차가 대중화되어 교통사고가 급격히 줄어드는 사회, 초개인화된 AI 튜터가 학생 개개인에 최적화된 학습을 제공하는 시대 말이다.

카이푸리는 AI가 이미 현실 속에서 빠르게 자리 잡고 있으며 "AI는 인간의 노동, 교육, 심지어 감정의 영역까지 깊숙이 침투할 것"이라고 전망한다.

이 책의 가장 큰 특징은, AI의 발전을 단순한 이론이 아닌 구체적인 현실 속 변화로 설명한다는 점이다. 하라리의 경고나 러셀의 해결책이 다소 추상적이라면, 'AI 2041'은 우리가 실제로 맞이할 AI 시대를 보다 직관적으로 이해할 수 있도록 돕는다.

김영사·한빛비즈 제공
이 세 권의 책은 AI를 서로 다른 방식으로 탐구하지만, 공통적으로 'AI의 발전 방향을 결정하는 것은 인간의 선택에 달려 있다'는 점을 강조한다.

'넥서스'는 AI가 민주주의와 인간의 자유 의지를 위협할 가능성을 경고한다. '어떻게 인간과 공존하는 인공지능을 만들 것인가'는 AI를 인간과 협력하는 존재로 설계해야 한다는 해결책을 제시한다. 'AI 2041'은 AI가 실제로 인간의 삶에 어떻게 적용될지를 구체적인 사례로 보여준다.

AI가 인간의 선택을 대신하는 세상이 올 것인가, 아니면 인간과 협력하며 더 나은 사회를 만들어갈 것인가.

이는 아직 열려 있는 질문이다. 하지만 한 가지 분명한 사실은, AI가 우리 삶의 방향을 결정하기 전에, 우리는 먼저 어떤 인간이 될 것인지, 그리고 어떤 세상을 만들어가고 싶은지를 깊이 성찰해야 한다는 점이다. 인류의 역사가 그래왔듯이 기술의 미래는 결국 기술 자체가 아닌, 그것을 다루는 인간의 손끝에서 시작된다.