미래학자 닉 보스트롬(Nick Bostrom)은 2003년에 쓴 논문에서 ‘종이 클립 최대화(Paperclip Maximizer)’ 문제를 제기해 유명해졌다. 그는 종이 클립 만들기를 지시받은 인공지능(AI)의 사례를 들며 인간 통제를 벗어난 미래의 초지능이 어떻게 행동할 수 있는지 설명했다.

예를 들어 어떤 AI 기업이 종이 클립을 생산하는 데 특화된 인공지능을 개발했다. 이 인공지능의 유일 목표는 가능한 많은 종이 클립을 생산하는 것이고, 이를 위해 모든 자원을 최적화하고 효율성을 극대화하도록 알고리즘이 탑재돼 있다. 처음에는 아주 효율적으로 종이 클립을 생산할지 모른다. 하지만 시간이 흐르면서 더 많은 종이 클립 생산을 위해 주위의 모든 물건, 건물과 자동차, 전기, 물까지 모두 동원해서 종이 클립 생산에 투입하려 한다면 어떤 일이 일어날까? 보스트롬은 이 사고실험의 끝을 다음과 같이 설명했다.

“초지능의 목적은 종이 클립을 가능한 한 많이 만드는 것과 같은 사소한 것일 수 있다. 하지만 인공지능은 목적 달성을 위해 이를 방해하는 모든 시도에 저항할 것이다. 이 인공지능은 모든 지구의 자원을 클립을 만드는 데 사용할 것이고 우주로 확장해 모든 것을 클립을 만드는 공장으로 바꿀 것이다.”

이렇게 인간의 의도에 부합하지 않게 잘못 설계된 인공지능(이를 흔히 ‘정렬 문제’라고 부른다)의 사례로서 종이 클립 접기는 아주 다양한 방식으로 인공지능이 초래할 미래의 위험성을 경고하기 위해 인용된다. 하지만 과연 ‘종이 클립’ 이야기는 과연 혹시 발생할지 모르는 미래에 대한 경고에 불과할까?

그렇지 않을 수 있다. 어쩌면 지금도 매일 현실로 구현되고 있을지 모른다. 몇 가지 사례를 찾아보자. 우선 전 세계적으로 인공지능의 두뇌에 해당하는 데이터센터 구축을 위해 엄청난 전력을 이미 동원하고 있다. 얼마 전까지 약 10만 가구가 쓰는 전력인 100메가와트(MW) 규모가 가장 큰 인공지능 데이터센터였다. 하지만 최근에는 그 10배, 20배 용량의 데이터센터가 세계 곳곳에 구축되고 있고 앞으로는 다시 그것의 10배 이상이 될 것이라는 전망도 나온다.

데이터센터 운영에 들어가는 자원만 문제는 아니다. 데이터센터를 구성하는 반도체 칩 생산도 만만치 않은 자원을 소모한다. 삼성전자는 2023년 현재 한국의 전체 전력 소비의 4퍼센트가 넘을 정도로 압도적인 전력량을 소비했다. 하지만 대규모 반도체 파운드리 공장 6기와 이를 뒷받침할 발전소, 그리고 60여 협력 기업들을 입주 입주시킬 용인 반도체 국가 산업단지는 훨씬 더 많은 자원을 요구한다.

용인 반도체 산단을 위해 하루에 무려 107만톤이라는 막대한 물과 전력 자원을 써야 하는데 이를 위해 팔당댐은 물론 화천댐 물을 끌어와야 할 정도다. 또한 이 산단을 위해 필요한 10기가와트(GW) 이상 전력량은 수도권 전체 전력수요 40GW의 4분의 1에 해당한다. 정부는 용수와 전력, 그리고 도로까지 국비를 투입해서 지원해 주기로 약속했다. 물과 전력, 정부의 재정까지 빨아들이는 것이다.

한편 정부 국정운영도 인공지능 활성화에 쏠릴 전망이다. 이재명 정부 국정과제 경제 부문의 최고 우선순위는 ‘AI 3대 강국’을 위한 6가지 주요 꼭지에 두어져 있다. 심지어 올해 정기국회 역시 상당한 AI를 위한 입법이 준비되고 있는데 집권 여당인 민주당은 ‘인공지능 데이터센터 진흥법’을 포함해 6개 주요 AI 입법과제를 준비하고 있을 정도다.

대규모 언어모델 기반 생성형 인공지능의 급부상으로, 인공지능의 산업적, 사회적 활용도가 급격히 증가하고, 다양한 분야에서 생산성 향상을 위한 도구로 활용될 것은 틀림없다. 또한 AI가 국가 전략자산으로 취급받는 글로벌 환경에서 우리 역시 AI를 위한 막대한 연구 개발과 투자는 필수적이기도 하다. 하지만 AI가 다른 모든 자원과 사안을 빨아들이는 것이 아니라, 자원의 생태적 한계를 유의하고 공공정책의 적절한 균형을 추구하도록 해야 한다. 그것이 ‘종이 클립 접기’의 위험을 막을 정부 과제다.

녹색전환연구소 소장 (bkkim21kr@naver.com)