인공지능 로봇들이 인류를 말살하는 미래
1년 더 일찍, 영국의 철학자이자 우생학자인 쉴러(F.C.S. Schiller)는 당시의 일반적인 지적 분위기를 이렇게 적절히 요약했다.
“우리의 최고 예언가들은 우리의 미래에 대해 점점 더 불 안해하고 있다. 그들은 우리가 너무 많은 것을 알게 되어 우리의 지식이 자살하는 데 이용될 것만 같아 두려워하고 있다.”
두 차례의 세계 대전 사이에 살았던 다른 저명한 지식인들은 비군사적 기술 발전을 우려했다. 그런 우려와 똑같이 AI 엔지니어들을 밤에 계속 일어서게 만드는 많은 두려움-생각하는 기계를 조정해 인간에 맞춰야 하고, 기술에 대한 점점 더 늘어나는 의존은 인간의 독창성을 약화할 수 있고, 심지어 로봇이 인간이 하는 일을 인수할 것이라는 두려움-은 20세기 초에 첫선을 보였다.
체코의 희곡작가인 카렐 카펙(Karel Capek)의 1920년 드라마 “R.U.R”은 인공지능 로봇들이 인류를 말살시키는 미래를 상상했다. 어떤 장면은 실리콘 밸리의 여러 운명론자의 가슴에 공포심을 불어넣었을 법도 한데, 그 희곡의 한 등장인물은 인공지능 로봇을 이렇게 관찰하고 있다.
“그들은 기계이기를 멈췄다. 그들은 이미 자신들이 인간보다 우위에 있음을 알고 있어서 인간의 모든 것을 싫어하듯 우리를 몹시 싫어하다”고 말이다.
AI의 대부인 제프리 힌턴(Geoffrey Hinton)로서 구글에서의 일을 그만뒀기 때문에 자신이 도와서 만든 바로 그 기술에 관해 세상에 경고할 수 있었던 그는 “우리가 원하는 것은” 이러한 여러 시스템이 “우리보다 훨씬 똑똑할지라도 그들은 우리를 위해 이로운 뭔가의 일을 하는 것을 확신시키는 몇 가지 방법”이라고 설명했다.
이처럼 새로운 기계 시대에 대한 두려움은 소설 속에만 갇 혀 있던 것은 아니었다.
인기 탐정소설가인 오스틴 프리맨(R. Austin Freeman)의 1924년 정치 논문 “Social Decay and Regeneration, 사회의 붕괴와 재생”에서는 새로운 기술은 이에 대한 인간의 의존이 늘어나면서 인간종족이 수모를 당하고, 심지어 절멸하게 되는 방향으로 몰아가게 될 것이라고 경고했다.
이러한 주장은 뉴욕타임스가 열심히 논평했던 바이기도 했다. 다른 사람들은 기계 시대에 대한 불안에 따른 활동을 하면서 훨씬 더 큰 노력을 기울였다. 1923년 “R.U.R.”이 도쿄에서 개봉되었을 때 일본의 생물학 교수 마코토 니시무라는 그 연극에서 묘사하는 기계로 인해 인류가 멸종할 것 임을 아주 확신했다. 그 때문에 그는 인간종족이 “창조의 정점에 있는 인조인간에 의해 파괴되는 것”을 막아내기 위 한 자애로운 로봇을 만들고자 했다.
멸종 공포를 누가 부추기는가? 그들을 부정할 새로운 해결책 필요
멸종 공포를 이해하는 한 가지 방법은 엘리트계층처럼 공 포를 보는 것이다. 엘리트층의 공포는 불확실성과 사회적 변동이 일어나는 기간에 사회적, 정치적 그리고 경제적 실력자(혹은 유력자, 거물)에 의해 만들어지고 치유되는 두 려움이다.
멸종 공포는 글자 그대로나 말의 의미 양 측면에서 보아도 반동분자(反動分子)이며 사회 변화가 진행되는 가운데 자 신의 특권을 유지하고자 하는 엘리트의 불안에 의해 에너지를 얻고 있다. 오늘날로 말하면 정치인들, 경영진들과 최신 과학기술 전문가들이 멸종 공포를 부추기는 것이다.
1세기 전, 그들은 우생학자들이었고 우익으로 기운 정치인들, 이를테면 처칠과 사회주의자 과학자인 할데인 (Haldane) 같은 사람이었다. 그렇다는 것은 이데올로기적으로 별자리만큼이나 다양한 유명인물들이 인류와 인류의 전망에 대해 기본적인 진단을 공유했고, 우리의 종족은 근본적으로 사납고, 이기적이어서 우리의 운명은 더 볼 것도 없이 자멸을 향해 간다는 소리였다.
그 당시에는 어느 정도 진단이 예언임이 입증되었다고 하더라도 적어도 부분적으로 예언이 스스로 맞아떨어져 왔지 않느냐고 물어볼 가치는 있다. 지금, 이 순간과 시끄럽고 위험한 이전의 20년대 사이의 유사성에도 불구하고 오늘날의 문제는 근본적으로 새로운 것이다.
그래서 우리의 해결책 역시 새로운 것이어야만 한다. 역사를 모르는 이들은 그 역사를 되풀이할 것이라는 논평은 지겹다. 우리는 이러한 지혜가 정확하게 도치(倒置)된 특별한 순간에 살고 있다. 그러니 다음 세기까지 해결책을 만들어 내는 것은 당연히 역사로부터 무엇을 배울 수 있느냐, 그리고 우리가 지난 100년 동안 그렇게 해온-기술적 진보와 자멸(自滅) 사이의 줄타기를 반복하느냐에 달려있을 것이다.
그것 역시, 우리가 너무나 이기적이어서 기후위기를 사전 에 방지할 수 없고 너무나 폭력적이어서 중국과의 전쟁을 피할 수 없다. 또한, 너무 탐욕스러워 AI를 천천히 그리고 안전하게 개발하지 못한다는 등의 확신이 얼기설기 얽혀 있는 현재를 그렇게 정의하고, 멸종의 소문을 퍼트리는 보수적인 태도를 어떻게 거절하느냐에 달려있다.
멸종 공포는 자주 엘리트들에 의해 조장되고 있긴 하지만 그렇다고 해서 우리의 해결책을 위해 그들의 의견에 따라 야만 한다는 의미는 아니다. 우리는 큰 문제-우주 탐험, 청정에너지, AI 등등-를 개인기업과 억만장자에게 외주 (外注)를 주는 위험한 습관에 빠져있다.
우리의 생존은 아마 이러한 경향을 여하히 뒤바꾸느냐에 달려있을 것이다. 우리에게는 AI와 다른 실존적 위험을 진지하게 여기는 야심적이고, 자원 공급을 풍부하게 해주는 정부의 주도권과 국제 협력이 필요하다. 바로 지금 우리는 이러한 문제를 시급한 공공의 우선순위로 여기고 상응하는 자금을 그런 문제의 해결을 위해 마련해야 할 시점에 와 있다.
“내가 그렇게 말했잖아, 이 바보 멍청이들아!”
첫 번째 스텝은 미래의 확실성이나 미래를 예측할 수 있다는 허구에 빠지는 것을 거절하는 일이다. 반 이상향적 사 고에는 비뚤어진 편안함이 있다. 대재앙을 피할 수 없다는 확신은 우리가 행동해야 한다는 도덕적 의무감을 덜어준다. 그러나 1920년대의 소멸 공포가 우리에게 보여주는 것 처럼, 행동이 가능하다면, 이러한 공포를 물러가게 할 수 있다.
현대 전투의 미래에 관한 처칠의 경고 뒤 1년이 채 지나지 않아서-“독가스와 화학전에 대해서 첫 장을 다 채워야 했던 끔찍한 책”이라고 그는 썼었다-1925년 전투에서 생화학 무기 사용을 금하는 국제 협약(제네바 의정서)에 각국이 서명했다. 그 많은 제2차 세계 대전의 공포에도 불구하고 화학 무기는 유럽의 전투지에서 전개되지 않았다. 기계-시대의 불안에 대해서 2차 대전에서 역시 배울 수 있는 교훈이 있다.
우리의 공포는 가끔 양 볼처럼 부풀려 있고, 우리의 예측이 그야말로 잘못됐다는 것이다. 인간의 삶과 노동은 1920년대에 일부가 예측한 것처럼 기계로 대체되지 않았다. 대체된 것처럼 보였다면 1960년대, 혹은 1980년대에 두 번의 AI 광고에서 거둔 반짝 성공 때문일 것이다. 그런 일이 제거되었다고 우리가 걱정하지 않아도 된다는 건 아니다. 오히려 우리가 겁에 질려 쩔쩔매선 안 된다는 것을 걱정해야 한다.
파멸을 예언하는 일은 예전에는 인간적 취미였다. 그러함에도 불구하고 우리 인간은 예언을 썩 잘하는 것처럼은 보이지 않는다.
1928년, 웰스(H,G, Wells)는 “Guesses and Forecasts of the Year Ahead”라는 온건한 부제를 단 “The Way the World Is Going”이란 제목의 한 권의 책을 출간했다. 그는 첫 페이지에 우리가 우리의 격동적인 2020년대에 관해 가뿐히 쓸 수 있었던 것처럼 그의 시대에 대한 개요를 제공했다. 그는 이렇게 썼다.
“인간의 삶이란 전부터 늘 그래왔던 것 과는 다르고. 급격하게 더 달라진다,”
그는 계속해서 “아마도 현재 이전의 전체 삶의 역사를 돌아볼 때 오늘날 우리처럼 이토록 격렬하고 조급하게, 다방면에 걸쳐서 그리고 포괄적으로 어떤 변화 과정의 지배를 받으면서 살았던 종 족은 없었을 것이다. 적어도 지금까지 당시 사람으로서 살아남은 자는 없다. 변화(탈바꿈) 혹은 소멸은 자연이 가진 불변의 대안(代案)이다. 우리는 이처럼 강렬한 변화의 단 계에 들어있는 종족이다.”
많은 것은, 그 소설가도 잘 알고 있는 것처럼 그런 모호하기 짝이 없는 마지막 단어에 달려있다. 변화와 소멸이란 두 단어, 결국 변이(變異)라는 것이다. 웰스는 언젠가 자기가 죽은 뒤에 묘비명에 이렇게 써야 한다는 재담을 했다.
“내가 그렇게 말했잖아, 이 바보 멍청이들아!” 그가 이탤릭 체로 쓴 “damned, 멍청이”이란 단어는 자신이 선택한 묘비명임을 주목하도록 일부러 그렇게 했고, 멍청이를 이탤 릭체로 강조한 것은 그가 의미하는 멍청이는 단지 말로만 사용하는 단어일 뿐 아니라, 더 오래된 의미가 있어서 우리가 이해해 주기를 바라는 마음에 그렇게 썼다고 암시하고 있다.
멍청이이란 이 단어는 인간이 저주를 받고 있다는 것이며. 운명이 정해진 바보들의 시끌벅적한 무리로 필연적으로 우리가 가진 기계(machines)를 따라가다 마지막 벼랑에서 물러서는 존재라는 의미가 있다. 인간종족은 확실히 잘못 됐다는 소리를 듣고 있다. 운명이 정해진 바보들의 무리인 인간은 필연적으로 우리의 기계를 따라가다 저 마지막 벼랑으로 추락할 것이다.
웰스는 1946년 8월에 죽었다. 원자폭탄이 일본의 2개 도시에 투하될 것이라는 “핵 시대를 예고”하는 또 다른 묘한 예측이 있고 나서 1년이 지난 뒤였다. 우리는 그가 옳았다, 그가 확실히 마지막 안식에 들었다고 믿을 수 있는 여러 가지 이유를 가지고 있다. 아마도 그는 원자폭탄의 화염 속에서 인류 문명이 소진(燒盡)되는 피해를 보지 않았기 때문에 기쁘기도 했을 것이다.
어찌 됐든 그 작가의 단어가 여전히 선견지명으로 남아서 1세기 후에 그러한 경고를 되돌아본다면 희망과 유사한 뭔가를 제공할 수 있을지 모른다. 우리는 1920년대에 이미 많은 사람이 다가오는 것을 보았 던 바로 그런 세상에 살고 있다. 그러나 우리는 또한 그들 이 예측할 수 없었던 뭔가를 하고 있다. 우선은 살아남는 일 말이다.
