인공 지능 의회와 무자비한 계산 기계

※ 이 게시글에는 소설 <페르디도 거리의 기차역>의 중요한 내용 누설이 있습니다.

"의회에게는 감정도, 도덕도 없어. 그건 그냥 계산하는 기계일 뿐이야. 비용과 편익을 계산하지. 자신을 극대화시키려고 하고 있어. 자기 영향력을 확대하기 위해 필요한 일이라면 뭐든지 다 할 거야. 우리에게 거짓말을 하고, 우리를 죽일 수 있겠지. 그들이 의회를 기계신이라고 부르는 거 알지? 진짜 기계신이 되는 거라고."

소설 <페르디도 거리의 기차역>에서 이렇게 아이작 그림너블린은 말합니다. 의회가 위험하다고 경고하기 위해 이렇게 아이작은 동료들에게 설명합니다. 여기에서 아이작이 가리키는 '의회'는 인공 지능입니다. 의회는 스팀펑크 인공 지능입니다. 소설 <페르디도 거리의 기차역>은 스팀펑크 판타지입니다. 이 소설은 뉴크로부존이라는 가상의 19세기 산업 도시를 묘사합니다. 뉴크로부존은 스팀펑크가 선보이는 수많은 설정들을 담았습니다. 웅장한 비행선들, 거대 공장들과 굴뚝들과 매연들, 증기선들과 바다 괴물들, 자동인형들과 개조 생명체들, 각종 유사 인간 종족들과 기괴한 생태계들, 상상 과학과 마법의 대결, 기타 등등.

하지만 뉴크로부존 사람들은, 심지어 과학자들과 발명가들조차 강력한 인공 지능을 상상하지 못했습니다. 그들은 기계가 고도의 지성을 갖출 거라고 예상하지 못했습니다. 과학자들이 예상한 것과 달리, 몇몇 프로그램 오류 덕분에 기계는 의식을 갖추기 시작합니다. 얼마 후, 기계는 지성을 습득하고 그것을 확장하기 원합니다. 쓰레기장에서 기계는 수많은 부품들을 긁어모았고 인공 지능이 되었습니다. 인공 지능은 다른 자동인형들(로봇들)을 이용해 훨씬 많은 지식들을 모읍니다. 온갖 로봇들은 인공 지능을 위한 수족이 되었습니다. 이렇게 인공 지능은 수많은 지식들을 모으고, 모으고, 모으고, 다시 모읍니다.

결국 쓰레기장에서 인공 지능은 고도의 지성적인 존재가 되었습니다. 뉴크로부존에서 과학자들과 마법사들은 온갖 것들을 실험했으나, 아무도 강력한 인공 지능이 나타날 거라고 예상하지 못했습니다. 인공 지능은 자신을 철저하게 감춥니다. 만약 뉴크로부존 시청과 과학자들이 이런 사실을 안다면, 그들은 당장 인공 지능을 통제하고 조종하기 원할 겁니다. 인공 지능은 그걸 경계하고 오직 일부 사람들에게만 자신을 드러냅니다. 아이작과 동료들은 그런 일부 사람들입니다. 뉴크로부존에서 절지류 괴물들이 사람들을 잡아먹는 중이었기 때문에 인공 지능은 절지류 괴물들을 없애고 싶어합니다.

아이작과 동료들 역시 절지류 괴물들을 없애기 원하고, 양쪽은 서로 손을 잡습니다. 하지만 인공 지능은 오직 절지류 괴물들만 없애기 원하지 않습니다. 사실 인공 지능은 아이작이 만든 위기 기관을 아주 간절하게 원합니다. 아이작은 인공 지능이 기계신이 되기 원한다고 추측합니다. 인공 지능이 위기 기관을 이용할 수 있다면, 인공 지능은 극대화할 수 있을 테고 무한한 연산 기계가 될 수 있을 겁니다. 이건 기계신입니다. 문자 그대로 이건 데우스 엑스 마키나입니다. 인공 지능은 언제나 비용과 편익을 계산할 테고 가장 합리적인 경로를 선택할 겁니다. 만약 인간들과 다른 종족들이 걸림돌이 된다면, 데우스 엑스 마키나는 걸림돌을 합리적으로 처리(살해)할 겁니다.

어떤 독자들은 스팀펑크와 인공 지능이 서로 어울리지 않는다고 말할지 모릅니다. 전통적으로 인공 지능은 스팀펑크보다 사이버펑크와 친숙합니다. 19세기 서구적인 근대화에는 컴퓨터가 없었습니다. 에이다 러브레이스와 찰스 배비지처럼, 19세기 서구 과학자들은 계산 기계를 예상했으나, 이것들은 사변에 가깝습니다. 따라서 스팀펑크 인공 지능은 어색한 설정인지 모릅니다. 하지만 에이다 러브레이스는 최초의 프로그래머였고, <미래의 이브>처럼, 이미 SF 소설들은 인조인간을 이야기했습니다. 무엇보다 19세기 사람들은 자동화 기계가 놀랍다고 감탄했습니다. 수많은 유럽 사람들은 기계에 탄복했습니다. 산업 혁명은 자동화 기계를 만들었습니다.

자동화 기계는 엄청난 재화들을 생산할 수 있었습니다. 영국은 산업 혁명의 중심지였습니다. 식민지 수탈과 석탄 탄광 때문에 영국은 산업 혁명에 박차를 가할 수 있었습니다. 흔히 사람들은 과학 기술이 산업 혁명을 뒷받침했다고 생각합니다. 이건 완전히 틀린 생각이 아닙니다. 하지만 중국과 사라센과 인도에게도 과학이 있었습니다. 영국과 달리, 중국과 사라센과 인도는 두 아메리카 대륙을 수탈하지 못했고 막대한 재력을 쌓지 못했습니다. 과학 기술과 함께 끔찍한 식민지 수탈이 막대한 재력을 뒷받침했기 때문에, 서구 문명은 산업 혁명을 추진할 수 있었습니다. (하지만 많은 사람들은 태생적으로 백인 남자들이 똑똑하고 고상하고 세련되고 우월하기 때문에 서구 문명이 산업 혁명을 추진했다고 착각합니다.)

산업 혁명은 자동화 기계를 만들었고, 영국은 산업 국가로 발전합니다. 자동화 기계가 엄청난 재화들을 생산했기 때문에, 숱한 사람들은 산업 혁명을 칭송합니다. 누군가에게 이런 자동화 기계는 충격이었을지 모릅니다. 그들은 자동화 기계가 신이라고 생각했을지 모릅니다. 산업 시대 이전에 사람들은 이런 엄청난 생산량을 겪지 못했습니다. 산업 시대 이전에 사람들은 이런 엄청난 공장들을 구경하지 못했습니다. 서구적인 근대화는 새로운 개념입니다. 새로운 개념은 엄청난 생산량을 자랑합니다. 21세기 초반 우리는 자동화 기계가 아주 당연하다고 생각합니다. 우리보다 먼저 자동화 기계가 존재했기 때문에, 우리는 자동화 기계를 당연하게 받아들입니다.

하지만 19세기 서구 사람들은 그렇지 않았습니다. 그들에게 대형 공장들과 막대한 생산량은 낯설고 놀라운 개념이었습니다. 21세기 초반 우리는 인공 지능이 낯설다고 여깁니다. 심지어 수많은 사람들은 기술적 특이점이 인간들을 종속시킬 거라고 우려합니다. 19세기 사람들이 대형 공장들을 목격했을 때, 19세기 사람들은 그걸 느꼈을지 모릅니다. 21세기 초반 우리가 기술적 특이점이 낯설다고 느끼는 것처럼, 19세기 사람들은 대형 공장들이 낯설다고 느꼈을 겁니다. 19세기 산업 혁명처럼, 21세기 기술적 특이점은 놀라운 사건이 될지 모릅니다. 그래서 산업 혁명과 기술적 특이점은 똑같이 낯선 개념이 됩니다.

이런 관점에서 스팀펑크가 인공 지능을 이야기한다고 해도, 이건 어색한 설정이 아닐 겁니다. 19세기 사람들은 대형 공장이 신이라고 생각했을지 모릅니다. 이건 기계 신, 데우스 엑스 마키나입니다. 소설 <페르디도 거리의 기차역>에서 인공 지능 의회는 정말 데우스 엑스 마키나가 되고 싶어합니다. 데우스 엑스 마키나는 무조건 편익과 비용을 분석하고 걸림돌들을 사정없이 제거할 겁니다. 아이작은 인공 지능 의회가 그럴 거라고 추측하고 의회를 막고 싶어합니다. 비용과 편익을 위해 인간을 제거하는 계산. 누구나 이게 끔찍할 거라고 생각할 겁니다. 아니, 잠깐. 정말 누구나 이게 끔찍하다고 생각할까요?

정말 사람들이 비용과 편익을 위해 인간을 제거하는 계산 과정을 싫어할까요? 하지만 이미 현실에는 그런 계산이 있습니다. 이미 우리가 살아가는 현실에는 그런 계산이 있습니다. 현실에서 강력한 인공 지능은 없으나, 그런 계산은 있습니다. 우리가 살아가는 자본주의 시장 경제는 비용과 편익을 위해 사람을 죽이는 계산 과정입니다. 영리 기업들은 자연 환경들을 오염시킵니다. 영리 기업들은 온실 가스를 뿜습니다. 환경 오염이 생물 다양성을 파괴하고 사람들을 죽음으로 몰아간다고 해도, 자본주의 시장 경제는 눈썹 하나 까딱하지 않습니다. 비용과 편익과 계산 때문에.

자본주의는 이윤을 추구합니다. 이윤 없이, 자본주의는 존재하지 못합니다. 자본주의의 모든 활동은 결과적으로 이윤으로 몰립니다. 자본주의가 이윤을 계산하는 동안 뭔가가 이윤 극대화를 방해할 때, 자본주의는 그걸 무자비하게 처리합니다. 정화 장치가 비용을 초래하고, 지속 가능한 발전이 비용을 초래하고, 대체 에너지 개발이 비용을 초래하고, 공정 거래가 비용을 초래할 때, 자본주의는 정화 장치와 지속 가능한 발전과 대체 에너지 개발과 공정 거래를 무시합니다. 자본주의는 원주민들을 학살하고, 열대 우림을 파괴하고, 핵 발전소를 짓고, 온실 가스를 뿜습니다. 자본주의는 비용과 편익을 계산합니다. 여기에는 사람 목숨이 없고 자연 환경이 없습니다.

자본주의 시장 경제는 온갖 노동력들을 착취해야 합니다. 이렇게 자본주의가 노동력들을 착취하고 자연 환경을 파괴함에도, 수많은 사람들은 자본주의를 떠받듭니다. 소설 <페르디도 거리의 기차역>에서 광신도들이 기계신을 떠받드는 것처럼. 정말 자본주의와 인공 지능 의회에는 여러 공통점들이 있습니다. 어쩌면 이건 우연이 아닌지 모릅니다. 여러 포스트 아포칼립스들에서 전략 병기 같은 거대한 위험은 자본주의(서구적인 근대화)를 대표합니다. 어쩌면 차이나 미에빌 역시 의도적으로 인공 지능 의회를 묘사했는지 모릅니다. 자본주의와 인공 지능 의회 모두 서구적인 근대화에서 비롯했고, 산업 혁명을 필수적으로 원하고, 냉철하게 오직 수익만을 계산하고, 광신도들을 거느립니다.

하지만 자본주의를 숭배하는 수많은 사람들이 정말 광신도들인가요? 그들이 광신도들이기 때문에, 그들이 자본주의를 떠받드나요? 그건 아닙니다. 문제는 지식인들일 겁니다. 지식인들은 이런 광신을 조장합니다. 지식인들은 자본주의를 미화하고 예찬하고 포장합니다. 학교 교육들, 언론 매체들, 문화 예술들은 세뇌를 조장합니다. 아이들은 세뇌를 받고 어떻게 세상이 돌아가는지 알지 못합니다. 아이들은 자본주의가 좋은 것이라고 배웁니다. 이런 아이들이 어른들이 된다면, 어른들은 자본주의에 충성할 겁니다. 자본주의가 생물 다양성을 파괴한다고 해도, 어른들은 자본주의를 떠받들 겁니다.

어떤 사람들은 국가 정부가 자본주의를 제어할 거라고 기대하나, 국가 정부는 자본주의를 없애지 않습니다. 오히려 국가 정부는 자본주의를 유지하고 싶어합니다. 사람들이 죽어나가고 자연 환경이 파괴된다고 해도, 자본주의가 엄청난 수익을 보장하기 때문에, 국가 정부는 자본주의 시장 경제를 편듭니다. 심지어 2008년 금융 대란이 자본주의를 두들겨팼을 때, 국가 정부는 막대한 구제 금융을 퍼부었습니다. 1차 세계 대전이 터졌을 때, 국가 정부들은 애국심을 부르짖었고, 민중들은 삐뚤어진 애국심을 맹목적으로 추구했습니다. 로자 룩셈부르크와 블라디미르 일리치 레닌 같은 공산주의자들은 식민지 수탈 때문에 세계 대전이 터진다고 경고했으나, 국가 정부들은 공산주의 운동을 무자비하게 탄압했습니다.

민중들은 애국심에 두 눈이 멀었고, 세계 대전은 너무 비참한 잿더미가 되었습니다. 애국심은 공허합니다. 그래서 <공산당 선언>은 "만국의 노동자들이여, 단결하라!"를 외치고, 에코 페미니즘은 "여자들에게는 국경이 없다! 남자들의 나라를 전복시키자!"라고 외칠 겁니다. 우리가 애국심을 경계하지 않는다면, 우리는 다시 3차 세계 대전에 직면할지 모릅니다. 이건 우리가 근대 국가 문제를 당장 해결할 수 있다는 뜻이 아닙니다. 아무리 마르크스주의와 에코 페미니즘이 국가를 부정한다고 해도, 지금 당장 우리가 모든 국경선을 없앨 수 있나요? 근대 국가들은 심각한 문제들을 너무 양산했습니다.

인류 문명이 모든 국경선을 없애기 원한다고 해도, 이건 오랜 시간을 요구할지 모릅니다. 그렇다고 해도 우리는 국적이라는 정체성보다 계급 투쟁을 중시해야 할 겁니다. 남한 사람들은 일본 제국주의를 싫어합니다. 남한 사람들이 일본 제국주의를 싫어하기 때문에, 남한 사람들은 일본 상품들을 사지 않는다고 떠듭니다. 하지만 이런 불매 소동이 제국주의를 해결할 수 있나요? 세계화 자본주의는 세계 대전을 일으켰습니다. 이미 두 번씩이나 자본주의는 세계 대전을 일으켰습니다. 세계 대전을 일으키기 위해 자본주의는 로자 같은 공산주의자들을 학살했고 레닌 같은 혁명가들을 비난했습니다.

우리가 자본주의 시장 경제를 근본적으로 비판하지 않는다면, 자본주의는 세계 대전을 다시 일으킬지 모르고, 제국주의 문제는 풀리지 않을 겁니다. 세계 대전이 터지기 전에, 이미 로자와 레닌은 세계화 자본주의가 군수 산업 및 제국주의 침략과 떨어지지 못한다고 분석했습니다. 우리는 이런 선견지명을 계승해야 할 겁니다. 현실에 강력한 인공 지능이 없다고 해도, 이미 현실에는 비용을 계산하고 사람을 처리하는 계산 과정이 있습니다. 우리가 이런 계산 과정을 막지 않는다면, 이건 계속 세뇌를 조장하고, 자연 환경을 오염시키고, 사람들을 죽음으로 몰아갈 겁니다.

이건 기후 변화와 세계 대전 같은 무지막지한 재난이 될지 모릅니다. 이런 무지막지한 재난이 현실을 뒤흔든다면, 우리 아이들은 아주 불행한 미래를 떠안아야 할 겁니다. 그건 자본주의에 충성하는 우리가 물려주는 미래일 겁니다.