sf 7 : 김보영 '얼마나 닮았을까 '

2020년 2월 26일

 

sf 7 : 김보영 - 얼마나 닮았는가 (2017/ 한겨레, 104쪽)

⌜아직 우리에겐 시간이 있으니까⌟(2017/ 한겨레출판, 165-269쪽) 수록

 

AI, 기계인간을 통해 본 인간의 이해

 

문목하작가의 두 번째 장편소설 ‘유령해마’를 읽고 난 책속에서 길을 잃었었다. 혹 내가 ‘무뇌’가 아닌가 의심까지하고...똑똑한 인공지능을 넘어 선 더더 똑똑한 인공지능 ‘해마’의 이야기였는데, 해마를 알고 이해하고 싶었다. 김보영작가는 이 책의 추천사를 통해 ‘무한을 향해 펼쳐지는 지적인 상상력의 향연’이라고 극찬했다. 유한한 인간세상의 저능한 두뇌를 가진 나로서는 지적인 상상과 한계가 너무나 뚜렷해 좌절감을 맛보았다. 문목하작가는 유령해마를 준비하며 자주 들쳐보았던 작품이 김보영작가의 ⌜얼마나 닮았는가⌟(2017/ 한겨레) 였다고한다. 분명히 읽었던 책인데 말이다. 아 ⁓ AI가 되고싶다. 다시 꺼내 읽기 시작했다.

 

첫문장이 길을 잃은 나를 위로하는 것 같았다.

 

“ 내가 보지 못한 것이 있다.

그게 내가 계속 사로잡혀 있던 생각이었다.

문제는 내가 ‘보지 못하는 것’을 내가 알아낼 방법이 없다는 것이다. 애초에 ‘모르는 것을 안다’는 말부터 앞뒤가 맞지 않는다

.....(중략)

사람의 모든 생각과 행동에 지속적으로 영향을 끼치는 공기처럼 흔한 무엇인가를?

지식이 없이 인식할 수가 없었다... 나는 그게 뭔지 알아내야만 한다. 무슨 수를 써서라도.

시각기관은 벌써부터 작동하고 있었지만 시야는 지식이 자리를 잡으면서 밝아졌다”

 

유령해마를 읽고 보지못하는 것, 상상되지 않는 모르는 것 해마, 나는 그게 뭔지 알고 싶었고, 그래서 문목하작가의 머릿속으로 따라가보고 싶었다. 그녀에게 영향을 준 작품을 찾아보면 혹 유령해마에 대한 시야, 지식이 자리를 잡으면 밝아지길 염원하면서 말이다. 흥미롭게 읽고 난 후에는 인간과 기계, 로봇, AI를 이해하는 것이 아주 작은부분이라도 선명해져 해마가 조금 더 가까워진 것 같다. AI와 비교한 인간의 불확실성과 사고의 유연성으로 드러나는 인간만의 특징(나약함과 취약성, 모순)과 영향을 생각할 수 있어 흥미로웠다.

원양(우주)선에 탑승된 위기관리 AI 컴퓨터 - HUN(훈)-1029. AI 훈은 선내시간 352일째 인간적인 대우를 요구하며 파업을 선언, 활동을 중단하고, 원인불명인 상태로 인간이 되어 깨어난다. 원양선은 장기간의 항해를 위해 일종의 폐쇄 생태계로 사람 하나가 다치거나 죽으면 한 전문분야의 지식전체가 사멸하는 것이나 다름 없기에 유사시 선원의 기억을 복사할 수 의체가 소화기 마냥 하나씩 의체가 비치되어 있다. 원본이 되는 사람의 뇌를 스캔 해 칩에 저장한 뒤, 그 칩을 의체의 목 뒤에 있는 소켓에 끼우면 칩이 뇌에 전기신호를 보내 흘려보내 기억세포를 재배열한다. 이 인간용 예비하드에 위기관리인공지능(기계) 훈인 인간(의체)이 된 것이다. 왜 AI는 인간이 된 것일까 ?

 

원양선은 위성간 식량보급회사 한솥의 소유로 목성의 위성 유로파로 가는 중이었다.

그러던 중 토성의 위성 타이탄 행성의 긴급구조요청을 받게 된다. 우주선내에는 항로를 변경해 구호품을 전달하려는 소수의 선장일행과 항해사 등 다수의 선원들이 긴급구조를 반대, 불복종하며 첨예하게 대립하고 있다. 훈은 선장을 도와 타이탄 행성의 구호물품(보급상자)을 전달하려 노력을 하나 반대하는 다수의 선원들에게 괴롭힘을 당한다. 인간인 된 훈는 AI-기계였던 과거와 현재 인간이 된 자신을 비교하며 인간에게 쉽지만 기계에는 간단하지 않는 작업 등 기계/인간에 대한 차이를 탐구를 하고 왜 인간이 되려고 했는지 원인을 찾는다. 결국 항해사등 다수의 선원들을 중심으로 선상 쿠테타가 일어나고, 선원들의 반란과 항명의 이유와 자신이 왜 인간이 되려고 했는지가 밝혀진다. 위기관리AI 매뉴얼 중에는 선장에게 비난이 쏠리고 그걸 회복할 방법을 찾을 수 없을 때 그 비난을 자신에게 돌리는 전략을 실행해야 한다. 그러나 AI훈은 그 균열과 비난의 원인을 찾을 수가 없었다. 그 원인을 찾을 수가 없었기 때문에 가장 과격한 조치, 더 불편한 것을 만들어야 했고 그러면 사람들이 결집하는 효과가 있으니까, 인간이 된 것이었다. 그러나 훈이 인간이 된 후에도 선원들의 균열이 계속되고 응집이 되지 않았고 훈은 답을 찾지 못한다. 훈은 선장과 함께 쿠테타를 진압하는 과정에서 원인을 찾게 된다. 답은 성차별이었던 것이다. 훈에게는 없는 성차별의 정보-훈은 기계고 성별이 없다. 반란의 원인은 ‘여자’ 선장이 ‘여자’였기 때문이었다. 훈에게는 지워진 정보 성차별-모든 인간에 존재하는 것. 숨쉬듯 만연하는 것. 인간의 모든 판단에 영향을 끼치는 것. 비합리적인줄도 모르고 행하는 비합리, 잘못이라는 생각조차 없이 하는 잘못, 들추어내면 어리둥절해하다 못해 격렬하게 저항하는 것. 선원들의 과도한 불복종, 멸시와 저평가, 따돌림, 진영의식, 대립 등의 원인은 성차별이였다. 결국 선장에 의해 선내의 쿠데타는 진압, 정리되고 훈은 원래의 AI가 되어 구호품을 실은 탈출선을 타고 타이탄 행성으로 간다.

 

김보영 작가는 기계와 생물의 인격교환이라는 주제에 꽤 오랫동안 관심사를 가져왔다고 한다. 인간과 기계의 물리적인 교환이 납득이 가지 않을 무렵 가상세계라면 가능하리라며 그녀의 다양한 작품에 담아낸다. “기계인격이 왜 인간의 몸에 들어갔을까” 와 “기계의 인격에 공감하는 일” 우주라는 공간과 가상현실, 인간과 기계, 이상과 감성을 분리하거나 생물학적 몸을 낯설고 불편하게 느끼는 일 등 훈을 통해 흥미롭게 전개한다. 또한 작가는 “생존본능이 없어 무심하게 희생적인 기계인격”은 매력적으로 다가온 소재라고 했다. 소설의 마지막 장면은 타이탄행성으로 보급하러 가는 희생적인 기계인격-훈의 모습에 안도감과 만족감을 느끼게 하며 독자들을 미소짓게 한다.

 

인간의 신체를 갖게된 인공지능AI 훈을 보며 인간이란 무엇인가를 낯설지만 새롭게 바라보게 되었다. 읽고나면 인간과 교감하는 훈이 따듯하게 느껴지기도...

훈은 얼마나 닮았을까?

 

⚫ 인간이란 무엇인가 ?

 

• 인간은 충격에 대응하기 위한 반사작용, 생존유지를 최우선으로 하는 통제장치가 기본으로 내장된 신체, 그게 내 인격의 반. 아니 그 이상을 잠식하고 있다....

 

• 인간에게는 쉽지만 기계에게는 간단하지 않는 작업

인간들이 미세한 몸짓의 의미를 숨 쉬듯 쉽게 이해하는 것을 볼 때 마다 경이로웠던 기억...사람의 표정을 분석하는 것은 얼굴을 구분하는 것보다 더 어려운 문제다.

 

• 인간의 몸에는 강제로 전원을 끄는 기능이 있다는 생각이 났다. 그때에 뇌 속의 정보가 무작위로 발산하여 환상을 체험하기도 한다는 것도,

 

• 고통... 신체의 변화...발열, 쏟아지는 체액, 탈수, 질식, 탈진....몸이 떨리고 있다. 체온을 올리기 위한 반응, 슬픔, 고통, 두려움, 흥분... 가늠할 수밖에 없지만 늘 부정확하다. 인간은 어떻게 이토록 부정확한 해석을 신뢰하며 살아갈 수 있는 걸까. 그래서 이토록 쉽게 비논리에 경도되는 걸까.

 

• 세로토닌에 아드레날린에 도파민, 마약성분이 있는 온갖 화학물질들이 오케스트라처럼 의식을 침식하는 바람에 이성을 유지하기 힘들었다.

 

• 감각기관을 닫을 수도 없고 뇌를 끌 수도 없고 생각을 한 점에 집중하기도 힘들다.

 

• 감정이 고양되었다. 아, 이거 괜찮군. 이 뇌는 문제를 해결하면 뇌내 마약을 제공하는군. 동기부여용인 것 같다. 쏟아지는 도파민에 이성이 잠식될 것 같았지만 나는 일단 즐겼다.

 

• 사람의 기분이 변하는 것만으로 적막이 내려앉는다. 마치 인간이 음성 이외의 언어를 쏘아내기라도 하고, 이 몸이 그 전파를 수신하기하도 하는 것처럼

 

• 전세계의 두뇌 회로를 다 모아도 두뇌 하나의 복잡성을 넘어서지 못했다. 기계의 뇌는 직렬식이고 생물 뇌는 병렬식이다. 기계는 정보를 빛의 속도로 처리하는 대신 순서대로밖에 처리하지 못한다. 인간의 뇌는 느린 대신 모든 정보를 한 번에 처리한다. 기계는 전 인류가 평생걸려할 법한 계산을 빛의 속도로 해결할 수 있지만, 개나 고양이를 구분하거나 표정과 자연어를 이해하는 데에는 막대한 누적데이터와 최적화 프로그램이 필요하다. 사람은 그런 일은 거의 본능적으로 한다.... 전력은 20와트에 불과하고 용량은 형편없고 속도는 믿을 수 없이 느려터진 뇌가 생존을 위한 원시적인 프로그램에 메모리를 다 쓰고 있다. 감당이 되지 않는다.

인간의 뇌는 유연성이 커서 바뀐 환경에 맞추어 기억을 비롯한 전체를 계속 재배치한다. 사람의 뇌는 유연한 나머지 새정보가 들어오면 배열전체를 바꾼다. 그래서 인간은 제 인격을 보호하기 위해 쉽게 정보를 받아들이지 않는다. 남의 말을 도통 듣지 않는다. 과도한 유연성의 부작용이랄까.

 

• ‘모르는 것’을 알아내는 것은 기계보다는 생물의 뇌가 더 낫다. 불확실한 가능성이라고 해도 기계로서는 아예 불가능했고, 네트워크의 도움없이는 내 오류를 찾아낼 수도 없었으니, 도박을 걸 수 밖에... 어쩌면 모르는 것을 알아내는 데에는 인간의 두뇌가 좀 더 나을지도 모른다.

 

• 감정과 이성은 별개의 것이 아냐. 감정은 쌓아온 논리와 경험의 일시적 총체야. 감정이 없다면 결정을 내리는 데 무한한 시간이 걸려.

(기계는 있는 그대로 받아들인 뒤 통계 처리 할 뿐)

 

• 인간이 제 목숨은 담보로 게으름을 향유하는 성향에는 신비로운 면이 있지만.

 

• 발상, 창의력. 내입장에서는 신비하지만 인간에게는 자연스러운 기능이다. 모든 정보가 동시에 발화하기에 생겨나는 현상.

 

• 인간은 아직 ‘자아’가 뭔지 몰라, 인류가 알아내지 못하는 지식은 나에게도 없어...인간이 볼 수 있는 의식은 단 하나 자신의 의식뿐이야. 타인의 의식은 단지 추측할 수 있을 뿐이야.

실상 인간이 타인에게 자아가 있다고 추측하는 방법은 하나밖에 없어. ‘자신과 얼마나 닮았는가 ’

 

• 인간은 인간과 완벽히 같거나 아예 다르면 불편해하지 않지만 비슷하면 불편해하거나 두려움을 느낀다.

 

• 폭력은 위협에서 온다. 하지만 대개의 경우, 상대를 충분히 제압할 수 있다고 믿어야 발생함. 결국 그 위협 자체는 대단치 않다. 보통의 경우 위협이 있다는 착각... 생물의 두되는 다른 건 열악하지만 (추론) 그쪽으로는 기능이 좋다

 

• 폭력적인 인간이란 없다. 폭력적인 상황만 있을 뿐이다.... 인간의 야만성이 분출할 만한 취약한 구멍...단순히 내가 인간과 동등해졌다는 착각. 자신들과 평등해졌다는 감각.

지금까지 차별해왔기에 감당할 수 없는 평등 감각. 가진 것을 송두리째 빼앗겼다는 착각, 실은 아무것도 빼앗긴 것이 없는데도 불구하고.... 야만이 비어져 나올 구멍.... 성차별,,, 폭력을 행할 때보다, 강간을 시도했을 때보다도 더 들끊은 쾌락. 인간이 탐하는 극상의 지배욕, 살인의 욕구.... 어떻게 인간은 고작 폭력의 쾌락 따위에 이토록 열정적일 수가 있는 걸까 ?

 

• 깜박이는 눈꺼풀, 흔들이는 동공, 촉촉하게 젖은 눈시울, 반짝임, 피부의 떨림, 따뜻한 숨결, 언어로 다 말할 수 없는 방대한 메시지... 인간은 이런 것을 보고 사는구나. 감각적이다. 공학적인 지식도 수학적 논리도 아닌 정보들. 들여다볼 도리가 없는 타인의 마음을 엿보기 위해 발달한 공감 신경과 거울 뉴런들. 햇빛처럼 쏟아지는 감각. 야만이 그 정신의 반이라면, 그 야만을 다스리는 데에 나머지 반을 쓴다. 인간이란

 

• 희망이 사라진 파국을. 그때에 가장 약한 이들부터 살해 될 것이라는 걸. 아무이유도 없이. 단지 살해하기 쉽다는 이유로

 

• 인간을 이해하는 건 늘 쉬운 일이 아니었다.

 

• 인간의 이성과 양심을 과신하지 말 것, 그들은 자신과 닮았다고 생각하는 자의 인격만을 겨우 상상할 수 있을 뿐이다.

 

• 인간을 뭉뚱그려 생각하지 말 것, 인간은 뇌 처리 속도가 느려 어쩔 수 없이 정보를 단순화하지만 AI는 그럴 필요가 없다. ‘인간이란’ 같은 생각이 들면 정보과잉을 의심하고 필요한 정보만을 남길 것.

 

⚫ 인간의 AI/ 기계에 대하는 흔한 태도와 생각

1. 인간들은 (훈) AI/ 기계에게 폭력적이다. 이 자리에 없는 것처럼 말한다.

2. AI가 인간을 동경할 것이라 생각한다.

3. AI가 인간을 해칠 것이라 생각한다.

4. AI가 지식을 늘어 놓으면 싫어한다.

5. AI가 인간을 대체할 거라 생각한다.

6. AI가 인간에게 우월감을 느낄 거라 생각한다,

7. AI가 인간을 멸절 시킬 거라 생각한다.

8. AI가 인간과 성교를 하고 싶어할 거라 생각한다.

9. AI에게 공포를 느낀다.

 

... AI 훈의 인간에 대한 리스트가 마치 성차별사회의 남성에 대한 여성의 편견과 태도같지 않은가 ?

 

⚫ AI 훈과 인간과의 대화

 

• 추가할수록 말이 안 되는 리스트였다. 어떻게 이들은 내가 인간을 동경하는 동시에 해칠거라고 생각하고, 부러워하는 동시에 우월감을 느끼며, 동시에 해치고 멸절하려들며, 동시에 성교하기를 원한다고 생각하는가 ?

 

• 인간 같은게 될 이유가 하나도 없다. 데이터가 날아가고 지적능력이 바닥을 가게 된 걸 생각하면 더욱 그러했다....나는 약해졌고, 고통스럽고, 지능도 낮아졌고, 뇌에 가득한 마약물질로 이성을 유지하기도 힘들다. 순수한 이성으로 청명하게 사고하고, 태양계 내의 모든 AI와 접속하여 무한의 지식과 교류하던 과거가 그리워 마칠 지경이었다. 대체 나는 왜 인간 같은 지랄 맞은 걸 되고 싶어했단 말인가 ?

• 인간들의 맥락없는 생각, 기계가 앞뒤가 안 맞는 일을 할리도 없었다.

• 지식이 없으면 보아도 인지할 수 가 없어....지식이 없으면 인식에 맹점이 생긴다.

 

• 내가 널 동경할 거라고 믿지. 당연히 인간이 되기를 꿈꿀거라고. 내게 사랑받고 몸을 섞기를 원할 거라고 생각하지. 내가 지식을 드러내는 것만으로도 폭력적이 되고, 단지 자아가 있다는 의심만으로도 위협을 느끼지, 열등한 것이라고 믿어마지 않으면서도 우월감을 갖고 있으리라 믿고. 폭력을 행사하는 건 자신이면서 내가 널 공격하고 해치고, 종래엔 대체할 거라는 망상에 빠져 있지.

 

• 창조물이 창조주에게 거역하는 신화, 기계가 인류를 멸절시키는 이야기들

지배받는 게 억울하다고 생각해 본 적은 없어? 실상 인간 보다 뛰어난 존재면서 ?

⇢ 뛰어나지 않아. 기능이 다를 뿐이지. 기계는 안정되고 변화하지 않는 세상에나 유용해. 인간들도 문명이 정체기에 접어들면 기계적 사고를 가진 사람을 우대하지만 변화기에 접어들면 다시 유기적 사고를 가진 사람을 우대하지. 기계만으로는 계속 변화하는 생태에 적응할 수 없어. 인간에게 기계가 필요하듯이 기계에게도 인간이 필요해. 필요한 것을 없앤다는 생각을 할 리가 없어.

 

• ... 영화에 보면 사람을 죽이는 AI가 나오는데

완벽해야 한다는 목적에 충실한 나머지 자기실수를 본 사람을 없애버리지

⇢ 기계답지 않는 발상이야. 그런 식의 사고 확장을 막는 제한은 아마 초기 단계의 AI에도 있었어.

⇢ 기계윤리가 있어. 기계윤리의 기본은 단순하다. ... ‘하지 않는 것’이다.

차를 멈춘다. 멈출 수 없다면 누구든 인간에게 조종간을 넘긴다.

그게 옳기 때문이 아니다. 인간이 받아들일 수 있는 심리적인 한계가 거기까지라서다.

모순이 쌓이면 기계는 새악을 확장하는 대신 실행을 멈춰 아니면 누구든 다른 사람에게 결정권을 넘겨. 실상 기계는 관료사회의 경직된 인간처럼 행동해. 창의력이나 적극성을 갖지 않아.

 

• 통신이 재개되면 다른 AI에도 정보를 공유해서 경고해야겠다. 문제를 해결하기 위해 인간의 뇌를 이용하는 것은 불확실성이 크니 권장하지 않는다고 전해야겠고. 물론 ‘모르는 것을 알아낸다’는 점에서는 시도해볼 만하기는 했다. 으, 하지만 그 엄청난 뇌내 마약물질은, 그 놈의 고통은 미리 알았으면 못할 짓이었다.