「인간 vs 기계」를 읽고서 – 다가오는 인공지능(AI) 시대 생존법에 대해서

1.1. 휴양을 꿈꾸며 떠난 여행

이번 괌 여행을 떠나면서 책 3권 가지고 갔습니다.
김대식의 인간 vs 기계, 2017 트렌드 노트, 트렌드 차이나

휴양 도시이므로 "애들이 물놀이를 하는 동안 파라솔밑에서 책을 읽으며 여유를 만끽하마"하면서..

▽ 휴양지로 여행을 떠나면서 꿈꾸었던 이미지

1.2. 현실 – 여유는 사치다

그러나 현실은 비록 수영장 물속에는 들어가지는 않아도 이리 저리 움직이는 은결이를 쫒아다니다 보면 책을 잡을 여유가 없었습니다.

수영장이라 종이책을 가지고 가는 것이 내키지는 않았구요..(그러면서 태블릿은 가지고 수영장으로 간 이유는 무엇일까요?)
다른 곳에 집중하려고하면 나타는 은결이는 이거하자 저거하자고 하고 적응하나 싶었더니 금새 다른 놀이를 하자고 이동하고…

결국 휴양하면서 책을 읽겠다는 생각은 버려야했습니다.

참 그리고 괌 PIC에는 한국 관광객이 참 많았는데 (거의 70%는 한국 사람인듯…) 책을 들고와서 읽는 한국사람은 한명도 못 봤습니다. 대부분의 남자분들은 핸드폰에 열중하고 있었고 여자분들도 애들 쫒아다니거나 또는 핸드폰에 열중하더군요.
이와는 조금은 다르게 (어디나 비숫한 풍경이겠지만) 일본사람들은 조그만한 문고판을 가지고와서 책을 읽는 모습은 종종 봤습니다. 여기서도 한국과 일본의 차이가 나네요..

▽ 어디로 튀지 모르는 은결이가 괌 PIC 풀장에서 노는 모습을 담다.

1.3. 결국 돌아오는 비행기안에서 책을 읽다.

괌여행이 끝나고 돌아오는 비행 시간은 약 5시간 가까이 됩니다. 거기다 공항에서 대기시간까지 합하면 거의 6시간이상될 것 같습니다.

이 시간에 무엇을 할것이냐 고민하다 책을 읽기로 했습니다.
예전 태응형님께서 김대식의 인간 vs 기계라는 책을 읽어보라고 숙제로 내준 적이 있는데 가능하면 2016년내에는 지키려고 했는데 결국 해를 넘기고 말았기에 이 기회에 읽어보자고 마음먹었습니다.
술술읽힐거라는 이야기도 있었고 약속을 지켜야 한다는(식구들에게는 숙제라고 이야기 했음) 마음이 책에 집중하게 한 동인이 되었습니다.

얼마 정도의 집중을 가한 끝에 인천공항에 도착하기 전에 두번에 걸쳐 완파를 할 수 있었습니다.
글쓴이는 쉽게 썼지만 어려운 단어, 생소한 개념들이라서 쉽게 읽혀졌음에도 불구하고 머리속에 남는 지식은 많지는 않았습니다.
그렇지만 책에서 이야기한 미래에 대한 공포는 충분히 많았습니다.

그렇습니다.
최종 남은 강렬한 감정은 공포였습니다.

2.1. 다시 떠오르는 터미네이터의 충격

고등학교 시절 전주의 어느 극장에서 (피카딜리극장인가요 극장 이름이 정확히는 기억나지 않습니다. 그 당시는 좌석을 못 잡으면 서서 영화를 보던 때입니다. 영화관 정원의 2배 이상을 영화관에 집어 넣고는(막말오 쑤셔넣는다는 표현이 이상하지 않은) 영화를 상영했었지요. 지금 생각해보면 이 때의 영화관 주인은 엄청난 떼돈을 벌었을 것입니다. 카드도 아니고 현금이라 새는 돈도 정말 많았을 것이고, 당시 영화에 대한 수요는 많았지만 영화관은 단 두 곳밖에 없었기에 정원보다 보통 2배이상 관람객을 집어 넣었거든요. 심한 경우는 다 채울때까지 영화를 시작하지 않는 횡포도 서슴치 않았죠. 당시 어린 눈으로 보아도 탐욕이 가득했던 곳 중의 하나가 영화관이었습니다.) 당시 개봉했던 터미네이터를 친구들과 영화관 뒷편에 서서 숨을 죽이고 보던 기억이 새롭습니다.

터미네이터가 눈알을 빼내는 장면에서는 너무 소름이 끼쳐 고개를 돌렸고, 아무리해도 죽지않고 다시 일어서는 터미네이터를 보면서 재는 언제 죽나 숨을 죽였고 일류 멸망이라는 섬뜩한 상황 설정에는 감당이 되지않았던…

영화가 끝나고 너무 충격적인 미래의 일이라서 시나리오 작가의 상상력이 너무너무 대단하다며 친구들과 공포감과 함께 감탄을 금치 못했지요.

이러한 충격과 놀라움이 인간 vs 기계라는 책에서 다시 강한 인공지능이라는 이름으로 다시 다가왔습니다.

강한 인공지능을 이야기할 때 이 두 사람을 이야기하지 않을 수 없습니다. 스티븐 호킹과 엘론 머스크. 스티븐 호킹은 인공지능이 생기면 인류가 멸망한다고 이야기했고, 엘론 머스크는 핵폭탄보다 더 위험하다고 이야기했습니다. 이 사람들이 말하는 인공지능은 강한 인공지능입니다.

왜 이 사람들은 강한 인공지능이 생기면 인류가 멸망한다고 이야기를 할까요? 영국 옥스퍼드대학의 닉 보스트롬 교수가 책을 썼습니다. "슈퍼 인텔리전스"라는유명한 책입니다. 이책에서는 인공지능이 생길 것이고, 이 인공지능은 그냥 인공지능이 아니라 초지능이 될 수 밖에 없다고 말합니다.

강한 인공지능이 생겼을 때 인류에게 주는 영향을 시뮬레이션을 해봤습니다. 다양한 시나리오로 시뮬레이션했어요. 구글이 만든 답, 정부가 만든 답, NGO가 정말 조심스럽게 만든 답. 모든 시나리오를 시뮬레이션해보니 결론이 항상 똑같습니다. 약간 시간적인 차이가 있지만 강한 인공지능의 모든 끝이 인류멸망입니다. (p319~320)

이러한 인류멸망의 결론은 인류가 그 동안 지구에서 해온 행동을 평가해보면 인류보다 더 높은 지능을 가진 존재가 볼 때 인류의 존재 이유를 알 수 없게 되기 때문이라고 합니다.

인간의 뇌가 10층에서 15층 정도의 지능을 가졌는데 앞으로 수백만층정도의 인공지능이 나타나면 이들이 일유대신 지구의 알파가 되면서 이 슈퍼 인공지능 존재는 지구+인간? vs 지구-인간?이라는 문제가 직면하게 될 것이고 지금가지 인류의 행동을 고려하면 지구-인간이라는 결론을 택할 가능성이 너무 높다는 것이죠.

이 책에서는 이런 상황에서 인류 멸망을 막을 가능성은 거의 없다고 이야기합니다.

거의 유일한 좋은 시나리오는 강한 인공지능이 그나마 '지구에 인간이 있는 것이 좋다'는 결론을 내게하는 것입니다. 그렇다면 지금부터라도 우리가 해야 하는 일은 우리가 미래 기계의 평가 수준에 맞도록 행동하는 것입니다.(p344)
~
첫번째는 인간들한테는 많은 문제들이 있지만 그래도 좋은 점도 있음을 보여줘야겠죠. 예를 들면 정신같은 거
~~
두번째는 인간은 계몽을 완성해야 합니다. ~~인간이 계몽하여 지금과 다르게 정말 좋아진다면, 이간이 도덕적으로 성숙하다면 기계가 인간을 봐주지 않을까요?

글쓴이는 기계와 차별화되는 인간다움 삶을 살아야 한다고 이야기합니다.
그런데 그 기계와 차별화되는 인간다움이란 무엇일까요?
정답은 알려주지 않고(아마 글쓴이도 정말을 모르는게 맞겠죠?) 문제 제기로 끝납니다

강한 인공지능은 어차피 다 SF입니다. 하지만 약한 인공지능은 100퍼센트 실현됩니다. 앞으로 닥칠 미래가 있는데 인간이 이미 기계 같은 삶을 살고 있다면, 기계한테 100퍼센트 집니다. 결국 우리가 기계에게 이기기 위해서는 인간다운 삶을 살아야겠죠. 다시 말해, 내가 하는 일이 이미 기계 같다면 살아남을 수 없습니다. 따라서 인간이 가진 유일한 희망은 ‘우리는 기계와 다르다’입니다. 그 차별화된 인간다움을 가지고 살아가면 되지 않을까 하는 희망을 가져봅니다. (350쪽)

강한 인공지능의 결론에 대해서 종교인들은 어떤 생각을 할까요?
종교인들이 믿는 신은 이 책에서 말하는 수백만층의 슈퍼 인공지능보다 더 강력한 존재라고도 할 수 있는데 이 신들이 인류를 그대로 내버려두는 것은 인류 자체로 존재가치가 있어서라고 해석할 수 있지 않을까 싶습니다.

아니면 이책의 논리대로 하면 이미 신은 없다라고 결론을 지어야 할것 같습니다.
신이 있었다면 논리적으로 이렇게 문제가 많은 인류를 그냥 두지 않았을 것이기 때문이죠.

2.2. 위안을 받기 위해 – 터미네이터4에서 기계와 인간의 차이에 대한 대사

터미네이터 관련 글을 찾다보니 터미네이터 시리즈 중에서 비교적 기계와 인간에 대해서 많이 고민했던 터미네이터4에서 인간과 기계에 대해서 묘사해 놓은 글들이 많더군요.

그 글들을 옮겨와 봅니다.

기계와 인간의 차이점이 뭔줄 알아요? 그건 죽으면 서로 묻어준다는 거에요. 당신은 죽어도 묻히지 않겠네요. – 카일 리스 (안톤 옐친)

인간성은 프로그래밍되지도 칩에 저장되지도 않는다.
인간과 기계의 다른점은 인간은 심장과 영혼이 있기 때문이다.
– 마커스가 스카이넷에서 머리의 칩을 부술때… ,마커스 라이트 (샘 워싱턴)

명령에 복종하는것은 기계와 다를바 없다. 우리는 사람이기 때문에 명령에 불복종해야한다.
– 스카이넷 침투하라고 커맨드서 명령이 왔을때 무전으로 존 코너가 말한 대사

블레어 윌리엄스 (문 블러드굿) 제게는 인간이예요.
– 존 코너가 심문할때.

존 코너 (크리스찬 베일) Humans have a strength that cannot be measured
– 저항군에게 보내는 라디오 메세지 중.

2.3. AI의 등장에서 살아남는 방법

앞에서도 이야기했듯이 인공 지능에는 약한 인공지능과 강한 인공지능이 있다고 정의하고 있습니다.

앞서 이야기한 대로 강한 인공지능은 수백만층의 지능을 가진 슈퍼 지능체를 말하며 이게 등장하면 그 결론은 인류 멸망이로 이야기하고 있습니다. 다만 이 강한 인공지능이 실현된다는 증거도 실현되지 않는 다는 증거도 없는 상태라고 라고 합니다.

그렇지만 약한 인공지능은 세상을 알아보고 알아듣고, 이야기하고, 글을 읽고 쓰고, 정보를 조합하고, 이해하는 것을 사람하고 비슷한 수준으로 수행하는 인공지능으로 100% 등장한다고 단언하고 있습니다.

그 때가 언제인가는 확실히 알 수는 없지만 20~30년내에는 등장한다고 합니다.

이러한 약한 인공지능이 등장하면 어떤 일이 일어날까요?

2013년 옥스퍼드대학의 경제학과 논문에 따르면 인간 수준으로 발전한 약한 인공지능이 등장한다면 놀랍게도 이 세상 직업의 47%가 사라질 것이라고 합니다.

대부분의 직업은 지금까지의 방식으로는 기계와 경쟁해서 기계를 이길 수 없습니다.
이렇게 사라지는 직업에는 가징 기초적인 업무를 진행하는 콜센터 직원뿐만이 아니라 변리사, 변호사, 의사 등 전문적인 부분까지 전 부분이 망라되어 있습니다.

이러한 암흑의 시대에 살아남는 방법은 오직 기계가 쉽게 할 수 없는 정말 인간만이 할 수 있는 능력을 길러야 한다는 것입니다.
그러한 기계가 할 수 없는 능력의 대표적인 게 창의성이라고 이야기 하고 있습니다.
어쩌면 인공 지능이 더 발전하면 창의성도 기계 차지가 될 수 도 있겠지만 그렇게까지 발전하기 전 단계까지는 인간만이 할 수 있는 창의력에 기반한 일이야말로 기계와 경쟁해서 이길 수 있는 길이라고 합니다.

미래에는 약한 인공지능, 인지자동화가 실천되는 순간 창의성이 선택이 아니라 필수가 되어버립니다. 창의적이지 않으면 살아남을 수 없어요. 여기서 창의적이란 새로운 가치, 즉 존재하지 않는 데이터를 만들어낼 수 있는 능력, 혹은 처한 상황과 세상을 냉철하게 분석할 수 있는 능력, 또는 분석해서 얻어낸 결론을 내가 실천할 수 있는 도전정신과 같은 것이죠. (p308~309)

이 글을 읽으니 이 책을 반드시 은우가 읽게 해야겠다는 생각이 들었다.

저자에 따르면 진짜 창의성으로 기계와 진검승부를 걸어야하는 세대는 바로 지금 자라나는 10대라고..
왜냐면 약한 인공지능이 발현하는 시기는 20~30년이 걸릴 것으로 볼 시 지금 20~30대는 기존 knowledge로 근근히 버틸 수 있는 세대이지만 10대는 온전히 인공지능의 공세에 맞서야 하는 최초의 세대이기 때문에.. 약한 인공지능에 맞서 존재감을 들어낼 수 없다면 살아남을 수 없을 것으로 예상되기 때문입니다.

▽ 지금은 한물갔지만 포켓몬을 하는 10대들,
이들은 본격적으로 약한 인공지능과 경쟁해야하는 본격적인 세대로 예상된다고 한다.

2.4. 약한 인공지능이 오기 전 인지 자동화산업에서 생존하기 – 컨텐츠

지금 4차 혁명의 시기라고 합니다.
이러한 4차 혁명의 징후를 분명히 보여주는 것이 무인 자동차입니다.

지금 자동차 산업은 90퍼센트가 하드웨어이고 10퍼센트가 소프트웨어입니다.
일반인들이 보기에는 100퍼센트 하드웨어라고 인식할 것 같습니다만 이미 자동차에는 많은 소프트웨들이 적용되어 있습니다.

더 나아가 구글이나 테슬라같이 트렌드를 앞서가는 회사들이 무인 자동차 개발에 열중하고 있으며 조만간 무인 자동차 시대가 다가올 것으로 예측하고 있습니다.

이 때가 되면 40퍼센트는 하드웨어이고 40퍼센트가 소프트웨어 그리고 나머지 20퍼센트는 콘텐츠로 구성될 것이라고 합니다.
그리고 이 시대에 생산 마진 관점에서 바라보면 하드웨어는 단 1퍼센트, 소프트웨어는 20퍼센트, 컨텐츠는 40%의 마진을 가질 수 있다고 예측하고 있습니다.
그런 관점에서 하드웨어 산업은 완전한 레드오션이고 컨텐츠는 블루오션이라고 할 수 있겠습니다.

그러면 미래에 통할 수 있는 업종은 컨텐츠라는 해석도 가능합니다. 이 또한 미래를 바라보는 중요한 시사점을 알려준다고 하겠습니다.

▽ 2014년 Geneva Auto Show에서 특수 차량 전문 제작업체인 Rinspeed가 발표한 ‘XchangE’,
이는 무인 자동차가 등장하면 자동차 내부 인테리어 등이 어떻게 변화할 것인지를 제안하고 있다.
여기에서도 무인자동차로 인한 자유롭게 활동할 수 있는 시간과 공간에서 할 수 있는 컨테츠가 중요시 될것을 예상할 수 있다.

3. 다시 남겨진 숙제들

책을 사 놓은지 몇달이 지나서야 겨우 독파를 하고선 몇가지 다른 숙제 아니 해야할 일를 던져봅니다.

첫째는 앞에서도 이야기했듯이 이책을 은우가 읽도록해서 은우가 성인이 되어서 만날 세상에 대해서 조금은 마음의 준비를 하도록 해 주어야 할것 같습니다. 정말 당행스럽게도 그런 시대가 먼 훗날 다가온다면 (이기적이지만)조금 다행스럽게 생각될 것 같습니다.

둘째는 앞으로 가야될 방향이 컨텐츠라는 점이 분명해졌으므로 이 부분에서 경쟁력을 만들고 부가가치를 만들 방안에 대한 고민을 해한 한다는 것입니다. 그리고 은우에게도 이러한 점을 이야기해야겠지요.

셋째는 책에서 소개된 영화 "엑스 마키나(EX Machina)를 다시 한번 봐야겠습니다. 별 생각없이 봤던 영화인데 이 책을 읽고 난 후 다시 보는 이 영화는 또 다른 해석을 줄것 같습니다. 분명 기계인줄 알고 있는 인간을 조종해 기계를 사랑하게 하고 기계를 위해 기계가 원하는 행동을 하게 하는 뛰어난 지능을 가진 기계..

넷째는 업무와도 관련되겠지만 AI와 관련된 트렌드 서칭을 게을리해서는 안되겠다는 점 입니다. 오늘 뉴스에서도 폭스콘에서 자동화를 빠르게 대폭 강화하겠다는 선업이 나왔고 이는 고용을 늘리고 싶어하는 중국 정부에게 새로운 고민거리를 던져준다는 기사가 있었습니다. 생각보다 빠르게 세상이 변하고 있다는 한 에가 아닐까 합니다.