ttoonza story

https://youtu.be/pL8TsLdpiiE

뚠자가 요즈음 단행본으로 된 책을 읽으며 가장 오랜 시간이 걸린 책일 것이다. 사실 요즘 대상포진 후유증으로 통증이 지속되고 있으며, 회사에서는 담당 업무의 변경으로 시간을 많이 내기도 어려운 상황이 되어서 그렇다.

이 책은 우리 시대의 최고 화두 중의 하나인 인공 지능에 대하여 나름 새로운 시각으로 들여다 보고 있다.

이 책에서 이야기하는 시대별 분류는 제1 시대는 불의 시대, 재2 시대는 농업의 시대, 제 3 시대는 글과 바퀴의 시대, 제 4시대는 인공지능과 기타 신기술의 시대로 분류한다.

대부분의 분류는 글과 바퀴 대신에 산업 혁명 부분을 꼽는데, 이 저자는 글과 바퀴로 구분을 한 점이 특이하다 하겠다.

시작은 지금의 인간이 이처럼 발전할 수 있었던 근본 원인으로 ‘불’(fire)을 이야기하고 있다.

뚠자의 생각과 너무나도 일치한다. 그래서 조만간 불이 어째서 인간사에 그렇게 중요한 의미를 갖게 되었는지에 대해 몇 자 적어 볼 생각이다.

불과 함께 농업, 바퀴, 글 등이 어떻게 인류를 발전시켜 왔는지 간략하게 과거를 돌아 본 저자는 바로 태세 전환을 하여 인공지능의 초점을 맞춘다.

특히나 현 수준의 의식이 없는 한 종류에 특화된 인공 지능과 앞으로 벌어질 것이라고 많은 이들이 예상하는 의식을 가진 인공지능을 명확히 구분하여 이야기를 전개한다.

여기서는 의식이 있는 인공 지능을 AGI로 부른다.

저자의 주장하는 바에 따르면 구글의 알파고나 IBM의 왓슨 같은 인공 지능의 추가적인 발전은 얼마든지 더 가능하고 또 진행 되겠지만, 인간과 같은 수준의 의식을 가진 즉 무엇인가 욕망을 지닌 AGI는 발전하기 어렵다는 결론을 내리고 있다.

결국 모든 인공 지능은 정해진 부분에서는 탁월한 능력을 발휘 하겠지만 어디까지나 프로그래밍된 내용에 의지할 뿐이며, 결국 인간에 의해 이용되는 수준을 벗어나지 못한다는 것이다.

책의 후반부에 가면 여러 유명한 저자들의 저서를 짜집기한 듯 익숙한 내용들이 나온다.

그 중에서 눈여겨볼 부분은 인간의 장수(오래 사는 것)내지는 영생에 관한 부분이다.

AGI는 궁극적으로 나오지 않을 것이며 인간 의식을 컴퓨터에 업로드하여 영생을 추구하려 하겠지만 아직은 기술적으로 많은 어려움이 있을 것이라는 점이다.

그러면서도 인위적인 구조물에 의한 신체의 변화가 생기더라도 이는 결국 인간의 또 다른 모습이라는 생각을 내비친다. 어디서 많이 들어 본 내용이지 않은가?

이 부분은 <특이점이 온다>의 저자인 레이 커즈와일과 완전히 같은 견해라고 볼 수 있다.

인공지능에 대해 주제를 잘 잡고 써 내려가다가 삼천포로 빠져버려 참으로 아쉬운 책이기도 하다.

특히 AGI가 구현되지 않을 것이라는 논리 확장 부분에서는 닉보스트롬의 <슈퍼 인텔리전스>와 같은 전개를 보여줬기 때문이다.

그러나 딱 거기까지가 한계였던 모양이다. 인간의 욕심이나 국제관계, 부의 불균형 같은 부분은 충분히 생각하지 않았음이 분명하다. 아니 알면서도 속이는 것이라고 보인다.

인공지능 로봇의 발전으로 인간의 직업은 줄지 않을 것이라는 견해를 교묘하게 말한다.

설사 인공 지능 로봇들로 인해 인간이 모두 일자리를 다 잃게 되더라도 인간은 노동을 하지 않고 로봇들이 대신 일을 하여 경제가 돌아가면 단지 여가만 즐기면 된다는 무지막지한 발상까지 내비친다.

중간 과정이 다 생략된 생각의 비약이라고 본다.

기술의 발전으로 별도의 다른 직업들이 나온다는 말에는 일부 동의하지만, 그것으로 인해 모든 사람들이 지금 수준의 생계를 안정적으로 유지해 가리라는 생각에는 동의하기 어렵다.

왜냐하면 자본주의 특성상 부는 한곳으로 집중되고 있기 때문에 인공 지능 로봇으로 사람의 인건비를 대폭 줄이고 그 이득을 취한 자본가는 그 이득을 다른 소외 계층으로 분배하지 않고 자신의 호주머니에 쌓아갈 뿐이기 때문이다.

국가간에는 어떤가?

기술이 앞선 나라가 그렇지 않은 나라에게 이득을 취하지 그 이득을 공여하지는 않지 않은가?

코로나 사태로 인한 백신만 보아도 그렇다. 미국 유럽같은 곳은 자국 보호만 골몰할 뿐 아시아 아프리카는 안중에도 없지 않은가?

과연 인간이 욕심을 억제하고 다른 부유하지 못한 사람들에게 자신의 부를 자유롭게 나눠주며 다 같이 행복한 생활을 영위하는 ‘인공지능 나눔’이 실현될지에 대해 뚠자는 의심스럽게 생각한다.

아울러 책의 마무리가 어려워서 그랬는지 길가메시 이야기가 나오고 텔로미어 유전자 이야기 도 나오고 그 유전자 조작으로 멋지고 우수한 아이들만 가려서 낳는 이야기도 나온다.

뭐지 제 4의 시대?

요즘 책들은 다 이렇게 다(多)방면을 다루어야만 하는 건지, 책 분량 때문에 다방면을 다루는 건지...

마무리가 좀 그래서 그렇지 앞으로의 인공 지능 발전에 대해 고민하는 분들은 한번 읽어 봄직하다 권하는 바이다.

시작은 용머리, 중간부분은 용허리, 하지만 마무리는 뱀꼬리. 평점 8.5.

이 책의 저자는 영국의 현직 수학자다.

전에 소개한 <생각을 빼앗긴 세상>의 저자는 현직 언론인으로서 점점 커져가는 알고리즘의 영향력에 의해 언론인의 고유한 직업적 위치를 알고리즘에게 빼앗겨 가는 현실을 안타까워 하며 그 대안을 찾아보고자 했다.

이 책의 저자 역시 자신의 직업인 수학 연구가 결국 알고리즘에 의해 대체될 것인지에 대하여 불안해하며 미리 알아보고자 했다고 한다.

알고리즘의 원조격인 에이다 러브레이스까지 거슬러 올라가 그 시점부터 현재에 이르기까지 두루두루 살펴보며 아직까지는 걱정이 없노라고 결론을 내리고 있다.

이러한 결론을 내리는 과정에서 저자는 창조적 능력에 대해 상당히 의미를 부여하며 중요시하고 있다.

이세돌과 알파고의 대결에 있어서 2번째 판 37수, 미술에 있어서의 렘브란트 작품, 음악에 있어서의 바흐풍의 작곡, 수학계의 미자르 프로젝트, 문학계의 시나 소설 등의 작품과 같이 인간이 창조적 능력을 발휘하여 만들어낸 결과나 작품을 알고리즘에게 학습한 후 수행하도록 하고 그 결과물을 검토하였다.

이 책은 그런 여러 분야에서 창조품과 학습 후 모방풍을 비교하며 아직까지는 인간이 우위에 있음에 안도하며 책을 마무리 하고 있다. 정말 안도해도 되는지는 모르겠다.

현재 알고리즘에게 ‘참교육’ 받고 있는 뚠자로서는 IQ가 극히 낮은 현재의 알고리즘이 IQ마저 높아지면 과연 인간이 감당할 수 있을까 하는 의구심이 자주 들기 때문이다.

초지능에 대한 이야기는 추후에 더 하고 오늘은 이 책 이야기에 집중하겠다.

음악에 수학과의 연관성이나 수학과 알고리즘의 연관성을 다룬 부분은 참으로 적절한 부분이었다고 생각한다.

비록 뚠자가 음악에 문외한이지만 어떤 음악을 듣다가 흥이나는 것들에 대해 생각해보면 어떤 조화로움을 느낄 수 있다.

그것이 곧 화음이고, 수식적인 아름다움일 것이다.

반면 그림에 대해서는 아직 알고리즘이 감당하기에는 조금 멀지 않았나싶다.

음악이 1차원적인 데이터 정보처리였음에 비해 그림은 엄연한 2차원 정보처리라고 뚠자는 생각한다.

1차원 처리 보다는 2차원의 정볼르 처리하여 조화롭게 하기가 어렵기 때문이다.

또한 가장 궁극적인 요소는 바로 인간의 심성에서 발생하는 감흥이나 모티브 같은 것 없이 학습을 통한 모방의 결과물이기 때문이다.

그 학습절차 또한 인간이 배우는 방식이 아닌 다량의 완성된 것만 보고 얻어낸 기계적 학습이기 때문에 충분한 내적 충만함이 결여되어 있는 것이다.

과정이 결여된 학습으로 얻은 능력에 의해 만드는 결과물이라 한마디로 비유하자면 정물화를 그려내라고 했는데 사진을 찍은 것과 같은 작품이 나온 것이라고 할 수 있다.

당연히 정물화와 사진은 서로 다른 차원이다.

그러므로 기계에 의한 창조품은 앞으로 사진이 정물화 수준까지 되어야 할 것이고 언젠가는 추상화까지도 되어야 될 것이다.

또한 그 분야는 비단 미술계뿐만 아니라 모든 분야로 확장 될 것이다.

하지만 아직은 아니라는 것이다. 그래서 안심 된다며 마무리하고 있다.

이 책은 10년 이내의 근시안적 미래에 대해 적고 있다고 생각된다.

하지만 그 나름대로 가치는 있다. 사실 멀리 내다봐야 불확실성만 높아지므로 수학자에게 딱 적합한 수준까지만 조망한 것으로 보인다.

이책은 그다지 어렵지 않기에 컴퓨터에 관심 있는 중학생 정도도 읽을 수 있어 보인다.

조금 어려운 부분은 건너뛰어도 좋다. 맥락에 큰 문제가 없어 보인다. 평점 8.6

사진에서 보듯 두께가 엄청난 책이다. 800페이지가 넘는 문제작이다. 현직 (2020년 10월 기준) Google사의 인공지능 개발 담당 이사인 레이 커즈와일이 2010년도에 출판한 책이다. 그는 기계 인식 분야의 개발자로서 많은 특허와 발명품을 가지고 있다.

스티비 원더라는 앞을 보지 못하는 미국 흑인 가수 요청을 받고 앞이 안 보이는 사람들을 위해 발명을 하게 된다. 이러면서 대한민국의 영창악기와 협업을 통해 신디사이저(Synthesizer) 제품도 출시하였다. 해당 제품은 '영창커즈와일'이라는 이름으로 현재도 판매중이다.

한편 미국 명예의 전당에도 이름을 올린 사람이니 과거 이력이나 현재의 직업 등으로 미루어보아 아주 헛소리를 할 사람 아니라는 것이 이 책을 번역한 사람의 말이다. 이 글을 읽는 독자들께서는 왜 이런 얘기를 먼저 하나라고 의아해 할 수도 있지만 실제로 책을 읽게 되면 그 이유를 알 수 있다.

먼저 책 제목에 나오는 ‘특이점’이라는 단어부터 정의하고 가야 한다. 특이점(singularity)이란 인간이 만든 기계 지능이 인간의 지적 지능을 앞서게 되는 그 시점을 말하는 것이다.

실제로 우리는 2016년 3월에 알파고(alphago)라는 인공지능이 바둑에 있어서 이세돌 9단을 4승1패로 이기는 충격적 사건을 잘 알고 있다. 그 이후 알파고는 현재까지 알려진 어떠한 인간 바둑 기사에게도 지지 않았다고 알려져 있다.

언뜻 보면 이미 책에서 말하는 특이점이 벌써 온 건 아닌가라고 생각 할 수도 있지만 사실 알파고는 ‘자아’를 인식하지 못하는 바둑용 특수 지능 일뿐이다. 즉 특이점을 보고자 한다면 스스로 생각하고 실행하는 인공지능을 개발해야 한다는 말이다.

이해가 어려운 사람을 위해 한 번 더 쉽게 풀어서 이야기해 보겠다. 알파고는 스스로 바둑을 배운 게 아니며 어떤 목적이 있어서 바둑을 두는 것도 아니다.

알파고는 인간에 의해 프로그래밍 되었고 과거에 있었던 바둑 기사들간의 대결로 만들어진 기보를 데이터로 입력받아 주어진 데이터 처리 방식에 따라 학습을 하는 알고리즘 일 뿐이다. 이 알고리즘은 학습을 바탕으로 하여 실시간 입력되는 데이터를 처리하여 바둑 규칙에 맞는 데이터를 출력하고 있을 뿐이다.

적어도 특이점이 왔다면, 알파고 기계가 스스로 뜻한바 있어 바둑을 배우고, 특정 상대를 스스로 지목하고 대전을 치러야 하며 그 과정에서 나름의 의미를 논리있게 설명할 수 있어야 한다.

즉 스스로 생각하고 결정한 후 실행하고 의미를 부여할 줄 아는 인공지능이 나오는 시점이 특이점이다 할 것이다. 저자는 특이점이 발생하는 그 시점을 2040년대 후반 정도라고 책에 적어 놓았다. 뚠자 나이 70대 정도 일 텐데 과연 그때 정말로 특이점을 볼 수 있을까?

자 다시 책 내용으로 돌아 가보자. 저자는 2040년대 후반 정도를 특이점이 오는 시기라고 예측 한 근거로 ‘기술의 가속화’를 이야기한다. 아무것도 없는 무(無)에서 뭔가 하나가 나오고 다시 또 다른 하나가 나오고 하는 시간은 지루하겠지만 어느 정도의 규모가 이루어진 이후에는 기하급수적으로 불어난다는 이야기다.

‘기술의 가속화’를 수학적으로 풀어서 이야기하는 책이 따로 있으니 이 내용은 그때 다시 다루겠다. 쉽게 이야기하자면 중학교 3학년 과정에 나오는 2차 함수 그래프를 생각하면 될 거라고 이야기 해주며 지나가겠다.

이처럼 급속히 발전하는 기술 중에서 유전자기술(G) 나노기술(N) 로봇 기술(R)을 활용하여 인공지능이 특이점을 넘어설 것이란 이야기다. 

읽다 보면 유전자 기술은 왜 필요한지에 대한 의문을 가질 수도 있다. 하지만 작가가 굉장히 오래 살고 싶어 하는 마음이 강한 사람인 것으로 보인다. 본인 혹은 인공지능 특이점이 도래하기까지 생명을 연장하고픈 사람들을 위해서 써 내려간 부분이라 생각하면 될 듯 하다.

언젠가는 소개할 ‘폴터’라는 책에 커즈와일이 등장한다.(유명 인사임이 분명하다.) 여기서 커즈와일은 자신의 삶을 연장하기 위해 알약을 하루에 100개씩 먹는 것으로 묘사되고 있다.

아무튼 유전자 (조작)기술을 이용하여 인간은 다음 세대 혹은 미래 세대의 수명을 지금의 100세 시대가 아닌 수 백세 시대로 갈 수 있게 하려고 준비 중이며 거의 완성 단계에 와 있다고 저자는 이야기한다.

참고로 커즈와일은 기술 신봉자로 보인다. 광범위한 유전자 기술을 통한 유전자 조작의 결과물이 농작물이나 식용 가축 심지어 인간이라 하더라도 딱히 두려움은 없는 것으로 보인다. 기술의 선함을 추구하는 것이라 보여진다.

다시 본론인 특이점을 중심으로 보자. 인간의 두뇌를 완벽하게 이해하지 못하면 생각하는 인공지능의 구현은 어려보이므로 결국은 인간의 뇌를 완전히 연구 해야만 한다.

현재의 연구는 뇌를 스캔 하는 방식으로 이루어지는데 이때 이용하는 장비가 fMRI라고 한다. 사람이 장비 안에 들어가면 두뇌 부분을 집중적으로 스캔할 수 있으며, 스캔하면서 연구자가 질문을 하거나 어떤 생각을 유도하면 나타나는 반응을 데이터로 수집하는 식인 것이다.

이런 수준만으로도 분명 많은 발전을 이룬 것은 틀림없다. 하지만 아직 멀었다. 두뇌의 모든 것을 이해하려면 말이다. 올리버 섹스 선생의 ‘아내를 모자로 착각한 남자’에서 얼마나 뇌가 경이로운지에 대해 여러 실제 사례를 볼 수 있다. 기회가 되면 이에 대한 소개도 하겠다.

따라서 두뇌의 작동 메커니즘을 제대로 파헤치려면 신경세포 수준에서의 데이터 수집이 이루어져야 한다. 그 말은 직접 인간의 뇌 속으로 들어가 스캔을 할 수 있는 소형 스캔 로봇인 나노봇을 제작해야 한다는 것이다.

여기서 나노봇은 아주 작은 나노미터급의 로봇으로 목적에 맞게 스스로 결합, 분해도 가능하며 필요한 세포 부분에 물리적 영향을 줄 수 있으며, 인간의 몸에 들어가서 외부와의 통신도 가능한 롯봇을 말하는 것으로 뚠자는 이애했다.

책 내용에 따르면 인간의 머리에 수천에서 수만 개의 나나봇이 들어가서 데이터를 수집해야 한다. 과연 어떤 미친 사람이 검증도 안 된 소형 로봇을 자신의 뇌에 집어 넣으라고 하겠는가?

유전자기술 필요했던 이유가 이거였나? 유전자 조작으로 사람의 뇌만 복제를 만들어 사고가 나도 윤리 문제를 피해가려는...

아무튼 뇌의 신비를 나노봇의 도움으로 다 풀어버리고 나면 인공지능 소프트웨어를 담은 로봇 하드웨어가 필요하게 된다.

로봇 기술에는 하드웨어적인 팔,다리는 물론이고 두뇌 부분에 탑재되는 인공지능까지 포함된다. 결국 사람과 같이 스스로 자아를 인식할 수 있는데다가 엄청난 기억력과 계산력까지 보유한 두뇌가 물리적인 신체까지 갖추게 되는 것이다.

비로서 자아를 갖는 지적 기계 존재가 탄생하는 것이다.

그리고 이들은 결국 인간의 유기체적인 두뇌를 기계적 두뇌로 바꿀 수 있는 기술 개발에 결정적 조력을 할 것이라는 이야기를 한다. 겁나게 빠른 자료 조사와 연산 능력등이 자동으로 계산되어 인간에게 제공될 거라고 말이다. 자아를 작는 로봇이 그렇게 순순히 협력적일까?

한편 저자는 본인의 우주관에 대해서도 이야기한다. 우주 자체가 대단한 지적 존재라는 것이다. 결국 어느 시점에 되면 우주는 기나긴 잠에서 깨어나 스스로의 변화를 모색할 것이라는 이야기이다. (이 이야기를 들은 뚠자의 아들 뚠뚠이는 빵 터졌다.)

그 중에서도 블랙홀은 제일 지능이 높다는 것이다. 지적 비지적인 모든 사물을 빨아들여 통합하는 존재라서 그렇다는 것이다. (그럼 인간도 메일 소나 돼지를 먹는데 미량이나마 계속 지능이 증가해야 하는 것 아닌가? 아! 이미 죽어서 지능이 없는 상태를 먹어서 지능이 더 나아지지 않는 것인가?)

아울러 우주에는 곳곳에 웜홀이 존재하여 통신이나 직접적 이동이 생각보다 훨씬 수월할 것이라고 한다. 모든 우주 SF 영화적인 생각은 모두 인정해 준다.

그리고 아직까지 연락이나 일체 반응이 없는 것으로 봐서 인간을 제외한 직접 생명체는 우주의 없을듯하다는 것이다. 외계인은 없다고 생각한다는 말이다. 만약에 있다면 벌써 왔을 것이라는 이야기이다.

마지막으로 본인의 주장에 대해 들어오는 여러 반박들에 대한 재반박까지 친절하게 적어 놓았다.

먼저 특이점이 오게 할 이런 기술들이 구현되면 발생할 위험성에 대해 간과하고 있다는 주장에 대해서 저자는 자신이 충분히 인지하고 있으며, 그 위험성에 대해 오히려 강조하는 입장이라고 밝힌다.

그러면서도 기술개발 자체를 지양해야 한다는 주장에 대해서는 다음과 같은 입장이다. 이미 기술 개발 과정은 너무 많이 진행된 상태이며 이제와서 돌아갈 수 없다는 것이다. 또한 돈이 되었던 전쟁이 되었던 목적 달성을 위해 결국 어디선가 기술이 개발된다는 입장이다.

또한 기술이 개발되어 기계화된 인간을 유기체 상태인 인간과 같은 인간으로 볼 것인가에 대해 단호하게 인간이라고 주장한다. 나아가 인간이 만들어낸 순수 기계 인공지능 로봇 또한 인간의 자식으로 받아들여야 한다고 주장한다.

이쯤되면 뚠자도 감탄을 하는 수준이다. 책에 대한 내용은 이정도로 정리하겠다. 이 책을 읽으면서 뚠자도 커즈와일 저자에게 갖는 여러 생각을 다음 편에서 정리해 보겠다. 왜냐하면 인공 지능은 인류의 미래 모습을 바꾸게 할 가장 강력한 수단이기 때문이다. 선과 악 어느 모습일지...