살다보니 별별일 다 겪지만 아직 적절한 시기가 도래하지 않은 상황에서 듣게되니 다소 황당한 생각이 들어서 몇자 남겨보려 한다.
<로봇 학대>라는 말이 대한민국 일간지에 등장해 화려하게 인터넷을 달구었다.
무슨 상황에서, 무슨 의도를 가지고 기자가 이런 단어를 구사하게 되었는지까지는 말할 가치가 없어서 논하고 싶지 않다. 너무 정치적으로 흐르기 때문이다.
단지 비정상적인 것들이 너무나 많이 세상을 어지럽히는 것에 깊이 끼어들고 싶지 않아서이다.
다만 이런 단어가 정상적으로 받아들여 지려면, 적어도 <로봇>이 우리(여기서는 인간)이 인정하는 수준의 감성적 상태까지 도달한 ‘상대’라야 한다고 뚠자는 생각한다.
인간이 가축을 학대하는 경우에 예상되어지는 상대 가축이 고통을 느껴 눈물을 흘린다거나 비명을 지른다거나, 본능적인 도망이나 발버둥같은 움직임이 있다거나 하는 인간과 같은 생명체로서의 기본적 생명 유지를 위한 몸부림을 보면서 느끼는 감정이 로봇에게는 일어나지 않는다. (아직까지는…)
언론에 나온 바로 그 <로봇 학대>의 주인공인 로봇은 단순히 프로그래밍 되어있었으며 뒤집어도 일어나서 자세를 바로 잡을 수 있음을 목적으로 만들어진 것으로 보인다.
따라서 기억 장치에 충격이 가해져 동작 불가 상태이거나 전원이 나간 경우 등 일부 특수한 경우를 제외하면 무조건 정해진 프로그램 논리대로 동작될 것이다.
일부 제한적인 판단, 예를들면 넘어진 상태이니 다시 일어나서 자세를 바로 잡자와 같은 본 목적 이외에는 부가되지 않은 자의적 판단은 불가하며, 기쁨이나 슬픔 공포 두려움 환희와 같은 감정도 느끼지 못할 것이며, 생물학적 배고품 피로감 같은 것도 모를 것이다.
그러니 테스트 목적으로 한번 거칠게 뒤집은 것이 아닌 그것보다 더 심하게 몽둥이로 패거나 총으로 쏜다고 해서 문제가 될 거라고 생각하지는 않는다.
지금 시대의 로봇에게 총을 쏘아 망가뜨리면, 재물손괴는 가능하나 살인죄가 될 수 없음이기 때문이다.
그럼 도대체 언제쯤 로봇에게 심하게 대하면 <로봇 학대>라고 할 수 있을까?
영화 <아이로봇>이라는 작품이 있다.
이 영화는 윌 스미스와 한 로봇이 주인공으로 나오는데, 이 로봇이 바로 자아를 느끼게 되면서 여러 사건이 벌어지는 것을 줄거리로 하는 영화다.
인공지능이 더욱 활성화 혹은 심도깊은 연구 개발이 이뤄져 자아를 느끼는 로봇이 나온다면 바로 그때부터 <로봇 학대>를 막기위해 노력해야 할 시점이 아닌가 생각한다.
물론 로봇이 더 강해져 오히려 로봇에게 인간들이 학살을 당할 상황도 있음을 염두에 두어야겠지만 말이다.
뚠자가 자주 언급하는 <특이점이 온다>의 저자 커즈와일처럼 바로 로봇에게 인간성을 부여하지 못하는 사람들이 더 많은 세상에서 이 <로봇 학대>라는 말은 얼마나 부적절하게 선정된 단어인지를 알 수 있다.
아마 <학대>를 강조하고 싶었을 것이리라.
더 웃기는 건 그에 동조한 고려대 교수라는 사람이다.
학자라면 상당한 지식과 전문성을 가지고 있을 터인데, 이러한 상황을 구분하지 못하고 그렇게 어설프게 동조하였다는 점이 말이다.
레이 커즈와일의 <특이점이 온다>보다도 더 구체적으로 인공지능에 대해 진지하게 고민한 내용을 담은 책이다.
저자는 이 책에서 단순한 인공지능이 아닌 현재 인간의 지능 수준을 상상 하지 못할 정도로 뛰어넘는 초지능에 대해서 이야기하고 있다.
특히 인간 수준의 인공지능이 만들어지면 그 이후에는 엄청난 속도로 지능의 격차가 순식간에 벌어질 수 밖에 없을 것이라고 말한다. 그 이유는 당연하다.
인간보다 10만배 이상 빠른 속도로 연산이 가능하며 무지막지한 기억 용량은 물론이며, 음식이나 잠을 잘 필요 없이 24시간 무제한으로 지능을 업그레이드 할 수 있는 기계 고유특성 때문이다.
따라서 현재의 인류가 초지능을 개발하는 과정에서 초지능이 인간에게 위험한 존재가 되지 않도록 안전판을 설치할 수 있는 기회는 단 한번 뿐이며 그 시간도 무척 짧을 것이라고 말하고 있다.
저자는 이 책의 초반부에 초지능에 이르는 결과물에 대해서 예를 들어 준다.
1 순수하게 인간이 프로그래밍 하여 만든 소프트웨어 형태, 2 인간의 뇌를 스캔하여 정보를 이용한 전뇌시뮬레이션형, 3 인간의 유전자를 조작하고 계속 지능적으로 우수한 인종만을 배양하여 뽑아낸 인간유전형, 4 사람의 뇌를 고성능 컴퓨터와 동기화시키는 신경 링크형, 마지막으로 5 집단 네트워크형이다.
이들의 세부 유형을 설명한 이후 저자는 어떠한 형태가 되더라도 초지능이 완성되면 현재의 인류에게는 치명적인 위협이 될 것이므로 이에 대한 대비를 철저히 해야 한다고 말하고 있다.
아무리 정보 접근이 어려운 상태로 한정된 공간에서 가둬 놓더라도 초지능은 현재의 인간이 상상도 할 수 없는 방법으로 개발자나 접근가능자들을 회유 협박 최면 상태로 만들어 초지능에게 가해진 족쇄를 풀 수 있다는 것이다.
예를들어 인간은 아직 모르는 어떤 특정 무선주파수 혹은 혼합 주파수로 인간의 뇌를 조정하여 목적을 달성 할 수도 있다는 것이다.
결론적으로 이 책 <슈퍼 인텔리전스>는 이처럼 상상을 초월하는 초지능을 결국은 어떤 형식으로든 만들어 낼 것이므로 이에 대한 구체적인 방안을 마련해야 할 것이라고 말한다.
초지능은 상상을 초월하는 능력을 갖춘 존재이므로 전 지구적 차원의 공동개발과 그 유익함의 공평한 분배가 이루어져야하는 것도 잊지 않고 기술하고 있다.
이 책은 빌 게이츠와 엘런 머스크가 극찬을 했다고 하는데 사실 상당히 지루하고 난해한 책이다.
인공 지능에 관심이 있는 사람들에게만 추천한다. 이 책에 앞서 <특이점이 온다>를 읽고 읽으면 좋을 듯하다. 평점 8.0
<호모데우스(Homo Deus)>에서 데우스는 신(神, god)이라는 의미다. 아프리카 초원 태생의 호모 사피엔스가 점차 그 능력을 키워 온지 수십만 년이 지난 현재 인류는 신이 되려고 한다고 저자는 예상을 하고 있다.
전작인 <사피엔스>가 고대부터 근현대까지의 과거를 주제로 이야기했다면, 이 책에서 저자는 근현대의 인류 행적을 분석하고 미래에 초점을 둔 이야기를 하고 있다.
서론을 보면 인류는 기아(굶주림), 질병, 전쟁등 생존에 관련된 끊임없는 위협으로부터 많이 벗어난 상태라고 말한다.(하지만 2020년 우리는 코로나로 된통 당하고 있다.)
우선 전 지구적으로 굶주림 보다는 비만이 문제가 되고 있다. 또한 평균 수명은 전 세계적으로 높아져 오히려 고령화 사회가 되어가고 있다. 그리고 1,2차 세계 대전 같은 전쟁은 이제는 많이 힘들어진 상황이라고 말한다. 이러한 상황에서 인류에게는 행복과 장수(긴 수명)라는 화두가 던져졌으며, 과학과 기술은 그 화두를 해결하기 위해 열일 중이라는 것이다.
저자는 <사피엔스>의 성공에 힘입어 본인만의 의미 부여를 이 책에서도 구현한다. 이 책 역시 상당한 히트를 쳤다. 저자는 과학과 종교를 한 쌍으로 묶어 관찰하고 분석했다. 물론 종교는 윤리의 또 다른 이름으로 보면 될 것 같다.
과학 기술 개발이라는 이름으로 언제든 유전자가 조작된 인류가 나올 수 있음에도 불구하고 우리는 아직 그들을 만나지 못하고 있는데, 아직은 종교가 막아서고 있기 때문으로 보인다. 하지만 얼마 못 가서 그 규제는 풀릴 것이다.
저자는 그것이 아마도 선천적인 유전에 의한 질병에 대해 치료한다는 목적으로 시작할 것이라 말한다. 뚠자도 동의한다.
2020년 10월 18일자 국민일보는 '유전자 가위 기술(CRISPR) 국내임상 허용을' 이라는 기사를 냈다. 희귀 유전자 난치병 환자에 대한 치료 목적이라고 한다. 이런 식이다. 아마 조만간 청와대 청원까지 올라 올 것으로 보인다. 그 다음은 안 봐도 진행과정이 머릿속에 그려진다.
부유한 자들에게 생명을 연장하도록 할 것이고, 더 부유한 자들에게는 성격 생김새는 물론 머리까지 똑똑한 맞춤형 아기가 태어날 수 있도록 할 것이다. (<폴터> 참조)
다시 책 내용으로 돌아가보면 저자는 실리콘밸리가 대규모의 실험실이며 과학이라는 종교의 행사장이라고 묘사한다. 또한 데이터 즉 정보라는 종교의 막강함에 대해 무한 강조를 한다.
맞는 말이다. 정보와 지식 그리고 데이터는 미래 인류를 지배하는데 있어 필수요소이다. 정보나 지식의 양이 적었던 과거에는 학습 교육의 기회가 주어진 자들이 권력을 독점했다.
시대가 바뀌어 누구나 교육을 받고 쉽게 검색이 가능해진 현대에는 빅데이터(big data)나 고급 정보 와 지식이 특정 집단에만 몰리고 있음을 본다. 구글, 페이스북 등에 엄청난 수준의 빅데이터가 쌓여 감을 우리는 보고 있다.
반대로 정보에 대한 통제도 이루어지는데 대표적인 것이 중국의 ‘만리방화벽’이다.
저자는 인류가 인본주의를 근본으로 한 과학적 발전으로 단순한 유전자적 생물체로서의 알고리즘에서 벗어나고 있음을 이야기 한다. 즉 지구 최강의 종으로서 생물학적 한계를 탈피하려고 노력하고 있는 인류의 미래 모습을 그려 보는 것이다.
레이 커즈와일이 지은 <특이점이 온다>처럼 구체적으로 묘사하지는 않지만 기존에 한계 수명을 극복하고 생물학적 신체 제약을 벗어나려는 노력이 결국 신이 되려는 것과 같다고 생각하는 듯하다. 뚠자 역시 어느 정도 동의한다.
정상적인 이성적 사고가 유지되어 인류가 서로 치고 받아 파멸로 가지 않는 한 단기적 과학 기술의 목표는 유전자 조작에 의한 신인류의 탄생과 인공지능(AI) 정도가 될 것이다.
지구는 기존 호모사피엔스와 월등해진 신인류 그리고 인공지능 등 3개 부류가 주도권을 다투는 각축장이 될 것이다. 합종연횡이 있을 것이며, 멸종이 있거나 공존이 있을 것이다.
아무튼 호모데우스 역시 저자 유발 하라리의 거시적 통찰과 미시적 묘사를 돋보이게 하는 책임에 분명하다. 이 책은 전작인 <사피엔스>를 읽은 모든 이들에게 추천한다. 평점은 8.8
사진에서 보듯 두께가 엄청난 책이다. 800페이지가 넘는 문제작이다. 현직 (2020년 10월 기준) Google사의 인공지능 개발 담당 이사인 레이 커즈와일이 2010년도에 출판한 책이다. 그는 기계 인식 분야의 개발자로서 많은 특허와 발명품을 가지고 있다.
스티비 원더라는 앞을 보지 못하는 미국 흑인 가수 요청을 받고 앞이 안 보이는 사람들을 위해 발명을 하게 된다. 이러면서 대한민국의 영창악기와 협업을 통해 신디사이저(Synthesizer) 제품도 출시하였다. 해당 제품은 '영창커즈와일'이라는 이름으로 현재도 판매중이다.
한편 미국 명예의 전당에도 이름을 올린 사람이니 과거 이력이나 현재의 직업 등으로 미루어보아 아주 헛소리를 할 사람 아니라는 것이 이 책을 번역한 사람의 말이다. 이 글을 읽는 독자들께서는 왜 이런 얘기를 먼저 하나라고 의아해 할 수도 있지만 실제로 책을 읽게 되면 그 이유를 알 수 있다.
먼저 책 제목에 나오는 ‘특이점’이라는 단어부터 정의하고 가야 한다. 특이점(singularity)이란 인간이 만든 기계 지능이 인간의 지적 지능을 앞서게 되는 그 시점을 말하는 것이다.
실제로 우리는 2016년 3월에 알파고(alphago)라는 인공지능이 바둑에 있어서 이세돌 9단을 4승1패로 이기는 충격적 사건을 잘 알고 있다. 그 이후 알파고는 현재까지 알려진 어떠한 인간 바둑 기사에게도 지지 않았다고 알려져 있다.
언뜻 보면 이미 책에서 말하는 특이점이 벌써 온 건 아닌가라고 생각 할 수도 있지만 사실 알파고는 ‘자아’를 인식하지 못하는 바둑용 특수 지능 일뿐이다. 즉 특이점을 보고자 한다면 스스로 생각하고 실행하는 인공지능을 개발해야 한다는 말이다.
이해가 어려운 사람을 위해 한 번 더 쉽게 풀어서 이야기해 보겠다. 알파고는 스스로 바둑을 배운 게 아니며 어떤 목적이 있어서 바둑을 두는 것도 아니다.
알파고는 인간에 의해 프로그래밍 되었고 과거에 있었던 바둑 기사들간의 대결로 만들어진 기보를 데이터로 입력받아 주어진 데이터 처리 방식에 따라 학습을 하는 알고리즘 일 뿐이다. 이 알고리즘은 학습을 바탕으로 하여 실시간 입력되는 데이터를 처리하여 바둑 규칙에 맞는 데이터를 출력하고 있을 뿐이다.
적어도 특이점이 왔다면, 알파고 기계가 스스로 뜻한바 있어 바둑을 배우고, 특정 상대를 스스로 지목하고 대전을 치러야 하며 그 과정에서 나름의 의미를 논리있게 설명할 수 있어야 한다.
즉 스스로 생각하고 결정한 후 실행하고 의미를 부여할 줄 아는 인공지능이 나오는 시점이 특이점이다 할 것이다. 저자는 특이점이 발생하는 그 시점을 2040년대 후반 정도라고 책에 적어 놓았다. 뚠자 나이 70대 정도 일 텐데 과연 그때 정말로 특이점을 볼 수 있을까?
자 다시 책 내용으로 돌아 가보자. 저자는 2040년대 후반 정도를 특이점이 오는 시기라고 예측 한 근거로 ‘기술의 가속화’를 이야기한다. 아무것도 없는 무(無)에서 뭔가 하나가 나오고 다시 또 다른 하나가 나오고 하는 시간은 지루하겠지만 어느 정도의 규모가 이루어진 이후에는 기하급수적으로 불어난다는 이야기다.
‘기술의 가속화’를 수학적으로 풀어서 이야기하는 책이 따로 있으니 이 내용은 그때 다시 다루겠다. 쉽게 이야기하자면 중학교 3학년 과정에 나오는 2차 함수 그래프를 생각하면 될 거라고 이야기 해주며 지나가겠다.
이처럼 급속히 발전하는 기술 중에서 유전자기술(G) 나노기술(N) 로봇 기술(R)을 활용하여 인공지능이 특이점을 넘어설 것이란 이야기다.
읽다 보면 유전자 기술은 왜 필요한지에 대한 의문을 가질 수도 있다. 하지만 작가가 굉장히 오래 살고 싶어 하는 마음이 강한 사람인 것으로 보인다. 본인 혹은 인공지능 특이점이 도래하기까지 생명을 연장하고픈 사람들을 위해서 써 내려간 부분이라 생각하면 될 듯 하다.
언젠가는 소개할 ‘폴터’라는 책에 커즈와일이 등장한다.(유명 인사임이 분명하다.) 여기서 커즈와일은 자신의 삶을 연장하기 위해 알약을 하루에 100개씩 먹는 것으로 묘사되고 있다.
아무튼 유전자 (조작)기술을 이용하여 인간은 다음 세대 혹은 미래 세대의 수명을 지금의 100세 시대가 아닌 수 백세 시대로 갈 수 있게 하려고 준비 중이며 거의 완성 단계에 와 있다고 저자는 이야기한다.
참고로 커즈와일은 기술 신봉자로 보인다. 광범위한 유전자 기술을 통한 유전자 조작의 결과물이 농작물이나 식용 가축 심지어 인간이라 하더라도 딱히 두려움은 없는 것으로 보인다. 기술의 선함을 추구하는 것이라 보여진다.
다시 본론인 특이점을 중심으로 보자. 인간의 두뇌를 완벽하게 이해하지 못하면 생각하는 인공지능의 구현은 어려보이므로 결국은 인간의 뇌를 완전히 연구 해야만 한다.
현재의 연구는 뇌를 스캔 하는 방식으로 이루어지는데 이때 이용하는 장비가 fMRI라고 한다. 사람이 장비 안에 들어가면 두뇌 부분을 집중적으로 스캔할 수 있으며, 스캔하면서 연구자가 질문을 하거나 어떤 생각을 유도하면 나타나는 반응을 데이터로 수집하는 식인 것이다.
이런 수준만으로도 분명 많은 발전을 이룬 것은 틀림없다. 하지만 아직 멀었다. 두뇌의 모든 것을 이해하려면 말이다. 올리버 섹스 선생의 ‘아내를 모자로 착각한 남자’에서 얼마나 뇌가 경이로운지에 대해 여러 실제 사례를 볼 수 있다. 기회가 되면 이에 대한 소개도 하겠다.
따라서 두뇌의 작동 메커니즘을 제대로 파헤치려면 신경세포 수준에서의 데이터 수집이 이루어져야 한다. 그 말은 직접 인간의 뇌 속으로 들어가 스캔을 할 수 있는 소형 스캔 로봇인 나노봇을 제작해야 한다는 것이다.
여기서 나노봇은 아주 작은 나노미터급의 로봇으로 목적에 맞게 스스로 결합, 분해도 가능하며 필요한 세포 부분에 물리적 영향을 줄 수 있으며, 인간의 몸에 들어가서 외부와의 통신도 가능한 롯봇을 말하는 것으로 뚠자는 이애했다.
책 내용에 따르면 인간의 머리에 수천에서 수만 개의 나나봇이 들어가서 데이터를 수집해야 한다. 과연 어떤 미친 사람이 검증도 안 된 소형 로봇을 자신의 뇌에 집어 넣으라고 하겠는가?
유전자기술 필요했던 이유가 이거였나? 유전자 조작으로 사람의 뇌만 복제를 만들어 사고가 나도 윤리 문제를 피해가려는...
아무튼 뇌의 신비를 나노봇의 도움으로 다 풀어버리고 나면 인공지능 소프트웨어를 담은 로봇 하드웨어가 필요하게 된다.
로봇 기술에는 하드웨어적인 팔,다리는 물론이고 두뇌 부분에 탑재되는 인공지능까지 포함된다. 결국 사람과 같이 스스로 자아를 인식할 수 있는데다가 엄청난 기억력과 계산력까지 보유한 두뇌가 물리적인 신체까지 갖추게 되는 것이다.
비로서 자아를 갖는 지적 기계 존재가 탄생하는 것이다.
그리고 이들은 결국 인간의 유기체적인 두뇌를 기계적 두뇌로 바꿀 수 있는 기술 개발에 결정적 조력을 할 것이라는 이야기를 한다. 겁나게 빠른 자료 조사와 연산 능력등이 자동으로 계산되어 인간에게 제공될 거라고 말이다. 자아를 작는 로봇이 그렇게 순순히 협력적일까?
한편 저자는 본인의 우주관에 대해서도 이야기한다. 우주 자체가 대단한 지적 존재라는 것이다. 결국 어느 시점에 되면 우주는 기나긴 잠에서 깨어나 스스로의 변화를 모색할 것이라는 이야기이다. (이 이야기를 들은 뚠자의 아들 뚠뚠이는 빵 터졌다.)
그 중에서도 블랙홀은 제일 지능이 높다는 것이다. 지적 비지적인 모든 사물을 빨아들여 통합하는 존재라서 그렇다는 것이다. (그럼 인간도 메일 소나 돼지를 먹는데 미량이나마 계속 지능이 증가해야 하는 것 아닌가? 아! 이미 죽어서 지능이 없는 상태를 먹어서 지능이 더 나아지지 않는 것인가?)
아울러 우주에는 곳곳에 웜홀이 존재하여 통신이나 직접적 이동이 생각보다 훨씬 수월할 것이라고 한다. 모든 우주 SF 영화적인 생각은 모두 인정해 준다.
그리고 아직까지 연락이나 일체 반응이 없는 것으로 봐서 인간을 제외한 직접 생명체는 우주의 없을듯하다는 것이다. 외계인은 없다고 생각한다는 말이다. 만약에 있다면 벌써 왔을 것이라는 이야기이다.
마지막으로 본인의 주장에 대해 들어오는 여러 반박들에 대한 재반박까지 친절하게 적어 놓았다.
먼저 특이점이 오게 할 이런 기술들이 구현되면 발생할 위험성에 대해 간과하고 있다는 주장에 대해서 저자는 자신이 충분히 인지하고 있으며, 그 위험성에 대해 오히려 강조하는 입장이라고 밝힌다.
그러면서도 기술개발 자체를 지양해야 한다는 주장에 대해서는 다음과 같은 입장이다. 이미 기술 개발 과정은 너무 많이 진행된 상태이며 이제와서 돌아갈 수 없다는 것이다. 또한 돈이 되었던 전쟁이 되었던 목적 달성을 위해 결국 어디선가 기술이 개발된다는 입장이다.
또한 기술이 개발되어 기계화된 인간을 유기체 상태인 인간과 같은 인간으로 볼 것인가에 대해 단호하게 인간이라고 주장한다. 나아가 인간이 만들어낸 순수 기계 인공지능 로봇 또한 인간의 자식으로 받아들여야 한다고 주장한다.
이쯤되면 뚠자도 감탄을 하는 수준이다. 책에 대한 내용은 이정도로 정리하겠다. 이 책을 읽으면서 뚠자도 커즈와일 저자에게 갖는 여러 생각을 다음 편에서 정리해 보겠다. 왜냐하면 인공 지능은 인류의 미래 모습을 바꾸게 할 가장 강력한 수단이기 때문이다. 선과 악 어느 모습일지...
