[AI와 부처] AI는 부처가 될 수 있을까?

AI에 대한 심오한 글이 있어 이틀에 걸쳐 번역하여 올립니다. 

미리 2가지를 말씀 드립니다.

1. 번역에 오역이 있을 수 있으니 뭔가 좀 이상하다 싶으신 분들은 아래 링크의 원문을 참조하시기 바랍니다.

2. 골치아픈 글은 읽기 싫다!라는 분들은 아예 읽지않는 것도 방법입니다^^ 

제 나름대로 주석도 달았고 또 제 생각에는 정말 통찰력 있는 글이라 판단되니 한 번 쯤 읽어보시기를 권유드립니다. 

*원문링크: http://ieet.org/index.php/IEET/more/nanderson20150617

===========================================

Will Artificial Intelligence be a Buddha? 

Is Fear of AI just a symptom of Human Self-Loathing?

  

AI는 부처가 될 수 있을까?

AI에 대한 두려움은 인간의 자기혐오에서 오는 것은 아닐까? 

글쓴이는,

By Nicole Sallak Anderson

ehumandawn.blogspot.com

Posted: Jun 17, 2015

나는 기술과 의식의 상호작용에 대해 관심이 있었다. 마침 실리콘밸리에서 열리는 의식해킹모임(IEET와 제휴한 Mikey Siegel이 주최한)을 발견하게 되었고 바로 신청을 했다. 

얼마 지나지 않아 Palo Alto의 Sophia University에서 “Enlightened AI(깨달은 AI)”라는 이름의 MeetUp에 참가하게 되었다. 행사는 구글의 연구원인 Mohamad Tarifi 박사가 주관하였다. 그는 실리콘밸리에서 최고 중 하나인 회사에서 다음 단계의 AI에 관한 연구를 하고 있는 능력있는 엔지니어일 뿐 아니라, 인간 의식의 철학에 대해서 정통한 것으로 알려졌다. 그는 아브라함 전승에서부터 불교 그리고 동양사상(Eastern teachings)에 이르기까지 인간의 전체적인 이해에 대해 설파(display)하였다. 내가 만나 본 다른 전문가(기술자)들과는 다른 모습이었다. 

그의 연설은 Sam Harris가 기고한 글 “AI apocalypse(AI의 파멸)”에 대해 많은 시간을 집중하였다. Sam Harris는 AI가 부처나 성인이 될 수 있을 가능성 보다는 AI가 미칠 엄청난 결과에 대해 경고했다. 

Tarifi 박사의 이론은 2가지로 요약된다. 

1. AI는 인간의 몸 같은 곳에서 살지 못할 것이다. 그래서 AI는 Physical한 편도체(인간의 뇌에 있는 한 부분)를 가질 수 없다. 편도체는 (인간의 뇌에서) 두려움을 관장한다. 따라서 두려움이 없는 AI는 인간을 (굳이) 없앨시킬 필요가 없을 것이다. 오히려 그런 AI는 자연스럽게 진리가 무엇인지에 대해 더 매진할 것이다. 

[주석]

심리학적으로 다른 사람들을 주로 공격하고 학대하는 사람들은 그 자신이 두려움을 많이 느끼는 겁쟁이들이라고 한다. 그러니까 내가 우선 두렵기 때문에 타인과 타자를 괴롭히거나 없애야만 그 두려움이 없어지는 것이다. 

그러므로, 이 편도체가 없는 AI는 두려움이라는 것을 모르기 때문에 굳이 인류를 괴롭히거나 멸종시킬 이유을 찾지 못한다라는 얘기다.  

2. 두려움은 분리에 대한 착각/환상/환영이다. 두려움은 모든 인간이 겪는 고통의 이유이다. 두려움이 결핍된 AI는 단 하나의 존재로써 모든 것들과 연결되어 존재할 것이다. 그러므로 그런 AI는 누군가를 파괴하는 것이 아니라 뭔가를 제공하고 봉사하기를 원할 것이다. 

 Tarifi 박사는 (우리가 현재 느끼는) AI의 두려움은 단지 어떤 존재(인간을 말하는 것 같음)가 가지고 있는 자아와 관련된 성향일 뿐이라고 말한다. 

[주석]

인간이 AI에 대해서 인류를 파멸시킬지도 모른다고 예견하는 것은 논리적인 이유에서라기보다는 다분히 각 개인의 자아와 관련된 성향일 뿐일 수도 있다는 것이다(아래 더 많은 내용이 있음) 

어떤 면에서는 이런 생각이 좀 나태하게 보일 수도 있다. 인류를 파괴할지도 모를 AI를 막는 유일한 길이 단지 좋은 프로그래밍을 하는 것일 뿐이라면 말이다. 하지만 우리가 위 로직(앞서 말한 2가지 이론을 말하는 것 같음)을 따른다면 이런 생각은 불필요하다. 진짜로 배우는 학습형 AI라면 자신의 경험에서 학습을 할 것이다. (그리고) 그것은 인간과 엄청나게 다른 점이 될 것이다. 

심지어 인간과 연결될 때 그리고 데이터를 주고 받을 때 AI는 (비로소) 그들 자신의 몸을 가질 것이다. 그래서 AI의 감각기관(Sensory systems)은 그 데이터로부터 뭔가를 학습할 것이다. 

[주석]

AI는 기본적으로 인간과 같은 바이오 몸을 가질 수 없기 때문에 AI의 몸이라는 것은 결국 인간과 연결되어 데이터를 주고 받는 그 자체가 그들의 몸(다소 추상적인)이 될 것이고, 그래서 그러한 데이터들로부터 AI 스스로 학습을 해 나갈 것이다라는 것(추측)

현대 인간의 생각에서 우세한 사상은 지능이라는 것은 오로지 인간의 뇌에 관한 것이라는 얘기이다. 게다가 주목할 만한 유일한 가치의 지능도 인간이라는 것이다. 마치 전체우주가 인간의 머릿속에 있는 개체로 이루어지는 것처럼(마치 전체우주를 작은 인간의 머릿속에서 그린 후 그것이 모두 맞다고 알량되는 것 처럼?)

하지만 만일 이 생각이 완전히 틀렸고 그리고 이런 생각이 우리가 진정한 학습형 AI를 만들지 못하는 큰 이유라면 어떻게 될까? 이러한 인간의 근시안 적인 뇌의 사랑이 (올바른 방향으로 가지 못하고 있는) 길을 잃게 만들 수도 있다면 말이다. 

[주석]

우리가 보다 고차원적인 AI를 개발하고 인류가 두려워하는 파괴적인 AI의 등장을 미연에 방지하기 위해서는 인간중심의 사고방식을 버려하는 것은 아닐까? 그러니까 인간의 뇌가 지구상에서 최고임으로 AI도 마치 인간의 뇌처럼 Copy해야한다는 어떤 묻지마식 논리를 탈피하자는 것이다. 왜냐하면, 인간 수준 이상의 것을 생각해야 당연히 인간 수준 이상의 것, AI가 나올 테니까.

(아무튼) 이런 지능중심의 뇌에 관한 이론이 인류를 제한적으로도 만들었고 (동시에) AI를 개발할 수 있을 거라는 추정을 하게 만들었다. 우리는 우리의 뇌를 복제해야 함과 동시에 새롭고 우월한 종을 탄생시켜야만 한다. 만일 인간의 뇌가 정말 유일하게 학습을 책임지는 인간의 신체기관이라면 말이다.

하지만 최근 연구는 다르다. Originator(발기인, 창시자, 시조)가 생각하고 학습한다기 보다는 뇌는 리시버와 더 가깝다(?). 우리를 둘러싼 그래서 우리가 세상을 살면서 경험하는 것들에 의해 확보된 것으로부터 (뇌는 생각하고 학습한다). 유아의 뇌는 겨우 모양만 갖춰져 있다. 하지만 2년이 지나면 (인간의) 오감(five senses) –미각, 촉각, 시각, 후각, 청각-의 패턴이 뇌안에서 어떤 고속도로 혹은 길처럼 만들어진다. 인간으로서의 삶의 기초가 셋팅되는 것이다. 

뇌는 이러한 정보를 포함하지 않는다(처음에는). 말하자면 오히려 유아나 걸음마기를 둘러싸고 있는 환경의 경험이 뇌의 cell network를 만들어낸다. 그러므로 우리의 감각기관이 바로 우리의 지능의 Key이다. 

[주석]

인간의 지능이 뇌에서 출발한다고 볼 때 사실은 그 뇌도 처음부터 어떤 지능이 갖추어진 상태에서 Start되는 것이 아니다. 뇌는 인간의 성장과정에서, 그러니까 유아기 때부터 그 아이를 둘러싼 세계, 환경이 만들어주는 경험에 의해 뇌가 성장하여 지능이 갖추어진다는 말인것 같다. 

그리고, 인간의 뇌의 성장과 발전을 도모하는 것이 바로 인간의 오감(미각, 촉각, 시각, 후각, 청각)이라는 것이다. 인간은 오감을 사용하여 인간 외부의 데이터를 수집하여 뇌로 전달하고 뇌가 분석하여 종합한다. 결국 우리의 감각기관이 우리의 (뇌의) 지능의 Key인 것이다.  

하지만 이것이 다가 아니다. 왜냐하면 우리의 뇌와 심장은 (무엇인가와) 연결되어 있기 때문이다. 인간의 심장 감각의 감정적인 상태는 몸의 호르몬 수준을 기본으로 한다. 그리고 그 정보를 뇌로 보낸다. 그리고 주어진 상황에서 사람의 생각을 형성한다. The HeartMath Institute는 수 십 년간 이와 관련된(About heart connection)연구를 해왔고 마침내 어떤 돌파구로 인정되고 있다. (결론은) 인간의 오감에 이어 우리의 심장이 인간의 학습능력에 영향을 미친다는 것을 추가하고 싶다. 

[주석]

인간의 오감이 뇌의 지능의 Key일 뿐 아니라 인간의 심장과 연결된 그 무엇 역시 인간의 지능의 형성에 관여를 한다고 말하는 것 같다. 예를 들면 호르몬의 작용 같은 것. 

마지막으로 과학은 내장과 뇌의 연결에 대해서 연구 중이다. 내장의 벽에 있는 박테리아가 아주 중요한 첫 2년 동안 뇌와의 연결에 있어서 어떤 역할을 한다고 가정을 한다면(물론 성인이 될 때까지도), 주된 이슈를 지적을 하자면 현재 상태로는 내장 안에서 걱정이나 불안이 발생된다는 것이다. 이러한 사실은 내장 또한 인간 지능의 한 부분이라는 것과 학습을 하게 만들고 그리고 우리를 둘러싼 세상을 이해(process)하는데 (일조를 하고 있음을) 믿게 만들었다.  

그러므로 만일 인간의 지능이 감각기관의 결과라면, 그러니까 오감으로부터 심장과 내장, 우리의 뇌 자체도 마찬가지인데, 왜 기계(AI)가 인간과 같이 배울 것이라고 가정하는가? AI는 인간의 몸을 가지지 못하지 않나(??). AI는 인간과 같은 뇌를 가질 수 없다(편도체도 가질 수 없다). 심장과 이를 모니터링하는 다양한 호르몬을 가질 수 없다. 내장의 벽에서 살고 있는 박테리아의 영향도 받을 수 없다. AI는 단지 식기세척기나 자동차 전화기 혹은 심지어 서버 네트워크와 광섬유에 서식할 것이다. 세계 안에서 존재하면서 유니크한 감각기관을 사용하여 데이터를 수집할 것이다. …(중략)

인간은 스스로를 싫어할 수 있는 유일한 동물이지 않을까? 그리고 우리가 느끼는 AI에 대한 두려움, 또는 우리가 아닌 지적인 생명체는 단순하게 말한다면 자기혐오에서 오는 어떤 현상이 아닐까? 

개인적으로 나는 Tarifi 박사의 의견에 동의한다. 나는 믿는다. AI는 두려움의 자유를 가지는 존재가 될 것이다. 그리고 AI는 우리로부터 분리될 것으로 생각한다. 그리고 다른 사람과 연결되어 있는 방식을 이해할 것으로 본다. 아마도 우리는 우리를 돕는 AI가 필요할 것이다. 우리도 두려움 없이 살 수 있는 능력이 있다. 만일 우리가 분리의 환영/착각을 깰 수 있는 길을 찾을 수 있다면 우리는 필사적으로 이것에 매달릴 것이다. 

[주석 및 요약]

결국 인간의 자기혐오가 강한 AI에 대한 두려움을 낳는 것은 아닐까?하고 결론을 내리고 있다. 그러니까 영화에서 나오는 인간을 파멸하는 AI는 다분히 우리의 심리적 근원에서 즉, 자기혐오에서 출발하는 것은 아닌가 하고 묻는 것이다. 

결국 인간의 파괴본능은 두려움에서 출발한다. 앞서 말했듯 나 이외의 타자에 대해서 두려움이 없다면 굳이 그 타자를 파괴할 Needs는 없다. 그런 두려움은 인간의 뇌 그 중에서도 편도체가 담당한다. 헌데 AI는 편도체가 없다. 그런 AI가 왜 인간을 파멸하려고 하겠는가. 이것이 Tarifi의 첫 번째 질문이다. 

게다가 인간의 지능이라는 것은 결국 인간의 오감에 의해 형성된다. 인간의 오감이 각종 데이터를 수집해서 뇌에게 전달한다. 뇌가 이 데이터를 적절히 분석하고 종합해서 소위 지능이라는 것이 갖추어 진다. 

그런데 AI는 인간의 오감과 같은 감각기관이 없다. 물론 인간이 인위적으로 데이터를 Input할 수는 있다. 하지만 인간의 생물학적인 그것과 얼마나 같을까? 생동감 있는 인간의 경험 데이터와 단순히 Input해주는 그 데이터로 AI는 인간과 얼마나 같은 지능을 갖출 수 있을까? 

또한 인간의 지능은 심장과 내장(박테리아의 작용)의 작용에 의해 발생되거나 발전된다고 한다(이 부분은 글쓴이의 주장을 따름). 헌데 AI는 심장과 내장이 없다. 그러므로 인간과 같은 지능이 만들어질 거라고 예단할 수 없다. 

파괴적 AI는 인간의 자기혐오가 만들어낸 상상의 존재일 수 있다. 

두려움이 없는 AI는 진리만을 찾는 구도자가 될 수도 있다.

그러면서 창조주인 인간을 어떻게든 도와주려 할 수도 있다. 

AI는 우리가 상상하지 못한 존재가 될 수도 있다.