[인공지능이야기] 구글 딥마인드, 강한인공지능의 탄생을 암시하다.

아시는분은 아시겠지만 구글이 얼마전에 딥마인드라는 인공지능 스타트업을 인수했죠.

이 업체는 제가 듣기로 코딩 그 자체를 개발하는 로봇 혹은 AI를 개발하는 업체라고 합니다.

이른바 '딥러닝'이라고 하는 것.

*딥러닝이 뭔지는? http://navercast.naver.com/contents.nhn?rid=122&contents_id=64183

그러니까 딥마인드는 프로그래밍을 프로그래밍하는 로봇(AI?)을 만드는 업체인 것이죠.

앞으로는 코딩을 기계가 할지도 모릅니다^^

.

.

.

기사내용 한 번 살펴보겠습니다.

눈에 띄는 문구들이 몇개 있어요.

*원본 링크: http://www.businessinsider.sg/google-were-not-trying-to-destroy-humanity-with-artificial-intelligence-2015-6/#.VXWH9s_tmkp

일단 기사제목은 아래와 같습니다.

'구글은 인류를 파멸하지 않는 AI를 개발중이다'

아래 기사는 주로 딥마인드의 공동창업자인 Mustafa Suleyman의 말입니다.

중요한 문장을 단락별로 살펴봅니다.

번역과 제 의견을 더했고요.

--> 딥마인드에서는 인류가 AI를 제어할 수 있을 거라고 합니다(그렇게 개발을 하겠다는 뜻)

그리고 AI를 개발할 때 AI 기능의 제한과 인류에게 어떤 해가될 시 중지시킬 수 있는 장치를 넣을거라고 하네요.

그런데, 흠..

제가 볼땐 이말이 더 무섭게 들립니다. 역설적으로.

일반적으로 내가 너를 컨트롤 할 수 있다고 말하는 것은 상대방보다 내가 더 우위에 있다는 것 아니겠습니까?

그러니까 AI기능에 이런 제한적인 부분, 인류에게 해가 되지 않게 개발하겠다는 뜻은, 결론적으로! 거꾸로, 무제한적으로 그리고 인류에게 해가 되게 개발을 할 수도 있다는 뜻으로 해석 되거든요. 말 장난이 아니라 말입니다. 그렇지 않나요? 어떻게 무언가를 완전하게 개발을 못하는데 그 기능에 제한을 둘 수 있겠습니까? 그러니까 논리적으로 80, 90의 기능을 가지게 하려면 원천적으로 100을 개발할 수 있어야 하지 않을까요?(너무 나갔나??^^)

다음 기사 살펴보죠..ㅎ 

--> 빌게이츠와 앨런 머스크가 급속도로 진전되고 있는 AI개발에 대해 우려를 표시했다고 합니다. 그리고 앨런 머스크는 구글이 딥 마인드를 인수하기전에 투자를 했다고 하고요(지분이 얼마인지 궁금하군요!)

또한, 앨런 머스크는 이런 얘기도 했었나보네요. 로봇이 5년 내 사람을 죽일 수 있을거라고.

요즘 드론들이 휭~휭~ 날라다니는 것 보면 5년이 아니라 1년 내에도 실제적 위협으로 다가올 것 같습니다.

특히 전쟁터에서는 더욱더.

요즘 탄저균이나 뭐다 난린데 드론이 이 균을 공중에서 뿌려버린다고 생각하면 정말 아찔합니다. 우리도 미국처럼 드론 관제 센터를 서둘러 만들어야 하는것은 아닌지 정말 걱정됩니다.

Suleyman이 월스트리트 저널과의 대화에서 위와 같이 말했다는데, 핵심은 AI를 huge powerful하게 개발은 할것이나, 직접적으로 컨트롤이 가능하게 만들겠다..입니다. 이 부분을 계속 강조하네요. 

그리고, AI에게 empower humanity 즉, 인류애가 있게끔 개발한다고 하고 절대!? not to destroy us하게 만들거라고 합니다. 하지만, 영화만 봐도 알 수 있는 것은 Suleyman같이 선한 과학자(일단 선하다고 치고^^)는 사고를 치지 않겠죠. 문제는 주로 내외부의 어떤 적이 그 기술을 빼내서 악의 세력의 손에 들어가게 되면 그때부터 '울트론' 같은 악의 신화가 씌여지는 듯 합니다. 그렇지 않나요? 이건 뭐 웃어야 할지 울어야 할지..ㅋ

-->  이 부분을 보면 더 위태로워 보입니다. 딥마인드 회사 내부에 ethics board 즉, AI 개발 관련 '윤리위원회'가 있는 모양인데, 그 구성원들의 이름을 아직 릴리즈하지 않았답니다(뭐가 캥겨서??)

그리고 심지어 블룸버그 컨퍼런스에서는 명단 공개 거절을 했다고 하는군요. 그러면서 하는 말, 적절한 때에 곧 공개하겠다는 정치적인 발언.

일단 기사는 여기까지입니다. 왠지 구글에서 반어적으로 얘기한 것 같아 미래가 좀 걱정이 되네요. 그렇게 개발하지 않겠다라고 하는 것 자체가 인류에게 위협으로 느껴지는 2015년 6월 8일 오늘의 시국입니다^^