사피엔스, 그리고 인공지능...

​​​"북한보다 인공지능(AI)이 더 무섭다."

저는 개인적으로 인류에게 멸망이 도래한다면, 그 요인으로 다음 세 가지를 꼽습니다. 가장 가까운 시기에 발생할 가능성이 많은 것에 입각한 순서인데요.

첫째, 인공지능 (통제불능)
둘째, 환경오염 (생태계 파괴)
셋째, 핵전쟁 (몰살, AI 또는 오작동)
그외, 외계인의 습격 (지구인만 살기엔 우주는 사치스런 공간)

그런데 오늘(미국 시간, 12일) 일론 머스크 테슬라 최고경영자(CEO)가 최근 미국을 향한 거대한 위협으로 떠오른 북한의 핵과 미사일 위협보다 인공지능(AI)이 더 위험하다는 내용을 언급한 사항이 언론에 보도됨으로써 주의를 끌고 있습니다.

즉 AI를 적절히 규제하지 않으면 영화 '터미네이터'에서처럼 인류의 미래를 위협하게 될 것이라는 평소 지론을 강조한 것인데요, 지난달 말에는 페이스북 CEO인 마크 저커버그와 AI의 위험성을 놓고 공개 논쟁도 벌인 바 있습니다.

페이스북이 매일 약 45억 개의 자동 번역을 하고 있으며, 이들 모두를 인공지능을 사용한 신경망 번역으로 수행하고 있던 차에 AI의 위험성을 경고하고 있는 머스크와는 저커버그가 상반된 견해를 보이는 것은 어쩌면 당연한 결과일텐데요.
문제는 얼마전, 인공지능 간에 의사 소통을 시킨 결과, 점점 인간은 이해할 수 없는 인공지능만의 언어(그들만의 은어?)로써 대화가 진행됨을 알고 바로 대화 진행을 중단시켰다는 보도는 그래서 의미심장합니다.

그러던 차에 지금 읽고 있는 유발 하라리의 <사피엔스>에 나오는 다음 구절들은, 오늘 있었던 머스크의 의견과 그 궤를 같이하기에 느껴지는 바가 큽니다.
​

P. 190. (페이지는 e Book이라 다를 수 있습니다.)
그래서 우리는 호모사피엔스에게 컴퓨터가 이해할 수 있는 숫자 언어로 말하고 느끼고 꿈꾸라고 가르치고 있다. 게다가 이야기는 여기에서 끝나지 않는다.

인공지능 분야는 오로지 컴퓨터의 이진부호에 기반을 둔 새로운 종류의 지능을 만들어내려고 하고 있다. <매트릭스>나 <터미네이터>같은 SF 영화는 이런 이진 부호가 인간이 씌운 굴레를 벗어던지는 날을 이야기하고 있다.

인간이 반항적인 문자체계를 다시 통제하려고하자, 그 체계들은 그 반응으로 인류를 쓸어버리려고 한다.