터미네이터 같은 영화나 SF 소설을 많이 본 사람들은 대체로 AI의 미래가 어둡다고 느낀다. 그런 사람 중에 아주 강력한 인물이 있는데 바로 일론 머스크다. 그의 공격적인 행보를 보며 세상이 망한다면 이 사람이 주인공이 아닐까 싶었는데 그는 의외로 반대편에 서 있었다.
700페이지가 넘는 『일론 머스크』(사진)라는 책은 월터 아이작슨이라는 세계적인 전기 작가가 썼다. 이 책의 40장 ‘인공지능’ 편은 머스크와 허사비스의 만남으로 시작된다. 데미스 허사비스는 딥마인드라는 회사를 차려 알파고를 만든 사람. 알파고를 만들어 이세돌 9단을 꺾으며 세계적으로 명성을 떨친 인물이다.
나는 그 대결 때 한국 측 실무를 맡았다. 수많은 인터뷰나 회의에서 “컴퓨터가 바둑에서 사람을 이긴다는 것은 아득한 미래의 일”이라고 단언했고 그 말에 한 조각 의심도 품지 않았다.
빗나간 판단을 치욕으로 느끼지는 않는다. 그러나 아는 사람과 모르는 사람의 차이는 극명하다. 나는 모르는 사람의 대열에 서 있었다.
허사비스는 신경과학자이자 인공지능 연구자다. 체스, 포커의 챔피언으로 국제마인드스포츠 올림피아드에서 5차례 챔피언에 올랐다. 그는 머스크에게 인류에 대한 또 하나의 잠재적 위협으로 ‘인공지능’을 거론한다. 기계가 초지능을 갖게 돼 인간을 넘을 수 있고 심지어 인간을 폐기처분 할 수도 있다고 했다. 이게 머스크의 뇌를 흔든 게 분명했다. 머스크는 친구인 구글의 래리 페이지에게 딥마인드라는 회사와 AI의 위험성에 대해 얘기했다.
“인간의 의식은 우주의 소중한 불꽃, 우리는 그것이 꺼지지 않게 해야 한다.”
페이지는 달랐다. “기계가 인간을 능가하게 된들 그게 무슨 문제냐. 진화의 다음 단계 아니냐.”
그는 머스크가 기계종보다 인간종을 우선시하는 종 차별주의자라고 비난했다. 아이러니하게도 2013년 말, 구글은 딥마인드를 인수한다. 머스크는 이 거래를 막기 위해 허사비스에게 “AI의 미래를 페이지가 통제하게 해서는 안 된다”고 장시간 설득했으나 실패한다. 머스크는 이 일로 오바마 대통령도 면담했다.
책에 따르면 머스크가 샘 올트먼을 만난 것은 바로 이 무렵이다. 소프트웨어 기업가이자 생존주의자 샘 올트먼. 두 사람은 비영리 인공지능연구소를 설립하기로 결정하고 이름을 ‘오픈 AI’로 정했다. 두 사람은 ‘AI 정렬’이란 목표를 정했는데 저명한 SF 소설가 아이작 아시모프가 자신의 소설 속에서 로봇의 3원칙을 정한 것처럼 AI 역시 인간의 목표와 가치에 부합하도록 규칙을 정하는 것이었다.
그러나 이후 머스크는 오픈 AI를 떠나고 지분 전체를 마이크로소프트에 넘긴다. 이번 다보스 포럼에서는 샘 올트먼(오픈 AI의 CEO)이란 이름이 자주 들려온다. 2022년 챗GPT를 출시해 세상을 놀라게 한 오픈 AI의 리더. 그러나 1년도 안 돼 오픈 AI 이사회에서 해임당했고 다시 마이크로소프트의 도움을 받아 5일 만에 복귀했다. 보도된 바에 따르면 이사회와 샘 올트먼 갈등의 핵심은 ‘AI가 안전한가’였다.
AI는 얼마나 위험한 존재일까. 올트먼조차 “AI는 두려운 존재”라고 말한다. 그렇다고 멈출 수는 없다. 악마의 경쟁은 이미 시작됐다. 바둑은 이제 알파고의 후예들, 즉 AI가 지배한다. 바둑판에서 AI는 신적인 존재다. 그런 일이 다른 분야에서도 똑같이 일어날 수 있을까. 3년여 AI와 함께 바둑해설을 하면서 “그럴 수 있다”고 나는 느낀다. 그러나 똑같은 신이라도 바둑과는 다를 것이다. 바둑에서 AI는 인간의 능력을 훨씬 넘어섰으나 인간의 의식까지는 지배하지 못한다. 즉 신이지만, 신성을 획득하지는 못하고 있다.
다른 분야에서는 어떨까. 챗GPT의 대성공을 보면 AI가 인간의 영혼을 장악하고 신성을 획득할지도 모른다는 생각이 든다. AI는 종교가 될 수 있다. 아시모프의 소설 『파운데이션』에서는 ‘과학종교’라는 말이 나온다. 과학종교는 신성을 획득했고, 사제들이 이끈다.
고유정 남편에 살해사껀도 있었지만 물질적 도구에 한인간에 육신은 고깃떵이에 불과할 뿐이다
전에 용역으로 무우 선과장에 일을 한적이 있었다 선과 장에는 무우를 기걔에 집어 넣으면 자동으로 세척이 되
면서 길다랗캐 채인이 달린 돌아가는 기꼐로 무유들이 옶겨지면 돌이가는 기계 사이시이에 아줌마 들이 판매할
봉투에 집어넣으면 기계끝으로 떨어지면 노란 플라스틱 콘테나에 채워지면 일꾼은 커다란 철판으로된 콘테이너에
차곡 차곡 싸아 올리며 그안에서 진열하는 방식이다 요역 일꾼들은 밭에서 정신없이 무우를 뽑은것은 콘테나에
담겨 차에 실어지고 선과장으로 향하면 노란 콘테나안에 무우는 일꾼이 옶긴 기계에 선과되는 과정이다
일단 기계에 옶겨진 무우는 기계에 속도에 따라 아줌마 들은 기계적으로 착착 움직여 진다 기계가 돌아가는 동
안은 아줌마는 어떠한 대화도 없다 단지 기계에 일부가 되어 아줌마들에 손동작은 로봇 처럼 착착 움직여질 뿐이
다
밭에서 운반된 무우가 많이 밀려진 것을 확인한 일꾼 부리는 사람은 기계에 속도를 높여라! 외치자 기계는 빠
른 속도로 돌아가고 아줌마들에 손놀림도 빨라지고 아줌마 들은 무우를 봉투에 담느라 정신이 없다 아줌마 들은
일을 마친후에 너무 힘들었다 한다 하지만 그들에 생각과는 달리 밭주인은 그들은 단지 일하는 도구에 불과할
뿐이다
핫맨
｜ 2024-01-26 오후 6:17:00 [동감0]
먹느냐 먹히느냐 생존경쟁은 끊을수없는 필연과 악연의 연속성에 사라지는 그날까지 영원하다고 본다 내가 어느위치까지 갈수잇느냐 능력의한계를 시험하며 농락의시대을 감미하며산다 철학과 사상을 힘의논리로 자꾸 견주어가며 잘난척 떠들며산다..눈감으면 부질없는것을~ 양아치같은 삶을 만드려 ㅡ하지말자....메롱
아공
｜ 2024-01-26 오후 6:11:00 [동감0]
<다른 분야에서는 어떨까. 챗GPT의 대성공을 보면 AI가 인간의 영혼을 장악하고 신성을 획
득할지도 모른다는 생각이 든다. AI는 종교가 될 수 있다. 아시모프의 소설 『파운데이션』
에서는 ‘과학종교’라는 말이 나온다. 과학종교는 신성을 획득했고, 사제들이 이끈다.>
A.I.는 기계라서 신성을 획득할 수 없다. 그러나 인간의 정신을 장악할 수는 있다고 본다.
그런데 주체성이 없는 기계가 스스로 인간의 정신을 장악한다기 보다는 사탄과 같은 존재
들이 A.I.를 이용해서 인간을 지배하는 일은 충분히 가능한 얘기다. 악한 존재들이 인간의
내부에 A.I. 칩같은 것을 심어 인간의 정신을 지배하여 노예화하는 것이다. 그렇게 하여 신
성을 잃어버린 인간은 좀비화하여 노예로서 살아가는 것이다. 매우 가능성이 높은 얘기다.
나는 파운데이션이라는 소설을 안읽어봐서 정ㅎ확한 내용을 모르겟지만 이것을 경고한 것
이 아닌가 싶다.
아공
과학종교를 사제가 이끈다고 하는데 저 사제들이 사탄과 같은 존재다. 지구에는 저런 악한 존
재들이 있는데 종교의 모습을 가지고 나타나 인간들이 속아 넘어가는 것이다.
dldhrrud
｜ 2024-01-26 오후 4:38:00 [동감0]
좋은 글이내요. 글의 핵심은 페이지가 말한 기계종보다 인간종에 대한 애착은 세상이나 우주의 진화(?, 전개) 있어 무의미 하다는 세계관이다. 양자 역학에서 보면 인간도 DNA가와 잘 조화된 원자나 소립자의 결합체 이상도 이하도 아니다.AI로봇이 또 뭐가 다른가. 공룡의 세계에서 인류의 세상으로 바뀐 것이나 같은 페턴이다 라고 보는 것이다. 짧은 100년 인생에 별것 다보고 간다고 생각 하고 과학과 인간 지능에 감사해라.
38계1도
｜ 2024-01-26 오후 1:18:00 [동감0]
정말 좋은 내용이네요. 인간이 AI의 특성을 따라가면 결국은 자각 없는 인간사회라면 언젠가 AI 지배를 받는 세상이 올수밖에 없겠죠. 지금부터라도 요소요소에 인간적 감성과 판단이 AI와 같이 하도록 하는 합의와 제도화가 필요하다고 봅니다. 목적을 인간을 위한 AI야지 그 반대는 의미가 없기 때문이죠
hrytufd
｜ 2024-01-26 오전 11:22:00 [동감0]
너무 비관적으로 생각할 필요는 없을듯..인공지능이 더 발달하여 인간의 존립을 위협하는 경지에 도달하면 뭔가 조치를 취하
지 않을까 ..생각해봅니다
高句麗
｜ 2024-01-26 오전 11:11:00 [동감0]
과학은 자연을 파괴하는 재앙이다 그렇다고 과학을 멀리하면
세상에 뒤쳐져서 다른 나라에 지배당해 망하고
과학을 가까이하면 자연파괴가 되어 인류는 망할 것이다
과학을 멀리해도 망하고 과학을 가까이해도 망한다
인공지능도 과학과 같은 것이다 인공지능을 멀리하면 남에게 뒤쳐져서 남의 지배를 받아 망하고
인공지능을 가까이하면 인공지능이 사람을 능가하여 사람을 지배할 날이 올수도 있다
간단하다 인류멸망을 꽤하는 과학자가 인류의 자살을 택하는 과학자가 자아를 가진 인공지능 로봇
인간같이 이기주의 적인 인공지능 로봇 김일정 김정일 김정은 같은 사악한 인공지응 오봇을
어느 한 과학자가 만든다면 인간은 그 인공지을 로봇을 이길수 있을까 인류는 어떻게 멸망할지 아무도
예측할수 없다 핵무기는 인간을 멸방시키는 재앙이지만 핵무기를 가지지 않으면
다른 나라의 지배를 받아 망하는것과 같다
clint
｜ 2024-01-26 오전 9:26:00 [동감0]
짐작컨데 조금 더 발달된 AI는 자폐아 천재같을 수 있다. 특정분야만 천재 그러나 다른 부분은 매우 부족한. 만드는 사람의
의도에 따라 천재 살인마/독재자가 될 수도 있다. 매우 위험하다고 볼 수 있다. 그러나 인류역사를 보면 인간의 욕망은 어
디 가지 않으므로 결국 만들어 질것이다. 수소폭탄 같이. 이해가 안되는 것은 이런것들을 경배하고 추종하는 인간들이 언제
어디서나 있었다는 것이 문제이다.
노란봄빛
｜ 2024-01-26 오전 2:02:00 [동감1]
ai가 자아를 인지하는 순간 인간에겐 재앙이 시작될것.
高句麗
인간은 자아를 가진 인공지능도 만들것이다 자아를 가진 프로그램만 집어 넣으면 된다
인간의 욕심은 한이 없으니 더더욱 우수한 인공지능을 만들다보면 지구가 멸망하던 말던 자아를
가진 인공지능로봇까지 만들것이다
.gif){kind=logo}
.jpg)
아이8
아공
