IT Insight

범용 인공지능 시대, 인류는 디스토피아를 피할 수 있을까?

2019.09.04 09:30

인공지능(AI)은 항상 우리에게 논란의 대상입니다. 우리 앞에 닥친 많은 문제를 해결하는 데 열쇠가 될 수 있는 희망이면서, 동시에 지구를 파멸의 길로 이끌지도 모른다는 공포의 대상이기도 합니다. 미국 정보통신(IT) 업계에서 AI 비관론과 낙관론의 대척점에 서 있는 두 인물이 있습니다. 다름 아닌 미국 최대의 전기차 제조업체 ‘테슬라’의 창업자 엘론 머스크와 페이스북 최고경영자 마크 저커버그입니다.



기술업계의 거물로 통하는 두 사람이 상반된 시각을 갖고 있다는 게 세상에 알려진 것은 2014년입니다. 당시 저커버그는 미국 실리콘밸리의 팔로알토에 있는 자신의 집으로 머스크를 초대했습니다. 저커버그를 포함한 페이스북 관계자들은 머스크를 상대로 AI가 인류에게 가져올 막대한 혜택을 설파했습니다. 하지만 머스크는 조금도 물러서지 않은 채 “난 진정으로 AI가 위험하다고 본다.”라고 맞섰습니다. 인간보다 더 똑똑한 기계를 만든다면, 언젠가 그 기계들이 우리에게 등을 돌릴 것이라는 것이 그의 요지였습니다.


2017년 여름, 머스크와 저커버그는 AI의 미래에 대해 다시 대립했습니다. 저커버그가 자신의 집 뒤뜰에서 바비큐 파티를 하는 동안 페이스북 라이브를 통해 “AI에 대한 머스크의 생각은 매우 무책임하다.”라고 주장했습니다. AI의 초기 발전 단계에서 공포감을 조성하는 것은 무인 자동차, AI 의료 기술 등 인류가 누릴 수많은 이익을 위협하는 것이라고 꼬집었습니다.


“난 진정 낙관론자다. 최후의 심판 일을 되뇌는 비관론자들을 이해하지 못하겠다.”는 것이 저커버그의 입장이었습니다. 이에 맞서 머스크는 “이미 이 사안을 저커버그에게 충분히 설명했다. AI에 대한 그의 이해는 매우 협소하다.”라고 트위터를 날리며 반박했습니다.


 인공지능에 대한 견해차는 어디서 올까?


그렇다면, 두 사람 간의 현격한 견해차는 어디서 오는 걸까요? 무엇보다도 AI가 고도로 발전했을 때, 인간이 이를 통제할 수 없는 상황을 어느 정도나 걱정하는지에 기인합니다. 지금 세계의 AI 기술은 한정된 범위에서 특정 업무를 수행하는 ‘좁은 영역의 인공지능(ANI, Artificial Narrow Intelligence)’ 단계에 있습니다.


하지만 기술업계는 향후 사람처럼 생각하고 행동하는 이른바 ‘범용 인공지능(AGI, Artificial General Intelligence)’ 단계를 향해 연구에 박차를 가하고 있습니다. 과연 범용 인공지능(AGI)이 선한 방향으로 이용될지, 아니면 파괴적인 방향으로 악용될지 예측하기가 어렵고, 특히 비관론자들은 AGI가 가져올 디스토피아에 주목하는 것입니다.


ANI의 사례는 우리 주변에서 얼마든지 찾아볼 수 있습니다. 예컨대 유튜브에서 동영상을 시청할 경우 번역 기능을 수행하는 AI, 스마트폰에서 얼굴인식 기능을 수행하는 AI, 무인자동차 기능을 수행하는 AI, 넷플릭스에서 영화 추천 기능을 수행하는 AI 등이 그렇습니다.



AGI에 대한 정의는 아직 확고하게 정립된 것은 아니지만 대체로 사람처럼 다양한 업무를 동시에 수행하면서 스스로 알아서 해결책을 찾아 나가는 시스템으로 이해됩니다. 사람의 인지능력 수준을 갖춘 AGI를 우려하는 이들은  AGI 단계를 뛰어넘어 인간의 지능을 초월하는 ‘초지능(Superintelligence)’ 시대가 올 경우 인공지능이 인류에게 재앙이 될 것이라고 보고 있습니다. 아널드 슈워제네거가 출연한 영화 터미네이터에서 그려진 대로 자칫 AI가 인류의 생존을 위협하는 상황이 발생할 수도 있다는 얘깁니다.


이러한 논란이 뜨거운 가운데 AGI와 관련해 큰 뉴스가 하나 있었습니다. 지난 7월, 마이크로소프트가 AI 연구 회사인 ‘오픈 AI’에 10억 달러(약 1조 1천8백억 원)를 투자키로 했고, 향후 양측은 AGI 개발에 긴밀히 협력하기로 했다는 내용입니다.


오픈 AI는 벤처기업을 발굴해 키우는 일을 하는 와이콤비네이터(YC)의 샘 알트먼 대표와 엘론 머스크가 2015년 공동으로 세운 비영리 단체입니다. 머스크는 지난해 자신이 보유한 회사들에 주력하기 위해 오픈 AI를 떠났고, 회사에 남은 알트먼은 최근 투자를 유치하기 위해 오픈 AI를 영리기업으로 전환해 AGI 연구에 주력해 왔습니다. 이런 점에서 MS의 투자는 오픈 AI의 성장에 날개를 달아줄 전망입니다.


실제 알트먼은 투자 협정 체결 직후 “오픈 AI의 최대 목표는 광범위하게 혜택을 주는 AGI를 성공적으로 만들어내는 것”이라며 “이번 협력은 그러한 목표를 이루는 데 중요한 전환점”이라고 평가했습니다.


그리고 오픈 AI의 기술 최고 책임자는 보도자료에서 다음과 같이 말했습니다. “우리는 유익한 AGI의 개발은 인류 역사의 흐름을 바꿔 놓을 만큼 매우 중요한 기술적 진보라고 믿고 있습니다.” MS의 사티아 나델라 최고경영자도 오픈 AI가 AGI 분야에서 높은 야망을 갖고 선도자 역할을 하는 ‘북극성’ 같은 존재가 될 것이라고 기대를 표시했습니다.



미국의 인터넷 뉴스 업체 Vox는 범용 AI의 의미를 다음과 같이 설명했습니다. 

“현존하는 AI 시스템들은 많은 특정 과제들, 예컨대 체스, 바둑, 스타크래프트, 이미지 생성 등에서 인간을 능가한다. 그들은 번역, 뉴스 보도 등 다른 영역에서도 인간을 따라잡고 있다. 반면 AGI는 이들 모든 분야에서 우리를 따라잡을 능력을 갖춘 시스템이 될 것이다. 기술 낙관론자들은 AGI가 지난 수 세기에 걸쳐 이뤄낸 기술진보를 바탕으로 의학, 식량 생산, 환경보호 등 많은 분야에서 비약적 성장을 이뤄낼 것으로 믿고 있다. 반면 비관론자들은 AGI가 잘못 설계되면, 상상할 수 없는 다양한 방식으로 인류에게 큰 재난이 될 수 있다고 보고 있다.”


오픈 AI와 MS의 제휴는 몇 가지 측면에서 AGI 개발에 긍정적 효과를 발휘할 수 있습니다. 


첫째, AGI 개발에는 엄청난 양의 컴퓨팅 파워가 필요한데, 오픈 AI가 MS의 클라우드 컴퓨팅 서비스를 이용할 수 있게 된 것입니다. MS는 막대한 데이터를 분석하도록 돕는 컴퓨팅 시스템 개발에 의욕을 보이고 있었고,  구글, 아마존, MS는 AI 능력이 갈수록 중요해지고 있는 클라우드 컴퓨팅 시장에서 이미 치열하게 경쟁하고 있습니다.


둘째, AI 개발에는 광범위한 데이터가 필요한데 MS가 확보한 데이터가 오픈 AI에 큰 힘이 될 수 있음은 자명한 일입니다.


셋째, AI 시스템을 훈련시키는 데 특화된 전용 컴퓨터 칩을 개발하고 있는 MS와의 시너지 효과가 예상됩니다. AI 전용 칩 개발 시장에는 이미 구글, 아마존 등 세계의 내로라하는 테크 기업들이 뛰어든 상항입니다.



이번 제휴로 향후 오픈 AI는 구글의 자회사이면서 심층학습(Deep Learning)에 특화된 AI를 개발하고 있는 딥마인드(DeepMind)와 뜨거운 경쟁을 할 것으로 예상됩니다. 특히 오픈 AI와 딥마인드 간에 우수한 AI 인재를 확보하기 위한 한판 대결 또한 불가피해 보입니다.


그렇다고 AGI 시대가 수년 안에 닥칠 것이라고 보는 것은 지나친 낙관론입니다. 많은 전문가는 AGI 시대가 도래하는 데 수십 년이 걸릴 것으로 보고 있으며, 어떤 이들은 수 세기가 지나도 그런 시대가 오지 않을지도 모른다고 보고 있습니다.


다음은 뉴욕타임스의 진단입니다. “AI 기술은 최근 몇 년간 비약적으로 발전했다. 오픈 AI와 딥마인드가 이룬 기술 개발이 이에 큰 기여한 것으로 보인다. 몇 년 전에는 가능하지 않았던 정확도로 이미지를 인식하고, 대화에서 나오는 단어를 구분하고, 언어를 번역하는 시스템들이 단적 사례들이다. 그렇다고 이것이 AGI 시대가 가까이 왔다거나, 심지어 그것이 가능하다는 것을 의미하는 것은 아니다.”


 범용 인공지능 시대, 우리가 준비해야 할 것은?


긍정적이든 부정적이든, 코앞에 닥칠 일이든 먼 미래의 일이든, ANI를 뛰어넘는 AGI의 시대가 오고 있음은 자명해 보입니다. 따라서 AI, 나아가 AGI가 파괴적이거나, 악의적으로 사용되는 것은 막을 수 있도록 적절한 통제 장치를 마련하는 것이 인류에겐 중요한 숙제로 남아 있습니다.


컴퓨팅 분야의 노벨상이라 불리는 튜링 어워드를 받은 구글의 연구원 제프리 힌턴의 말을 새겨들을 필요가 있습니다. AGI를 둘러싼 경쟁에 대해 어떻게 생각하냐는 질문을 받고 힌턴은 이렇게 대답했습니다. ”우리 모두 그것이 왜 필요한지를 진지하게 고민해야 한다.”라고 지적했습니다.



AGI 시대가 도래할 경우 인류는 분명 중대한 도전에 직면할 것입니다. 이런 점에서 Vox 뉴스는 다음과 같이 조언을 던져 줍니다. “AGI를 제대로 개발하고, 정착시키는 것이 향후 인류에게 가장 중요한 과제 중 하나가 될 것이다. MS의 투자는 AI 발전의 전선을 한 단계 앞으로 나아가게 할 잠재력을 갖고 있다. 그렇지만, AGI를 똑바로 발전시키기 위해 투자자들은 상업적 개발이 조금 늦춰지더라도 ‘안전(Safety)’에 대한 우려를 우선적으로 고려할 필요가 있다.”


AI 업계의 부익부 빈익빈 현상도 우려스러운 점 중 하나입니다. 실리콘밸리의 거물들이 딥마인드와 오픈 AI에 투자를 아끼지 않는 반면, 학계의 연구소나 소규모 회사들의 경우 컴퓨팅 파워를 구매할 재정적 여력이 없는 상황입니다. 이런 점에서 카네기멜론 대학의 드벤드라 채플롯 연구원은 “펀드를 충분히 받는 소수의 연구소가 AI의 미래를 지배할 것이라는 점이 걱정”이라고 지적하기도 했습니다.


엘론 머스크는 “AI는 핵무기보다 더 위험한 존재”라고 끊임없이 우려를 표하고 있습니다. IT업계는 머스크 같은 비관론자들의 우려를 불식시키기 위해서라도 AI를 둘러싼 윤리와 가치에 대해 쉼 없는 경각심을 가져야 합니다.


기술 전문 기자 케이드 메츠는 2016년 와이어드에 쓴 글에서 “제한 없이 AI 연구 결과가 공유되고, 확산될 경우, 안전장치가 마련되지 않은 가운데 악당들이 해당 기술을 낚아챌 수 있다.”라고 경고했습니다. 디스토피아 소설이나 영화에서 소개된 파멸의 시나리오들이 언제 우리 앞에 현실로 다가올지 모를 일입니다.


AI 연구를 지원하는 비영리단체인 ‘퓨처 오브 라이프(Future of Life)’는 2017년 미국 캘리포니아주 아실로마에서 연 학술회의에서 23개 AI 원칙’을 발표했습니다. 이 중 ‘공동의 선(Common Good)’ 조항이 눈길을 끕니다.



‘초지능(Superintelligence)은 널리 공유되는 윤리적 이상을 위해, 그리고 특정 국가나 조직보다 모든 인류의 이익을 위해 개발되어야 한다’고 명시하고 있습니다. AI 개발 회사와 각국의 정부가 명심해야 할 대목입니다.


인류가 AGI 시대를 피할 수 없다면 인간과 기계가 어떻게 공존을 추구해 나가고, AI 관련 연구 윤리를 어떻게 확립해 나갈지, 특정 국가나 단체가 AI를 악용할 경우 어떻게 제재를 해 나갈지 등 우리에게 주어진 과제들을 지혜롭게 해결해 나가는 게 중요합니다.


글l 하재식 일리노이주립대 커뮤니케이션 학과 교수 (angelha71@gmail.com)


* 해당 콘텐츠는 저작권법에 의하여 보호받는 저작물로 LG CNS 블로그에 저작권이 있습니다.

* 해당 콘텐츠는 사전 동의없이 2차 가공 및 영리적인 이용을 금하고 있습니다.


[참고문헌]

추형석. (2018년 7월31일). 범용 인공지능의 개념과 연구 현황. 소프트웨어정책연구소. 




Posted by IT로 만드는 새로운 미래를 열어갑니다 LG CNS

댓글을 달아 주세요

위로