IT Insight

인공지능 구현의 새로운 시도, 인공신경망의 진화

2018.07.04 09:30

최근 5년간 인공지능은 엄청난 발전을 이루었습니다. 하지만 현재 구현되고 있는 인공지능 방식으로 인간의 지능을 완벽하게 구현하는데 큰 한계를 갖는데요. 인공지능 구현에는 엄청난 양의 데이터와 연산 과정이 요구되며, 인식•학습 분야에서는 인간 수준의 지능을 갖추었지만 추론•행동과 같은 분야에서는 매우 초기적 단계에 머무르고 있습니다.


자율적인 상황 판단과 능동적인 행동을 기반으로 하는 인간의 지능 수준과 큰 차이가 있는 것입니다. 현재 구현되고 있는 인공지능 기술이 오래전부터 제안되어 온 수학•과학 분야의 이론과 모델링에 기반한 ‘인간처럼 계산(Computing like Human)’하는 지능을 구현한 것이기 때문인데요. 이와 달리 ‘인간처럼 생각(Computing like Human)’하는 지능을 구현하기 위한 다양한 연구가 요구되는 상황입니다.



이러한 한계 극복을 위한 노력 중 대표적인 것이 기존 인공신경망 구현 방식을 하드웨어, 소프트웨어적으로 고도화 시키려는 것입니다. 인간의 신경망을 추상화한 인공신경망을 더욱 정교하게 모델링 하거나 컴퓨터의 하드웨어적 구조의 한계 극복을 위해 전해 새로운 개념의 컴퓨터 구조를 제안하기도 합니다.


 소프트웨어 기반의 인공신경망 진화


인간의 신경망을 모델링 한 인공신경망 기반의 인공지능 구현으로 인해 혁신적인 발전을 이루고 있지만 인간의 실제 뇌와 인공신경망은 근본적으로 큰 차이가 있습니다. 인공신경망은 인간의 신경망을 추상화, 단순화를 통해 소프트웨어적으로 구현한 것으로 그림 1과 같이 인간 신경망과 매우 큰 차이를 갖습니다. 이러한 근본적인 차이는 인공지능이 인간 수준의 지능으로 구현에 한계 요인으로 작용하기도 합니다.


l 그림 1. 인공신경망과 인간의 신경망 간 비교


따라서 이러한 한계를 극복하기 위해 소프트웨어, 하드웨어 측면에서 현재의 인공신경망 구조를 개선하기 위한 연구, 개발이 진행 중입니다. 소프트웨어 측면에서는 현재 매우 단순화된 구조의 인공신경망을 더욱 정교화 하려고 합니다. 현재 주로 구현되고 있는 인공지능의 인공신경망 구조는 2세대 모델입니다.


그림 2의 왼쪽과 같이 연관된 뉴런들이 서로 연결되며 학습 과정을 반복하며 연관성의 정도가 수치 값으로 계산되는데요. 이러한 수치 값들의 합(Weighted Sum)이 활성화 함수(Activation Function)를 통해 다음 단계의 뉴런으로 전달되는 과정으로 인간의 뇌의 뉴런과 시냅스 간 연결 구조를 모델링 한 것입니다.


2세대 모델은 모델링이 비교적 단순하면서도 높은 성능의 인공지능으로 구현될 수 있다는 장점을 갖지만 인간 뇌 신경망의 구동 원리를 정교하게 반영하지는 못합니다. 따라서 현재의 인공신경망 구조를 더욱 정교하게 모델링 한 3세대 인공신경망 모델이 연구되고 있는데요.



Spiking Neural Networks(SNN)[각주:1] 인간의 뉴런과 시냅스 간 정보 전달 과정을 2세대 모델보다 더욱 정교하게 반영합니다. 인간의 뉴런과 시냅스 간 정보 전달은 전기적 신호에 기반합니다. 발생된 전기적 신호가 시간의 흐름에 따라 강도가 조절되며 시냅스를 통해 다음 뉴런으로 전달되는 것입니다.


위와 같은 과정을 2세대 뉴런에서는 단순히 연결 가중치의 합으로 단순화했지만 SNN에서는 신호 전달 과정을 모델링 하려 하는데요. 그림 2 오른쪽과 같이 시간에 따라 변화하는 전기적 신호의 강도를 계산해 뉴런 간 정보 전달 과정을 구현한 것으로써 인간 신경망 구조를 매우 흡사하게 모델링 합니다.


이러한 정교한 모델은 향후 인공신경망 기반의 인공지능의 새로운 혁신을 만들어 낼 것으로 기대되지만 모델 자체의 복잡도 및 높은 구현 난이도로 인해 아직은 선행 연구단계에 머무르고 있습니다.


l 그림 2. 인공신경망 구조의 진화 


 하드웨어 기반의 인공신경망 진화


하드웨어 측면에서도 기존 한계 극복을 위한 연구가 진행 중에 있습니다. IBM, 스탠퍼드, HBP(Human Brain Project)[각주:2] 등과 같은 선도 연구 기관에서는 컴퓨터의 구조적 한계를 혁신하려 노력 중인데요.

현재 사용되는 거의 모든 컴퓨터는 폰 노이만 구조(Von Neumann Architecture)에 기반하고 있습니다. CPU를 통해 연산된 결과를 메모리에 기억하고 하드 디스크와 같은 저장 장치에 기록하는 구조인 것입니다. 하지만 이러한 컴퓨팅 구조는 연산, 기억, 저장이 하나의 공간에서 이루어지는 인간의 뇌 구조와 비교해 볼 때 매우 상이합니다.

특히 CPU, 메모리, 하드디스크가 버스(Bus)라고 불리는 연결 부위를 통해 정보가 전달되는 구조로 이루어져 있기 때문에 개별 부품이 하드웨어적으로 급속도로 발전하고 있어도 버스의 한계로 인한 성능 저하가 전제 성능을 결정하는 큰 한계를 가지고 있습니다.

따라서 주요 선도 기관에서는 인간의 뇌 구조를 하드웨어적으로 구현하는 뉴로모픽 컴퓨팅칩(Neuromorphic Computing Chip)에 대한 연구를 진행 중입니다.


IBM이 제안한 ‘TrueNorth Chip’은 인간의 뇌 구조가 좌뇌, 우뇌로 구분되어 역할을 하는 것과 같이 컴퓨터의 CPU 구조를 분리하려 합니다. 언어, 분석적 사고와 같이 인간의 좌뇌에 해당하는 부분은 기존 컴퓨팅 구조로 구현하고 감각, 패턴 인식 등과 같은 우뇌에 해당하는 부분은 뉴로모픽 칩에 기반해 구현하고 서로를 연결합니다.

현재까지 IBM의 연구결과에 따르면 단일 ‘TrueNorth Chip’에 약 1,000만 개의 뉴런과 2억 56백만 개의 시냅스의 연결을 구현했으며 약 4,096개의 개별 칩을 서로 연결해 40억 개의 뉴런과 1조 개의 시냅스로 구현했다고 밝혔습니다.

아래 표와 같이 다양한 연구기관이 서로 경쟁하며 하드웨어에 기반한 뇌 구조를 구현하려는 노력이 진행 중이지만 설계, 공정, 구현 등 하드웨어적 구현의 난이도로 인해 소프트웨어 분야의 연구에 비해서는 혁신의 속도가 빠르지는 않습니다.

l 표. 고집적 신경망 모방 IC 성능 발전 비교


하지만 이러한 하드웨어적, 소프트웨어적인 연구 결과가 함께 융합되어 진보된 인공지능 구현에 활용된다면 현재의 성능을 월등하게 뛰어넘는 인공지능으로 구현될 가능성도 높습니다.

글 l 이승훈 책임연구원(shlee@lgeri.com) l LG경제연구원

* 해당 콘텐츠는 저작권법에 의하여 보호받는 저작물로 LG CNS 블로그에 저작권이 있습니다.
* 해당 콘텐츠는 사전 동의 없이 2차 가공 및 영리적인 이용을 금하고 있습니다.



  1. M, Wolfgang, et al., Networks of spiking neurons: The third generation of neural network models, Neural Networks, 1997 [본문으로]
  2. Human Brain Project: 유럽 연합이 중심이 된 10년 장기 뇌 연구 프로젝트 [본문으로]
Posted by IT로 만드는 새로운 미래를 열어갑니다 LG CNS
위로