백과

주로 여러 개의 은닉층(hidden layer)^각주1) 으로 구성된 인공 신경망을 활용한다. 은닉층 수가 많아질수록 ‘깊다(deep)’라고 표현하며, 깊은 계층 구조는 얕은 구조에 비해 복잡한 함수를 표현할 수 있다. 이러한 구조는 인간 뇌의 신경 회로망을 모사한 것이다.

심층 기계 학습은 문제를 해결하기 위해 스스로 필요한 특징을 찾아 적절하게 표현(feature representation)하는 학습 능력이 뛰어나 사진에서 개체 인식, 기계 번역, 바둑 등의 분야에서 기존의 기계 학습 모델을 뛰어넘는 성능을 보인다.

다양한 심층 기계 학습 모델이 존재하나 인공 신경망의 한 종류인 심층 신경망(DNN : Deep Neural Network)^각주2) 이 널리 활용된다. 그 중에서도 콘볼루션 신경망(CNN : Convolutional Neural Network)^각주3) , 심층 순환 신경망(deep recurrent neural network)^각주4) , 심층 오토인코더(deep autoencoder)^각주5) 등이 대표적이다.

심층 기계 학습은 1980년대 인공 신경망 연구가 다시 활성화되면서 시도되었으나, 1990년대에 제안된 심층 콘볼루션 신경망을 제외하고는 성공을 거두지 못하였다. 2006년 제프리 힌튼(Geoffrey Hinton)은 심층 신뢰 신경망(deep belief network)의 학습 알고리즘을 제안하였다. 이후 컴퓨터 하드웨어가 발달하고 효율적인 학습 방법을 개발하면서 빅 데이터를 바탕으로 한 다양한 심층 기계 학습 모델들을 개발하여 사용하고 있다. 심층 기계 학습은 컴퓨터 비전, 패턴 인식, 자연어 처리를 비롯한 다양한 분야에서 사용한다.