transformer model 썸네일형 리스트형 RNN, LSTM, GRU, Transformer model RNN이 무엇인지, 관련 모델들이 어떻게 진화해왔는지에 대해 알아보도록 하자.*본 글에서 수식은 다루지 않습니다. RNN(1986) -> LSTM(1997) -> GRU(2014) -> Transformer model(2017) RNN이란?Recurrent Neural network의 약자로, 순환 신경망이라고도 한다.Nueral network의 주요 아키텍쳐 중 하나이며, 이외로는 CNN, GNN 등이 있다.시계열 데이터나 순차 데이터를 처리하는 데 특화된 신경망 구조이다. 입력 계층 : 처리할 정보를 수신출력 계층 : 결과를 제공은닉 계층 : 데이터 처리, 분석 및 예측위의 3계층으로 보통 구성된다. Recurrent에서 생각해 볼 수 있듯이, RNN모델은 은닉층의 노드에서 나온 결괏값을 출력층으로.. 더보기 이전 1 다음
