Pytorch로 시작하는 딥러닝 입문(07-03. 게이트 순환 유닛(Gated Recurrent Unit: GRU))

♣ GRU

GRU는 LSTM과 유사하면서도 복잡했던 LSTM의 구조를 단순화했다. LSTM에는 입력, 삭제, 출력이라는 3개의 게이트가 존재했다. 반면 GRU에서는 업데이트 게이트와 리셋 게이트 두 가지 게이트만 존재한다. GRU는 LSTM보다 학습 속도가 빠르다고 알려져있지만 여러 평가에서 LSTM과 비슷한 성능을 보인다고도 알려져있다. 

 

GRU와 LSTM 중 어떤 것이 성능면에서 더 낫다고 단정지어 말할 수 없다. 데이터 양이 적을 때는 매개 변수의 양이 적은 GRU가 조금 더 낫고, 데이터 양이 많으면 LSTM이 더 낫다고도 한다. 

 

 

♣ 파이토치의 nn.GRU( )

기존의 RNN 셀을 사용했을 때와 비교하면 GRU는 아래와 같이 사용한다.