ID_DI
DI's study notes
ID_DI
전체 방문자
오늘
어제
  • 분류 전체보기 (85)
    • Deep-Learning (3)
      • CNN (2)
      • NLP (1)
    • Data_Python (6)
      • Numpy (0)
      • Matplotlib (4)
    • Python (8)
      • Python Algorithm (6)
    • Java (36)
      • Java(base) (33)
      • Java practice(base) (2)
    • Git (12)
    • Algorithm (7)
    • etc (7)
    • linux (1)
    • DeskSetup (0)
    • TIL_모각코 (4)

블로그 메뉴

  • 홈
  • 태그
  • 방명록

공지사항

인기 글

태그

  • git add.
  • 정렬
  • 파이썬
  • java.lang
  • 합병정렬
  • 자바
  • README.md
  • binarySearch
  • git
  • java.net
  • java
  • matplotlib
  • 커밋
  • staged
  • 알고리즘
  • java 기초
  • java base
  • Github
  • string to int
  • Python

최근 댓글

최근 글

티스토리

hELLO · Designed By 정상우.
ID_DI

DI's study notes

TIL_모각코

GRU

2022. 7. 27. 23:10

Translation 이란

  • input 문장의 길이와 output 문장의 길이가 **가변적임**
  • **문법**에 따라 input, output 문장의 순서가 **가변적임**
    • input 문장 한개에 output 문장이 두개 이상 나올 수 있음

GRU(Gated Recurrent Unit)

  • Learning Phrase Representations using RNN Encoder–Decoder for Statistical Machine Translation 논문에서 소개
  • Sequence-to-Sequence
  • LSTM 을 응용하여 더 간단한 구조를 가져 속도가 빠름&성능은 LSTM 과 유사
    • forget gate 와 input gate 를 하나의 **update gate** 로 합침
    • cell state 와 hidden state 를 합쳐서 **하나의 hidden state** 로 합침

![image-20220715121308490](C:\Users\leedo\AppData\Roaming\Typora\typora-user-images\image-20220715121308490.png)

Reset Gate

  • sigmoid 함수를 거쳐 0~1 사이의 벡터 출력
  •  

장점

  • 기존의 LSTM 에 대해 GRU 가 더 간단한 구조를 가짐
  • 성능은 기존의 LSTM 과 유사하지만, 학습할 파라미터가 적다.

'TIL_모각코' 카테고리의 다른 글

Transfer learning  (0) 2022.08.04
N-gram  (0) 2022.07.25
BoW  (0) 2022.07.23
    'TIL_모각코' 카테고리의 다른 글
    • Transfer learning
    • N-gram
    • BoW
    ID_DI
    ID_DI
    Computer Vision

    티스토리툴바