Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | ||||||
2 | 3 | 4 | 5 | 6 | 7 | 8 |
9 | 10 | 11 | 12 | 13 | 14 | 15 |
16 | 17 | 18 | 19 | 20 | 21 | 22 |
23 | 24 | 25 | 26 | 27 | 28 | 29 |
30 |
Tags
- FastAPI
- rnn
- FDS
- DeepLearning
- PytorchLightning
- 프로그래머스
- leetcode
- datascience
- docker
- Kaggle
- Matplotlib
- GitHub Action
- 알고리즘
- wandb
- torchserve
- pytorch
- GCP
- 네이버AItech
- 완전탐색
- GIT
- NLP
- github
- 백준
- pep8
- Kubernetes
- autoencoder
- 코딩테스트
- NaverAItech
- vscode
- python
Archives
- Today
- Total
목록rnn (2)
Sangmun
![](http://i1.daumcdn.net/thumb/C150x150/?fname=https://blog.kakaocdn.net/dn/bQOpyR/btrOEqhY6ME/FRru50yvL3UOroCKEFge81/img.png)
http://colah.github.io/posts/2015-08-Understanding-LSTMs/
네이버 AI 부스트캠프 4기
2022. 10. 15. 12:45
![](http://i1.daumcdn.net/thumb/C150x150/?fname=https://blog.kakaocdn.net/dn/oHXgW/btrMXHe16M6/RZDwGYrufz8MYhAGw74ah0/img.png)
두번째 심화과제인 Rnn BPTT의 구현이다. 현재의 포스팅에서는 수식만 다룰 예정이다. 먼저 Rnn BPTT를 이해하는데 도움이 되는 공식이다. 위공식에서 Loss function을 미분하려면 결국은 θ_1에 대하여 미분을 하여야 한다. 그리고 θ_1에 대하여 미분을 하는 경로는 h_2,1,h_2,2두가지 경로가 있는데 θ_1에 대하여 미분을 실시하려면 h_2,1,h_2,2을 미분하여 나온값을 더해줘야 된다는 말이다. 1) Many to one 먼저 하나의 출력값을 가지는 Rnn의 BPTT를 다뤄보려고 한다. 본 예제에서 타임스탭은 4이다. y_hat은 Rnn의 출력값에서 분류를 위한 layer를 하나더 거친 값을 의미한다. θ는 Φ(파이)와 ψ(프사이)로 구성되어있고 Φ(파이)는 Rnn의 출력값에서 ..
네이버 AI 부스트캠프 4기
2022. 9. 25. 20:07