Sangmun

9/19부터 시작된 네이버 AI 부스트캠프 1주 차 후기를 정리를 해보려고 한다. 퇴사를 했지만 아직 사람들과 제대로 인사를 못해서 저녁에 사람들을 만나느라 정신이 없었다. 하지만 1주차 내용은 이전에 공부를 해놓은 내용이라 따라가는데는 무리가 없었다. 다행이다. 1주 차를 지내면서 피어 세션 및 멘토링 시간에 나온 기억 해둬야 할 만한 내용들을 정리해보고자 한다. 1) 피어세션 피어 세션 때는 벌써부터 공모전에 참가해보자는 이야기가 나오길래 속으로 좀 놀랐다. 난 아직 준비가 안되었는데 ㅎㅎ 그래도 공모전 내용을 보니까 다행히 해볼 만한 대회인 것 같다. 심화과정 전까지 약간은 심심할 수 도 있을 것 같아서 시간을 어떻게 보낼지 계획을 짜고 있었는데 우선은 이대회에 집중을 해보는 걸 목표로 삼아야겠다...

심화 과제 3번을 풀면서 보게된 블로그의 자료이다. 사실 너무 잘 정리를 해놓으셔서 구지 블로그에 다시 정리할 필요가 있나 싶을 정도이다.. https://angeloyeo.github.io/2020/07/17/MLE.html 최대우도법(MLE) - 공돌이의 수학정리노트 angeloyeo.github.io 까먹을 때마다 돌아와서 다시 봐야겠다.

두번째 심화과제인 Rnn BPTT의 구현이다. 현재의 포스팅에서는 수식만 다룰 예정이다. 먼저 Rnn BPTT를 이해하는데 도움이 되는 공식이다. 위공식에서 Loss function을 미분하려면 결국은 θ_1에 대하여 미분을 하여야 한다. 그리고 θ_1에 대하여 미분을 하는 경로는 h_2,1,h_2,2두가지 경로가 있는데 θ_1에 대하여 미분을 실시하려면 h_2,1,h_2,2을 미분하여 나온값을 더해줘야 된다는 말이다. 1) Many to one 먼저 하나의 출력값을 가지는 Rnn의 BPTT를 다뤄보려고 한다. 본 예제에서 타임스탭은 4이다. y_hat은 Rnn의 출력값에서 분류를 위한 layer를 하나더 거친 값을 의미한다. θ는 Φ(파이)와 ψ(프사이)로 구성되어있고 Φ(파이)는 Rnn의 출력값에서 ..

네이버 AI 부스트캠프 1주차 심화 과제를 구현하면서 찾아본 내용이다. https://www.youtube.com/watch?v=KgH3ZWmMxLE&t=335s import numpy as np import matplotlib.pyplot as plt # X값 랜덤 생성 및 방정식 생성 X = np.random.rand(100) Y = 0.2*X + 0.5 # 랜덤하게 생성된 데이터를 바탕으로 그래프 그리기 plt.figure(figsize=(8,6)) plt.scatter(X,Y) plt.show() # 그래프를 그려주는 함수 def plot_prediction(pred,y): plt.figure(figsize=(8,6)) # target 그래프 그리기 plt.scatter(X,y) # 학습으로 예측..