티스토리

돌아서면 까먹어서
검색하기

블로그 홈

돌아서면 까먹어서

onlymeme.tistory.com/m

적자생존

구독자
0
방명록 방문하기

주요 글 목록

  • ML 개념 정리 - CNN(Convolutional Neural Network) 18.12.01 CNN에서 언급되는 용어의 개념과 관계에 대해 정리해보자 1. convolution layer2. Pooling layer3. Fully Connected layer4. Filter5. Feature map(activation map)6. stride7. padding8. 1x1 conv layer 먼저 convolution layer를 보면,입력 이미지의 구조를 변형시키지 않은채로 그대로 width x height x depth 형태로 사용한다.filter가 아래 이미지 처럼 input image를 슬라이딩 하면서 feature를 계산한다.결과적으로 한 filter가 input image를 다 거치고 나면 feature map(activation map)을 한장 생성한다.이런식으로 여러개의 필터가 in.. 공감수 0 댓글수 0 2018. 12. 1.
  • ML 개념 정리 - Backpropagation 18.12.01 아래 사진처럼 맞추고자하는 input image를 넣으면 network를 통해 각 class에 대한 score로 어떤 이미지인지 맞추는 network가 있으면,우리는 loss function을 통해서 얼마나 못맞췄는지를 알 수 있다.loss function이 0에 수렴할 수록 잘 맞추는 것이다. 그렇다면 목표는 loss function 값이 작아지게!-> gradient를 구해서 W를 업데이트 한다.-> W가 loss function을 줄인다.-> 또 gradient 구해서 W 업데이트, ...-> 결과적으로 loss function 값이 작아져 input image를 잘 맞춘다. gradient를 구할 때 미분을 사용하고, 이 미분을 위해서 backpropagation을 사용하는 것이다. cs231n에.. 공감수 0 댓글수 0 2018. 12. 1.
  • ML 개념 정리 - Optimization 18.12.01 - minimum loss 값을 찾는 것. gradient를 계산하는 것은 가장 급경사를 찾아내는 것이다.Input 개수 = gradient 개수 gradient를 계산하는 방법은 두가지1. numeric gradient : 느리고 근사값이지만 계산 쉬움.2. analytic gradient : 빠르고 정확하지만 미분 필요. 계산 실수가 있을 수 있음. numeric gradient는 도함수 공식을 사용해서 Weight 요소들과 이동간격인 h를 대입해서 gradient를 전부 구해서 update한다. (너무너무 오래걸림..) analytic gradient를 사용하게 되면, 일반적으로 사용하는 미분을 해서 구한다. (바로 답 나옴. 빠르다) gradient check : numeric으로 구한 gradi.. 공감수 0 댓글수 0 2018. 12. 1.
  • RL 개념 정리(4) Bellman Equation 18.11.28 이번 정리 참고 자료d.silver - Reinforcement Learning 강의자료이웅원 - Fundamental of Reinforcement Learning Bellman Equation - 앞서 정리했던 value function들 사이의 연관성을 표현한 식 state value function과 action value function은 아래와 같이 정의할 수 있다고 함. 각 value function을 벨먼방정식으로 표현하면이렇다고 함.의미를 해석해보면, = 현재 state 에 대한 reward (immediate reward)() + discount factor가 적용된 next state의 value function() 의 기대값인 것이다. action value function도 해석해.. 공감수 0 댓글수 0 2018. 11. 28.
  • RL 개념 정리(3) value function 18.11.28 이번 개념 정리 참고 자료d.silver - Reinforcement Learning 강의 자료Sutton - Reinforcement Learning: An Introduction이웅원 - Fundamental of Reinforcement Learning state value function : state s에서 얻을 수 있는 기대 total rewardaction value function : 어떤 policy를 따른다고 할 때, state s 에서 action a를 했을 때 얻을 수 있는 기대 total reward Reinforcement learning는 무엇일까?주어진 MDP 문제에 대해서 좋은 방향으로 행동하도록 reward를 통해 학습시키는 것.-> 최대의 total reward를 받을 .. 공감수 0 댓글수 0 2018. 11. 28.
  • Unity ML-Agents 사용법 18.11.27 Unity ml-agent github 에 사용 가이드가 친절하게 잘 나와있지만 혹시라도 도움이 될 수 있으니.. https://github.com/Unity-Technologies/ml-agents 처음엔 아무것도 모르고 그냥 프로젝트 다운받아서 실행시키면 되는건 줄 알았는데전혀 아니었다.. tensorflow-gpu 깔려있다는 전제 하에 시작 1) unity project 하나 열어서 UnityML example 중 아무거나 연다. (처음이라 3DBall 열었음) 2) 아래 사진처럼 player setting > scripting runtime version 4.x 으로 한다.이것때문에 며칠동안 visual studio 2017 c# 버전 바꾸는 법 이런거 다 찾아봤는데도 안돼서 인내심에 한계가 왔지.. 공감수 0 댓글수 0 2018. 11. 27.
  • ML 개념 정리 - Activation function&Loss function(Softmax, multiclass SVM) 18.11.26 loss function = data예측이 얼마나 안좋은지를 나타냄Dataset에서 각 N개의 샘플의 loss들의 평균을 구한다.-> W 중에 loss를 최소화하는 W를 구하는 것. 이진 SVM의 일반화된 형태로 여러 클래스를 다루기 위함. image , label 가 주어질 때,각 클래스에 대한 score를 나타내는 vector는 이때 SVM loss의 형태는 여기서 +1은 margin 값을 나타낸다.SVM loss 해석을 해보면True인 카테고리를 제외한 나머지 카테고리 y의 합을 구한다.올바르지 않은 카테고리와 정답 카테고리의 score s비교정답 카테고리의 score가 아닌 카테고리 score+margin보다 크거나 같으면 loss를 0으로 준다.그리고 나머지의 경우는 정답이 아닌 카테고리- 정답.. 공감수 0 댓글수 0 2018. 11. 26.
  • ML 개념 정리 - Linear Classification 18.11.22 Neural Network의 토대가 되는 분류방법Parametric Approach f(x, W)는 output으로 각 class에 대한 score를 출력한다. (bias는 일단 생략)linear classification에서는 W에 학습 정보를 넣기때문에 Test할 때 W만 있으면 된다. 중요한 것은 f()를 잘 설계하는 것!linear classification = W * x +b 이다. bias : class에 우선권(영향력)을 주는 용도 - 한 class 내 단 하나의 템플릿만 학습한다.- parity problem과 같은 linear한 decision Boundary로 구분할 수 없는 문제는 해결이 어렵다.ex) XOR과 같은 문제 이 포스팅은 http://cs231n.stanford.edu 바.. 공감수 0 댓글수 0 2018. 11. 22.
  • RL 개념 정리(2) MDP 18.11.21 확률론에서, 마르코프 연쇄(Марков連鎖, 영어: Markov chain)는 이산 시간 확률 과정이다.마르코프 연쇄는 시간에 따른 계의 상태의 변화를 나타낸다. 매 시간마다 계는 상태를 바꾸거나 같은 상태를 유지한다. 상태의 변화를 전이라 한다. 마르코프 성질은 과거와 현재 상태가 주어졌을 때의 미래 상태의 조건부 확률 분포가 과거 상태와는 독립적으로 현재 상태에 의해서만 결정된다는 것을 뜻한다 출처 : https://ko.wikipedia.org/wiki/%EB%A7%88%EB%A5%B4%EC%BD%94%ED%94%84_%EC%97%B0%EC%87%84※ Stochastic Process는 확률분포를 가진 랜덤 변수가 일정 시간 간격으로 값을 발생시키는 문제를 모델링 한 것Markov Chain은 이.. 공감수 0 댓글수 0 2018. 11. 21.
  • ML 개념 정리 - classification, K-nearest neighbor 18.11.21 Classification problem : Input Data를 미리 정해진 클래스 중 하나인 label로 분류하는 문제 1. Viewpoint Variation : 카메라에 의해 시점이 달라지는 경우2. Scale Variation : 크기 변화3. Deformation : 변형, 여러 자세로 찍힌 사물4. Occlusion : 다른 부분에 의해 가려진 경우, 일부만 보이는 경우5. Background Clutter : 배경과 비슷해 구분이 안되는 경우6. Intra-class Variation : 객체의 종류가 많은 경우 Data Driven Approach : 먼저 com에게 각 class에 대해 많은 예제를 주고서 Test Data를 보고 시각적으로 학습할 수 있는 training 알고리즘을 개.. 공감수 0 댓글수 0 2018. 11. 21.
  • RL 개념 정리(1) 기본구조 18.11.21 RL(Reinforcement Learning) : 강화학습기본 구조Environment : agent 외 모든것 Action : agent가 Environment 내에서 할 수 있는 행동 Discrete, Continuous action으로 구분할 수 있다. Reward : 주기적으로 얻을 수 있는 스칼라 값 positive or negative agent의 action이 얼마나 좋은지 나쁜지를 판단할 수 있는 기준으로 사용가능. Observation : environment로부터 편의를 위해서 얻을 수 있는 정보 * 잘못된 부분들은 댓글 부탁드립니다 공감수 0 댓글수 0 2018. 11. 21.
    문의안내
    • 티스토리
    • 로그인
    • 고객센터

    티스토리는 카카오에서 사랑을 담아 만듭니다.

    © Kakao Corp.