본문 바로가기

ML, DL/Andrew NG 강의

Andrew NG 강의 정리

[데이터의 종류]

- Structed Data : DataFrame

- Unstructed Data : Audio, Image, etc

 

 

Gradient descent Code
Gradient descent Vectorization

 

 

 

 


 

 

Gradient Vanishing 에 효과적인 Resnet (Skip connection)

CNN 은 layer depth 가 증가 하면 이론과 다르게 error 가 증가하나, skip connection 을 적용하면 에러가 지속적으로 감소

ResNET 이 좋은 이유는 skip connection 이 항등 함수 역할을 하기 때문에, 성능에 손해가 없고 운이 좋다면 추가된 hidden layer 에 의한 성능 개선도 기대 할 수 있음

1x1 convolution, 비선형성을 더 학습 할 수 있음
1x1 Conv 를 통해 채널 개수를 줄일 수 있음

 

 

Object Detection 등 아직 미수강