ML, DL/수학 (3) 썸네일형 리스트형 [통계 분석] 통계 기초 - 수학 기호 & 통계 기호 통계 기호 l 상징 기호 이름 의미/정의 P ( x ) 확률 밀도 함수 (pdf-probability density function ) P ( a ≤ x ≤ b ) = ∫ f ( x ) dx P ( A ) 확률 함수 사건 A의 확률 P ( A ∩ B ) 사건 교차 확률 사건 A와 B의 확률 P ( A ∪ B ) 사건 합동 확률 사건 A 또는 B의 확률 P ( A | B ) 조건부 확률 함수 이벤트 B가 발생한 경우 이벤트 A의 확률 Σ 통계에서는 수열의 합. 시그마. 수열의 모든 항을 더한것 더하다는 뜻 sum 에서 유래하여 그리스 기호 시그마로 s로 나타낸다. F ( x ) 누적 분포 함수 (cdf-Cumulative distribution function) F ( x ) = P ( X ≤ x ) E .. Entropy, Cross Entropy, KL Divergence 출처 : 초보를 위한 정보이론 안내서 - Entropy란 무엇일까 (hyunw.kim) 초보를 위한 정보이론 안내서 - Entropy란 무엇일까 딥러닝을 공부하다 보면 KL-divergence, cross-entropy 등에서 entropy라는 용어를 자주 접하게 됩니다. 이번 글을 통해서 정보이론의 아버지라 불리는 Shannon이 주창한 기초 개념인 entropy를 정리해봅니다. hyunw.kim Quantity of information : 정보량 - 어떤 내용을 표현하기 위해 물어야 하는 최소한의 질문 개수 (정보는 sequential 하다고 가정함...?? 예를 들어서 정수..) Information Entropy - 불확실성의 정도를 나타내는 개념 - Entorpy 의 값이 크다는 것은 정보를 .. 확률(probability), 가능도(likelihood), 최대우도측정(likelihood maximization) 출처 : 확률(probability)과 가능도(likelihood) 그리고 최대우도추정(likelihood maximization) (tistory.com) 확률(probability)과 가능도(likelihood) 그리고 최대우도추정(likelihood maximization) * 우선 본 글은 유투브 채널StatQuest with Josh Starmer 님의 자료를 한글로 정리한 것 입니다. 만약 영어듣기가 되신다면 아래 링크에서 직접 보시는 것을 추천드립니다. 이렇게 깔끔하게 설명한 자료 jjangjjong.tistory.com https://youtu.be/XepXtl9YKwc - 확률 (Probability) = P(관측값 X | 확률분포 D ) *확률분포(probability distribut.. 이전 1 다음
