ROKO
Statistics & Probability 본문
통계학
: 관찰 및 조사를 통해 얻은 데이터로부터 수치적 성질, 규칙성을 찾아내는 학문 분야
통계학 분야
- Descriptive Statistics (서술적 통계학)
- 데이터 표본 특징을 정량적으로 표현
- 데이터 표본 축약, 분석
- Inferential Statistics (유추적 통계학) or Inductive Statistics (귀납적 통계학)
- 데이터 표본을 통해 모집단의 정보를 추론
확률
: 불확실한 어떠한 일이 발생할 가능성이나 믿음의 정도
확률의 정의
- 주관적 정의
- 주관적인 믿음의 척도를 이용하여 확률을 정의
- 고전적 확률
- 표본의 결과가 유한하고, 나타날 확률이 같다는 가정하에 정의
- \(P(A)=\frac{사건 A의 경우의 수}{전체(표본공간) 표본공간의 수}\)
- 표본공간이 무한할 경우 정의하기 어려움
- 통계적 확률
- N번의 시행에서 사건 A가 발생할 수 n(A)
- 상대도수 \(\frac{n(A)}{N}\)
- 무한히 반복시행 했을때 극한으로 정의 (큰 수의 법칙) \(P(A)=\underset{n \rightarrow \infty}{lim}\frac{n(A)}{N}\)
- 반복시행 안되는 사건인 경우 정의하기 어려움
확률의 공리적 정의
안드레이 콜모고로프, 공리적 방법으로 확률을 정의
표본공간 \(\Omega\)의 모든 event set F에 정의된 함수 P가 다음 세가지를 만족할 경우 P를 확률 측도라고 한다.
- \(\forall A \in F, 0 \leq P(A) \leq 1\)
- \(P(\Omega)=1\)
- 표본공간의 모든 사건이 배반사건인 경우, \(P(A_1 \cup \cdots \cup A_n)=P(A_1)+\cdots+P(A_n)\)
수학적 정의로 엄밀하게 정의하자면 \(\sigma-field\)를 알아야 한다.
https://bookdown.org/edeftg/machine_learning_with_rust/measuretheory.html
Chapter 3 Measure Theory | Machine Learning with Rust
This is a minimal example of using the bookdown package to write a book. The output format for this example is bookdown::gitbook.
bookdown.org
http://theanalysisofdata.com/probability/E_1.html
Measure Theory: sigma-algebras
$ \def\P{\mathsf{\sf P}} \def\E{\mathsf{\sf E}} \def\Var{\mathsf{\sf Var}} \def\Cov{\mathsf{\sf Cov}} \def\std{\mathsf{\sf std}} \def\Cor{\mathsf{\sf Cor}} \def\R{\mathbb{R}} \def\c{\,|\,} \def\bb{\boldsymbol} \def\diag{\mathsf{\sf diag}} \def\defeq{\stack
theanalysisofdata.com
그중 measurable \(\sigma-field\)에서 전체 집합의 measure가 1인 경우를 확률공간이라고 한다.