AI 기초 수학 정리 공책_04 확률의 곱셈정리

1. 조건부 확률

사건 A가 일어나는 조건 하에서 사건 B가 일어날 확률입니다. 이 경우 사건 A가 전사건 역할을 하고 A와 B의 곱사건의 확률을 구하는 것과 같습니다. 식으로 표기하면 아래와 같습니다.

 

2. 독립 / 종속

두 회사 P, Q는 서로 협력관계입니다. Q에서 P에 1주일에 부품 1,000개를 납품하기로 계약이 체결되었습니다. 이 계약을 사건 A라 하겠습니다. 회사 Q의 생산량이 많은 사건을 B라 하고, 정전 등에 의해 생산량이 줄어든 사건을 B의 여사건이라 하겠습니다. 다음 표를 참조하며 독립과 종속을 설명하겠습니다.

Q에서 P에 “저희 회사에서 생산량이 많이 늘었습니다.(사건 B) 이번 주 납품을 1,200개를 해도 됩니까?”라고 했을 때, P에서 “부품 재고가 많으면 힘듭니다. 원래 계약한 대로(사건 A) 납품해주십시오.”라고 했다면 독립이 됩니다. 이때 Q의 요구를 들어주면 사건 B의 영향을 받기에 종속이 되는 것입니다.

마찬가지로 Q에서 “3일간 정전이어서 생산량이 부족합니다.(B의 여사건) 납품 수량을 줄여주십시오.”라고 요청했을 때 그 요구를 받아들이지 않으면 독립, 영향을 받으면 종속이 됩니다.

 

독립과 종속은 독립인 공식만 기억하면 됩니다. 

공급되는 부품은 Q사의 생산량의 많고 적음에 상관없이 항상 계약한 대로 납품 받는 것이 독립입니다. 그리고 이 때 두 사건의 관계가 독립입니다. 사건 A와 사건 B는 독립사건입니다.

 

예제) 주머니에 흰 공 3개, 검은 공이 두 개 들어있습니다. 공을 한 개씩 꺼낼 때 두 개 모두 흰공일 확률을 구하시오.

• 1) 꺼낸 공을 다시 넣지 않을 경우(비복원 추출)
• 2) 꺼낸 공을 다시 넣을 경우(복원 추출)

 

 

예제) 다음 표에서 윗줄 가로는 오늘 날씨이고 그 각각에 다음 날 날씨의 변화에 대한 확률입니다. 월요일에 날씨가 맑았다면 목요일 날씨도 맑을 확률은 얼마입니까?

어느날 다음날	맑음	흐림	비
맑음	0.6	0.4	0.1
흐림	0.3	0.2	0.5
비	0.1	0.4	0.4

 

은닉 마르코프 모형(hidden Markov model, HMM)에 대한 설명을 동영상으로 보면서 이 문제가 생각났습니다. 목요일에 날씨가 맑았다면 3일 전 월요일의 날씨가 맑았을 확률을 계산하는 것이었습니다. 바로 이 예제는 미래의 확률을 HMM은 이전의 상황을 파악하는 것이었습니다. 물론 가중치나 로직은 이보다 훨씬 복잡합니다. 이 HMM 모델은 자연어 처리나 시퀀스 계열의 딥러닝에 필요한 것이고, 저는 이 예제를 통해 조금은 쉽게 접근할 수 있었습니다.

 

 

<위키백과> 은닉 마르코프 모형은 시간의 흐름에 따라 변화하는 시스템의 패턴을 인식하는 작업에 유용하다. 예를 들어 음성 인식, 필기 인식(en:Handwriting recognition), 동작 인식(en:Gesture Recognition), 품사 태깅(en:Part-of-speech tagging), 악보에서 연주되는 부분을 찾는 작업, 부분 방전(en:Partial discharge), 생물정보학 분야에서 이용된다.
은닉 마르코프 모형은 은닉 변수가 독립되지 않고 마르코프 과정을 통해 변화하면서, 각 과정에서 혼합 요소를 선택하는 혼합 모델의 일반화로 볼 수 있다. 최근 이러한 은닉 마르코프 모형은 더 복잡한 자료 구조들과 안정적이지 않은 데이터들을 모델링할 수 있도록 이중 마르코프 모형, 삼중 마르코프 모형 등으로 일반화되고 있다.

 

아래 그림은 동영상을 들으며 정리한 자료입니다. 물론 제가 다 이해하고 있는 것은 아니지만 올려봅니다. 이 그림을 보시면 위의 예제와 연관이 있다는 것을 알 수 있습니다. 새로운 것에 접할 때 우리에게 익숙한 부분이 있으면 좀더 쉽게 접근할 수 있기에 올려봅니다.

그림 1

 

그림 2

 

그림 3

 

 

조건부 확률로 F1-score에 접근하는 것과 전확률, 베이즈 정리는 열심히 정리하여 올리겠습니다.