*해설

<문제 해설>
확률
파랑:0.5, 빨강:0.25, 노랑:0.25

A=log(1÷0.5)/log2 =1
B,C=log(1÷0.25)/log2=2
=(0.5×1)+(0.25×2)+(0.25×2)=1.5

확률(P)과 정보량(I) 관계 :
1. 중요성(significance): 어떤 사건이 일어날 가능성이 작으면 작을수록, 그 사건은 더 많은 정보를 지닌다.
P(x1) > P(x2) ⇒ I(x1) < I(x2)
2. 가법성(additivity): 만일 x1, x2 가 독립적인 사건이라면 다음을 만족해야 한다.
I(x1x2) = I(x1) + I(x2)

중요성 조건은 어떤 사건의 확률이 높을수록 이 사건으로 알려지는 정보량은 적어짐을 나타낸다.
따라서 확률값을 역으로 취하여 중요성에 따른 정보량을 나타낼 수 있다
-> 단, 이렇게만 하면 가법성 조건이 충족되지 못한다.
정보의 가법성을 위해서 곱이 아닌 더하기가 필요하다. 따라서 이와 유사한 기능을 하는 log를 도입하게 된다.
log(xy) = log x + log y

-> 어떤 확률 변수 x 가 지니는 정보량은 다음과 같이 계산될 수 있다.
I(x) = log(1/P(x)) = − log P(x)

P(파랑) = 30/60 = 0.5, P(빨강) = P(노랑) = 15/60 = 0.25
I(파랑) = log(1/0.5) = log 2 = 1, I(빨강) = I(노랑) = log(1/0.25) = log 4 = 2

엔트로피 : 확률 변수에서 나타나는 개별적인 사건의 확률과 그 정보량을 곱하고 다시 이를 모두 더하여 얻어진 기댓값
(0.5*1) + (0.25*2) + (0.25*2) = 1.5