항목
-
가변길이 부호화정리 variable-length coding theorem정보원 부호화정리의 하나. 정상정보원(정보원 참고) X가 1 문자당의 엔트로피 H(X)를 가지면, 정보원에서 생성되는 계열은 1문자당의 평균길이가 H(X)에 얼마든지 가까운 값으로 다른 2진계열로 부호화할 수 있음을 주장하는 정리. X에서 생성하는 계열을 적당한 길이 L로 구획지어서 생기는 모든 가능한 블록을 생각...
- 분야 :
- 정보기초
-
비트 bit비트, 1Mb=210Kb=2020b이다. [2] 정보량을 나타낼 때의 단위. 즉, 데이터 계열의 단위 시간당 생성되는 정보량으로서 정의되는 엔트로피의 단위로서 사용된다. 이것은 물리적으로는 정보의 전송 속도에 상당하며 ‘비트/초’를 단위로 한다. 2진수의 1자리수분의 데이터량을 1비트로 하는 정의에 따르면, 데이터 계열의...
- 분야 :
- 소프트웨어 기초
-
양자 난수 발생기 QRNG, 量子亂數發生器중에서도 양자 역학적 특성-양자 상태 중첩, 양자 상태 얽힘, 불확정성 원리, 양자 터널링, 방사성 붕괴 등-을 활용한 양자 난수 발생기를 이용하면 엔트로피(정보의 불확실성, entropy)가 높은 우수한 품질의 난수를 만들 수 있다. 양자 난수 발생기를 통해 만들어진 양자 난수는 양자 키 분배(QKD) 프로토콜에서도...
-
모호 정도 模糊程度, equivocation하나의 통신로로 정보원에 접속되어 있는 통보 단말에서 특정한 통보가 일어난 경우, 정보원에서 어떤 통보가 발생하는 조건부 엔트로피. xI를 정보원에서의 입력 통보, yi를 통보 단말에의 출력 통보로 할 때, 모호 정도는 조건부 엔트로피의 공식으로 표시되는 조건부 엔트로피 H (xiyi)로서 주어진다. 모호 정도는...
-
평균 정보 속도 average information rate단위시간당 평균 엔트로피. 수학적으로는 이 속도 H*는 평균 엔트로피 H’를 분자집합 x1, …, xn에서 xi의 시간길이 τi의 기대값 τ로 나눈 것이다. 평균 정보속도는 비트(섀넌)/초 등의 단위로 나타낸다.
- 분야 :
- 정보기초
-
산술 부호화 算術符號化, arithmetic coding데이터 압축 기술로, 심벌(symbol)이 나올 확률에 따라 심벌을 나타내는 코드의 길이를 달리하는 엔트로피 인코딩(entropy encoding) 방식 중 하나. 산술 부호화는 하나의 입력 심벌에 하나의 부호어를 대응시키는 것이 아니라, 여러 심벌들을 묶은 가변 길이 심벌 열을 고정 길이 부호어로 표현한다. 그래서 압축 효율...
-
등장 부호화 정리 fixed-length source coding theorem정보원부호화 정리의 하나로, 부호로서 서로 같은 길이의 부호어의 모임을 씀으로써 엔트로피 값에 얼마든지 가까운 전송속도를 달성할 수 있음을 보여 준 정리. 이 정리의 기본은 정상 엘고드적 정보원에 대하여 증명된 새넌-맥밀란의 정리에 있다. 이것은, 계열의 길이 N이 커지면, 거의 모든 계열의 자기정보량이 2...
- 분야 :
- 정보기초
-
콜모고로프-오른스테인의 정리 Kolmogorov-Ornstein theorem두 베르누이 변환이 동형이 되기 위해서는 그것들의 엔트로피가 일치할 것이 필요충분한 조건이 된다는 정리. 1959년 콜모고로프는 정상 과정에 대한 보측 변환의 불변량으로서 엔트로피를 정의했을 때, 이 정리의 필요성을 제시함과 함께 충분성에 대해서도 성립함을 예상했다. 충분성의 증명은 오랫동안 미해결 문제로...
- 분야 :
- 정보기초
-
상대 중복량 relative redundancy중복량 R=HM-H를 최대 엔트로피 HM으로 정규화한 것. 즉, 이며, 1에서 상대 엔트로피를 뺀 것과 같다.
- 분야 :
- 소프트웨어 기초
