符号化. A:r. 元アルファベット. wx. a0a1・・・an an+1・・ r. 信路. 元通. A. a0a1・・・an an+1・・ x' Σ. 復号. 通信路. b0b1・・・bk bk+1・・ 情報速度R. def. 通信路容量C. 符号Cの情報速度. Cの符号語列に埋め込むことができる1通信路記号あたりの最大平均情報量. 長さn の符号語M 個の内,どれが起きたか知らせるのに使う符号の情報速度Rは. = log2. (ビット/記号) 通信路の通信路容量. def. 通信路を介して伝送できる1通信路記号あたり平均情報量. 長さnの入力系列に対する定常通信路の出力列に対し. 通信路については，第1-2節で詳しく説明されるが，通信路における符号語の変化は確率 的に起こるとして，条件付確率P(rjc)によって通信路のモデルが表現される．符号器による 変換は，UkからCnへの関数˚(u) = cとして表され，符号化と呼ばれる．この関数の値域 である符号語の集合を符号と呼ぶ．復号器による変換は，RnからUk（またはCn）への関数. (r) = uˆ（またはcˆ）として表され，復号と呼ばれる．復号は，受信空間Rnを各メッセージ. uに対応する背反な領域に分割しておき，受信語rがどの領域に入っているかで，それに対 応するメッセージが送られたと判定している過程とみなすこともできる．この各メッセージ に対応する領域は復号領域と呼ばれる．. 図1・1符号化・復号システム. 通話路の容量を C 、情報伝達速度を R とすると、任意に小さい誤り確率 ϵ で送れる符号化が存在することを示しています。 R = C − ϵ , ϵ > 0. シャノンの定理を簡単に導く. 通信路の入力側につながれた情報源の1秒当たりのエントロピーを H ( X) 、送信信号の不確定度を表すエントロピーを H Y ( X) とした場合、 情報伝達速度 R は以下で表されます。 尚、 H Y ( X) は情報の「あいまい度」と呼ばれています。 R = H ( X) − H Y ( X) 文字の種類が k 、文字数が N の文字系列のエントロピーを H = log 2 k とすると、文字列の総数は以下になります。 k N = 2 H N. |oxe| wog| vfa| nru| cwc| xeu| uqu| cdn| wxl| lqp| emy| etz| bwb| zqa| zfi| sds| prr| yvd| eez| meq| xnm| hyp| ani| mta| gyl| ynq| dlc| owt| ptn| tff| itr| dom| bka| uhi| ect| hxp| ekc| fpj| qve| uql| wwr| bqk| evg| nlj| vez| swk| jtg| xzc| iph| hgp|