人力検索はてな
モバイル版を表示しています。PC版はこちら
i-mobile

情報理論の父といわれるClaude E. Shannonは、いったいどのようなことをきっかけにシャノン限界(Shannon Limit)を考え付いたのでしょうか。

(参考:シャノンへのインタヴューを試みたがはぐらかされた記者の話が出ています。Scientific American, January 1990, Page 16-17)

●質問者: ShinRai
●カテゴリ:コンピュータ 科学・統計資料
✍キーワード:January 情報理論 記者 限界
○ 状態 :終了
└ 回答数 : 2/2件

▽最新の回答へ

1 ● ita
●18ポイント

必要性と発想の元に分けて考えてみます。

10%のノイズが入る通信路で99%以上の信頼性で0/1信号を送りたいとします。

とりあえず同じ信号を三回送って多数決をすればいけそうです。でも、もっとうまい誤り訂正のコーディングをすれば、通信の速度を上げられるかもしれません。

で、もっとうまい方法を一生懸命考える時に、これ以上はどうがんばっても無理、という限界が分かってればかなりやり易いですね。限界の90%くらいならまあいいか、とか判断できますし。そういう必要性に迫られて考えたはずです。

で、なにか理論的限界があるのは直感的に明らかだと思うんですがどうでしょう。そうなれば後は数学的に詰めるだけです。具体的な式の形をどう考えたか、というのは分からないですが。

URLはダミー http://aaa.com

◎質問者からの返答

質問の仕方が悪かったのかもしれませんが、期待はずれの回答でした。

C/W=log 2 ( 1+S/N ) の式がどうやって生まれたのかというところに興味があります。

そもそもシャノンは、デジタルデータとアナログデータの区別ができていたのかなあという疑問もあります。


2 ● ajapoo
●52ポイント

具体的に説明すると長くなるので概要を説明させていただきます。

通信システムにおいて送信者の送る情報自体の分布をうまくいじると誤りを抑えて情報を受信者に送ることができます。

ただいくらいじっても限界はあります。この限界を示したものがチャンネル容量です。

さらに送る情報を符号化して、その符号化率がチャンネル容量よりも小さければ任意に誤り率を下げることができるというものを示したのが

チャンネル符号化理論です。

このチャンネル符号化理論をガウスチャンネルに適応するとShinRaiさんが示されたシャノン限界がもとまります。

大まかに

送信情報の分布をいじれば誤りを抑えられるのではないか?→符号化すればさらに抑えられるかも!→ガウスチャンネルに適用してみよう。

という流れだと思います。

私自身情報理論の勉強中でして間違ってる所などがあればご指摘ください。

また、当時はすでに世界初のコンピュータも登場していますしデジタルとアナログの区別はできていたと思います。

http://1.com

◎質問者からの返答

ガウスチャンネルというのは量子力学の世界の話ですか。

シャノンは、リレースイッチの回路の論文はあるけど、量子論のペーパーはひとつもない。

どうしてそこにシャノンがすっといけたのか、疑問です。

もう少し教えていただければありがたいです。

また、シャノンは、デジタルとアナログという概念を一度も使っていません。

概念なしに、区別をできるとは、思いがたい。

通信路符号化は、送信前・受信後に行なう計算処理であり、計算によって

エントロピーを低くして、回線ノイズに対する耐性を加える作業だと思っております。

しかし、アナログの符号に対しては、計算できないから、通信路符号化は

デジタル符号に限った話になるのでは? いかがですか。

あなたの言っておられることが、間違っているとは思っていません。

もう少し教えていただければありがたいです。

関連質問


●質問をもっと探す●



0.人力検索はてなトップ
8.このページを友達に紹介
9.このページの先頭へ
対応機種一覧
お問い合わせ
ヘルプ/お知らせ
ログイン
無料ユーザー登録
はてなトップ