1278604623 遺伝子のコーディングにおいては、DNAから転写されたmRNAは、A,G,U,Cの4元の核酸からなる64種類のコドン(デジタル情報)を送り出し、それが細胞質内で、20種類のアミノ酸(アナログ情報)に翻訳されます。


また、ヒト話し言葉の場合は、発声は離散的ですが、聴覚はそれを単語ごとにアナログなシンボルとして処理します。

このデジタル送信、アナログ受信は、軟判定といえ、それによって符号化利得が生まれ、デジタル通信における誤り予防機能を果たします。(つまり回線上で増大するエントロピーが、符号化利得の範囲内であれば、誤りの発生する確率がひと桁下がる)

それを図にしてみました。これについて、ご意見をいただければ幸いです。

回答の条件
  • 1人5回まで
  • 100 ptで終了
  • 13歳以上
  • 登録:2010/07/09 00:57:07
  • 終了:2010/07/16 01:00:03

回答(21件)

ただいまのポイント : ポイント27 pt / 100 pt ツリー表示 | 新着順
図と例の関係が分かりません。 mata8_20092010/07/10 00:38:36ポイント4pt
当たり前のことだったら申し訳ないのですが、符号化利得とはなんでしょう?ネットで調べてもいまいち分かりませんでした。教えてもらっても良いですか? 符号化利得と言うのはエントロピーと同じものなのでしょうか ...
いくつかの概念について ShinRai2010/07/10 23:39:08
符号化利得:符号化利得とは、誤り訂正符号化を行うことによって、通信効率がおよそ一桁よくなることです。 符号化すると、誤りの確率が下がるのです。それだけで、通信の効率が10倍よくなる。 これがエントロ ...
気になった点を整理。 アオ2010/07/14 23:01:28ポイント1pt
ここまでの議論で気になった点を整理してみます。 1.グラフの式について(コメントでの議論より) コメントでの注釈などで何度か S(エントロピー)= klog(Noise/(Signal+Noise)) とありますが、 S( ...
うーむ mata8_20092010/07/11 01:57:40ポイント2pt
>通信効率がおよそ一桁よくなることです。   ん?1桁よくなること自体が符号化利得なんですか? とすると、雑音で符号化利得が取れなくなると10倍から1倍になると言う感じで良いですか?   デジタル通信・アナ ...
縦軸について ShinRai2010/07/13 10:35:01
縦軸は、エントロピーの増大を意味しますが、 これは同時に、1Hzあたりのbpsの逆数になるようです
逆数? mata8_20092010/07/15 22:08:31ポイント1pt
エントロピーは単位が無い単なる「5倍」のような値だと思ったのですが、単位がつくんですね。 bitでもなく、bitの逆数になるになる?? エントロピーが大きくなるとbitが少なくなると言うことですね。
用語が。。。 taka-hr2010/07/09 13:22:42ポイント4pt
ものすごく一般的に、通信路のエントロピーの概念の図としてはだいたいこんな感じだとは思います。 ですが、質問文にあるような遺伝子とかデジタル送信・アナログ受信?とのつながりから言うとかなり離れています。 ...
用語を。。。 アオ2010/07/10 03:16:06ポイント3pt
この話題は難しいような気もしますが、他の方の回答にも同様のご意見があった様なので用語の定義を確認できればと思います。あまり語義を拡張せずに「デジタル」「アナログ」「エントロピー」あたりの意味を一先ず共 ...
いくつかの概念について ShinRai2010/07/10 05:55:41
(1) 「デジタル=離散的な数値によるデータ表現」「アナログ=連続量によるデータ表現」という理解で考える限りでは、遺伝子の例も話し言葉の例もちょっとShinRaiさんの仰ることが飲み込みにくく思えます。 ⇒  ...
レイヤーがずれてます taka-hr2010/07/10 15:05:56ポイント1pt
> なぜならば、僕達はずっと、話し言葉はアナログ、書き言葉はデジタルと思い込んできたからです これ自体反論がいろいろあるとは思いますがまぁさておくとして。。 > 発声器官の運動制御は、いちいちその都度指示 ...
ありがとうございます ShinRai2010/07/09 17:56:20
図の形としては、こんな感じでいけそうですね。 あとは、誤解を与えないように、なるべく余分なことは書きこまないで、作ってみます。 軟判定ということばも不適切ですね。 また、ご指摘のとおり、Sの意味が右 ...
用語お b56002010/07/10 13:04:46ポイント1pt
しさそとし
rregds.jp b56002010/07/10 13:03:45ポイント1pt
b;t@eaf
用語が b56002010/07/10 13:02:41ポイント1pt
ものすごく一般的に、通信路のエントロピーの概念の図としてはだいたいこんな感じだとは思います。 ですが、質問文にあるような遺伝子とかデジタル送信・アナログ受信?とのつながりから言うとかなり離れています。 ...
hgsy b56002010/07/10 13:00:16ポイント1pt
これもいいです
エントロピーEX b56002010/07/10 12:58:47ポイント1pt
これがいい
パッと見で感覚的に理解できない adgt2010/07/09 01:45:39ポイント3pt
ので図としては、もっとわかりやすくする必要がある。
図がわからないですか、それとも概念(エントロピー, S/Nなど)がわからないですか ShinRai2010/07/09 11:40:47
概念がわからないのであれば、図以前の問題となりますが
両方ですね adgt2010/07/09 12:14:31ポイント2pt
1.まず概念がわかりません。 2.図としては、x軸には数値があるのに、それに対応したy軸の数値が無いので、どのような関係性があるのか分かりません。 3.また、矢印の意味合いがわかりません。一般的にはそ ...
エントロピー ShinRai2010/07/09 13:08:58
1 エントロピーは、信号が雑音のある回線(空間)中を伝搬するときに、雑音のせいで増大します。 2  縦軸は、エントロピー増大(上にいくほど大きくなる)です。  ちなみに横軸は、信号対雑音比で、左にいると ...
見る側が気にする気にしないの判断をできるだけしないように adgt2010/07/09 17:11:45ポイント1pt
文字や、線、矢印を配置するのが図作成の仕事だと思います。説明に長文を必要とするのであれば、最初から文章で説明すれば足りるので、そのあたりで修正されれば良いかと思います。
  • id:ShinRai
    回線上でのエントロピー増大は、S = k log W = K log N/(S+N)という近似式で表現できないかと思うのです。

  • id:nasi-goreng
    いくつか確認をしたいです。
     
    ① グラフは

    S(エントロピー) = K log Noise / (Signal+Noise)
    のグラフなのでしょうか?
     
    ② 式のKはなんでしょう?何かの係数だと思うのですが。またlogの底はなんですか?
     
    ③ グラフの横軸はS/Nでなのに式ではN/(S+N)を使っているのはなぜでしょう?分かりにくくないですか?
  • id:taka-hr
    まちがえた。。「軟受信」とか書いちゃいましたが「軟判定」ですね。。。
  • id:mata8_2009
    ん?
    離散的ってデジタルのことでしたか?
    音を数値化したということでしょうか。
  • id:nasi-goreng
    taka-hrさんへ
    >ものすごく一般的に、通信路のエントロピーの概念の図としてはだいたいこんな感じだとは思います。
     
    S(エントロピー) = K log Noise / (Signal+Noise)
    がグラフの式だとすると、
    同じ形になりますか?
    S(エントロピー)=通信路容量
    と考えているのですよね?
     
  • id:taka-hr
    nasi-goreng さんへ

    通信路容量は、この図でいうところの右上の白いところに相当しているということだと思います。

    ある通信が行われるときの受信側のエントロピーを考えた場合、通信路容量が大きいほど受信側のエントロピーは下がると考えられるので、このような図が出てきているんじゃないかと推測しています。

  • id:ShinRai
    皆さま、

    コメント欄さぼっていてすみません。

    でも、taka-hrさんのおっしゃることで当たっています。

    右上の白いところが通信路容量を表現していて、Hz / bps です。
    (つまり低いところほど、1Hzあたりのbpsが大きい)

  • id:nasi-goreng
    taka-hrさんへ
    その肝心の添付の図が

    S(エントロピー) = K log Noise / (Signal+Noise)
    のグラフになっていないのです。
    式に代入してグラフを書いてみてもらえると分かります。
  • id:hiko4karasu
    ShinRai さんは数式から導いているのではなく、資料を切り貼りしているので仕方が無いですね。
    式を見てピンときてもらいたいものです。
    対数の真数がNoise / (Signal+Noise)でありSignalもNoiseもマイナス値は取らないでしょうから、
    「真数は1より大きくならない。」
    この時点で
    log Noise / (Signal+Noise)
    は「0より小さくなる。」
    S(エントロピー)とグラフの相対エントロピーが違うものを指しているのかもしれないけど、さてSはマイナス値なのかな?

    そして、ShinRai さんの図では

    >ちなみに横軸は、信号対雑音比で、左にいるときのほうが雑音が強く

    の通り、左に行くほどNoiseが大きくなり
    「Noise / (Signal+Noise)は1に近くなる。」
    つまりグラフの横軸の左に行くほど無限に大きくなるのではなく
    「Sは0に収束していく」


    エクセルは使えますか?
    Signal、Noiseに対して、Sがどのような値をとるか表を作ってグラフにすると分かりやすくて良いですよ。
  • id:taka-hr
    nasi-goreng さん、hiko4karasu さん

    あぁそういうことでしたか。。わたしもあまり式について深く考えていませんでしたw;

    まず、hiko4karasu さんの指摘の真数の範囲については、

    http://ja.wikipedia.org/wiki/SN%E6%AF%94

    にあるとおり、通信路容量 C = log (Noise + Signal) / Noise なので、真数 > 1ですので、式が違っていると思っています。

    また、横軸がdB 単位なので nasi-goreng さんがおっしゃるように形も違っているということなのですね。

    dB 単位のグラフを描きたいならば http://q.hatena.ne.jp/1277169940 に (ShinRai さん自身の質問ですが)あるグラフの形になります。

    横軸を dB ではなく単に Sound/Noize の比だと思うならば、この質問にあるようなカーブにはなります。ただし、原点というか 通信路容量 C = S の減少量 = 0 となる点の位置が違うということですね。Sound/Noise が無限小(Sound = 0) のときに C = 0 って当たり前ですねw;

    ご指摘ありがとうございます。もう少し気をつけて回答したいと思います;
  • id:hiko4karasu
    念のため
     
    式を見てピンときてもらいたいものです。

    ShinRai さんは式を見てピンときてもらいたいものです。
     
    あと私が気になるのは、送信点のエントロピーって意味がありますかね?
  • id:taka-hr
    送信点のエントロピーについては、意味がないことはないと思うのです。

    「乱雑さの指標」としてのエントロピーを考えるときには、送信側では情報を持っているのでエントロピーが低く、受信側は、受信前には高かったエントロピーが、情報を受け取ることで下がる、ということを言いたい図だと思っています。

    ただ、いまの図だと送信点のエントロピーとして、右上の通信路容量では送れないくらい低い値を指しているように見えるので、通信を行ってもすべてのデータは送れずに不完全な情報を得る、ということになっています。

    これだと、最初の質問文にあるような誤り訂正機能は完全には働いていない状況を示しているようにも思えますので、本当に示したいことを表現している図なのかは疑問が残ると思います。

    # ここから先は本当に示したいことの共通理解が得られないと推測になってしまいますw;
  • id:nasi-goreng
    >横軸を dB ではなく単に Sound/Noize の比だと思うならば、この質問にあるようなカーブにはなります。
     
    ならないと思うんですが・・・・。
    わたしの考え方とtaka-hrさんの考え方は違うのかな?
  • id:taka-hr
    えーとどうなるはずなんでしょう?
    一応 Excel で -LOG(1+A2,2) を描いてみて大丈夫かなと。。
    An のセルには 0.1 ~ 31 くらいの値が並んでいます。

    ていうか最初間違えていた時も、対数カーブなのでいいのかなと思っていたのですがその考え自体が間違っていますか?
  • id:nasi-goreng
    ああ、そういうことでしたか。
    私もhiko4karasuさんと同様にS(エントロピー) はマイナス値は取らないと思い込んでいたので、
    log(1+S/N)
    で考えていました。
     
    最初横軸がdBでなぜ横軸が対数?と思っていました。
    対数-対数のグラフなら、直線になっちゃうんじゃないかと漠然と考えていました。
    ShinRaiさんが縦軸をどういうものと考えているのかによるのかもしれないですね。
    Sはエントロピーで縦軸は相対エントロピーなので実は式をもう一ひねりしているのかもしれないですね。
  • id:hiko4karasu
    分かったような気がする。
     
     
    逆数で考える意味は分からないけど、
    対数の式の変形を間違えたんじゃないかな。
    この考えなら
    Noise / (Signal+Noise)
    になっちゃった理由が説明できそうだし、グラフの形も正しくなる。
    ただエントロピーと符号化利得の考え方は逆になるかな。
     
    エントロピーが大きくなると通信は良くなるんでしたっけ?悪くなるんでしたっけ?
  • id:taka-hr
    あーなるほど。。グラフの左上が原点だとおもえば log Noise/(Signal+Noise) のグラフであると言えるわけですね。

    ここでいうエントロピーは(過去の質問のどっかにもコメントしましたが)、受信者の持つエントロピーが高い状態にあるのを通信で情報を得ることによってエントロピーが下がる、ということを表現しようとしているのだと思っています。

    ただそうすると左下の雑音によるエントロピー増大というのが意味が通るのか不安になってきましたが。。まぁ雑音の分だけ通信で情報が届かなくなるということだと思えばいいのでしょう。


    符号化利得については、じつはこの図ではまだ全然言えていなくて、誤り率のような軸を導入しないと描けないんじゃないでしょうか。あるいは、右上の曲線が等高線状になっていると考えるのかな。
  • id:hiko4karasu
    >あーなるほど。。グラフの左上が原点だとおもえば log Noise/(Signal+Noise) のグラフであると言えるわけですね。

    私の言いたかったことは
    S(エントロピー) = K log Noise / (Signal+Noise)
    の式は間違えだと思う。
    です。
    式の変形をしている過程で間違えたんじゃないかなと。
    私自身Sの考え方がよく分かっていないから詳細は書きませんけど。
  • id:taka-hr
    わたしとしては、エントロピーの増加量がマイナスになる = エントロピーが減少する、ということならばエントロピーの増加量 = -1 * 通信路容量 = log Noise / (Signal + Noise) と言えなくもないかと思えてきましたw

    マイナスが前提となる式はわかりにくいだけなのであまりよい説明だとも思えませんが。
  • id:hiko4karasu
    プラスもマイナスもある増加量なら分かるのですが、マイナスだけしか定義しなくて良いと言う考え方が私には理解できません。

この質問への反応(ブックマークコメント)

「あの人に答えてほしい」「この質問はあの人が答えられそう」というときに、回答リクエストを送ってみてましょう。

これ以上回答リクエストを送信することはできません。制限について

絞り込み :
はてなココの「ともだち」を表示します。
回答リクエストを送信したユーザーはいません