デジタル通信における「符号化利得」は、誤り訂正符号化を行なっていないデジタルなベースバンド信号と、誤り訂正符号化処理をしたものの差を指すようです。(つまり「誤り訂正符号化利得」である)


http://www.denso.co.jp/ja/aboutdenso/technology/dtr/v08_1/files/dissertation5-ib.pdf
(のFig.-8でいうところの符号化利得)

だとすると、デジタル化していないアナログ情報と、デジタル化した情報の間に、別の利得、いうならば「デジタル化利得」というものが存在しているのではないでしょうか。

どのように考えるとよいのでしょうか。

回答の条件
  • URL必須
  • 1人2回まで
  • 13歳以上
  • 登録:2010/09/21 15:42:03
  • 終了:2010/09/28 15:45:03

回答(0件)

回答はまだありません

  • id:ShinRai
     帯域幅を信号対雑音比率に交換するひとつの方法を図6に示す。上の曲線は、信号の関数である。帯域はこのようになっていて、示されたように標本化を行なっている。それぞれの標本は5つの振幅値をもつ。下の曲線は最初に示した曲線から二つずつ標本を持ってきて作られている。振幅レベルは25段階に識別されなければならないが、標本化の頻度は半分になっている。結果的に、帯域は半分になり、その代わりにデシベル値での信号対雑音比は二倍になっている。これを逆に行なうと帯域を倍にして、必要な信号対雑音比率を減らすことができる。
     クロード・シャノン「最近の通信理論の発展」について(1950年4月号、Electronics誌より)

    この帯域幅と振幅値(ダイナミックレンジ)のトレードオフが関係ないでしょうか
  • id:loio
    アナログはテープ面積に比例してSNがよくなるので、3dB良くする為にはテープ幅が倍必要。デジタルだと1ビット増やすだけでSNが3dBよくなる。横に消費テープ面積、縦にSNのグラフを書くと、アナログは直線だが、デジタル記録だと、累乗の線になるのでデジタル記録はすばらしい。

    ただ、昔は、デジタル記録するのが難しかった。ひとつはAD/DAの速度の問題と、テープの周波数特性の問題です。1980年ごろカセットにデジタル記録する速度は300bps程度でした。CDの音声記録は1.5Mbps、テープと同程度の品質で見ると300kpbsぐらい必要でしょうか。なので1000倍ほど差があります。カセットにそこそこの品質で録音できても同じレベルの音声をデジタル記録するにはテープの性能はぜんぜん足らなかったのです。

    っていうような話でしょうか?
  • id:ShinRai
    ズバリ、そういう話をお伺いしたかったです。ありがとうございました。

    SNが帯域に比例するアナログ方式ということと、デジタルでは、1ビット(桁)を増やすごとに2倍よくなる(3dB)という話、よくわかりました。

    フォン・ノイマンが「The General and Logical Theory of Automata」(1948年のヒクソンシンポジウムの原稿)の中で、アナログとデジタルの違いはノイズの問題であるということを言っていたことを思い出しました。

    それがここでも効いてくるのですね。

    ふーむ、奥が深いですね、デジタルは。心よりお礼申し上げます
  • id:ShinRai
     C = W log2 (P +N)/N という関係から、WとP / N の相互の関係が交換(トレードオフ)可能な関係であることがわかる。回線容量を一定に保ったまま、我々は、P / Nを十分に増やすことができれば、帯域Wを減らすことができる。逆に、帯域を増加させれば、回線上の信号対雑音比率を低くすることができる。帯域Wに対して、どれだけのP / Nが必要とされるかをdBで表わしたものが図5である。ここでは、帯域Wを増やすとそれに比例して雑音力N が増えると想定している。つまりN = WNo であり、No は帯域の1ヘルツあたりの雑音力を示している。もしP / Nが大きいときに、帯域を狭くするためには大変大きなコストがかかるということは注目に値する。帯域を半分にすることは、必要とされるP / Nをデシベル換算でほぼ二倍にする。


    これもシャノンの「最近の通信理論の発展」について(1950年4月号、Electronics誌)からですが、このシャノンの説明は、アナログシステムを前提としているということになりますね。
  • id:ShinRai
    いったいいつの時点で、どのようなbpsを達成したところで、デジタルがアナログを追い越したのか、そしてそれ以降はデジタルが水をあけるばかりであるのか、興味がわいてきました。

    どこかで、デジタルがアナログを追い越したということですよね
  • id:loio
    デジタル記録の問題点は、サンプル数を増やす場合は、アナログと同じく速度を早くするしかないことです。

    そのため、古くは、テープを超高速度でかっ飛ばしていました。古いアニメやウルトラマンでよくでてくるオープンリールみたいなものがそうです。音楽用のオープンリールと似ていますが、テープ速度はけたが違います。テレビではよくわかりません。それはあまりに回転速度が速いためです。

    ノイズに対しては強いので、トラック幅を狭くヘッド数を増やすアプローチが取られています。

    1980年台になると、VHSが出てきます。高い周波数成分を緒持つ映像信号を記録するために、超高速なメディアが必要になりました。そこで発明されたのがヘリカルスキャンです。
    テープ速度は遅いけど、ヘッドだけが高速で回転することで周波数特性をよくしています。その代わりトラック幅は、カセットテープより細くなってます。幸いなことに人は映像のノイズには鈍感なことが幸いしているようです。

    また、この特性はデジタル記録の特性とも一致しています。
    β方式のテープに32KHzでサンプリングしたデジタルのステレオ信号を記録するアダプタがソニーから出たのもこのころです。

    このころは記録系も発展途上でしたが、それ以上に発展途上だったのが、安価なDA(デジタルアナログ変換)とAD(アナログデジタル変換)でした。集積回路の進歩によりやっと民生用にも使える価格帯になったのもこのころでしょうか。
  • id:pyopyopyo
    サンプリング定理、ナイキスト周波数、折り返し雑音(エイリアシング) などはご存知ですか?
  • id:mata8_2009
    >デジタル通信における「符号化利得」は、誤り訂正符号化を行なっていないデジタルなベースバンド信号と、誤り訂正符号化処理をしたものの差を指すようです。

    差じゃないですよね。比ですよね。
  • id:loio
    いつ追い越したんでしょうねぇ。
    って、商業的にははっきりしてます。
    音楽はCD、映像はD1がでたところです。
  • id:hiko4karasu
    >このシャノンの説明は、アナログシステムを前提としているということになりますね。
     
    なんで、この解答に行き着くのかまったく分からない。
    ShinRai さんも調べる能力はあるんだから、分かっていることをちゃんとした理論で導き出せるようになるともっとよくなると思うよ。
    自分の欲しい解にすぐ飛び出しちゃうのはよくないね。
  • id:loio
    世の中にデジタルなメディアは無いんです。
    すべからくアナログで記録されたり伝送されたりしてるんです。

  • id:ShinRai
    フォン・ノイマンの「人工頭脳と自己増殖 - オートマトンの論理学的概観」という、1948年のヒクソン・シンポジウムの講演から、一部を抜粋しました。(中央公論社世界の名著、現代科学IIより)



    デジタル化の重要性は雑音レベルの減少
     
     人力のおよぶかぎりの世界において,その結果が10億個の一連のステップにまったく依存していて,さらにすべてのステップ一つ一つが,結果に対して直接に重大な影響をおよぼす-あるいは,少なくともかなり高い確率で,重大な影響をおよぼしうる--という特質をもっているような分野を,ほかに知らない.しかしながら,このことは計算機についてはまさに真実である--これは計算機の特性のうち,最大の特色ともっとも困難な部分を表わしている.

     実際,最近の20年間におけるオートマトンは,一つの結果を生みだすのに,何億あるいは何十億のステップを実行しているのである.しかし,これらのオートマトンの操作は連続したものではない.このように多数のステップがふくまれるのは,いろいろの理由から同一の試行を繰り返し繰り返し行なうことが望ましい,という事情によっている.このような反復の蓄積は,例えば結果の大きさを増大させる.すなわち[これまた重要な考え方なのだが],まじり込んでくる「雑音」に比べて「信号」,すなわち意味のある結果を増大させることになる.(略)一つの結果を生みだすのに必要とした操作が多ければ多いほど,一つ一つの操作の意味のある寄与は小さくなる.

     計算機には,このような法則は当てはまらない.どのステップも,全体の結果と同じように重要である[あるいは,重要である可能性をもつ]――どんな間違いでも結果を完全に台なしにしうる[このことばは,絶対的には正しくないが,おそらく全ステップのほぼ30%は,普通この種の性格をもっている].したがって,計算機は例外的なオートマトンの一つである.この人工オートマトンは,10億またはそれ以上のステップを短時間に実行しなければならないばかりでなく,進行中の重要な部分[これは,前もって厳密に指定された部分であるが]において,ただ一回でも間違いをしてはならない.

     欠くことのできない指導原理は,いわゆる「通信理論」全体のなかでも古典的な原理の一つである「信号雑音比(SN比)」であり,これなしには状況を理解することはできない.すなわち,すべてのアナログ方式にかんする決定的な問題は,計算機が演算する数を表わす意味をもった「信号」に比べて,「雑音」を構成する制御不能なメカニズムがどれくらい大きいか,ということである.アナログ原理はいずれも,その制御不能な動揺の相対的な大きさ--いわゆる「雑音水準」をいかに低くするかによって,その有効性が決まるのである. 

     言い方を変えると,真に二つの数の積をつくるようなアナログ計算機は存在しない.アナログ計算機がつくるものは,二数の積のほかに,そこに含まれる物理的な過程とメカニズムの不規則な雑音を表わす,小さいが未知の,ある量である.
    機械的な装置は,この雑音レベルを1対10の4乗ないし10の5乗あたりのオーダーで@最大信号水準」よりも下に抑えている.(SN比が10の4乗から5乗である) 電気的装置では,この比が1対10の2乗よりもよいものは稀である.

     デジタル計算機は,数字の寄り集まったもので数を表現する日常的な方法と同様に動作する機械である.

     デジタル計算機の雑音レベルとアナログ計算機のそれとの重要な相違は,質的なものでは全然なくて,まったく量的なものである.さきに指摘したように,アナログ計算機の相対的な雑音レベルは1/10の5乗よりけっして低くはなく,多くの場合に2/10の2乗くらいの高さである.

     さきに参照した10桁10進式計算機においては,[丸めによる]相対的雑音レベルは1/10の10乗(百億分の1)である.そこで,デジタル方式の真の重要さは,どんなほかのアナログ方式によっても完全には得られないところまで、計算結果の雑音レベルを減らすことができるという点にある.その上さらに雑音レベルを減らすことは,アナログ計算機ではますますむずかしいが、デジタル計算機ではますます容易である.

     アナログ計算機では,1/10の3乗の精度に達するのは容易であるが,1/10の4乗はいくぶんむずかしく,1/10の5乗(10万分の1)になると非常にむずかしい.そして,現在の工学のレベルでは1/10の6乗(百万分の1)は不可能である.デジタル計算機では,右の精度はたんに、10進法でそれぞれ3, 4, 5, 6桁の計算機を作るということしか意味しない.

     デジタル方式が重要なのは,実にこの点においてである.
  • id:ShinRai
    loioさん、

    いろいろと勉強になりました。
    D1とCDが登場したときに、デジタルがアナログを追い越したという話も参考になります。

    録音は、ある意味、通信回線上にあるので、アナログなメディアをデジタル変調して録画・録音するから、すべてアナログということですね。

    >アナログはテープ面積に比例してSNがよくなるので、
    >3dB良くする為にはテープ幅が倍必要。
    >デジタルだと1ビット増やすだけでSNが3dBよくなる

    この3dBは、ビットデータのときの話ですね。
    10進法であれば、ひと桁増やすと10dB向上すると考えてよいですか。

    mRNAのように4元デジタルの場合は、ひとつの核酸が6dBのSN比向上になる。

    ヒトの音節のように100種類もあると、ひとつの音節が20dBのSN比向上ということですね。

    ひとつの音が20dB向上させるというのは、
    最大限ひとつの音を増やすと100倍の意味を
    付与できるというふうに考えればよいのでしょうか。

    SNと情報価値の関係がいまひとつ理解できていません。
  • id:loio
    そういえば、量子コンピュータは今7qbitが最大のようです。さて、いつデジタルを追い越しますかね
  • id:hiko4karasu
    ShinRai さん大暴走だ。
     
    >10進法であれば、ひと桁増やすと10dB向上すると考えてよいですか。
     
    これは何を想定しているか分からないけど、まあ、その通りでいいですが、、、
     
    >mRNAのように4元デジタルの場合は、ひとつの核酸が6dBのSN比向上になる。
     
    なりません。
    よく考えてください。
    そもそもmRNAのS/N比ってなんだと考えますか?
     
    >ヒトの音節のように100種類もあると、ひとつの音節が20dBのSN比向上ということですね。
     
    なりません。
    音節の意味とビットデータの違いを考えましょう。
     
    >最大限ひとつの音を増やすと100倍の意味を付与できるというふうに考えればよいのでしょうか。
     
    こっちの考えなら面白いです。
    面白いですが、たとえば10文字の言葉を作るとします。
    100個の音で10文字の言葉を作るのはいくつできて
    101個の音で10文字の言葉を作るのはいくつできるでしょう?
    計算してみてください。
  • id:loio
    1単語がn音節と、1単語がn+1音節のときの情報量の差じゃないですか?100倍

    ただ、音節は増えても情報量はそれほど増えませんよね。

    あた、あち、あつ、あて、あぬ、あひ、あふ、あへ、あろ、あも
    とか意味無いし
  • id:hiko4karasu
    >1単語がn音節と、1単語がn+1音節のときの情報量の差じゃないですか?100倍

    それなら、情報量が上がっているだけであって、S/N比とは関係ないですね。

    >ただ、音節は増えても情報量はそれほど増えませんよね。

    そう、それが言葉の特性です。
    各記号の出現確率が同等じゃないんです。
  • id:ShinRai
    loioさん、hiko4karasuさん、


    僕は、通信路符号化の問題と、情報源符号化の問題がごっちゃになっているのかもしれません。

    SNはひと桁のもつ多様性、つまりダイナミック・レンジを表現する(つまりこれは情報源符号化の問題)と同時に、雑音のある回線上での情報伝達(これは通信路符号化)と、両方の意味をもちうるということでしょうか。

    SNはそれほどまでに中心的な概念ということになるのでしょうか。




  • id:loio
    ああ、ごめんなさい。私がごちゃごちゃにしてたかな?

    nビットから1ビット増やすと、ダイナミックレンジが2倍になります。
    ノイズが変わらないという前提で3dBよくなります。
    ノイズが変わらないというのは実はうそ、1ビット増えると面積が余分に必要になります。速度を上げるか密度を高くしなければなりません。けどn+1/nってアナログの2倍に比べると小さいよね。ってことで、無視してました。

    ダイナミックレンジにもいろいろあると思いますが、
    ・デジタルにおいてノイズにまみれた下限値って意味無い
    ・聴覚特性に曲げられたレンジはデジタルにとって意味がない

    正直なダイナミックレンジはSNと同等な場合もありますが、そうでない場合も多いので。

  • id:ShinRai
    S/Nがダイナミック・レンジであるといっても、0,1のビットデータでは2値しかないかと思っていたのですが、昨今の多値変調は1シンボルあたりの情報量はかなり大きくなりますよね。

    これって、SNと関係するのでしょうか。

    それが発展すると量子ビットになるのですか。それとも量子ビットはまた別の概念なのでしょうか
  • id:ShinRai
    ノイマン「10進法でそれぞれ3, 4, 5, 6桁の計算機を作るということしか意味しない.」というときに、デジタル計算機を、ハードウエアの問題として論じているのですね。

    SNは、ハードウエアの桁数の設定で決まるということですね。

  • id:ShinRai
    >1ビット増えると面積が余分に必要になります。速度を上げるか密度を高くしなければなりません。

    > n+1/n

    この n+1/n はどこかで見たことがある気がします、

    要するに、デジタルで桁数を増やすと、1ビットあたりのエネルギーが n/n+1に減るということと同じでしょうか


  • id:ShinRai
    loioさん

    また初歩的な質問で申し訳ありません。

    コンピュータで8ビットマシンとか、16ビットマシンとかいうときの桁数と、SNは関係があるのでしょうか
  • id:loio
    >>
    S/Nがダイナミック・レンジであるといっても、0,1のビットデータでは2値しかないかと思っていたのですが、
    <<

    ビットデータは束ねられますよね、8ビットあれば256種類のデータを表現できますよね。

    >>
    これって、SNと関係するのでしょうか。
    <<

    いや、文脈依存でしょう。

    >>
    要するに、デジタルで桁数を増やすと、1ビットあたりのエネルギーが n/n+1に減るということと同じでしょうか
    <<

    技術屋なので、エネルギーとかエントロピーとか考えたこと無いです。

    >>
    コンピュータで8ビットマシンとか、16ビットマシンとかいうときの桁数と、SNは関係があるのでしょうか
    <<

    この場合は単なる処理単位やバス幅を表しているですね。
    16bitマシンでできることは8bitマシンでもできますし、逆もしかりです。

  • id:hiko4karasu
    >僕は、通信路符号化の問題と、情報源符号化の問題がごっちゃになっているのかもしれません。
     
    前からそう指摘しています。
     
    >SNはひと桁のもつ多様性、つまりダイナミック・レンジを表現する(つまりこれは情報源符号化の問題)と同時に、雑音のある回線上での情報伝達(これは通信路符号化)と、両方の意味をもちうるということでしょうか。

    申し訳ないんですが、おっしゃりたいことの意味が半分も分からないんです。
    ひと桁のもつ多様性ってなんでしょう?
    S/Nがダイナミックレンジを表現すると言うのはどういう意味でいっているのでしょう?
    S/Nってただの信号とノイズの比ですよ?

    >0,1のビットデータでは2値しかないかと思っていたのですが、
     
    こっちはデータ形式の話です
     
    >昨今の多値変調は1シンボルあたりの情報量はかなり大きくなりますよね。
     
    こっちは伝送方式の話です。
    一緒にしたら話が分かりません。
     
    >SNは、ハードウエアの桁数の設定で決まるということですね。
     
    たぶん、ちがう。 と思います。うーんある意味そうなのかなぁ?
    ハードウェアの桁数はハードウェアが処理するデータバスの話で、例えばパソコンの内部バスでS/Nなんて考えませんよ?おおよそノイズ0です。
     
    >要するに、デジタルで桁数を増やすと、1ビットあたりのエネルギーが n/n+1に減るということと同じでしょうか
     
    「デジタル」でって、ShinRai さんのデジタルで何が起こるかなんて私たちには分かりませんよ?エネルギーって何のエネルギーです?唐突に今まで話していたことと違うことを言い出すと話が進みませんよ?
     
    ここでloio さんがデジタルの桁数を増やしているのは解像度を上げるという意味です。
    アナログ値で10Vと言うデータを128個で表現するか、256個で表現するかと言うことです。
    それによってノイズが見かけ上半分になると言うことです。
    ってこの説明で分かるかな?
     
    >コンピュータで8ビットマシンとか、16ビットマシンとかいうときの桁数と、SNは関係があるのでしょうか
     
    S/N比は通信で考えるべき概念です。
    コンピュータで8ビットマシンはCPUのなかでデータが8個ずつ0か1の値をとってそれを判別していくと言う意味です。
     
     
     
    >ああ、ごめんなさい。私がごちゃごちゃにしてたかな?
     
    ShinRai さんの独自の情報理論に実際の例をぶつけちゃったので混乱と言ったところでしょうか。

この質問への反応(ブックマークコメント)

「あの人に答えてほしい」「この質問はあの人が答えられそう」というときに、回答リクエストを送ってみてましょう。

これ以上回答リクエストを送信することはできません。制限について

絞り込み :
はてなココの「ともだち」を表示します。
回答リクエストを送信したユーザーはいません