Bregman 情報量を損失としたベイズリスクに関する考察
第35回情報理論とその応用シンポジウム予稿集 (SITA2012), pp. 263–268
著者:
- 池田 思朗
- 竹内 純一
キーワード:
- ベイズリスク
- 通信路容量
- 無限次元最適化
Abstract:
通信路の確率モデルと入力に関する制約が与えられたとすると,通信路容量は入力と出力との間の相互情報量の上限として定義される.一方で,通信路容量はKL情報量を損失とするベイズリスクのmax-min問題の最適値として定義することもできる.本稿では.KL情報量をBregman情報量に置き換えたベイズリスクを定義し,そのmax-min問題を考える.スカラー通信路の通信路容量を達成する入力分布が連続分布となるのはAWGNに対して入力の平均パワーを制約した場合であり,そのときの最適な入力分布は正規分布となる.他の通信路,そして入力に関する制約に対しては,最適な入力分布が離散分布となることが多い.KL情報量をBregman情報量に置き換えた場合も同様の結果が得られた.