いま確率密度比推定がアツい

最近、密度比推定の話を立て続けに観測したのでメモ。

上の記事にも出てくるけど、私は密度比推定のツールを作っているのでなんかうれしい。

世界中見てもここら辺のツール開発してるの私しかいないのね。

Putting MRFs on a Tensor Train 読んだ

Putting MRFs on a Tensor Train (ICML 2014) http://proceedings.mlr.press/v32/novikov14.pdf

マルコフ確率場(MRF)のパラメータ推定に使われる最尤訓練法では、分配関数の良い近似が必要とされる。 離散変数の正規化されていない同時分布をテンソル(多次元配列)とみなすと、分配関数はその要素の総和として求めることができる。 ただし、テンソルはそのままではメモリに載らないため、テンソル分解の1つであるテンソルトレイン(TT)形式を用いることで容量を削減する。 TT形式の要素の総和を直接的に求めると、TTランクが指数的に増加し、計算時間も増加する。 そこで、TTランクの低い因子(factor)の状態のままで分配関数の近似を計算するアルゴリズムを提案する。 このアルゴリズムにより求められた分配関数について、誤差の上限を理論的に証明し、既存手法より誤差が小さいことを実験により示した。

言葉

ぼくは二十歳だった。それがひとの一生でいちばん美しい年齢だなどとだれにも言わせまい。

ポール・ニザン『アデン・アラビア』より

ポール・ニザン著作集〈1〉アデン アラビア

ポール・ニザン著作集〈1〉アデン アラビア

言葉

どうしてこんなことになってしまったのだろう。 いくら考えあぐねても、『そうなってしまった』と言うほか答えはない。

本当にしんどい時に見るもの

https://anond.hatelabo.jp/20171226145739

私にもあるなーと思ったので書いてみる。

1. 火の鳥 鳳凰

火の鳥 4 鳳凰編 (角川文庫)

火の鳥 4 鳳凰編 (角川文庫)

運命について考えたいとき。

2. 天 最終巻

天?天和通りの快男児 17

天?天和通りの快男児 17

人生について考えたいとき。 原田が靴を脱いで庭に降りるシーンが好き。

3. さびしさの運用について

http://archive.fo/VJ2vQ

その中でまず気付いたことは「人はさびしいとおかしくなる」ということでした。 ひっくり返すと、人がおかしなことやってるときは、だいたいさびしいんだよな。

自分がおかしくなってるなーと思うたびにこの言葉を思い出す。

(ブログ記事なんだけど今見たら消えてた。アーカイブが残っていたので貼る)

最近のベイズ本まとめ

マンガでわかるベイズ統計学

マンガでわかるベイズ統計学

恋する統計学[ベイズ統計入門]

恋する統計学[ベイズ統計入門]

Rで楽しむベイズ統計入門[しくみから理解するベイズ推定の基礎]

Rで楽しむベイズ統計入門[しくみから理解するベイズ推定の基礎]

ベイズモデリングの世界

ベイズモデリングの世界

ベイズ推定入門 モデル選択からベイズ的最適化まで

ベイズ推定入門 モデル選択からベイズ的最適化まで

勾配ブースティング(Gradient Boosting) わかりやすい記事まとめ

1. 勾配ブースティングについてざっくりと説明する

smrmkt.hatenablog.jp

2. Gradient Boosting と XGBoost

Gradient Boosting と XGBoost | ZABURO app

3. 勾配ブースティング決定木を理解する

hiyoko9t.hatenadiary.jp