数理でひもとくAI技術の深化 ボルツマンマシンとたどる最先端への道

構成数 : 1枚

1.はじめに
1.1 異なる目的と共通の数理モデル
1.1.1 ホップフィールドネットワーク
1.1.2 イジング模型
1.1.3 イジングマシン
1.1.4 ボルツマンマシン
1.1.5 注意
1.2 基本モデル
1.2.1 変数
1.2.2 パラメタ
1.2.3 機械学習モデルと物理モデル
1.3 本書の読み方

2.ホップフィールドネットワークと連想記憶
2.1 連想記憶
2.2 甘利・ホップフィールドネットワーク
2.2.1 ホップフィールドネットワークの構造
2.2.2 推論アルゴリズム
2.2.3 学習アルゴリズム
2.3 連想記憶ができる理由
2.3.1 なぜ想起できるのか?
2.3.2 なぜ記憶できるのか?
2.3.3 複数のパターンを記憶できることの確率的考察
2.4 一般化ホップフィールドネットワーク
2.4.1 稠密連想記憶装置
2.4.2 一般化ホップフィールドネットワーク
2.4.3 凹凸手続きの収束
2.5 注意機構
2.6 まとめ

3.イジング模型と相転移
3.1 レンツ・イジング模型
3.2 ボルツマン分布
3.2.1 熱力学第2法則
3.2.2 エントロピー
3.2.3 エントロピーの最大化
3.3 相転移
3.4 スピンの量子的性質
3.4.1 量子状態
3.4.2 パウリ行列とハミルトニアン
3.5 まとめ

4.イジングマシンと最適化
4.1 巡回セールスマン問題
4.1.1 計算量クラス
4.1.2 実用上の困難さ
4.2 イジングマシン
4.2.1 エネルギー関数
4.2.2 組合せ最適化問題に対するアプローチ
4.3 イジングマシンによるモデル化
4.3.1 エネルギー関数の設計
4.3.2 イジングマシンによるモデル化の注意点と限界
4.4 イジングマシンによる最適化
4.4.1 ギブスサンプリング
4.4.2 ギブスサンプリングの収束
4.4.3 シミュレーテッドアニーリング
4.5 量子アニーリング
4.6 まとめ

5.ボルツマンマシンと生成モデル
5.1 ボルツマンマシン
5.1.1 確率分布の学習の指針
5.1.2 勾配法による学習
5.1.3 確率的勾配による学習
5.1.4 ヘブ則との関係
5.2 確率の計算とサンプリング
5.3 スコアマッチングによるスコアモデルの学習
5.3.1 エネルギーモデルとスコアモデル
5.3.2 スコアマッチング
5.3.3 スライススコアマッチング
5.4 スコアモデルからのサンプル生成
5.4.1 ランジュバン動力学サンプリング
5.4.2 条件付き確率分布からのサンプリング
5.5 拡散モデル
5.5.1 拡散過程
5.5.2 時間を反転させた拡散過程
5.5.3 スコアモデルを用いた学習
5.5.4 等式(5.79) の確認
5.6 まとめ

引用・参考文献
索引