統計的学習の基礎 データマイニング・推論・予測

構成数 : 1枚

第1章 序章

第2章 教師あり学習の概要
2.1 導入
2.2 変数の種類と用語
2.3 予測のための二つの簡単なアプローチ:最小2乗法と最近傍法
2.3.1 線形モデルと最小2乗法
2.3.2 最近傍法
2.3.3 最小2 乗法から最近傍法へ
2.4 統計的決定理論
2.5 高次元での局所的手法
2.6 統計モデル,教師あり学習,関数近似
2.6.1 同時分布Pr(X,Y) のための統計モデル
2.6.2 教師あり学習
2.6.3 関数近似
2.7 構造化回帰モデル
2.7.1 なぜ問題が困難なのか
2.8 制限付き推定法
2.8.1 粗度に対する罰則とベイズ法
2.8.2 カーネル法と局所回帰
2.8.3 基底関数と辞書による方法
2.9 モデル選択と,バイアスと分散のトレードオフ

第3章 回帰のための線形手法
3.1 導入
3.2 線形回帰モデルと最小2乗法
3.2.1 例:前立腺癌
3.2.2 ガウス=マルコフ定理
3.2.3 単純な単回帰から重回帰へ
3.2.4 複数の目的変数
3.3 変数選択
3.3.1 最良変数組み合わせ選択
3.3.2 前向き/後向き漸次的選択法
3.3.3 前向き段階的回帰
3.3.4 例:前立腺癌(続き)
3.4 縮小推定
3.4.1 リッジ回帰
3.4.2 lasso
3.4.3 考察:部分集合選択,リッジ回帰,lasso
3.4.4 最小角回帰
3.5 入力に対して線形変換を行う方法
3.5.1 主成分回帰
3.5.2 部分最小2乗法
3.6 考察:選択法と縮小法の比較
3.7 複数の目的変数の縮小推定と変数選択
3.8 lasso と関連する解追跡アルゴリズムに関する詳細
3.8.1 逐次前向き段階的回帰
3.8.2 区分的線形解追跡アルゴリズム
3.8.3 ダンツィク選択器
3.8.4 グループlasso
3.8.5 lasso の性質について
3.8.6 総当たり座標最適化
3.9 計算上考慮すべき事柄

第4章 分類のための線形手法
4.1 導入
4.2 指示行列の線形回帰
4.3 線形判別分析
4.3.1 正則化判別分析
4.3.2 線形判別分析の計算
4.3.3 階数低減型線形判別分析
4.4 ロジスティック回帰
4.4.1 ロジスティック回帰モデルの当てはめ
4.4.2 例:南アフリカの心臓疾患データ
4.4.3 2 次近似と2 次推測
4.4.4 L1 正則化付きロジスティック回帰
4.4.5 ロジスティック回帰か線形判別分析か
4.5 分離超平面
4.5.1 ローゼンブラットのパーセプトロン学習アルゴリズム
4.5.2 最適分離超平面

第5章 基底展開と正則化
5.1 導入
5.2 区分的多項式とスプライン
5.2.1 3次自然スプライン
5.2.2 例:南アフリカの心臓疾患データ
5.2.3 例:音素認識
5.3 フィルタリングと特徴抽出
5.4 平滑化スプライン
5.4.1 自由度と平滑化行列
5.5 平滑化パラメータの自動選択
5.5.1 固定自由度
5.5.2 バイアスと分散のトレードオフ
5.6 ノンパラメトリックロジスティック回帰
5.7 多次元スプライン
5.8 正則化と再生核ヒルベルト空間
5.8.1 カーネルにより生成される関数空間
5.8.2 再生核ヒルベルト空間の例
5.9 ウェーブレット平滑化
5.9.1 ウェーブレット基底とウェーブレット変換
5.9.2 適応的ウェーブレットフィルタリング

第6章 カーネル平滑化法
6.1 1次元カーネル平滑化手法
6.1.1 局所線形回帰
6.1.2 局所多項式回帰
6.2 カーネル幅の選択
6.3 R^p における局所回帰
6.4 R^p における構造化局所回帰モデル
...