本書は機械学習をテーマとしているが、特に統計学と最適化を基礎におく理論と手法について説明。ここで説明する手法はデータマイニングにおいてもしばしば利用されている。具体的には、教師データを用いた線形モデルによる分類や回帰、およびその発展形としてサポートベクターマシン、さらに1データごとの処理によって学習を行うオンライン学習を説明。次に教師データを用いないクラスタリング、および潜在変数がある場合の代表的な学習手法であるEMアルゴリズムについて説明。最後に解析的な処理が難しい場合に用いることが多いMarkov連鎖Monte Carlo法を紹介。