保護中: サポートベクトルマシン – 概要
アルゴリズム:Algorithms
アルゴリズム:Algorithms
アルゴリズム:Algorithms
アルゴリズム:Algorithms"機械仕掛けの神"の創り方
アルゴリズム:Algorithms
タイトルとURLをコピーしました
アルゴリズム:Algorithms
コメント
[…] これに対して機械学習の領域では、計算の効率化や最適化アルゴリズムなどを統計理論に取り入れることで、大規模データへの適応を目指して発展してきた。例としては、機械学習の初期の大きな成功であるサポートベクトルマシンや、近年爆発的に発展している高次元スパース学習、そして従来の統計的パターン認識の限界を大きく超え、人間に劣らない認識能力を発達しつつある深層学習等がある。 […]
[…] このスパースモデリングは、現代の機械学習のブレークスルーとして、深層学習、カーネル法に並ぶものとして挙げられている。 […]
[…] サポートベクターマシン サポートベクターマシン(SVM)は、分類や回帰などのタスクに使用される教師付き学習法となる(Cristianini and Shawe-Taylor 2000)。基本的なSVMは、非確率的な二値線形分類器になる。しかし，カーネル関数を利用することで，非線形分類も効率的に行うことができる。これにより、SVMの入力を高次元特徴空間に暗黙のうちに変換またはマッピングし、元々線形非分離であったデータを特徴空間で（おそらく）分離しやすくすることができる(Boser et al. 1992; Vapnik 2000)。SVMはいくつかのマッチングアプローチで分類器として用いられている(Ehrig et al. 2005; Spiliopoulos et al. 2010; Tournaire et al. 2011)。 トレーニングインスタンスは、一致するものと一致しないものの2つのカテゴリに分かれている。SVMはこれらに基づいて，高次元空間，すなわち(w,b)に最大分離超平面を構築する。ここで，wは重みベクトル，bはバイアスを表す。決定関数は f (x) = w × x + b であり、マージンまたは最も近いデータポイント間の距離が最大となる（これはソフト的にも可能であり、すなわちノイズや誤った例を考慮することで可能となる(Cortes and Vapnik 1995)）。カーネルを用いた超平面決定関数は以下のように表される。 […]
[…] あるいは、lasso回帰と並んで有名なサーポートベクトルマシン(支持ベクトル学習器)という分類器では、各標本に対して係数α1,…,αNを割り当て、それに矩形製薬という制約をつけて2次計画問題を解くことで、標本にわたるスパース性を実現している。すなわち、2値分類の分類面に遠く、分類の決定に直接寄与しない標本の重みはゼロになる。(上図の(2) […]
[…] サーポートベクトルマシン(1) 概要 […]
[…] 機械学習プロフェッショナルシリーズ「サポートベクトルマシン」より。前回はサポートベクトルマシンの概要について述べた。今回はサポートベクトルマシンの多クラス分類への適用について述べる。 […]