DFP法（Davidon-Fletcher-Powell法）の概要とアルゴリズム及びその実装例について
DFP法（Davidon-Fletcher-Powell法）の概要
DFP法（Davidon-Fletcher-Powell法）は、数値最適化の手法の一つで、特に非線形最適化問題に適した手法となる。この手法は、二次近似の...
最適化:Optimization
Pythonと機械学習(1)数学と基本的なアルゴリズム
Pythonと機械学習
概要
Pythonは、簡単に学べること、読みやすいコードを書けること、広範囲にわたるアプリケーションに使えることなどの、多くの優れた特徴を持つ汎用プログラミング言語となる。...
Broyden–Fletcher–Goldfarb–Shanno（BFGS）法について
Broyden–Fletcher–Goldfarb–Shanno（BFGS）法について
Broyden–Fletcher–Goldfarb–Shanno (BFGS) 法は、非線形最適化問題を解決するための数値最適化アル...
共役勾配法について
共役勾配法について
共役勾配法（Conjugate Gradient Method）は、連立線形方程式の解法や非線形最適化問題の解法に使用される数値計算アルゴリズムであり、共役勾配法は特に大規模な連立線形方程式の解法に効...
線形計画法の概要とアルゴリズム及び実装例について
線形計画法の概要
線形計画法（Linear Programming, LP）は、線形関数を最適化（最大化または最小化）する問題を解く数学的手法であり、多くの最適化問題に適用され、特に資源配分、スケジューリング、輸送計画など...
信頼性反復法 (Trust-Region Methods)法の概要とアルゴリズム及び実装例
信頼性反復法 (Trust-Region Methods)法の概要
信頼性反復法（Trust-Region Methods）は、非線形最適化問題を解くためのアルゴリズムの一つで、勾配降下法や"ニュートン法の概要とアルゴリ...
ペナルティ関数法の概要とアルゴリズム及び実装例
ペナルティ関数法の概要
ペナルティ関数法（Penalty Function Method）は、制約付き最適化問題を制約なし最適化問題に変換する手法で、これにより、既存の制約なし最適化アルゴリズム（例えば、勾配法や"ニュー...
NSGA-II(Non-dominated Sorting Genetic Algorithm II)の概要とアルゴリズム及び実装例
NSGA-II（Non-dominated Sorting Genetic Algorithm II）の概要
NSGA-II（Non-dominated Sorting Genetic Algorithm II）は、多目的...
ニュートン法での特異点への対処方法について
ニュートン法での特異点への対処方法について
"ニュートン法の概要とアルゴリズム及び実装について"でも述べているニュートン法は、非線形方程式の解を求めるための強力な手法だが、特異点（例: ヤコビ行列が特異または近似特異にな...
ニュートン法の導関数の計算における数値微分の代替手法について
ニュートン法の導関数の計算における数値微分の代替手法について
ニュートン法では、関数\(f(x)\)の根を求めるために導関数\(f'(x)\)を用いるが、解析的に導関数を求めるのが難しい場合や、関数が数値的にしか与えられ...