python 疎密なデータでの機械学習とMoE(Mixture of Experts)
疎密なデータでの機械学習
疎な領域（データが少ない）と密な領域（データが多い）が混在するデータ集合に対して深層学習を行うと、以下のような現象や問題が起こりやすくなる。
1. バイアスが生じる（学習...
アルゴリズム:Algorithms
python python 非メトリックMDSの概要とアルゴリズム及び実装例
非メトリックMDS(Non-metric Multidimensional Scaling)の概要
非メトリックMDSは、データの類似性や非類似性（しばしば「順序データ」や「ランキング」として与えられる）を基に、データを...
python 残差結合について
残差結合について
残差結合（Residual Connection）は、深層学習ネットワークにおいて層を跨いで情報を直接伝達する手法の一つであり、この手法は、特に深いネットワークを訓練する際に発生する勾配消失や勾配爆発の...
python NSGA-III(Non-dominated Sorting Genetic Algorithm III)の概要とアルゴリズム及び実装例
NSGA-III(Non-dominated Sorting Genetic Algorithm III)の概要
NSGA-IIIは、多目的最適化(MOO: Multi-Objective Optimization)のため...
python パーソナライズドランキングの概要とアルゴリズム及び実装例
パーソナライズドランキングの概要
パーソナライズドランキングは、ユーザーごとに最適な順位でアイテムを提供するランキングの手法で、一般的なランキングシステムでは、全ユーザーに対して同じ順位でアイテムを提示するが、パーソナライ...
python Soft Targetによるモデルの蒸留の概要とアルゴリズム及び実装例について
Soft Targetによるモデルの蒸留の概要
ソフトターゲット（Soft Target）によるモデルの蒸留は、大規模で計算資源の高い教師モデルの知識を、小規模で効率的な生徒モデルに伝達する手法となる。通常、ソフトターゲ...
アルゴリズム:Algorithms 機械学習における過学習への対応方法
機械学習における過学習への対応方法
過学習（Overfitting）は、機械学習モデルが訓練データに過度に適合し、新しいデータに対して汎化性能が低下する現象であり、この過学習を防ぐために、以下の方法を試すことができる。
...
python OpenPoseの概要とアルゴリズム及び実装例
OpenPoseの概要
OpenPoseは、カーネギーメロン大学のペルソナ・コンピュータ・センター（Perceptual Computing Lab）によって開発された、リアルタイムで人間の姿勢を検出するライブラリで...
python ニューラルランキングモデルの概要とアルゴリズム及び実装例
ニューラルランキングモデルの概要
ニューラルランキングモデルは、検索エンジンや推薦システムなどで利用される機械学習モデルの一種であり、主な目的は、与えられたクエリやユーザーの情報に基づいて、最適な順位でアイテム（例えばウェ...
LISP 一般問題解決器と適用事例、LISPとPythonによる実装例
一般問題解決器について
一般的な問題解決器は、さまざまな種類の問題を解決するためのソフトウェアまたはアルゴリズムのことを指す名称となる。これらの問題解決器は、様々な分野で使用され、人間が直接解決するのが難しい...