Large-Scaleデータ 大規模言語モデルのファインチューニングとRLHF(Reinforcement Learning from Human Feedback)
イントロダクション
大規模言語モデルのファインチューニングとは、事前に大規模なデータセットで訓練されたモデルに対して、追加の学習を行うもので、汎用性の高いモデルを特定のタスクやドメインに適用することを可能にし、精度や...
Large-Scaleデータ
Large-Scaleデータ Large-Scaleデータ Federated Learningの概要と各種アルゴリズム及び実装例について
Federated Learningについて
Federated Learning（フェデレーテッド ラーニング）は、機械学習モデルを訓練する新しいアプローチであり、データが分散している環境でのプライバシー保護や効率的...
Large-Scaleデータ 機械学習における並列分散処理
機械学習における並列分散処理
機械学習の学習処理は、大量のデータを扱うため、高速で並列分散処理が必要とされている。並列分散処理は、複数のコンピューターで処理を分散し、同時に複数の処理を行うことで、高速で処理を行うこと...
Clojure 保護中: Apache SparkとMLlibによる大規模な機械学習
デジタルトランスフォーメーション(DX)、人工知能(AI)、機械学習(ML)タスクに活用されるApache SparkとMLlibによる大規模な機械学習(予測値、RMSE、因子行列、ランク、潜在的特徴、近傍領域、二乗和誤差、Mahout、ALS、Scala、RDD、交互最小二乗法、alternating least squares、確率的勾配降下法、永続化、キャッシュ、Flambo、Clojure、Java)
Clojure 保護中: ClojureとHadoopを用いた確率的勾配降下法の実装
デジタルトランスフォーメーション(DX)、人工知能(AI)、機械学習(ML)タスクに活用されるClojureとHadoopを用いた確率的勾配降下法の実装(ミニバッチ、Mapper、Reducer、Parkour、Tesser、バッチ勾配降下、結合ステップ、パーティショニング、uberjar、Java、バッチ型勾配降下法、確率的勾配降下法、Hadoopクラスタ、Hadoop分散ファイルシステム、HDFS)
Clojure 保護中: Hadoopに用いられる分散計算処理(map-reduce)のClojureによる実装
デジタルトランスフォーメーション(DX)、人工知能(AI)、機械学習(ML)タスクに活用されるHadoopに用いられる分散計算処理(map-reduce)のClojureによる実装(Tesser、Reducer関数、fold、コスト関数、勾配降下法、特徴抽出、feature-scales 関数、特徴量のスケーリング、勾配降下学習率、勾配降下法更新ルール、反復アルゴリズム、重回帰、相関行列、fuse、可換性、線形回帰、共分散、Hadoop、pararrel fold)