本ページでは、機械学習におけるグリッドサーチとは何かについてまとめたい。グリッドサーチとは、一言で言えば、機械学習におけるハイパーパラメータをチューニングする（調節する）ための手法である。 グリッドサーチは、モデルを評価するための手法である…

RAG(Retrieval Augmented Generation)について。 RAGは、LLM(Large Language Model,大規模言語モデル)の回答の質を高めるために用いられるフレームワークである。 LLMの問題点 LLMは、ユーザからの質問(プロンプト)に対して回答を提示するが、時に合理的に聞…

本ページでは、サポートベクターマシン（SVM）とは何かについてまとめたい。サポートベクターマシンとは、機械学習の機械学習の中でも教師あり学習に分類される手法である。データ群を２つのクラスに分割するような境界（線・超平面）を見つけるアルゴリズム…

本ページでは、K近傍法とは何かについてまとめたい。K近傍法（KNNとも呼ばれる）とは、機械学習のアルゴリズムの一つであり、「教師あり学習」に分類される。 総務省の定義によると、K近傍法とは「分類に使われる手法の一つで、与えられた学習データと入力デ…

本ページでは、機械学習における過学習の問題とその対処法についてまとめたい。 教師付き学習 機械学習には、大きく分けて「教師付き学習」「教師なし学習」がある。このうち、教師付き学習は、総務省の定義によれば、「特徴を表す情報と正解を表す情報がセ…

本ページでは、機械学習における教師なし学習とは何かについてまとめたい。 教師なし学習とは、教師付き学習と対になる概念である。教師あり学習は、総務省の定義によれば、「特徴を表す情報と正解を表す情報がセットになった状態のデータを用いてコンピュー…

本ページでは、ナイーブベイズ法とは何かについてまとめたい。ナイーブベイズ法とは、一言で言えば、ベイズの定理を用いてデータを分類する機械学習の一手法である。 ベイズの定理 まず、ベイズの定理は以下のように表される。 P(A|B)はBが発生したという条…

本ページでは、機械学習における正則化とは何かについてまとめたい。正則化は、機械学習における過学習を防ぐための手法の一つである。 過学習とは 学習を行う際、過学習と呼ばれる問題に留意する必要がある。過学習とは、総務省の定義によれば、「教師デー…

本ページでは、機械学習におけるランダムフォレストという手法の概要についてまとめたい。ランダムフォレストとは、アンサンブル学習の一つであり、多数の決定木を用いて分類や回帰等を行うアルゴリズムである。 決定木については以下のページで説明している…

本ページでは、機械学習における決定木と呼ばれる分析手法についてまとめたい。決定木は、データを分類する手法の一つで、樹形図の形で視覚的に分類結果を出力することができる。 以下、カイ二乗値を用いて分類を行うCHAIDと呼ばれる手法に基づいて、数値例…

本ページでは、主成分分析とは何かについてまとめたい。 まず、具体例として、国語、算数、理科、社会の4科目による学力テストを考える。 それぞれと科目の点数による評価の他に、この4科目を基に「総合的な学力」による評価ができないか考えてみる。具体的…

本ページでは、クラスター分析とは何かについてまとめたい。 クラスター分析とは、総務省の定義によれば、「様々な性質をもつデータが大量に集まった中から、特徴が似ているデータを集めていくつかのグループに分類し、データの特性や共通項を把握したり、大…

本ページでは、機械学習における教師あり学習とは何かについてまとめたい。 総務省の定義によれば、機械学習とは「コンピュータがデータを読み込むことで自動的にルールやパターンを見出し、その結果を活かして分類や予測を行う仕組み全体のこと」とされてい…