k近傍法（k-NN）とは？わかりやすく解説

k近傍法（k-NN）の基本的な考え方や仕組み、メリット・デメリットを初心者にも理解できるように、専門用語を避けて丁寧に解説します。機械学習の第一歩として最適なアルゴリズムです。

k近傍法（k-NN）とは何か？

k近傍法（ケイきんぼうほう、k-Nearest Neighbors、略してk-NN）は、機械学習の分野で使われる、最もシンプルで直感的なアルゴリズムの一つです。「k個の最も近いご近所さんを参考にして、新しいデータが何であるかを判断する」という考え方に基づいています。

例えるなら、あなたが新しい街に引っ越したとき、周りの家の人たちがどんな人たちかを見て、その地域の雰囲気を掴むのに似ています。もし、あなたの家の周りの家の人たちがみんな親切でフレンドリーなら、あなたも「この地域は住みやすそうだ」と感じるかもしれません。k近傍法は、これと似たようなことをデータの世界で行います。

主に、分類（データがどのグループに属するかを当てる）や回帰（データの数値を予測する）といった問題に使われます。特に、初めて機械学習に触れる方にとって、その考え方の基本を理解するのに適した手法と言えるでしょう。

k近傍法の仕組み：どのように仲間を見つけるのか？

k近傍法は、非常に単純なステップで成り立っています。

1. 「k」の数を決める：まず、「何人のご近所さんを参考にするか？」を決めます。この「何人」にあたるのが「k」の数です。例えば、k=3なら最も近い3つのデータを、k=5なら5つのデータを参考にします。このkの値をどう設定するかは、問題の種類やデータの状態によって変わってきます。
2. 「近傍（ご近所さん）」を見つける：次に、新しいデータと既存のデータそれぞれとの「距離」を計算します。この距離が短いほど、「ご近所さん」であると考えられます。距離の測り方にはいくつか種類がありますが、最も一般的なのは、私たちが普段使っているような直線距離（ユークリッド距離と呼ばれます）です。
3. 多数決で決める（分類の場合）：k個の「ご近所さん」が見つかったら、それらがどのグループに属しているかを見ます。そして、最も多くのご近所さんが属しているグループに、新しいデータも属すると判断します。まさに、多数決の原理です。例えば、k=5で、5人のご近所さんのうち3人が「リンゴ」グループ、2人が「ミカン」グループだったら、新しいデータは「リンゴ」グループだと判断します。
4. 平均値で決める（回帰の場合）：もし、グループ分けではなく数値を予測したい場合（例えば、家の広さから家賃を予測するなど）は、k個のご近所さんの数値の平均値を新しいデータの予測値とします。

このように、k近傍法は「似たものは近くに集まる」という直感的なアイデアに基づいた、非常にシンプルなアルゴリズムなのです。

k近傍法ができること

k近傍法は、そのシンプルさにもかかわらず、様々なことに応用できます。

• 分類問題:

  • 迷惑メールのフィルタリング: メールに含まれる単語などから、そのメールが迷惑メールか否かを判断する。周りのメールが迷惑メールであれば、新しいメールも迷惑メールの可能性が高いと判断します。
  • 画像認識: 手書きの文字がどの数字であるか、写真に写っているのが犬か猫かなどを判別する。似たような特徴を持つ画像が周りに多ければ、同じカテゴリに分類します。
  • 顧客の分類: 購買履歴や属性情報から、顧客をいくつかのグループに分類し、それぞれのグループに合ったマーケティング施策を行う。

• 回帰問題:

  • 株価予測: 過去の株価の動きや経済指標を基に、明日の株価を予測する。似たような状況だった過去の日の株価の平均値を参考にします。
  • 不動産価格の予測: 物件の広さ、築年数、立地などの情報から、その物件の価格を予測する。似たような条件の物件の価格帯を参考にします。

これらはほんの一例で、アイデア次第で様々な分野に応用することが可能です。

k近傍法のメリット・デメリット

どんな手法にも良い点と注意すべき点があります。k近傍法も例外ではありません。

メリット

• 理解しやすい: アルゴリズムの仕組みが非常にシンプルで直感的です。「近くのものを参考にする」という考え方は、専門的な知識がなくても理解しやすいでしょう。
• 実装が比較的簡単: 複雑な数式や計算が少ないため、プログラムとして実装するのも比較的容易です。
• 特別な仮定が不要: データの分布などについて、難しい仮定を置く必要がありません。そのため、様々な種類のデータに対して柔軟に適用できます。
• 学習フェーズが速い（あるいは無い）: 多くの機械学習アルゴリズムは、事前に大量のデータを使って「学習モデル」を構築するのに時間がかかります。しかし、k近傍法は、極端に言えば、予測するときに初めて計算を始めるため、事前の学習時間は非常に短いか、あるいはほとんど必要ありません。この特徴を「怠惰学習（レイジーラーニング）」と呼ぶこともあります。

デメリット

• 予測に時間がかかる場合がある: 事前の学習時間が短い代わりに、新しいデータを予測する際には、既存の全てのデータとの距離を計算する必要があります。そのため、データの量が多いと、予測に時間がかかってしまうことがあります。
• 適切な「k」の選択が重要: kの値をいくつにするかで、予測結果が変わってきます。小さすぎると、たまたま近くにあった特異なデータ（外れ値）の影響を受けやすくなり、大きすぎると、本来注目すべき細かい特徴を見逃してしまう可能性があります。適切なkの値を見つけるためには、試行錯誤が必要です。
• データの尺度の影響を受けやすい: 例えば、「身長（cm）」と「体重（kg）」のように単位が異なるデータや、値の範囲が大きく異なるデータがある場合、単純に距離を計算すると、値の大きなデータの影響を強く受けてしまうことがあります。そのため、事前にデータの尺度を揃える（スケーリングする）といった前処理が重要になることがあります。
• 次元の呪い: データの種類（特徴量や次元数と呼ばれます）が非常に多くなると、データ間の距離の差が分かりにくくなり、うまく「ご近所さん」を見つけられなくなることがあります。これを「次元の呪い」と呼び、高次元のデータに対しては性能が低下する傾向があります。
• メモリを多く消費する: 予測時に全ての既存データを参照する必要があるため、データ量が多い場合は多くのメモリを必要とします。

これらのメリットとデメリットを理解した上で、問題の性質やデータの特性に合わせてk近傍法を使うかどうかを判断することが大切です。

まとめ

今回は、k近傍法（k-NN）というアルゴリズムについて、その基本的な考え方と仕組み、何ができるのか、そしてメリットとデメリットを解説しました。

k近傍法は、「一番近い仲間を参考にすれば、新しいもののことも分かるはずだ」という、私たち人間が日常的に行っている判断に似た、非常に直感的で理解しやすい手法です。

もちろん、万能なアルゴリズムではありませんが、そのシンプルさゆえに、機械学習の世界への第一歩として学ぶには最適な手法の一つと言えるでしょう。この入門編を通して、k近傍法の魅力や面白さを少しでも感じていただけたなら幸いです。