クラスター分析
クラスター分析の結果は、四角形を3つのクラスターに色分けして表示されています。

クラスター分析（またはクラスタリング）は、一連のオブジェクトをグループに分割することを目的としたデータ分析手法です。このグループ（クラスターと呼ばれる）内のオブジェクトは、他のグループ（クラスター）内のオブジェクトよりも（分析者が定義する特定の意味で）互いに高い類似性を示します。これは探索的データ分析の主要なタスクであり、統計データ分析の一般的な手法であり、パターン認識、画像分析、情報検索、バイオインフォマティクス、データ圧縮、コンピュータグラフィックス、機械学習など、多くの分野で使用されています。

クラスター分析は、特定の 1 つのアルゴリズムではなく、一群のアルゴリズムおよびタスクを指します。これは、クラスターを構成するものについての理解とそれを効率的に見つける方法が大きく異なるさまざまなアルゴリズムによって実現できます。クラスターの一般的な概念には、クラスター メンバー間の距離が短いグループ、データ空間の密な領域、間隔、または特定の統計分布などがあります。したがって、クラスタリングは、多目的最適化問題として定式化できます。適切なクラスタリング アルゴリズムとパラメーター設定 (使用する距離関数、密度しきい値、予想されるクラスターの数などのパラメーターを含む) は、個々のデータ セットと結果の使用目的によって異なります。クラスター分析自体は自動タスクではなく、試行錯誤を伴う知識発見または対話型多目的最適化の反復プロセスです。結果が目的の特性を達成するまで、 データの前処理とモデル パラメーターを変更する必要があることがよくあります。

クラスタリングという用語以外にも、自動分類、数値分類、植物学（ギリシャ語：βότρυς 「ブドウ」に由来）、類型分析、コミュニティ検出など、似た意味を持つ用語が数多く存在します。これらの用語の微妙な違いは、結果の用途に現れることが多いです。データマイニングでは、結果として得られるグループが重要なのに対し、自動分類では、結果として得られる識別力が重要なのです。

クラスター分析は、1932年にドライバーとクローバーによって人類学で始められ[ 1 ] 、 1938年にジョセフ・ズービン[ 2 ]と1939年にロバート・トライオン[ 3 ]によって心理学に導入され、 1943年からキャッテルによって性格心理学の特性理論の分類に使用されたことで有名になりました[ 4 ]。

意味

「クラスター」という概念は明確に定義できないため、クラスタリングアルゴリズムが数多く存在する理由の一つとなっています。[ 5 ]共通項は、データオブジェクトの集合体です。しかし、研究者によってクラスターモデルは異なり、それぞれのクラスターモデルに対して異なるアルゴリズムが提示されることがあります。異なるアルゴリズムによって発見されるクラスターの概念は、その特性が大きく異なります。これらの「クラスターモデル」を理解することは、様々なアルゴリズムの違いを理解する鍵となります。代表的なクラスターモデルには、以下のものがあります。

  • 接続性モデル:たとえば、階層的クラスタリングは距離の接続性に基づいてモデルを構築します。
  • 重心モデル:たとえば、k-means アルゴリズムは各クラスターを単一の平均ベクトルで表します。
  • 分布モデル:期待最大化アルゴリズムで使用される多変量正規分布などの統計分布を使用してモデル化されます。
  • 密度モデル:たとえば、DBSCAN、OPTICS、HDBSCAN は、クラスターをデータ空間内の接続された密な領域として定義します。
  • サブスペース モデル:バイクラスタリング(共クラスタリングまたは 2 モード クラスタリングとも呼ばれます) では、クラスターはクラスター メンバーと関連属性の両方を使用してモデル化されます。
  • グループ モデル:一部のアルゴリズムでは、結果に対して洗練されたモデルが提供されず、グループ化情報のみが提供されます。
  • グラフベースモデル：クリーク、グラフ内のノードのサブセットで、そのサブセット内の2つのノードがそれぞれエッジで接続されているものは、クラスターの典型的な形態と見なすことができます。完全な接続要件を緩和したもの（エッジの一部が欠落していても構わない）は、HCSクラスタリングアルゴリズム。
  • 符号付きグラフモデル：符号付きグラフのすべてのパスは、辺の符号の積から得られる符号を持つ。バランス理論の仮定の下では、辺の符号が変化し、分岐したグラフになる可能性がある。より弱い「クラスタリング可能性公理」（どのサイクルにも負の辺が1つだけ存在しない）は、2つ以上のクラスター、つまり正の辺のみを持つサブグラフを生成する。[ 6 ]
  • ニューラル モデル:最もよく知られている教師なしニューラル ネットワーク自己組織化マップであり主成分分析または独立成分分析の形式を実装する場合はサブスペース モデルも含まれます。

「クラスタリング」とは、本質的にはそのようなクラスターの集合であり、通常はデータセット内のすべてのオブジェクトを含みます。さらに、クラスター間の関係性、例えば互いに埋め込まれたクラスターの階層構造などを指定することもあります。クラスタリングは、大まかに以下のように区別できます。

  • ハードクラスタリング: 各オブジェクトがクラスタに属するかどうか
  • ソフトクラスタリング（別名：ファジークラスタリング): 各オブジェクトは、ある程度各クラスターに属します（たとえば、クラスターに属する可能性）。

さらに細かい区別も可能です。たとえば、次のようになります。

  • 厳密なパーティショニングクラスタリング：各オブジェクトは正確に1つのクラスタに属します
  • 外れ値を含む厳密なパーティショニングクラスタリング：オブジェクトはどのクラスタにも属さないこともあり、その場合は外れ値
  • 重複クラスタリング（または、代替クラスタリング、マルチビュークラスタリング）：オブジェクトは複数のクラスタに属する可能性があり、通常はハードクラスタが含まれます。
  • 階層的クラスタリング: 子クラスタに属するオブジェクトは親クラスタにも属する
  • 部分空間クラスタリング：重複クラスタリングでは、一意に定義された部分空間内では、クラスタが重複することは期待されない。

アルゴリズム

上記のように、クラスタリングアルゴリズムはクラスタモデルに基づいて分類できます。公開されているクラスタリングアルゴリズムは100種類以上ある可能性があるため、以下の概要では、最も代表的なクラスタリングアルゴリズムのみを取り上げます。すべてのアルゴリズムがクラスタモデルを提供しているわけではないため、簡単に分類することはできません。Wikipediaで説明されているアルゴリズムの概要は、統計アルゴリズムの一覧をご覧ください。

客観的に「正しい」クラスタリングアルゴリズムは存在しませんが、「クラスタリングは見る人の目次第」と指摘されています。[ 5 ]実際、クラスタリングに対する公理的なアプローチは、いかなるクラスタリング手法も、スケール不変性（距離の比例スケーリングにおいて結果が変わらない）、リッチネス（データのあらゆる可能な分割を実現できる）、そして距離とクラスタリング構造の一貫性という3つの基本的な特性を同時に満たすことは不可能であることを示しています。 [ 7 ]特定の問題に最適なクラスタリングアルゴリズムは、あるクラスタモデルを他のクラスタモデルよりも優先する数学的理由がない限り、多くの場合、実験的に選択する必要があります。ある種類のモデル向けに設計されたアルゴリズムは、根本的に異なる種類のモデルを含むデータセットでは、一般的に機能しません。[ 5 ]例えば、k平均法は非凸クラスタを見つけることができません。[ 5 ]従来のクラスタリング手法のほとんどは、クラスタが球面、楕円形、または凸形状を示すと仮定しています。[ 8 ]

接続性ベースのクラスタリング（階層型クラスタリング）

連結性ベースのクラスタリング（階層的クラスタリングとも呼ばれる）は、オブジェクトは遠くにあるオブジェクトよりも近くにあるオブジェクトとより関連しているという基本的な考え方に基づいています。これらのアルゴリズムは、「オブジェクト」を距離に基づいて接続し、「クラスター」を形成します。クラスターは、主にクラスターの各部分を接続するために必要な最大距離によって説明できます。異なる距離では異なるクラスターが形成され、それらはデンドログラムを使用して表すことができます。これが「階層的クラスタリング」という一般名の由来です。これらのアルゴリズムは、データセットを単一のパーティションに分割するのではなく、特定の距離で互いに融合するクラスターの広範な階層を提供します。デンドログラムでは、y軸はクラスターが融合する距離を示し、オブジェクトはクラスターが混ざらないようにx軸に沿って配置されます。

連結性に基づくクラスタリングは、距離の計算方法が異なる一連の手法です。通常の距離関数の選択に加えて、ユーザーは使用する連結基準（クラスターは複数のオブジェクトで構成されるため、距離を計算するための候補は複数存在する）も決定する必要があります。一般的な選択肢としては、単一連結クラスタリング（オブジェクト間の距離の最小値）、完全連結クラスタリング（オブジェクト間の距離の最大値）、UPGMAまたはWPGMA（「加重平均を用いた重み付けなしまたは加重ペアグループ法」、平均連結クラスタリングとも呼ばれる）が挙げられます。さらに、階層的クラスタリングは、凝集型（単一の要素から開始し、それらをクラスターに集約する）または分割型（データセット全体から開始し、それをパーティションに分割する）のいずれかです。

これらの手法はデータセットを一意に分割するのではなく、ユーザーが適切なクラスターを選択できる階層構造を生成します。外れ値に対してはそれほど堅牢ではなく、外れ値は追加のクラスターとして現れたり、他のクラスターの結合を引き起こしたりすることもあります（特にシングルリンククラスタリングでは「連鎖現象」として知られています）。一般的なケースでは、複雑性は凝集型クラスタリングと分割型クラスタリングのどちらかであり、[ 9 ]大規模なデータセットでは処理が遅くなります。特殊なケースでは、最適かつ効率的な手法（複雑性は）が知られています。シングルリンククラスタリングの場合はSLINK [ 10 ] 、完全リンククラスタリングの場合は CLINK [ 11 ]です。お（n3）{\displaystyle {\mathcal {O}}(n^{3})}お（2n−1）{\displaystyle {\mathcal {O}}(2^{n-1})}お（n2）{\displaystyle {\mathcal {O}}(n^{2})}

  • 連鎖クラスタリングの例
  • ガウス分布データにおける単一リンク。クラスター数が35になると、最大のクラスターは小さな部分に細分化し始めますが、それ以前は単一リンク効果により2番目に大きいクラスターとまだつながっていました。
    ガウス分布データにおける単一リンク。クラスター数が35になると、最大のクラスターは小さな部分に細分化し始めますが、それ以前は単一リンク効果により2番目に大きいクラスターとまだつながっていました。
  • 密度ベースのクラスター上の単一リンク。リンク クラスタリングには「ノイズ」の概念がないため、20 個のクラスターが抽出されましたが、そのほとんどには単一の要素が含まれています。
    密度ベースのクラスター上の単一リンク。リンク クラスタリングには「ノイズ」の概念がないため、20 個のクラスターが抽出されましたが、そのほとんどには単一の要素が含まれています。

重心ベースのクラスタリング

重心ベースのクラスタリングでは、各クラスタは中心ベクトルで表されますが、この中心ベクトルは必ずしもデータセットのメンバーではありません。クラスタ数がkに固定されている場合、k平均法クラスタリングは最適化問題として正式に定義されます。つまり、 k個のクラスタ中心を見つけ、クラスタからの距離の二乗が最小になるように、オブジェクトを最も近いクラスタ中心に割り当てます。

最適化問題自体はNP 困難であることが知られているため、一般的なアプローチでは近似解のみを探索します。特に有名な近似法はロイドのアルゴリズムで、[ 12 ]単に「 k 平均法アルゴリズム」と呼ばれることもあります(ただし、この名前を導入したアルゴリズムは他にもあります)。ただし、このアルゴリズムでは局所最適値のみが見つかるだけなので、異なるランダム初期化で複数回実行されるのが一般的です。k平均法のバリエーションには、複数回実行して最良のものを選択するなどの最適化が含まれることがよくありますが、その他にも、重心をデータ セットのメンバーに制限する ( k -medoids )、中央値を選択する( k -medians clustering )、初期中心をそれほどランダムに選択しない ( k -means++ )、またはあいまいなクラスター割り当てを許可する ( fuzzy c-means ) などの最適化も含まれています。

ほとんどのk平均法型アルゴリズムでは、クラスターの数（k）を事前に指定する必要があり、これがこれらのアルゴリズムの最大の欠点の一つと考えられています。さらに、これらのアルゴリズムは、常に最も近い重心にオブジェクトを割り当てるため、ほぼ同じサイズのクラスターを優先します。その結果、クラスターの境界が不適切に切断されることがよくあります。これは主に、アルゴリズムがクラスターの境界ではなくクラスターの中心を最適化するためです。重心ベースのクラスタリングアルゴリズムに含まれる手順は以下のとおりです。

  1. k個の異なるクラスターをランダムに選択します。これらが改善対象となる初期の重心です。
  2. 観測値の集合( x 1 , x 2 , ..., x n )を仮定します。各観測値を、その観測値から最小の二乗ユークリッド距離を持つ重心に割り当てます。これにより、それぞれが一意の観測値を含むk個の異なるグループが生成されます。
  3. 重心を再計算します ( k平均法クラスタリングを参照)。
  4. 新しい重心が前回の反復の重心と等しい場合のみ終了します。そうでない場合は、重心がまだ収束していないため、アルゴリズムを繰り返します。

K平均法には、興味深い理論的特性がいくつかあります。まず、データ空間をボロノイ図と呼ばれる構造に分割します。次に、概念的には最近傍分類に近いため、機械学習でよく用いられます。さらに、K平均法はモデルベースクラスタリングの一種と見なすことができ、ロイドのアルゴリズムは、後述するこのモデルにおける 期待値最大化アルゴリズムの一種と見なすことができます。

  • k平均法クラスタリングの例
  • k-means はデータを Voronoi セルに分割し、クラスターのサイズが等しいと想定します (ここでは適切ではありません)。
    k平均法はデータを Voronoi セルに分割し、同じサイズのクラスター (ここでは適切ではありません) を想定します。
  • k-means は密度ベースのクラスターを表すことができません。
    k平均法では密度ベースのクラスターを表すことはできません。

k平均法やkメドイド法といった重心ベースのクラスタリング問題は、オペレーションズ・リサーチや計算幾何学の分野では標準的な問題である、容量制限のない計量施設配置問題の特殊なケースです。基本的な施設配置問題（より複雑な設定をモデル化する多くのバリエーションがあります）では、与えられた消費者集団に最適なサービスを提供するために最適な倉庫の場所を見つけることが課題となります。「倉庫」をクラスターの重心、「消費者の場所」をクラスター化の対象となるデータと見なすことができます。これにより、施設配置に関する文献で提示されている高度なアルゴリズムによるソリューションを、現在検討されている重心ベースのクラスタリング問題に適用することが可能になります。

モデルベースクラスタリング

統計学に最も関連性の高いクラスタリングフレームワークは、分布モデルに基づくモデルベースクラスタリングです。このアプローチは、データが複数の確率分布の混合から生じるものとしてモデル化します。このアプローチの利点は、クラスターの数、使用するクラスタリング手法またはモデル、外れ値をどのように検出して処理するかといった疑問に対して、原理に基づいた統計的回答を提供できることです。

これらの手法の理論的基盤は優れているものの、モデルの複雑さに制約が課されない限り、過学習の問題が生じます。より複雑なモデルは通常、データをより適切に説明できるため、適切なモデルの複雑さを選択することは本質的に困難です。標準的なモデルベースクラスタリング手法には、共分散行列の固有値分解に基づく、より簡潔なモデルが含まれており、過学習とデータへの忠実性のバランスが取れています。

代表的な手法の一つに、ガウス混合モデル（期待最大化アルゴリズムを使用）があります。この手法では、データセットは通常、過剰適合を避けるため、ランダムに初期化された固定数のガウス分布を用いてモデル化されます。これらの分布のパラメータは、データセットへの適合性を高めるために反復的に最適化されます。この手法は局所最適値に収束するため、複数回実行すると異なる結果が生じる可能性があります。ハードクラスタリングを実現するために、オブジェクトは多くの場合、最も属する可能性の高いガウス分布に割り当てられますが、ソフトクラスタリングではこれは必要ありません。

分布ベースのクラスタリングは、属性間の相関と依存関係を捉えることができる複雑なクラスターモデルを生成します。しかし、これらのアルゴリズムはユーザーに余分な負担をかけます。多くの実際のデータセットでは、簡潔に定義された数学モデルが存在しない場合があります（例えば、ガウス分布を仮定することは、データに関してかなり強い仮定です）。

  • ガウス混合モデルクラスタリングの例
  • ガウス分布データでは、EM はクラスターのモデリングにガウス分布を使用するため、うまく機能します。
    ガウス分布データでは、EM はクラスターのモデリングにガウス分布を使用するため、うまく機能します。
  • 密度ベースのクラスターは、ガウス分布を使用してモデル化することはできません。
    密度ベースのクラスターは、ガウス分布を使用してモデル化することはできません。

密度ベースのクラスタリング

密度ベースクラスタリング[ 13 ]では、クラスターはデータセットの残りの部分よりも密度の高い領域として定義されます。クラスターを分離するために必要な疎な領域内のオブジェクトは、通常、ノイズや境界点と見なされます。

最も普及している[ 14 ]密度ベースクラスタリング手法はDBSCANです[ 15 ]。多くの新しい手法とは対照的に、DBSCANは「密度到達可能性」と呼ばれる明確に定義されたクラスターモデルを備えています。リンクベースクラスタリングと同様に、一定の距離閾値内の点を連結することをベースとしています。しかし、DBSCANは密度基準を満たす点のみを連結します。密度基準は、元々の手法では、この半径内に他のオブジェクトの最小数として定義されていました。クラスターは、密度連結されたすべてのオブジェクト（他の多くの手法とは異なり、任意の形状のクラスターを形成できます）と、これらのオブジェクトの範囲内にあるすべてのオブジェクトで構成されます。DBSCANのもう一つの興味深い特性は、その複雑さがかなり低いことです。データベースに対する範囲クエリの回数は線形であり、毎回の実行で基本的に同じ結果が得られます（コアポイントとノイズポイントについては決定論的ですが、境界ポイントについては決定論的ではありません）。そのため、複数回実行する必要はありません。OPTICS [ 16 ]はDBSCANの一般化であり、範囲パラメータに適切な値を選択する必要がなくなり、リンククラスタリングに関連する階層的な結果を生成します。DeLi-Clu [ 17 ]のDensity-Link-Clusteringは、シングルリンククラスタリングとOPTICSのアイデアを組み合わせ、パラメータを完全に排除し、 Rツリーインデックスを使用することでOPTICSよりもパフォーマンスが向上しています。HDBSCAN [ 18 ]は、DBSCANを階層型クラスタリングアルゴリズムに変換し、クラスターの安定性に基づいてフラットクラスタリングを抽出する手法を使用して拡張します。 ε{\displaystyle \varepsilon }ε{\displaystyle \varepsilon }

DBSCANとOPTICSの主な欠点は、クラスター境界を検出するために何らかの密度低下を想定することです。例えば、人工データでよく見られる重なり合うガウス分布を持つデータセットでは、クラスター密度が連続的に減少するため、これらのアルゴリズムによって生成されるクラスター境界はしばしば恣意的に見えます。ガウス分布の混合からなるデータセットでは、これらのアルゴリズムは、この種のデータを正確にモデル化できるEMクラスタリングなどの手法よりもほぼ常に優れた性能を示します。

平均シフト法は、カーネル密度推定に基づいて、各オブジェクトを近傍の最も密度の高い領域に移動させるクラスタリング手法です。最終的に、オブジェクトは密度の局所的最大値に収束します。k-meansクラスタリングと同様に、これらの「密度アトラクター」はデータセットの代表として機能しますが、平均シフト法はDBSCANと同様に任意の形状のクラスターを検出できます。反復処理と密度推定にコストがかかるため、平均シフト法は通常、DBSCANやk-meansよりも遅くなります。さらに、カーネル密度推定の不均一な挙動がクラスターの末端の過剰な断片化につながるため、平均シフト法の多次元データへの適用は困難です。[ 17 ]

  • 密度ベースクラスタリングの例
  • DBSCANによる密度ベースクラスタリング
    DBSCANによる密度ベースクラスタリング
  • DBSCAN は同様の密度のクラスターを想定するため、近くのクラスターを分離する際に問題が発生する可能性があります。
    DBSCAN は同様の密度のクラスターを想定するため、近くのクラスターを分離する際に問題が発生する可能性があります。
  • OPTICS は DBSCAN のバリアントであり、異なる密度のクラスターの処理を改善します。
    OPTICS は DBSCAN のバリアントであり、異なる密度のクラスターの処理を改善します。

グリッドベースのクラスタリング

グリッドベースの手法は、多次元データセットに用いられます。[ 19 ]この手法では、グリッド構造を作成し、比較はグリッド（セルとも呼ばれます）上で行われます。グリッドベースの手法は高速で、計算量も少なくて済みます。グリッドベースのクラスタリング手法には、STINGとCLIQUEの2種類があります。グリッドベースのクラスタリングアルゴリズムの手順は以下のとおりです。

  1. データ空間を有限の数のセルに分割します。
  2. セル 'c' をランダムに選択します。ただし、c は事前に走査しないでください。
  3. 'c'の密度を計算する
  4. 'c'の密度が閾値密度より大きい場合
    1. セル「c」を新しいクラスターとしてマークします
    2. 'c'のすべての近傍の密度を計算する
    3. 隣接セルの密度が閾値密度より大きい場合は、そのセルをクラスターに追加し、閾値密度より大きい密度を持つ隣接セルがなくなるまで手順 4.2 と 4.3 を繰り返します。
  5. すべてのセルを通過するまで手順 2、3、4 を繰り返します。
  6. 停止。

最近の動向

近年、既存のアルゴリズムの性能向上に多大な努力が払われてきました。[ 20 ] [ 21 ]その中にはCLARANS、[ 22 ]、BIRCH [ 23 ]などがあります。近年、ますます大規模なデータセット（ビッグデータとも呼ばれる）を処理する必要性が高まっているため、生成されたクラスターの意味を性能と引き換えにする傾向が高まっています。この傾向は、巨大なデータセットを効率的に処理できるキャノピークラスタリングなどの事前クラスタリング手法の開発につながりましたが、結果として得られる「クラスター」は、k-meansクラスタリングなどの既存の低速な手法でパーティションを分析するための、データセットの大まかな事前パーティションに過ぎません。

高次元データの場合、既存の手法の多くは次元の呪いによって失敗します。この呪いは、高次元空間では特定の距離関数に問題を引き起こすからです。このため、高次元データ用の新しいクラスタリングアルゴリズムが生まれました。これらのアルゴリズムは、サブスペースクラスタリング（一部の属性のみが使用され、クラスターモデルにはクラスターの関連属性が含まれます）と相関クラスタリング（属性間の相関を与えることでモデル化できる、任意の回転（「相関」）サブスペースクラスターも探す）に焦点を当てています。 [ 24 ]このようなクラスタリングアルゴリズムの例としては、CLIQUE [ 25 ]とSUBCLU [ 26 ]があります。

密度ベースのクラスタリング手法（特にDBSCAN/OPTICSアルゴリズムファミリー）のアイデアは、サブスペースクラスタリング（HiSC、[ 27 ]階層的サブスペースクラスタリング、DiSH [ 28 ]）と相関クラスタリング（HiCO、[ 29 ]階層的相関クラスタリング、4C [ 30 ]「相関接続性」の使用、ERiC [ 31 ]階層的密度ベースの相関クラスターの調査）に適応されてきました。

相互情報量に基づく様々なクラスタリングシステムが提案されている。その一つは、マリーナ・メイラの情報量尺度の変種である[ 32 ] 。もう一つは階層的クラスタリングを提供するものである[ 33 ]。遺伝的アルゴリズムを用いることで、相互情報量を含む様々な適合関数を最適化することができる[ 34 ] 。また、コンピュータサイエンスと統計物理学における最近の発展であるビリーフプロパゲーションは、新しいタイプのクラスタリングアルゴリズムの創出につながっている[ 35 ] 。

評価と査定

クラスタリング結果の評価（または「検証」）は、クラスタリング自体と同じくらい難しい。[ 36 ]一般的なアプローチには、クラスタリングを単一の品質スコアにまとめる「内部」評価、クラスタリングを既存の「グラウンドトゥルース」分類と比較する「外部」評価、人間の専門家による「手動」評価、および意図されたアプリケーションでのクラスタリングの有用性を評価する「間接」評価がある。 [ 37 ]

内部評価尺度は、それ自体がクラスタリングの目的関数とみなせる関数を表すという問題を抱えています。例えば、シルエット係数を用いてデータセットをクラスタリングすることは可能ですが、これを効率的に行うアルゴリズムは知られていません。このような内部評価尺度を評価に用いると、最適化問題の類似性を比較することになり、[ 37 ]、必ずしもクラスタリングの有用性を比較するわけではありません。

外部評価にも同様の問題がある。このような「グラウンドトゥルース」ラベルがあればクラスタリングは不要であり、実際のアプリケーションでは通常そのようなラベルは存在しない。一方、ラベルはデータセットの可能な分割方法の一つを反映しているに過ぎず、異なる、あるいはより優れたクラスタリングが存在しないことを意味するわけではない。

したがって、どちらのアプローチもクラスタリングの実際の品質を最終的に判断することはできませんが、そのためには人間による評価が必要であり[ 37 ] 、これは非常に主観的です。しかしながら、このような統計は、質の低いクラスタリングを特定する上で非常に有益であり[ 38 ]、主観的な人間による評価を無視すべきではありません[ 38 ] 。

内部評価

クラスタリング結果がクラスタリングされたデータ自体に基づいて評価される場合、これは内部評価と呼ばれます。これらの手法では通常、クラスター内の類似性が高く、クラスター間の類似性が低いクラスターを生成するアルゴリズムに最高のスコアが割り当てられます。クラスター評価に内部基準を使用することの欠点の1つは、内部基準で高いスコアが得られても、必ずしも効果的な情報検索アプリケーションにつながるわけではないことです。[ 39 ]さらに、この評価は、同じクラスターモデルを使用するアルゴリズムに偏りが生じます。例えば、k-meansクラスタリングはオブジェクト間の距離を自然に最適化するため、距離に基づく内部基準は、結果として得られるクラスタリングを過大評価する可能性があります。

したがって、内部評価尺度は、あるアルゴリズムが他のアルゴリズムよりも優れたパフォーマンスを発揮する状況をある程度把握するのに最適ですが、これは、あるアルゴリズムが他のアルゴリズムよりも有効な結果を生成することを意味するものではありません。[ 5 ]このような指標によって測定される有効性は、データセットにこの種の構造が存在するという主張に依存します。データセットに根本的に異なるモデルのセットが含まれていたり、評価が根本的に異なる基準を測定したりする場合には、ある種のモデル用に設計されたアルゴリズムにはチャンスがありません。[ 5 ]たとえば、k-means クラスタリングでは凸クラスターしか見つけられず、多くの評価指標は凸クラスターを前提としています。非凸クラスターを含むデータセットでは、 k -meansの使用も、凸性を前提とする評価基準の使用も適切ではありません。

多くの内部評価尺度は、同じクラスター内のアイテムは異なるクラスター内のアイテムよりも類似しているはずだという直感に基づいています。[ 40 ]：115–121 例えば、内部基準に基づいてクラスタリングアルゴリズムの品質を評価するには、次の方法を使用できます。

デイヴィス・ボールディン指数

Davies –Bouldin 指数は次の式で計算できます。 ここで、 nはクラスターの数、はクラスター の重心、はクラスター内のすべての要素から重心までの平均距離、は重心との間の距離です。クラスター内距離が小さく (クラスター内類似度が高い)、クラスター間距離が大きい (クラスター間類似度が低い) クラスターを生成するアルゴリズムは Davies–Bouldin 指数が低くなるため、この基準に基づくと、 Davies–Bouldin 指数が最小のクラスターのコレクションを生成するクラスタリング アルゴリズムが最適なアルゴリズムであると見なされます。 DB＝1n∑私＝1n最大j≠私（σ私+σjd（c私、cj））{\displaystyle DB={\frac {1}{n}}\sum _{i=1}^{n}\max _{j\neq i}\left({\frac {\sigma _{i}+\sigma _{j}}{d(c_{i},c_{j})}}\right)}c私{\displaystyle c_{i}}私{\displaystyle i}σ私{\displaystyle \sigma _{i}}私{\displaystyle i}c私{\displaystyle c_{i}}d（c私、cj）{\displaystyle d(c_{i},c_{j})}c私{\displaystyle c_{i}}cj{\displaystyle c_{j}}

ダン指数

ダン指数は、密集したクラスターと十分に分離されたクラスターを識別することを目的としています。これは、最小クラスター間距離と最大クラスター内距離の比として定義されます。各クラスター区分について、ダン指数は次の式で計算されます。[ 41 ]

D＝分1≤私<j≤nd（私、j）最大1≤け≤nd′（け）、{\displaystyle D={\frac {\min _{1\leq i<j\leq n}d(i,j)}{\max _{1\leq k\leq n}d^{\prime }(k)}}\,,}

ここで、 d ( i , j ) はクラスターiとj間の距離を表し、d '( k ) はクラスターkのクラスター内距離を表します。2つのクラスター間のクラスター間距離d ( i , j ) は、クラスターの重心間の距離など、さまざまな距離尺度で表すことができます。同様に、クラスター内距離d '( k ) は、クラスターk内の任意の要素ペア間の最大距離など、さまざまな方法で測定できます 。内部基準は、クラスター内類似度が高く、クラスター間類似度が低いクラスターを探すため、ダン指数の高いクラスターを生成するアルゴリズムがより望ましいです。

シルエット係数

シルエット係数は、同じクラスター内の要素との平均距離と、他のクラスター内の要素との平均距離を対比する指標です。シルエット値の高いオブジェクトはクラスタリングが良好であるとみなされ、シルエット値が低いオブジェクトは外れ値である可能性があります。この指標はk平均法クラスタリングと相性が良く、最適なクラスター数を決定する際にも用いられます。[ 42 ]

クラスタリング曲線の下の領域（AUCC）

この行列は、オブジェクトのペアを考慮します。ペア間の距離をスコアリング関数とし、ペアが同じクラスターに属しているかどうかを考慮して、真陽性、真陰性、偽陰性、真陰性として定義されるパーティクルペアを算出します。この指標は、教師ありシナリオにおけるAUCと同じ特性を持ち、期待値は0.5であり、結果の視覚化が可能です[ 43 ]。

外部評価

外部評価では、既知のクラスラベルや外部ベンチマークなど、クラスタリングに使用されなかったデータに基づいてクラスタリングの結果が評価されます。このようなベンチマークは、事前に分類された項目のセットで構成されており、これらのセットは多くの場合（専門家の）人間によって作成されます。したがって、ベンチマークセットは評価のゴールドスタンダードと考えることができます。 [ 36 ]この種の評価方法は、クラスタリングが事前に決定されたベンチマーククラスにどれだけ近いかを測定します。しかし、クラスが内部構造を含む場合があり、存在する属性によってクラスターを分離できない場合や、クラスに異常が含まれる場合があるため、これが実際のデータに適しているのか、それとも事実に基づく真実を含む合成データセットにのみ適しているのかが最近議論されています。[ 44 ]さらに、知識発見の観点からは、既知の知識の再現が必ずしも意図した結果とは限りません。[ 44 ]メタ情報（クラスラベルなど）がクラスタリングプロセスで既に使用されている制約クラスタリングの特殊なシナリオでは、評価目的での情報の保持は重要になります。[ 45 ]

多くの指標は、分類タスクの評価に用いられる手法から派生したものである。単一のデータポイントにクラスが正しく割り当てられた回数（真陽性と呼ばれる）を数える代わりに、このようなペアカウント指標は、実際に同じクラスターに属するデータポイントの各ペアが、同じクラスターに属すると予測されるかどうかを評価します。[ 36 ]

内部評価と同様に、外部評価の尺度もいくつか存在する。[ 40 ]：125～129 例えば：

純度

純度とは、クラスターが単一のクラスをどの程度含むかを示す尺度である。[ 39 ]計算は次のように考えることができる。各クラスターについて、そのクラスター内で最も一般的なクラスのデータポイントの数を数える。次に、すべてのクラスターの合計を取り、データポイントの総数で割る。正式には、クラスターの集合とクラスの集合（どちらもデータポイントを分割する）が与えられた場合、純度は次のように定義できる。 M{\displaystyle M}D{\displaystyle D}北{\displaystyle N}

1北∑メートル∈M最大d∈D|メートル∩d|{\displaystyle {\frac {1}{N}}\sum _{m\in M}\max _{d\in D}{|m\cap d|}}

この指標はクラスター数が多いことを不利にするものではなく、クラスター数が多いほど高い純度を実現しやすくなります。各データポイントを独自のクラスターに配置することで、常に純度スコア1を実現できます。また、不均衡なデータでは純度はうまく機能しません。不均衡なデータでは、パフォーマンスの低いクラスタリングアルゴリズムでも高い純度値が得られるからです。例えば、サイズ1000のデータセットが2つのクラスで構成され、一方のクラスには999個のポイントが含まれ、もう一方のクラスには1個のポイントが含まれる場合、すべてのパーティションの純度は少なくとも99.9%になります。

ランド指数

ランド指数[ 46 ]は、クラスタリングアルゴリズムによって返されるクラスタがベンチマーク分類にどの程度類似しているかを計算する。これは以下の式で計算できる。

R私＝TP+T北TP+FP+F北+T北{\displaystyle RI={\frac {TP+TN}{TP+FP+FN+TN}}}

ここで 、 は真陽性の数、は真陰性の数、は偽陽性の数、 は偽陰性の数です。ここでカウントされるインスタンスは、正しいペアワイズ割り当ての数です。つまり、は予測パーティションと真実パーティションで一緒にクラスター化されているポイントのペアの数、 は予測パーティションでは一緒にクラスター化されているが真実パーティションでは一緒にクラスター化されていないポイントのペアの数、などです。データセットのサイズが N の場合、 となります。Randインデックスの問題の 1 つは、偽陽性と偽陰性に等しい重み付けがされることです。これは、一部のクラスタリング アプリケーションでは望ましくない特性となる可能性があります。F 値と、機会補正調整 Rand インデックスは、この問題に対処します。 TP{\displaystyle TP}T北{\displaystyle TN}FP{\displaystyle FP}F北{\displaystyle FN}TP{\displaystyle TP}FP{\displaystyle FP}TP+T北+FP+F北＝（北2）{\displaystyle TP+TN+FP+FN={\binom {N}{2}}}

F値

F値は、パラメータ によって再現率に重み付けすることで、偽陰性の寄与を均衡化するために使用できます。適合率と再現率（どちらも外部評価尺度）を次のように定義します。 ここで、 は適合率、は再現率です。F値は次の式を使用して計算できます。[ 39 ]、 の場合。言い換えると、のときは再現率はF値に影響を与えず、 を増やすと最終的なF値で再現率に割り当てられる重みが増加します。また、は考慮されず、0 から無制限に変化できます。 β≥0{\displaystyle \beta \geq 0}P＝TPTP+FP{\displaystyle P={\frac {TP}{TP+FP}}}R＝TPTP+F北{\displaystyle R={\frac {TP}{TP+FN}}}P{\displaystyle P}R{\displaystyle R}Fβ＝（β2+1）⋅P⋅Rβ2⋅P+R{\displaystyle F_{\beta }={\frac {(\beta ^{2}+1)\cdot P\cdot R}{\beta ^{2}\cdot P+R}}}β＝0{\displaystyle \beta =0}F0＝P{\displaystyle F_{0}=P}β＝0{\displaystyle \beta =0}β{\displaystyle \beta}T北{\displaystyle TN}

ジャカード指数

Jaccard指数は、2つのデータセット間の類似性を定量化するために使用されます。Jaccard指数は0から1の間の値を取ります。指数が1の場合、2つのデータセットは同一であり、指数が0の場合、データセットに共通要素がないことを示します。Jaccard指数は次の式で定義されます。 これは、両方のデータセットに共通する一意の要素の数を、両方のデータセットの一意の要素の総数で割った値です。ただし、は考慮されません。 J（あ、B）＝|あ∩B||あ∪B|＝TPTP+FP+F北{\displaystyle J(A,B)={\frac {|A\cap B|}{|A\cup B|}}={\frac {TP}{TP+FP+FN}}}T北{\displaystyle TN}

ダイスインデックス

ダイスの対称測定では、次の点を無視しながら、の重みを 2 倍にします。 TP{\displaystyle TP}T北{\displaystyle TN}DSC＝2TP2TP+FP+F北{\displaystyle DSC={\frac {2TP}{2TP+FP+FN}}}

フォークス・マロウズ指数

Fowlkes–Mallows 指数[ 47 ]は、クラスタリング アルゴリズムによって返されたクラスターとベンチマーク分類との類似性を計算します。Fowlkes–Mallows 指数の値が高いほど、クラスターとベンチマーク分類の類似性が高くなります。この指数は次の式で計算できます。 ここで 、 は真陽性の数、は偽陽性の数、は偽陰性の数です。指数は適合率と再現率、の幾何平均であるためG 値とも呼ばれ、F 値 はそれらの調和平均です。[ 48 ] [ 49 ]さらに、適合率と再現率は Wallace の指数、とも呼ばれます。[ 50 ]再現率、適合率、G 値の確率正規化バージョンは、情報量、有標性、およびMatthews の相関に対応し、 Kappaと強く関連しています。[ 51 ]FM＝TPTP+FP⋅TPTP+F北{\displaystyle FM={\sqrt {{\frac {TP}{TP+FP}}\cdot {\frac {TP}{TP+FN}}}}}TP{\displaystyle TP}FP{\displaystyle FP}F北{\displaystyle FN}FM{\displaystyle FM}P{\displaystyle P}R{\displaystyle R}B私{\displaystyle B^{I}}BII{\displaystyle B^{II}}

カイ指数

カイ二乗指数[ 52 ]は、カイ二乗統計量を適用してクラスタリング結果を測定する外部検証指標です。この指標は、クラスター間でラベルが可能な限り疎であること、つまり各クラスターの異なるラベルが可能な限り少ないことを正に評価します。カイ二乗指数の値が高いほど、結果として得られるクラスターと使用されたラベルの関係性が強くなります。

相互情報

相互情報量とは、クラスタリングとグラウンドトゥルース分類の間でどれだけの情報量が共有されているかを示す情報理論的指標であり、2つのクラスタリング間の非線形類似性を検出できる。正規化相互情報量は、偶然性を補正したこの手法の一種であり、クラスタ数の変化に対するバイアスを低減している。[ 36 ]

混同行列

混同行列は、分類（またはクラスタリング）アルゴリズムの結果を素早く視覚化するために使用できます。混同行列は、あるクラスターがゴールドスタンダードのクラスターとどの程度異なるかを示します。

妥当性測定

妥当性尺度（略してv-measure）は、クラスターの均質性と完全性を組み合わせた尺度である[ 53 ]

クラスター傾向

クラスター傾向の測定とは、クラスター化の対象となるデータにどの程度のクラスターが存在するかを測定することであり、クラスタリングを試みる前に初期テストとして実行することができます。これを行う方法の一つは、データをランダムデータと比較することです。平均的には、ランダムデータにはクラスターは存在しないはずです。

ホプキンス統計量には複数の定式化がある。[ 54 ]代表的なものは以下の通りである。[ 55 ]を次元空間におけるデータ点の集合とする。要素を持つデータ点の無作為標本（非置換）を考える。また、一様ランダムに分布するデータ点の集合を生成する。ここで、 Xにおける最も近い近傍からの距離を、Xにおける最も近い近傍からの距離を とする2つの距離尺度を定義する。そして、ホプキンス統計量を以下のように定義する。 X{\displaystyle X}n{\displaystyle n}d{\displaystyle d}m≪n{\displaystyle m\ll n}xi{\displaystyle x_{i}}Y{\displaystyle Y}m{\displaystyle m}ui{\displaystyle u_{i}}yi∈Y{\displaystyle y_{i}\in Y}wi{\displaystyle w_{i}}xi∈X{\displaystyle x_{i}\in X}
H=∑i=1muid∑i=1muid+∑i=1mwid,{\displaystyle H={\frac {\sum _{i=1}^{m}{u_{i}^{d}}}{\sum _{i=1}^{m}{u_{i}^{d}}+\sum _{i=1}^{m}{w_{i}^{d}}}}\,,}
この定義によれば、均一ランダム データは 0.5 に近い値を持つ傾向があり、クラスター化データは 1 に近い値を持つ傾向があります。
ただし、この統計は、多峰性ではなく均一分布からの偏差を測定するため、ガウス分布を 1 つだけ含むデータもスコアが 1 に近くなり、この統計はアプリケーションではほとんど役に立たなくなります (実際のデータは決して均一ではないため)。

アプリケーション

生物学、計算生物学、バイオインフォマティクス

植物と動物の生態学
クラスター分析は、異質な環境における生物群集（集団）を記述し、空間的および時間的に比較するために使用されます。また、植物系統学においては、種、属、あるいはより高次のレベルで、複数の属性を共有する生物（個体）の人工的な系統樹やクラスターを作成するためにも使用されます。
トランスクリプトミクス
クラスタリングは、HCSクラスタリングアルゴリズムのように、関連する発現パターンを持つ遺伝子（共発現遺伝子とも呼ばれる）のグループを構築するために使用されます。[ 56 ] [ 57 ]このようなグループには、特定のパスウェイの酵素など、機能的に関連するタンパク質や、共制御される遺伝子が含まれることがよくあります。発現配列タグ（EST）やDNAマイクロアレイを用いたハイスループット実験は、ゲノミクス の一般的な側面であるゲノムアノテーションのための強力なツールとなり得ます。
配列解析
配列クラスタリングは、相同配列を遺伝子ファミリーにグループ化するために使用されます。[ 58 ]これはバイオインフォマティクス、そして進化生物学全般において非常に重要な概念です。遺伝子重複による進化を参照してください。
ハイスループットジェノタイピングプラットフォーム
クラスタリングアルゴリズムは遺伝子型を自動的に割り当てるために使用されます。[ 59 ]
ヒト遺伝子のクラスタリング
遺伝子データの類似性は、集団構造を推測するためのクラスタリングで使用されます。

薬

医療画像
PETスキャンでは、クラスター分析を使用して、 3次元画像内の異なる種類の組織を区別することができ、さまざまな目的に使用できます。 [ 60 ]
抗菌活性の分析
クラスター分析は、抗生物質耐性のパターンを分析し、抗菌化合物をその作用機序に応じて分類し、抗生物質をその抗菌活性に応じて分類するために使用できます。
IMRTセグメンテーション
クラスタリングを使用すると、フルエンス マップを個別の領域に分割し、MLC ベースの放射線療法で配信可能なフィールドに変換できます。

ビジネスとマーケティング

市場調査
クラスター分析は、市場調査において、アンケートやテストパネルから得られた多変量データを扱う際に広く利用されています。市場調査担当者は、クラスター分析を用いて、一般消費者集団を市場セグメントに分割し、異なる消費者／潜在顧客グループ間の関係性をより深く理解します。また、市場セグメンテーション、製品ポジショニング、新製品開発、テスト市場の選定にも活用されます。
買い物アイテムのグループ化
クラスタリングは、Web上で入手可能なすべてのショッピングアイテムを、固有の製品セットにグループ化するために使用できます。例えば、eBayのすべてのアイテムを固有の製品にグループ化できます（eBayにはSKUの概念はありません）。

ワールドワイドウェブ

ソーシャルネットワーク分析
ソーシャル ネットワークの研究では、クラスタリングは大規模なグループ内のコミュニティを認識するために使用されることがあります。
検索結果のグループ化
ファイルやウェブサイトをインテリジェントにグループ化するプロセスにおいて、クラスタリングは、Googleのような通常の検索エンジンと比較して、より関連性の高い検索結果セットを作成するために使用される場合があります。現在、 Clustyのようなウェブベースのクラスタリングツールが数多く存在します。また、検索語句が全く異なるものを指す場合に、より包括的な結果セットを返すためにも使用されます。検索語句のそれぞれの使用は、独自の結果クラスターに対応しており、ランキングアルゴリズムは各クラスターから上位の結果を選択することで、包括的な結果を返すことができます。[ 61 ]
滑りやすいマップの最適化
Flickrの写真マップやその他の地図サイトでは、クラスタリングによってマップ上のマーカー数を削減しています。これにより、処理速度が向上し、視覚的な煩雑さも軽減されます。

コンピュータサイエンス

ソフトウェアの進化
クラスタリングは、分散化した機能を改革することでコード内のレガシー特性を削減するのに役立つため、ソフトウェアの進化に役立ちます。これは再構築の一形態であり、直接的な予防保守の手段となります。
画像セグメンテーション
画像セグメンテーションとは、デジタル画像を複数の意味のある領域またはセグメントに分割するプロセスです。これにより、画像の表現を簡素化または変更し、分析を容易にします。これらのセグメントは、異なるオブジェクト、オブジェクトの一部、または背景領域に対応する場合があります。目的は、画像内のすべてのピクセルにラベルを割り当て、類似した属性を持つピクセルをグループ化することです。
このプロセスは、医用画像、コンピューター ビジョン、衛星画像などの分野や、顔検出や写真編集などの日常的なアプリケーションで使用されます。
アラスカ州ベア湖の上空に広がるオーロラ
アラスカ州ベア湖の上空に広がるオーロラ
ポーラリヒト 2 kmeans 16 ラージ
k = 16でk平均法クラスタリングを実行した後の画像
画像セグメンテーションにおけるクラスタリング:
クラスタリングは画像のセグメンテーションにおいて重要な役割を果たします。ラベル付けされたデータを用いることなく、類似性に基づいてピクセルをクラスターにグループ化します。そして、これらのクラスターによって画像内のセグメントが定義されます。
画像セグメンテーションに最も一般的に使用されるクラスタリング アルゴリズムは次のとおりです。
  1. K平均法クラスタリング：最も一般的でシンプルな手法の一つです。ピクセルは特徴空間（通常は色または輝度で定義されます）内のデータポイントとして扱われ、k個のクラスターにグループ化されます。各ピクセルは最も近いクラスターの中心に割り当てられ、中心は反復的に更新されます。
  2. 平均シフトクラスタリング：事前にクラスター数を指定する必要のないノンパラメトリックな手法。特徴空間におけるデータポイントの密集領域を特定することでクラスターを識別します。
  3. ファジーC平均法:ピクセルを 1 つのクラスターに割り当てるk平均法とは異なり、ファジーc平均法では、各ピクセルがさまざまなメンバーシップ度を持つ複数のクラスターに属することができます。
進化アルゴリズム
クラスタリングは、進化アルゴリズムの個体群内のさまざまなニッチを識別するために使用でき、進化する種または亜種の間で生殖機会をより均等に分配することができます。
レコメンデーションシステム
レコメンデーションシステムは、個人の過去の行動や現在の嗜好に基づいて、アイテム、製品、または他のユーザーを提案します。これらのシステムは、クラスタリングアルゴリズムを使用して、同じクラスタ内の他のユーザーの嗜好や活動を分析することで、ユーザーの未知の嗜好を予測することがあります。クラスタ分析はレコメンデーションシステムの唯一のアプローチではありません。例えば、グラフ理論を活用したシステムもあります。クラスタ分析を活用したレコメンデーションアルゴリズムは、協調フィルタリング、コンテンツベースフィルタリング、そして協調フィルタリングとコンテンツベースフィルタリングのハイブリッドという3つの主要なカテゴリのいずれかに分類されることが多いです。

協調フィルタリング推奨アルゴリズム
協調フィルタリングは、ユーザーの行動、嗜好、活動に関する膨大なデータを分析し、他のユーザーとの類似性に基づいてユーザーが好むものを予測することで機能します。ユーザーがアイテムを評価するパターンを検出し、類似したユーザーまたはアイテムを明確な「近隣地域」にグループ化します。そして、同じ近隣地域内の他のユーザーによるコンテンツの評価を活用して、推奨コンテンツを生成します。このアルゴリズムは、状況に応じてユーザーベースまたはアイテムベースのグループ化のいずれかに焦点を当てることができます。[ 62 ]
推奨システムへの基本的かつ一般的なアプローチとクラスタリングの利用方法を示すフロー図

コンテンツベースのフィルタリング推奨アルゴリズム
コンテンツベースフィルタリングは、アイテムの説明とユーザーの嗜好プロファイルを用いて、ユーザーが以前に好んだアイテムに類似した特徴を持つアイテムを推薦します。このフィルタリングでは、アイテムクラスター（「近隣」）の特徴ベクトル間の距離を評価します。ユーザーの過去のインタラクションは重み付けされた特徴ベクトルとして表され、これらのクラスターと比較されます。推薦は、ユーザーの嗜好との距離が最も近いと評価されたクラスターを特定することで生成されます。[ 62 ]

ハイブリッド推奨アルゴリズム
ハイブリッド型推薦アルゴリズムは、協調フィルタリングとコンテンツベースフィルタリングを組み合わせることで、特定のユースケースの要件をより適切に満たします。場合によっては、このアプローチはより効果的な推薦につながります。一般的な戦略としては、(1)協調フィルタリングとコンテンツベースフィルタリングを別々に実行し、その結果を組み合わせる、(2)一方のアプローチにもう一方のアプローチの特定の機能を追加する、(3)両方のハイブリッド手法を1つのモデルに統合する、などが挙げられます。[ 62 ]
マルコフ連鎖モンテカルロ法
クラスタリングは、ターゲット分布の極値を見つけて特徴付けるためによく利用されます。
異常検出
異常/外れ値は通常、明示的または暗黙的に、データのクラスタリング構造に関して定義されます。
自然言語処理
クラスタリングは語彙の曖昧さを解決するために使用できます。[ 61 ]
デブオプス
クラスタリングはDevOpsチームの有効性を分析するために使用されてきました。[ 63 ]

社会科学

社会科学におけるシーケンス分析
クラスター分析は、たとえば、家族生活の軌跡、職業上のキャリア、毎日または毎週の時間の使い方のパターンを識別するために使用されます。
犯罪分析
クラスター分析は、特定の種類の犯罪の発生率が高い地域を特定するために使用できます。一定期間内に類似の犯罪が発生した地域、つまり「ホットスポット」を特定することで、法執行機関のリソースをより効果的に管理することが可能になります。
教育データマイニング
クラスター分析は、たとえば、類似した特性を持つ学校や生徒のグループを識別するために使用されます。
類型
ピュー研究所が行っているようなプロジェクトでは、世論調査データからクラスター分析を使用して、政治やマーケティングに役立つ可能性のある意見、習慣、人口統計の類型を識別します。

その他

フィールドロボティクス
クラスタリングアルゴリズムは、ロボットの状況認識に使用され、物体を追跡し、センサーデータ内の外れ値を検出します。[ 64 ]
数理化学
例えば、構造の類似性などを見つけるために、3000種類の化合物を90個の位相指標の空間にクラスター化しました。[ 65 ]
気候学
気象条件や好ましい海面気圧の大気パターンを見つけるため。[ 66 ]
ファイナンス
クラスター分析は株式をセクターにクラスター化するために使用されてきました。[ 67 ]
石油地質学
クラスター分析は、貯留層特性を評価するために、欠落した底穴コアデータまたは欠落したログ曲線を再構築するために使用されます。
地球化学
異なるサンプル位置における化学特性のクラスタリング。

参照

ウィキメディア コモンズには、クラスター分析に関連するメディアがあります。

特殊なタイプのクラスター分析

クラスター分析で使用される手法

データの投影と前処理

他の

参考文献

  1. ^ Driver and Kroeber (1932). 「Quantitative Expression of Cultural Relationships」 . University of California Publications in American Archaeology and Ethnology . Quantitative Expression of Cultural Relationships. Berkeley, CA: University of California Press: 211– 256. 2020年12月6日時点のオリジナルよりアーカイブ。 2019年2月18日閲覧。
  2. ^ズビン、ジョセフ (1938). 「同類意識を測定するための手法」.異常・社会心理学ジャーナル. 33 (4): 508– 516. doi : 10.1037/h0055441 . ISSN 0096-851X . 
  3. ^トライオン、ロバート・C. (1939).クラスター分析：心と人格における統一性の分離のための相関プロファイルと尺度法（因子）分析. エドワーズ・ブラザーズ.
  4. ^ Cattell, RB (1943). 「人格の記述：クラスターに分解された基本的特性」異常・社会心理学ジャーナル. 38 (4): 476– 506. doi : 10.1037/h0054116 .
  5. ^ a b c d e fエスティヴィル・カストロ、ウラジミール (2002 年 6 月 20 日)。 「なぜこれほど多くのクラスタリング アルゴリズムがあるのか​​ – ポジション ペーパー」。ACM SIGKDD 探査ニュースレター。4 (1): 65–75 .土井: 10.1145/568574.568575。S2CID 7329935。 
  6. ^ジェームズ・A・デイビス（1967年5月）「グラフにおけるクラスタリングと構造的バランス」、 Human Relations 20:181–7
  7. ^ Kleinberg, Jon (2002).クラスタリングにおける不可能性定理(PDF) . ニューラル情報処理システムの進歩. 第15巻. MITプレス.
  8. ^ Gao, Caroline X.; Dwyer, Dominic; Zhu, Ye; Smith, Catherine L.; Du, Lan; Filia, Kate M.; Bayer, Johanna; Menssink, Jana M.; Wang, Teresa; Bergmeir, Christoph; Wood, Stephen; Cotton, Sue M. (2023-09-01). 「精神保健研究におけるクラスタリング手法の概要と適用ガイドライン」 . Psychiatry Research . 327 115265. doi : 10.1016/j.psychres.2023.115265 . hdl : 10481/84538 . ISSN 0165-1781 . PMID 37348404 .  
  9. ^エヴェリット、ブライアン (2011).クラスター分析. チチェスター、ウェスト・サセックス、イギリス: Wiley. ISBN 9780470749913。
  10. ^ Sibson, R. (1973). 「SLINK: シングルリンククラスター法のための最適効率アルゴリズム」(PDF) . The Computer Journal . 16 (1). British Computer Society: 30–34 . doi : 10.1093/comjnl/16.1.30 .
  11. ^ Defays, D. (1977). 「完全リンク法のための効率的なアルゴリズム」.コンピュータジャーナル. 20 (4). 英国コンピュータ協会: 364–366 . doi : 10.1093/comjnl/20.4.364 .
  12. ^ Lloyd, S. (1982). 「PCMにおける最小二乗量子化」 . IEEE Transactions on Information Theory . 28 (2): 129– 137. Bibcode : 1982ITIT...28..129L . doi : 10.1109/TIT.1982.1056489 . S2CID 10833328 . 
  13. ^クリーゲル、ハンス・ペーター;クルーガー、ピア。サンダー、ヨルグ。アーサー・ジメク(2011)。「密度ベースのクラスタリング」。WIRE データマイニングと知識発見。1 (3): 231–240 . doi : 10.1002/widm.30。S2CID 36920706。 
  14. ^ Microsoft academic search: 最も引用されたデータマイニング記事Archived 2010-04-21 at the Wayback Machine : DBSCAN is on rank 24, when accessed on: 4/18/2010
  15. ^ Ester, Martin; Kriegel, Hans-Peter ; Sander, Jörg; Xu, Xiaowei (1996). 「ノイズを含む大規模空間データベースにおけるクラスター発見のための密度ベースアルゴリズム」 Simoudis, Evangelos; Han, Jiawei; Fayyad, Usama M. (編).第2回国際知識発見・データマイニング会議 (KDD-96) 議事録. AAAI Press . pp.  226– 231. ISBN 1-57735-004-9。
  16. ^ Ankerst, Mihael; Breunig, Markus M.; Kriegel, Hans-Peter ; Sander, Jörg (1999). 「OPTICS: クラスタリング構造を識別するためのポイントの順序付け」. ACM SIGMOD 国際データ管理会議. ACM Press . pp.  49– 60. CiteSeerX 10.1.1.129.6542 . 
  17. ^ a b Achtert, E.; Böhm, C.; Kröger, P. (2006). 「DeLi-Clu: 最近接ペアランキングによる階層的クラスタリングの堅牢性、完全性、有用性、効率性の向上」.知識発見とデータマイニングの進歩. コンピュータサイエンス講義ノート. 第3918巻. pp.  119– 128. CiteSeerX 10.1.1.64.1161 . doi : 10.1007/11731139_16 . ISBN  978-3-540-33206-0。
  18. ^ Campello, Ricardo JGB; Moulavi, Davoud; Sander, Joerg (2013). 「階層的密度推定に基づく密度ベースクラスタリング」 . Pei, Jian; Tseng, Vincent S.; Cao, Longbing; Motoda, Hiroshi; Xu, Guandong (編).知識発見とデータマイニングの進歩. コンピュータサイエンス講義ノート. 第7819巻. ベルリン、ハイデルベルク：シュプリンガー. pp.  160– 172. doi : 10.1007/978-3-642-37456-2_14 . ISBN 978-3-642-37456-2。
  19. ^ Aggarwal, Charu C.; Reddy, Chandan K.（編）.データクラスタリング：アルゴリズムとアプリケーション. ISBN 978-1-315-37351-5. OCLC  1110589522 .
  20. ^ Sculley, D. (2010). Webスケールk-meansクラスタリング. Proc. 19th WWW.
  21. ^ Huang, Z. (1998). 「カテゴリ値を持つ大規模データセットのクラスタリングにおけるk -meansアルゴリズムの拡張」.データマイニングと知識発見. 2 (3): 283– 304. doi : 10.1023/A:1009769707641 . S2CID 11323096 . 
  22. ^ R. Ng、J. Han. 「空間データマイニングのための効率的かつ効果的なクラスタリング手法」第20回VLDBカンファレンス議事録、144～155ページ、サンティアゴ（チリ）、1994年。
  23. ^ Tian Zhang、Raghu Ramakrishnan、Miron Livny。「大規模データベース向けの効率的なデータクラスタリング手法」Proc. Int'l Conf. on Management of Data、ACM SIGMOD、pp. 103–114。
  24. ^ Kriegel, Hans-Peter ; Kröger, Peer ; Zimek, Arthur (2012年7月). 「サブスペースクラスタリング」. Wiley Interdisciplinary Reviews: Data Mining and Knowledge Discovery . 2 (4): 351– 364. doi : 10.1002/widm.1057 . S2CID 7241355 . 
  25. ^ Agrawal, R.; Gehrke, J.; Gunopulos, D.; Raghavan, P. (2005). 「高次元データの自動サブスペースクラスタリング」.データマイニングと知識発見. 11 : 5– 33. CiteSeerX 10.1.1.131.5152 . doi : 10.1007/s10618-005-1396-1 . S2CID 9289572 .  
  26. ^ Karin Kailing、 Hans-Peter Kriegel、Peer Kröger.高次元データのための密度連結サブスペースクラスタリング. Proc . SIAM Int. Conf. on Data Mining (SDM'04)、pp. 246–257、2004年。
  27. ^アハテルト、E.;ベーム、C.クリーゲル、H.-P. ;クローガー、P.ミュラー・ゴーマン、I.ジメック、A. (2006)。 「亜空間クラスターの階層を見つける」。データベースにおける知識の発見: PKDD 2006。コンピューターサイエンスの講義ノート。 Vol. 4213。446 ～ 453ページ 。CiteSeerX 10.1.1.705.2956。土井: 10.1007/11871637_42。ISBN  978-3-540-45374-1。
  28. ^ Achtert, E.; Böhm, C.; Kriegel, H.P.; Kröger, P.; Müller-Gorman, I.; Zimek, A. (2007). 「部分空間クラスター階層の検出と可視化」.データベースの進歩：概念、システム、アプリケーション. コンピュータサイエンス講義ノート. 第4443巻. pp.  152– 163. CiteSeerX 10.1.1.70.7843 . doi : 10.1007/978-3-540-71703-4_15 . ISBN  978-3-540-71702-7。
  29. ^ Achtert, E.; Böhm, C.; Kröger, P.; Zimek, A. (2006). 「相関クラスターの階層マイニング」.第18回国際科学統計データベース管理会議 (SSDBM'06) . pp.  119– 128. CiteSeerX 10.1.1.707.7872 . doi : 10.1109/SSDBM.2006.35 . ISBN  978-0-7695-2590-7. S2CID  2679909 .
  30. ^ Böhm, C.; Kailing, K.; Kröger, P.; Zimek, A. (2004). 「相関接続オブジェクトのクラスター計算」. 2004 ACM SIGMOD 国際データ管理会議 - SIGMOD '04 議事録. p. 455. CiteSeerX 10.1.1.5.1279 . doi : 10.1145/1007568.1007620 . ISBN  978-1581138597. S2CID  6411037 .
  31. ^ Achtert, E.; Bohm, C.; Kriegel, H.P .; Kröger, P.; Zimek, A. (2007). 「相関クラスターの複雑な関係性の探究について」.第19回国際科学統計データベース管理会議 (SSDBM 2007) . p. 7. CiteSeerX 10.1.1.71.5021 . doi : 10.1109/SSDBM.2007.21 . ISBN  978-0-7695-2868-7. S2CID  1554722 .
  32. ^ Meil​​ă, Marina (2003). 「情報の変動によるクラスタリングの比較」.学習理論とカーネルマシン. コンピュータサイエンス講義ノート. 第2777巻. pp.  173– 187. doi : 10.1007/978-3-540-45167-9_14 . ISBN 978-3-540-40720-1。
  33. ^ Kraskov, Alexander; Stögbauer, Harald; Andrzejak, Ralph G.; Grassberger, Peter (2003年12月1日). 「相互情報量に基づく階層的クラスタリング」. arXiv : q-bio/0311039 .
  34. ^ Auffarth, B. (2010年7月18日～23日). 「バイアス突然変異演算子を用いた遺伝的アルゴリズムによるクラスタリング」 . Wcci Cec . IEEE.
  35. ^ Frey, BJ; Dueck, D. (2007). 「データポイント間のメッセージ交換によるクラスタリング」. Science . 315 (5814): 972– 976. Bibcode : 2007Sci...315..972F . CiteSeerX 10.1.1.121.3145 . doi : 10.1126 / science.11 ​​36800. PMID 17218491. S2CID 6502291 .   
  36. ^ a b c d Pfitzner, Darius; Leibbrandt, Richard; Powers, David (2009). 「クラスタリングペアの類似度指標の特徴づけと評価」. Knowledge and Information Systems . 19 (3​​). Springer: 361– 394. doi : 10.1007/s10115-008-0150-6 . S2CID 6935380 . 
  37. ^ a b cフェルドマン、ロネン、サンガー、ジェームズ (2007-01-01). 『テキストマイニングハンドブック：非構造化データ分析における高度なアプローチ』 ケンブリッジ大学出版局. ISBN 978-0521836579. OCLC  915286380 .
  38. ^ a b Weiss, Sholom M.; Indurkhya, Nitin; Zhang, Tong; Damerau, Fred J. (2005).テキストマイニング：非構造化情報の分析のための予測的手法. Springer. ISBN 978-0387954332. OCLC  803401334 .
  39. ^ a b cマニング、クリストファー D.;ラガヴァン、プラバーカール。シュッツェ、ハインリッヒ (2008-07-07)。情報検索の概要。ケンブリッジ大学出版局。ISBN 978-0-521-86571-5。
  40. ^ a bデータベースにおける知識発見 – パート III – クラスタリング(PDF)、ハイデルベルク大学、2017年{{citation}}: CS1 maint: location missing publisher (link)
  41. ^ Dunn, J. (1974). 「適切に分離されたクラスターと最適なファジーパーティション」. Journal of Cyber​​netics . 4 : 95–104 . doi : 10.1080/01969727408546059 .
  42. ^ Peter J. Rousseeuw (1987). 「シルエット：クラスター分析の解釈と検証のためのグラフィカルな補助」. Journal of Computational and Applied Mathematics . 20 : 53–65 . doi : 10.1016/0377-0427(87)90125-7 .
  43. ^ Jaskowiak, Pablo A.; Costa, Ivan G.; Campello, Ricardo JGB (2022-05-01). 「クラスタリング品質の尺度としてのROC曲線下面積」 .データマイニングと知識発見. 36 (3): 1219– 1245. arXiv : 2009.02400 . doi : 10.1007/s10618-022-00829-0 . ISSN 1573-756X . 
  44. ^ a b Färber, Ines; Günnemann, Stephan; Kriegel, Hans-Peter ; Kröger, Peer; Müller, Emmanuel; Schubert, Erich; Seidl, Thomas; Zimek, Arthur (2010). 「クラスタリングの評価におけるクラスラベルの使用について」(PDF) . Fern, Xiaoli Z.; Davidson, Ian; Dy, Jennifer (編). MultiClust: 複数のクラスタリングの検出、要約、および使用. ACM SIGKDD .
  45. ^ Pourrajabi, M.; Moulavi, D.; Campello, RJGB; Zimek, A .; Sander, J.; Goebel, R. (2014). 「半教師ありクラスタリングのためのモデル選択」.第17回国際データベース技術拡張会議 (EDBT) 議事録. pp.  331– 342. doi : 10.5441/002/edbt.2014.31 .
  46. ^ Rand, WM (1971). 「クラスタリング手法の評価のための客観的基準」.アメリカ統計学会誌. 66 (336). アメリカ統計学会誌: 846–850 . arXiv : 1704.01036 . doi : 10.2307/2284239 . JSTOR 2284239 . 
  47. ^ Fowlkes, EB; Mallows, CL (1983). 「2つの階層的クラスタリングを比較する方法」. Journal of the American Statistical Association . 78 (383): 553– 569. Bibcode : 1983JASA...78..553F . doi : 10.1080/01621459.1983.10478008 . JSTOR 2288117 . 
  48. ^ Powers, David (2003). Recall and Precision versus the Bookmaker . International Conference on Cognitive Science. pp.  529– 534.
  49. ^ Arabie, P. (1985). 「パーティションの比較」. Journal of Classification . 2 (1): 1985. doi : 10.1007/BF01908075 . S2CID 189915041 . 
  50. ^ Wallace, DL (1983). 「コメント」.アメリカ統計学会誌. 78 (383): 569– 579. doi : 10.1080/01621459.1983.10478009 .
  51. ^ Powers, David (2012). 「Kappaの問題点」 計算言語学協会ヨーロッパ支部. pp.  345– 355.
  52. ^ルナ＝ロメラ、ホセ・マリア;マルティネス・バレステロス、マリア。ガルシア＝グティエレス、ホルヘ。リケルメ、ホセ C. (2019 年 6 月) 「カイ二乗統計検定に基づく外部クラスタリング妥当性指数」。情報科学。487 : 1–17 .土井: 10.1016/j.ins.2019.02.046。hdl : 11441/132081。S2CID 93003939。 
  53. ^ローゼンバーグ、アンドリュー、ジュリア・ヒルシュバーグ。「V尺度：条件付きエントロピーに基づく外部クラスター評価尺度」自然言語処理と計算自然言語学習における実証的手法に関する2007年合同会議（EMNLP-CoNLL）議事録。2007年。pdf
  54. ^ホプキンス, ブライアン; スケラム, ジョン・ゴードン (1954). 「植物個体の分布型を決定するための新しい方法」Annals of Botany . 18 (2). Annals Botany Co: 213– 227. doi : 10.1093/oxfordjournals.aob.a083391 .
  55. ^ Banerjee, A. (2004). 「ホプキンス統計を用いたクラスターの検証」. 2004 IEEE International Conference on Fuzzy Systems (IEEE Cat. No.04CH37542) . 第1巻. pp.  149– 153. doi : 10.1109/FUZZY.2004.1375706 . ISBN 978-0-7803-8353-1. S2CID  36701919 .
  56. ^ Johnson, Stephen C. (1967-09-01). 「階層的クラスタリングスキーム」. Psychometrika . 32 ( 3): 241– 254. doi : 10.1007/BF02289588 . ISSN 1860-0980 . PMID 5234703. S2CID 930698 .   
  57. ^ Hartuv, Erez; Shamir, Ron (2000-12-31). 「グラフの連結性に基づくクラスタリングアルゴリズム」. Information Processing Letters . 76 (4): 175– 181. doi : 10.1016/S0020-0190(00)00142-3 . ISSN 0020-0190 . 
  58. ^ Remm, Maido; Storm, Christian EV; Sonnhammer, Erik LL (2001-12-14). 「種間のペアワイズ比較によるオルソログとインパラログの自動クラスタリング11 F. Cohen編」. Journal of Molecular Biology . 314 (5): 1041– 1052. doi : 10.1006/jmbi.2000.5197 . ISSN 0022-2836 . PMID 11743721 .  
  59. ^ Botstein, David; Cox, David R.; Risch, Neil; Olshen, Richard; Curb, David; Dzau, Victor J.; Chen, Yii-Der I.; Hebert, Joan; Pesich, Robert (2001-07-01). 「一塩基多型を用いたハイスループットジェノタイピング」 . Genome Research . 11 (7): 1262– 1268. doi : 10.1101/gr.157801 . ISSN 1088-9051 . PMC 311112. PMID 11435409 .   
  60. ^ Filipovych, Roman; Resnick, Susan M.; Davatzikos, Christos (2011). 「画像データの半教師ありクラスター分析」 . NeuroImage . 54 (3): 2185– 2197. doi : 10.1016/j.neuroimage.2010.09.074 . PMC 3008313. PMID 20933091 .  
  61. ^ a b Di Marco, Antonio; Navigli, Roberto (2013). 「グラフベースの語義誘導によるWeb検索結果のクラスタリングと多様化」.計算言語学. 39 (3): 709– 754. doi : 10.1162/COLI_a_00148 . S2CID 1775181 . 
  62. ^ a b c Beregovskaya, Irina; Koroteev, Mikhail (2021). 「クラスタリングベースのレコメンデーションシステムのレビュー」. arXiv : 2109.12839 [ cs.IR ].
  63. ^ 2022 Accelerate State of DevOps Report (PDF) (レポート). Google Cloud の DevOps 調査および評価 (DORA). 2022年9月29日. pp. 8, 14, 74.
  64. ^ Bewley, A.; et al. 「ドラッグラインペイロードのリアルタイム体積推定」IEEE国際ロボティクス・オートメーション会議. 2011 : 1571–1576 .
  65. ^ Basak, SC; Magnuson, VR; Niemi, CJ; Regal, RR (1988). 「グラフ理論指標を用いた化学物質の構造類似性の判定」 . Discr. Appl. Math . 19 ( 1– 3): 17– 44. doi : 10.1016/0166-218x(88)90004-2 .
  66. ^ Huth, R.; et al. (2008). 「大気循環パターンの分類：最近の進歩と応用」（PDF） . Ann. NY Acad. Sci . 1146 (1): 105– 152. Bibcode : 2008NYASA1146..105H . doi : 10.1196 /annals.1446.019 . PMID 19076414. S2CID 22655306 .  
  67. ^ Arnott, Robert D. (1980-11-01). 「クラスター分析と株価の共変動」. Financial Analysts Journal . 36 (6): 56– 62. doi : 10.2469/faj.v36.n6.56 . ISSN 0015-198X . 
「 https://en.wikipedia.org/w/index.php?title=Cluster_analysis&oldid=1336888062」より取得