次の方法で共有

Azure OpenAI Service での埋め込みについて理解する

  • [アーティクル]

埋め込みは、機械学習モデルとアルゴリズムで簡単に使用できる特別な形式のデータ表現です。 埋め込みは、テキストの意味論的意味の情報密度の高い表現です。 各埋め込みは浮動小数点数のベクトルであり、ベクトル空間内の 2 つの埋め込み間の距離は、元の形式の 2 つの入力間のセマンティック類似性と相関します。 たとえば、2 つのテキストが似ている場合、それらのベクトル表現も似ているはずです。 Azure AI 検索 (推奨) などの取得システムと、Azure Cosmos DB for MongoDB 仮想コア、Azure SQL Database、Azure Database for PostgreSQL - フレキシブル サーバーなどの Azure データベースに、パワー ベクトル類似性検索を埋め込みます。

埋め込みモデル

埋め込みにより、ベクトル空間内のセマンティック類似性を捉えることで、単語を表す大規模な入力に対して機械学習を簡単に行うことができます。 したがって、埋め込みを使用して、2 つのテキスト チャンクが意味的に関連または類似しているかどうかを判断し、類似性を評価するためのスコアを提供できます。

コサイン類似度

Azure OpenAI 埋め込みでは、ドキュメントとクエリの類似性を計算するためにコサイン類似度を用いることがよくあります。

数学的観点から、コサイン類似度は、多次元空間に投影された 2 つのベクトル間の角度のコサインを測定するものです。 この測定は、2 つのドキュメントがサイズによりユークリッド距離で大きく離れていても、両者の間の角度が小さく、したがってコサイン類似度が高くなる可能性があるため、有益です。 コサイン類似度の数式について詳しくは、コサイン類似度に関する解説をご覧ください。

類似のドキュメントを識別する別の方法として、ドキュメント間の共通単語の数を数える方法があります。 ドキュメント サイズが大きくなると、異質なトピック間でも共通単語の検出数が多くなる可能性が高いため、このアプローチには拡張性がありません。 このため、コサイン類似度を用いる方がより効果的です。

次の手順