Skip to Content

セマンティック リコール

友人に先週末何をしたか尋ねると、彼らは「先週末」に関連する出来事を記憶の中から検索し、それから何をしたかを教えてくれます。それはある意味、Mastraでのセマンティック リコールの仕組みに似ています。

セマンティックリコールの仕組み

セマンティックリコールはRAGベースの検索であり、メッセージが最近の会話履歴に含まれなくなった場合でも、エージェントが長期間の対話にわたってコンテキストを維持するのに役立ちます。

メッセージのベクトル埋め込みを使用して類似性検索を行い、さまざまなベクトルストアと統合し、取得されたメッセージの周囲のコンテキストウィンドウを設定可能です。


Mastra Memoryのセマンティックリコールを示す図

有効になっている場合、新しいメッセージを使用してベクトルDBに意味的に類似したメッセージを問い合わせます。

LLMからの応答を受け取った後、すべての新しいメッセージ(ユーザー、アシスタント、ツールコール/結果)がベクトルDBに挿入され、後の対話で呼び出されるようになります。

クイックスタート

セマンティック・リコールはデフォルトで有効になっているため、エージェントにメモリを与えると、それが含まれます:

import { Agent } from "@mastra/core/agent"; import { Memory } from "@mastra/memory"; import { openai } from "@ai-sdk/openai"; const agent = new Agent({ name: "SupportAgent", instructions: "You are a helpful support agent.", model: openai("gpt-4o"), memory: new Memory(), });

リコール設定

セマンティックリコールの動作を制御する主な2つのパラメータは:

  1. topK: 意味的に類似したメッセージを取得する数
  2. messageRange: 各一致に含める周囲のコンテキストの量
const agent = new Agent({ memory: new Memory({ options: { semanticRecall: { topK: 3, // 最も類似した3つのメッセージを取得 messageRange: 2, // 各一致の前後に2つのメッセージを含める }, }, }), });

ストレージ設定

セマンティックリコールは、メッセージとそのエンベディングを保存するためにストレージとベクトルDBに依存しています。

import { Memory } from "@mastra/memory"; import { Agent } from "@mastra/core/agent"; import { LibSQLStore, LibSQLVector } from "@mastra/libsql"; const agent = new Agent({ memory: new Memory({ // これは省略した場合のデフォルトストレージDBです storage: new LibSQLStore({ url: "file:./local.db", }), // これは省略した場合のデフォルトベクトルDBです vector: new LibSQLVector({ connectionUrl: "file:./local.db", }), }), });

ストレージ/ベクトルのコード例:

エンベッダー設定

セマンティックリコールは、メッセージをエンベディングに変換するために埋め込みモデルに依存しています。デフォルトではMastraはFastEmbedを使用しますが、別の埋め込みモデルを指定することもできます。

import { Memory } from "@mastra/memory"; import { Agent } from "@mastra/core/agent"; import { openai } from "@ai-sdk/openai"; const agent = new Agent({ memory: new Memory({ embedder: openai.embedding("text-embedding-3-small"), }), });

無効化

セマンティックリコールを使用するとパフォーマンスへの影響があります。新しいメッセージはエンベディングに変換され、新しいメッセージがLLMに送信される前にベクトルデータベースへのクエリに使用されます。

セマンティックリコールはデフォルトで有効になっていますが、必要ない場合は無効にすることができます:

const agent = new Agent({ memory: new Memory({ options: { semanticRecall: false, }, }), });

以下のようなシナリオではセマンティックリコールを無効にすることをお勧めします:

  • 会話履歴が現在の会話に十分なコンテキストを提供している場合。
  • リアルタイムの双方向音声など、パフォーマンスに敏感なアプリケーションで、エンベディングの作成とベクトルクエリの実行による追加の遅延が目立つ場合。