Why Your AI Agents Keep Forgetting (And How To Fix That) - Vasilije Markovic (Cognee) at AIE London
22分 53秒
AIエージェントの記憶とRAGの課題を解決するCognney: 知識グラフで実現する持続的なAI
この記事は動画の内容を元にAIが生成したものです。正確な情報は元の動画をご確認ください。
ポイント
- •本記事は、AIエージェントの記憶問題やRAGの限界に直面する開発者向けに、新世代のメモリーレイヤーCognneyを紹介します。
- •Cognneyは、静的・動的RAGの課題やエージェントのステートレス性を、埋め込み上に構築された知識グラフで解決します。
- •知識グラフの構築・運用を簡素化し、AIエージェントが複雑な状況で文脈を正確に理解し、持続的に賢く動作する未来を実現します。
AIエージェントの記憶とRAGの課題を解決するCognney: 知識グラフで実現する持続的なAI
はじめに:AIアプリケーションとエージェントにおける記憶の重要性
AI技術の進化は目覚ましく、特に大規模言語モデル(LLM)の登場により、様々なAIアプリケーションやエージェントが開発されています。しかし、これらのAIシステムが実用レベルで機能するためには、「記憶」が不可欠です。セッションを跨いで情報を保持し、過去の経験から学習し、文脈に応じた適切な判断を下す能力は、AIエージェントの性能を大きく左右します。
本記事では、AIアプリケーションやエージェントのためのメモリーレイヤーを提供する「Cognney」についてご紹介します。Cognneyは、従来のRAG(Retrieval-Augmented Generation)における課題や、AIエージェントが持つステートレス性(状態を保持できない問題)を解決し、より賢く、より実用的なAIシステムの実現を目指しています。
従来のRAGとAIエージェントが抱える課題
Cognneyが解決しようとしている問題は、主に以下の二点に集約されます。
1. 静的RAGの限界
2〜3年前、人々はLLMに独自のデータを持ち込むために「静的RAG」のアプローチを試みました。これは、データをベクトルストアにロードし、それを埋め込み(Embedding)にしてLLMのコンテキストに投入するというものです。この方法であれば、LLMは与えられた情報に基づいて応答を生成できます。
しかし、静的RAGには大きな問題がありました。それは、データの更新やリフレッシュが困難であるため、情報が古くなったり、現在の状況を正確に反映できなかったりすることです。リアルタイム性が求められる多くのシナリオにおいて、静的RAGは十分な解決策とはなりませんでした。
2. 動的RAGと「意味の曖昧さ」
静的RAGの限界を受けて、「動的RAG」へと移行する動きが生まれました。動的RAGでは、データがソースシステム、データウェアハウスなどで更新されると同時に、RAGのデータもリフレッシュされるというものです。これにより、情報は常に最新の状態に保たれることが期待されました。
しかし、動的RAGにも固有の課題がありました。例えば、「Apple」という単語を検索した場合を考えてみましょう。組織内であれば「Apple社のコンピューター」を指すかもしれませんし、社内のSlackで誰かが言及した「物理的なリンゴ」を指す可能性もあります。このように、同じ単語でも文脈によって意味が大きく異なるため、RAGだけでは適切な情報を正確に取得することが難しいという問題が生じました。
3. AIエージェントのステートレス性
RAGの課題と並行して、Agenticシステム(エージェント型のシステム)は優れたモデルの登場により、単体でより多くの問題を解決できるようになりました。しかし、エージェントは「状態(State)」を維持できないという根本的な課題を抱えていました。つまり、エージェントはセッションごとにすべての情報を忘れてしまい、数週間後に再度起動しても、以前の活動について何も知らない状態に戻ってしまうのです。
数千ものエージェントが連携して動作するような、プロダクション環境で大規模にAIエージェントを運用する場合、このステートレス性は大きな障壁となります。エージェント間のコミュニケーションや、長期的なタスクの遂行には、RAGが提供する以上の記憶ソリューションが不可欠です。
Cognneyのアプローチ:AIエージェントのための知識グラフとメモリーレイヤー
Cognneyは、前述のRAGの課題とAIエージェントのステートレス性の両方を解決するために設計されました。私たちの大きな賭けは、Cognneyのようなソリューションが、プロダクション環境で動作するすべてのエージェントにとって必要不可欠になるというものです。
1. 埋め込み上に構築される知識グラフ
Cognneyは、埋め込み(Embeddings)の上に知識グラフ(Knowledge Graphs)を構築することで、情報を構造化された形でAIエージェントに提供します。知識グラフは、データの関係性を明確にし、より深い意味を理解するための強力なツールです。これにより、「年」や「収益」といった単語が文脈によって異なる意味を持つ場合でも、エージェントは正確な理解を得ることができます。
特に、Neo4jのようなグラフデータベースを活用することで、複雑な関係性を持つデータを効率的に管理し、エージェントが必要とするコンテキストをリアルタイムで提供することが可能になります。
2. 知識グラフ構築の簡素化
知識グラフの構築は、手作業で行うには非常に困難で手間のかかる作業です。そこでCognneyは、知識グラフの作成、維持、更新を大幅に簡素化するフレームワークを提供しています。ユーザーは、シンプルなPythonとPydanticの構造体を使用するだけで、知識グラフを定義できます。このフレームワークには、自動更新や、外部システムからのフィードバックをシステムに取り込み、手動で変更したくない部分を再調整する機能が組み込まれています。
これにより、オントロジー(知識体系)の定義、フィードバックループの管理、そして知識グラフ自体の運用が劇的に容易になり、開発者はAIエージェントのコアロジックに集中できるようになります。
具体的な解決例:ワークスペースアクセス問題の再構築
Cognneyの能力を示す具体的な例として、「ユーザーが突然ワークスペースへのアクセスを失ったケース」を考えてみましょう。これは、多くのSaaSサービスで発生しうる一般的なカスタマーサポートのシナリオです。
1. ワークスペースアクセスを失ったユーザーの状況
顧客はサブスクリプション料金を支払っているにもかかわらず、自身のワークスペースにアクセスできない状態に陥っています。システム上ではダウングレードされ、ブロックされているように見えますが、本来は完全なワークスペースアクセス権を持っているはずです。顧客はサポートチケットを開き、「支払いは済ませたのにアクセスできない。何が起こったのか、至急対応してほしい」と訴えます。
2. 散在するデータソース
このような状況に対応するためには、複数のシステムに散在する情報を統合する必要があります。
- 契約条件(Ontologies): システムのルールを規定するメタストアのようなもので、どのような契約がなされているかを定義します。
- 請求記録(Billing Records): 請求書、支払い履歴、アカウントの状態など、リレーショナルデータベースやPDF形式で存在することがあります。
- ワークスペース権限状態(Workspace Entitlement State): プロダクションデータベースに格納されており、現在のアクセスレベル、適用されているフラグ、シート制限、そしてユーザーに提供されるべき機能などの情報が含まれます。
これらのデータは異なるサイロ(独立したシステム)に存在し、通常は人間が手作業でそれらを結びつける必要があります。
3. エージェントによる問題解決のプロセス
Cognneyは、このような散在するデータをAIエージェントが接続し、推論し、フィードバックをシステムに反映させることを可能にします。このシナリオでは、主に以下の3種類のエージェントが連携して動作します。
- Billing Agent(請求エージェント): 顧客のトランザクション履歴や支払い状況を把握し、請求に関連する問題を特定します。
- Support Agent(サポートエージェント): 顧客からのサポートリクエストに対応し、必要な情報を収集します。
- Supervisor Agent(スーパーバイザーエージェント): インシデントの全体を監督し、Billing AgentやSupport Agentからの情報を統合して、何が起こったのかを再構築し、解決策を提案します。
Supervisor Agentは、 Billing AgentやSupport Agentから得られた情報をもとに、顧客からのフィードバックをシステムに反映させ、データ内部構造を変更し、最終的にすべての点を結びつけて何が起こったのかを完全に理解します。これにより、従来の人間による複雑な手作業を自動化し、迅速かつ正確な問題解決を実現できます。
まとめ:Cognneyが切り開くAIエージェントの未来
Cognneyは、AIアプリケーションとエージェントが抱える記憶の課題に対し、知識グラフとインテリジェントなメモリーレイヤーを通じて革新的なソリューションを提供します。
- RAGの課題解決: 静的・動的RAGの限界を超え、文脈に応じた正確な情報提供を実現します。
- AIエージェントの記憶力向上: ステートレスなエージェントに持続的な記憶能力を与え、より複雑なタスクや長期的な対話にも対応可能にします。
- 知識グラフ構築の簡素化: PythonとPydanticを用いたフレームワークにより、知識グラフの運用負荷を大幅に軽減します。
この技術は、カスタマーサポート、内部知識管理、意思決定支援など、多岐にわたるAIアプリケーションにおいて、エージェントの能力を最大限に引き出し、ビジネス価値を創造する可能性を秘めています。Cognneyは、AIエージェントが真に賢く、自律的に機能するための基盤を築いていると言えるでしょう。