Ollama連携

本ページは機械翻訳をもとに提供しています。正確かつ最新の情報は英語版の内容をご参照ください。

Ollamaは、独自のインフラストラクチャーでAIモデルを実行できるオープンソースツールです。Ollamaを使用すると、サードパーティのクラウドプロバイダーに生成AI(GenAI)リクエストを送信する代わりに、自社のサーバーで実行されているモデルを使用して、Applications ManagerでAI支援のサマリーとインサイトを生成できます。

前提条件

  • Applications Managerサーバーから到達可能なサーバーにOllamaをインストールして実行します。
  • 連携を設定する前に、使用するモデルをプルします。
  • OllamaのベースURLがApplications Managerから到達可能であることを確認してください。デフォルトのローカルURLは通常以下です。http://<ip_address_1>:11434
  • OllamaホストのCPU、メモリー、GPU容量に合ったモデルを選択してください。

Applications ManagerでOllamaを設定する方法

  1. [設定][製品設定][連携(アドオン設定)]に移動します。
  2. [AIOps]カテゴリーの下で、[Ollama]を選択します。これにより、Ollama連携設定ページが開きます。
  3. 組織名を入力します。これは、Applications Managerでこの連携を識別するために使用される表示名です。
  4. OllamaサーバーのベースURLを入力します。例:http://<ip_address_1>:11434。デフォルトのローカルAPIエンドポイントについては、Ollama APIドキュメントを参照してください。
  5. [モデルをフェッチ]をクリックして、設定されたOllamaサーバーで利用可能なモデルを取得します。モデルを選択する前にOllamaモデルライブラリーを参照できます。
  6. GenAIを活用した機能で利用可能にしたい、ローカルで利用可能なモデルを選択します。
  7. [モデルを追加]をクリックして、選択したモデルを連携に追加します。
  8. 必要に応じて、星(⭐)アイコンをクリックしてモデルをデフォルトとして設定します。設定されているすべてのGenAIプロバイダー全体で、1つのモデルのみをデフォルトとして扱う必要があります。
  9. プライバシー同意声明を確認して同意し、[保存]をクリックします。

Ollama連携設定ページのOllamaサーバーURLフィールドを示す画像

フェッチされたOllamaモデルリストで、選択されたモデルとデフォルトモデルの星アイコンを示す画像

設定項目

フィールド 説明
組織名 このOllama連携をApplications Managerで識別するための分かりやすい名前。
ベースURL OllamaサーバーのHTTPまたはHTTPSエンドポイント。例:http://<ip_address_1>:11434
モデル 設定されたOllamaサーバーで利用可能なモデル。Applications Managerには、すでにOllamaにプルされているモデルがリスト表示されます。
デフォルトモデル GenAIを活用した機能で特定のモデル選択が不要な場合に使用されるプライマリーモデル。
注:
  • OllamaはApplications ManagerでAPIキーを必要としません。
  • ベースURLには、末尾のスラッシュ(/)や末尾のスペースを含めないでください。例えば、http://<ip_address_1>:11434/ではなくhttp://<ip_address_1>:11434を使用します。
  • ローカルでホストされているモデルの場合、GenAIリクエストはベースURLフィールドで設定されたOllamaサーバーによって処理されます。
  • ネットワーク経由でOllamaを公開する場合は、組織のネットワークおよびアクセス制御ポリシーに従ってエンドポイントを保護してください。
  • [モデルをフェッチ]が失敗した場合は、Ollamaが実行中であること、ベースURLがApplications Managerサーバーから到達可能であること、および少なくとも1つのモデルがローカルにプルされていることを確認してください。

Ollamaでのモデルのプル

Applications Managerでモデルを選択する前に、Ollamaサーバー上でそれをプルしてください。 例:ollama pull llama3.1:8b

モデルをプルした後、Applications Managerに戻り、[モデルをフェッチ]をクリックしてモデルリストを更新します。

関連リンク