Smart CodeInsight 用 Ollama の設定
Smart CodeInsight への移動
RAD Studio では、今後のリリースで CodeLlama と連携した Ollama の事前構成済み Docker イメージを 1 つまたは複数提供し、セットアップと統合を容易にする予定です。 いましばらくは、公開されている手順を参考にしてください。
メモ: Ollama Docker イメージは、専用の Linux サーバーおよび Windows Linux サブシステム（WLS）にインストールできます。 設定を容易にするために、Docker Desktop のご利用をご検討ください。 ただし、このツールが無料なのは特化した EULA のみが適用される場合です： より大きい組織の場合には、ライセンス料を支払う必要があります。 詳細については、このページを参照してください。
メモ: Nvidia-GPU または AMD-GPU に対応したイメージについては、こちらの手順をお読みください。
以下は、Ollama のインストール、実行、および利用のためのガイドです。 次の手順に従ってください：
Docker のインストールを確認する
次のケースにおいて、各指示に従い Docker のインストールを確認してください。
Windows 上での Docker Desktop
- スタート メニューで検索して、Docker Desktop のインストールを確認します。
- Docker Engine を開いてステータスをチェックします。
- 次の PowerShell コマンドで Docker Desktop Engine を検証します：
docker --version
WSL2 上での Docker
- WSL2 ターミナルを開きます。
- 次のコマンドラインを実行します。
docker --version
- 次を実行して Docker Engine のステータスをチェックします：
sudo service docker status
注意: 出力には、Docker がアクティブ（実行中）であることが示されているはずです。 - Docker が実行されていない場合、次のコマンドを実行して起動することができます：
sudo service docker start
Ollama を実行および利用する
- Docker がインストールされ、Docker エンジンが実行中であることを確認します。
- PowerShell または CMD を開き、次のコマンドを実行します：
docker login
- Docker Hub のユーザー名とパスワードでログインします。
- Embarcadero イメージをインストールし、実行します：
docker run --name Embarcadero_Codellama -p 11434:11434 radstudio/codellama:latest
メモ: 上記の手順を実行するときは、次の情報を考慮してください：-nameは間違いで、--nameのダッシュが 2 つあるのが正しいです。- コンテナの名前変更は可能ですが、「Embarcadero_Codellama」を変更すると、それに続くコマンドでもそれを更新しなければなりません。
- 他のポート番号を使用することもできます。形式 ‘-p 12345:54321’ に配慮してください。
- 左の番号（12345）： これはホストのポートです。 コンテナにバインドさせたい、ローカル マシン（Docker が実行されているマシン）上のポートを表します。
- 右の番号（54321）： これはコンテナのポートです。 アプリケーションが待機している コンテナ コンテナ内のポートを表します。
- Ollama をコマンドラインでテストします（任意ステップ）
docker exec -it Embarcadero_Codellama ollama run codellama
- 質問をし、それに対する回答をチェックします。
- 〔Ctrl+D〕または「/bye」を使用してチャットモードを終了します。
- コマンドラインを閉じて構いません。
- IDE のオプション ページでは、次の認証情報を使用します：
- URL： http://localhost:11434/api/generate
- Model： codellama