Smart CodeInsight向けのOllamaの設定
RAD Studio では、今後のリリースで、CodeLlama を搭載した Ollama の事前構成済み Docker イメージを提供する予定です。それまでの間は、Ollama公式で公開されている手順に従ってセットアップできます。
Note: Ollama の Docker イメージは、専用の Linux サーバーや Windows の WSL(Windows Subsystem for Linux)にインストールできます。設定を簡単にするために、Docker Desktop の使用を検討してください。ただし、このツールは特定の EULA(エンドユーザーライセンス契約)に基づいており、大規模な組織ではライセンス料が必要です。詳細は Docker の公式ページ をご確認ください。
Note: Nvidia GPU または AMD GPU を使用するイメージについては、こちらの手順をご覧ください。
以下は、Ollama のインストール、実行、および使用に関する簡潔なガイドです。次の手順に従ってください。
Docker のインストール確認
以下の手順に従って、Docker のインストールと動作を確認してください。
Windows での Docker Desktop
- スタートメニューで「Docker Desktop」を検索し、インストールされていることを確認する
- Docker Desktop を開いて、Docker エンジンが起動していることを確認する
- PowerShell を開き、以下のコマンドを実行して Docker のバージョンを確認する
docker --version
WSL2 上の Docker
- WSL2 ターミナルを開く
- 以下のコマンドを実行して Docker のバージョンを確認する
docker --version
- 以下のコマンドを実行して、Docker エンジンのステータスを確認する
sudo service docker status
- Note: 出力結果に「active (running)」と表示されていることを確認してください。
- Docker が起動していない場合は、以下のコマンドで起動する
sudo service docker start
Ollama の実行と使用
- 上記の[Docker のインストール確認]の手順で Docker のインストールとエンジンの起動を確認する
- PowerShell または CMD を開き、以下のコマンドを実行して Docker Hub にログインする
docker login
- Docker Hub のユーザー名とパスワードを入力してログインする
- 以下のコマンドを実行して、Embarcadero のイメージをインストールして実行する
docker run --name Embarcadero_Codellama -p 11434:11434 radstudio/codellama:latest
- Note: 上記の手順を実行する際は、以下の情報を考慮してください。
--name
で必ず指定してください(-name
は誤りです)- コンテナの名前は変更できますが、変更した場合は以降のコマンドでも同じ名前(ここでは、Embarcadero_Codellama)を使用してください。
- ポート番号は任意で変更できます。形式は”-p 12345:54321” です。
- 左側の番号(例: 12345): ホストマシンのポート番号で、コンテナにバインドするローカルマシン(Dockerを実行しているマシン)のポートを表します。
- 右側の番号(例: 54321): コンテナポート番号で、アプリケーションがリッスンしているDockerコンテナ内のポートを表します。
- (オプション)以下のコマンドを実行して、コマンドラインで Ollama をテストする(以下の実行手順は任意)
docker exec -it Embarcadero_Codellama ollama run codellama
- 任意の質問を入力し、応答を確認する
- チャットモードを終了するには、Ctrl + D または /bye を入力する
- これでコマンドラインを閉じることができます。
- OllamaのSmart CodeInsightのオプションでは、以下の情報を設定してください。
- URL: http://localhost:11434
- Model: codellama