メインコンテンツまでスキップ

VSCode拡張でモデルを利用する

サービスを提供する​

前提条件​

設定ファイルを利用者に渡す​

MDK launcherによってAPIを用意した場合は、下記のように設定ファイルを作成して、サービス利用者に渡してください。

{
  "models": [
    {
      "title": "<MODEL_NICKNAME>",
      "provider": "openai",
      "model": "<MODEL_SHORT_NAME>",
      "apiKey": "EMPTY",
      "apiBase": "http://localhost:8000/v1/"
    },
  ...

ここで、<MODEL_SHORT_NAME>はモデル名として指定した文字列のうち、最後の/の後の部分を指定します。たとえば、利用するモデルがcodellama/CodeLlama-7b-Instruct-hfの場合<MODEL_SHORT_NAME>はCodeLlama-7b-Instruct-hfとなります。

<MODEL_NICKNAME>には識別しやすい任意の名前をつけます。

サービスを利用する​

利用前提条件​

  • VSCodeがインストールされていること
  • サービス提供者から、Continueの設定ファイルが与えられていること

Continueのインストール​

Continue拡張機能をインストールしてください。インストールが完了すると、サイドバーにContinueが追加されます。

vscode-continue-sidebar

Continueの設定​

右下の歯車マークから設定ファイルを開きます。利用者はサービス提供者から指定されたとおりに設定ファイルを変更してください。

Continueの使い方​

コード補完など使い方の詳細はContinueのドキュメントを参照してください。