Back to Krillinai

Docker デプロイガイド

docs/jp/docker.md

1.4.02.3 KB
Original Source

Docker デプロイガイド

クイックスタート

まず、設定ファイルを準備し、サーバーのリスニングポートを8888、サーバーのリスニングアドレスを0.0.0.0に設定します。

docker runでの起動

bash
docker run -d \
  -p 8888:8888 \
  -v /path/to/config.toml:/app/config/config.toml \
  -v /path/to/tasks:/app/tasks \
  asteria798/krillinai

docker-composeでの起動

yaml
version: '3'
services:
  krillin:
    image: asteria798/krillinai
    ports:
      - "8888:8888"
    volumes:
      - /path/to/config.toml:/app/config/config.toml # 設定ファイル
      - /path/to/tasks:/app/tasks # 出力ディレクトリ

モデルの永続化

fasterwhisperモデルを使用する場合、KrillinAIは自動的にモデルに必要なファイルを/app/modelsディレクトリと/app/binディレクトリにダウンロードします。コンテナが削除されると、これらのファイルは失われます。モデルを永続化する必要がある場合は、これらの2つのディレクトリをホストマシンのディレクトリにマッピングしてください。

docker runでの起動

bash
docker run -d \
  -p 8888:8888 \
  -v /path/to/config.toml:/app/config/config.toml \
  -v /path/to/tasks:/app/tasks \
  -v /path/to/models:/app/models \
  -v /path/to/bin:/app/bin \
  asteria798/krillinai

docker-composeでの起動

yaml
version: '3'
services:
  krillin:
    image: asteria798/krillinai
    ports:
      - "8888:8888"
    volumes:
      - /path/to/config.toml:/app/config/config.toml      
      - /path/to/tasks:/app/tasks
      - /path/to/models:/app/models
      - /path/to/bin:/app/bin

注意事項

  1. dockerコンテナのネットワークモードがhostでない場合、設定ファイルのサーバーリスニングアドレスを0.0.0.0に設定することをお勧めします。そうしないと、サービスにアクセスできない可能性があります。
  2. コンテナ内でホストマシンのネットワークプロキシにアクセスする必要がある場合、プロキシアドレス設定項目proxy127.0.0.1host.docker.internalに設定してください。例えばhttp://host.docker.internal:7890のように。