Radiataを導入する
Radiataを導入したのでレポート
Windows11
RTX 3060 12GB
インストール済みのもの
とりあえず起動編
適当にフォルダーを作ってクローン
$ git clone https://github.com/ddPn08/RadiataReadme.mdに沿って以下のコマンドで起動
code.cmdcd Radiata
./launch-user.batいろんなモジュールがインストールされた後起動する
リンクが表示されるのでクリックするとwebで開く
なんか起動しなかったのでバージョンを一つ下げてみる
エラー文的に無限ループが起きてるっぽい?
code.cmdgit stash
git reset --hard 822a760bb5b0fc1ff5a34895b894acc504248c75これでは問題なく動いた
モデル追加編
しかしもう1回ダウンロードするとファイル容量が馬鹿にならないのでシンボリックリンクで解決した
$ mklink .\models\checkpoints\models ..\stable-diffusion-webui-1.3.1\models\Stable-diffusionといった感じ
ファイルの位置はそれぞれ違うと思うので各個人で変えてください
(わからなくても
models\checkpoints\にsafetensors をおいておけば大丈夫何も考えずに
.safetensors が使えるのとても良いTensorRT導入編
RTX30~のみ高速なTensorRTを使える(らしい)
Nvidiaアカウントの作成
https://developer.nvidia.com/ からアカウントを作成する
名前とか入れるだけなのですぐ終わる
以下のインストールのために必要
CUDAをインストール
バージョンが11.0以上かつグラボが対応していればOK
この先のバージョン表記は11.6になるが適宜読み替えてください
windows-11-exe(local)を選択しダウンロード
開いてそのまま流れに沿ってインストール実行
cuDNNをインストール
バージョンは8.8.0
上でインストールしたCUDAのバージョンに合わせて選ぶ
Local Installer for Windows (Zip)を選択しダウンロード、解凍
それぞれのフォルダーを
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6 に入れるすべて置き換えでok
システム環境変数のPathに
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\bin を追加TensorRTをインストール
https://developer.nvidia.com/nvidia-tensorrt-8x-downloadから8.6をダウンロード,展開
TensorRT 8.6 GA for Windows 10 and CUDA 11.0, 11.1, 11.2, 11.3, 11.4, 11.5, 11.6, 11.7 and 11.8 ZIP Package にした C:\Program Files\NVIDIA GPU Computing Toolkit にコピー
環境変数
Path にC:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT-8.6.1.6\libを追加nvinferのプラグインを置き換え
ここ何しているかわからなかったのでfくんのブログ https://zenn.dev/aics/articles/c3d9d1d8606b04に乗る
https://github.com/fkunn1326/TensorRT/releases/tag/dllからRelease.zipをダウンロード、展開
C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT-8.5.3.1\lib のファイルを置き換え起動変数を変更して実行
Radiata フォルダーの launch-user.bat を変更(--tensorrtつけただけ)bat@echo off
set PYTHON=
set GIT=
set VENV_DIR=
set COMMANDLINE_ARGS=--tensorrt
call launch.batモデルをONNX形式に変換
起動した後モデルを選択し
TensorRT タブをクリック
そのままの設定でRun！
15分程すると終了する
右上のサイクルボタンを押せば読み込まれるのでTensorRTを選択
いざ生成
3秒ぐらいで256x256が出力される