https://github.com/leejet/stable-diffusion.cppleejet/stable-diffusion.cpp

C++によるStable Diffusion/Fluxの推論コード

GGUFモデルへの変換機能もある。現在お手軽にFlux系モデルをGGUFにするならこれを使うのが一番楽

マニュアルが追いついてないがq6_K,q5_K(qは小文字でKは大文字じゃないとNG)オプションが使えるようになってるのでそのへんを使うのがおすすめ

多分q5_KはSの方になるっぽい？