generated at
Qwen2.5-1M
> 1M トークンのコンテキスト長をサポートする Qwen2.5 のロングコンテキスト バージョン


要求VRAM120GB…!?morisoba65536
>VRAM 要件:
> 100万トークンのシーケンスを処理する場合:
> Qwen2.5-7B-Instruct-1M : 少なくとも 120GB の VRAM (GPU 全体の合計)。
> Qwen2.5-14B-Instruct-1M : 少なくとも 320GB の VRAM (GPU 全体の合計)。
> GPU に十分な VRAM がない場合でも、短いタスクには Qwen2.5-1M を使用できます。
良かった、扱うToken少なければそんなにVRAM要らないのね…