Open Interpreter
https://github.com/KillianLucas/open-interpreterKillianLucas/open-interpreter
https://openinterpreter.com/HP/デスクトップアプリへの早期アクセス
ファイルをアップロードしないといけないCode Interpreterと違ってPC内のアプリやらファイルを直接扱えるのでまだ見ぬWindows Copilotにも近いのかもしれない
OpenAI APIのかわりにローカルでCode Llamaを動かして使うこともできる
Hugging Faceから好きなモデルをダウンロードして使うことができるようになったhttps://github.com/KillianLucas/open-interpreter/pull/213
使う
$ pip install open-interpreter$ interpreterWindowsでCode Llamaを使うhttps://github.com/KillianLucas/open-interpreter/blob/main/WINDOWS.md
Visual Studio 2022のインストール
Desktop development for C++ workload を選択してインストールllama-cpp-pythonとopen-interpreterのインストール
$ pip install llama-cpp-python --force-reinstall --upgrade --no-cache-dir$ pip install open-interpreter(ちなみに)モデルの保存場所
$ path\to\AppData\Local\Open Interpreter\Open Interpreter\models+α 処理にNvidia GPUを使うhttps://github.com/KillianLucas/open-interpreter/blob/main/GPU.md
以下PowerShellでのコマンド
最新(12.2)のCUDA Toolkitをインストール
インストールできたか確認
$ $env:CUDA_PATH C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.2 が表示されれば成功Nvidia GPU版llama-cpp-pythonをインストール
$ $env:FORCE_CMAKE=1; $env:CMAKE_ARGS='-DLLAMA_CUBLAS=on'$ pip install llama-cpp-python --force-reinstall --upgrade --no-cache-dir -vvインストールできたか確認
$ python -c "from llama_cpp import GGML_USE_CUBLAS; print(GGML_USE_CUBLAS)"Powershell(cmd)ggml_init_cublas: found 1 CUDA devices:
Device 0: NVIDIA GeForce RTX 3080, compute capability 8.6
Trueが表示されれば成功
実行
$ interpreter --local -y