AI Interaction System
サークル: crispumworks
サークルHP:
発売日: 2025年04月10日 0時
LLMAIとアバターを通して会話できるシステムです。
LLMforUnityを使用してローカル環境でLLMサーバーを構築しています。
※CPUとGPU共にベンチマークソフト程度の負荷がかかります。
LLM言語モデル(.gguf)が必要です。HuggingFaceなどから取得できます。
※Llama-3-ELYZA-JP-8B-q4_k_m.gguf(約5GByte)辺りの使用を想定しています。
//最低限の設定など
Windows10以降
展開して作成されたフォルダ(AIIS)を適当な場所に保存、\AIIS\AIIS_Data\StreamingAssets\LLMModels内にggufファイルを格納してください。
自動的にアタッチされます。
AIIS.exeを実行後、StartボタンでLLMサーバーが起動します。初回生成時は数分程度かかると思います。
//その他機能
LLM管理、プロンプトの保存と管理、アバター呼び出しなど。