Local နှင့် အင်တာနက်မဲ့
ကိုယ်ပိုင်စက်တွင် မော်ဒယ် run ပါ။ ကတ်မလို၊ vendor quota မလို၊ လိုင်းပြတ်လျှင်လည်း သုံးနိုင်သည်။
LM Studio
တစ်ဦးချင်းအတွက် desktop app အခမဲ့။ မော်ဒယ်များကို GGUF အဖြစ် သီးခြား ဒေါင်းရသည်။
local LLM အတွက် GUI။ OpenAI-compatible local server မို့ Cline/OpenCode က စက်ထဲ မော်ဒယ်နှင့် စကားပြောနိုင်သည်။
llama.cpp
MIT။ LM Studio၊ Ollama နှင့် GGUF ကိရိယာအများစုအောက်က runtime။
C/C++ LLM inference။ desktop app ထက် အစိတ်အပိုင်းနည်းချင်လျှင် CLI သုံးပါ။
ComfyUI
diffusion အတွက် GPL-3 graph UI။ GPU ရှိလျှင် အကန့်အသတ်မရှိ။ မော်ဒယ်များ သီးခြား။
local ပုံ (နှင့် ယခု ဗီဒီယို) အတွက် node graph။ နေ့စဉ် Leonardo နှိပ်ခြင်း၏ ပြင်းထန်သော အခြားလမ်း။
Jan
ပွင့်လင်းရင်းမြစ် ChatGPT ပုံစံ desktop။ မော်ဒယ် စိတ်ကြိုက်၊ အပြည့် local။
OpenAI-compatible server ပါသော local chat UI။ ၇B နှင့် စကားပြောရုံဆို llama.cpp ထက် သန့်သည်။
GPT4All
MIT desktop chat။ မော်ဒယ် တစ်ချက်နှိပ် ထည့်သွင်းနိုင်။ ဒေါင်းပြီးလျှင် အပြည့်အင်တာနက်မဲ့။
local LLM သို့ ဝင်လမ်း။ LM Studio လောက် power-user မဟုတ်။ ပထမဆုံး ထည့်ရန် ပိုလွယ်။