Forge သို့ ပြန်ရန်

Local နှင့် အင်တာနက်မဲ့

ကိုယ်ပိုင်စက်တွင် မော်ဒယ် run ပါ။ ကတ်မလို၊ vendor quota မလို၊ လိုင်းပြတ်လျှင်လည်း သုံးနိုင်သည်။

LM Studio

တစ်ဦးချင်းအတွက် desktop app အခမဲ့။ မော်ဒယ်များကို GGUF အဖြစ် သီးခြား ဒေါင်းရသည်။

အခမဲ့

local LLM အတွက် GUI။ OpenAI-compatible local server မို့ Cline/OpenCode က စက်ထဲ မော်ဒယ်နှင့် စကားပြောနိုင်သည်။

ကတ်မလိုမြန်မာနှင့် ကိုက်ကိုယ်တိုင် host နိုင်API

llama.cpp

MIT။ LM Studio၊ Ollama နှင့် GGUF ကိရိယာအများစုအောက်က runtime။

ပွင့်လင်းရင်းမြစ်

C/C++ LLM inference။ desktop app ထက် အစိတ်အပိုင်းနည်းချင်လျှင် CLI သုံးပါ။

ကတ်မလိုမြန်မာနှင့် ကိုက်ကိုယ်တိုင် host နိုင်API

ComfyUI

diffusion အတွက် GPL-3 graph UI။ GPU ရှိလျှင် အကန့်အသတ်မရှိ။ မော်ဒယ်များ သီးခြား။

ပွင့်လင်းရင်းမြစ်

local ပုံ (နှင့် ယခု ဗီဒီယို) အတွက် node graph။ နေ့စဉ် Leonardo နှိပ်ခြင်း၏ ပြင်းထန်သော အခြားလမ်း။

ကတ်မလိုမြန်မာနှင့် ကိုက်ကိုယ်တိုင် host နိုင်API

Jan

ပွင့်လင်းရင်းမြစ် ChatGPT ပုံစံ desktop။ မော်ဒယ် စိတ်ကြိုက်၊ အပြည့် local။

ပွင့်လင်းရင်းမြစ်

OpenAI-compatible server ပါသော local chat UI။ ၇B နှင့် စကားပြောရုံဆို llama.cpp ထက် သန့်သည်။

ကတ်မလိုမြန်မာနှင့် ကိုက်ကိုယ်တိုင် host နိုင်API

GPT4All

MIT desktop chat။ မော်ဒယ် တစ်ချက်နှိပ် ထည့်သွင်းနိုင်။ ဒေါင်းပြီးလျှင် အပြည့်အင်တာနက်မဲ့။

ပွင့်လင်းရင်းမြစ်

local LLM သို့ ဝင်လမ်း။ LM Studio လောက် power-user မဟုတ်။ ပထမဆုံး ထည့်ရန် ပိုလွယ်။

ကတ်မလိုမြန်မာနှင့် ကိုက်ကိုယ်တိုင် host နိုင်API