Forge / Local နှင့် အင်တာနက်မဲ့

Jan

ပွင့်လင်းရင်းမြစ်

OpenAI-compatible server ပါသော local chat UI။ ၇B နှင့် စကားပြောရုံဆို llama.cpp ထက် သန့်သည်။

ကတ်မလိုမြန်မာနှင့် ကိုက်ကိုယ်တိုင် host နိုင်API

အခမဲ့အဆင့်

ပွင့်လင်းရင်းမြစ် ChatGPT ပုံစံ desktop။ မော်ဒယ် စိတ်ကြိုက်၊ အပြည့် local။

ကန့်သတ်ချက်များ

UI သည် chat၊ အေးဂျင့် မဟုတ်။ အရည်အသွေးသည် ရွေးသော GGUF။

သင့်တော်သော အလုပ်

  • အင်တာနက်မဲ့ chat
  • ကိုယ်ပိုင်မှတ်စု မေးခွန်း
  • local OpenAI အစားထိုး

ကောင်းကောင်း သုံးပုံ

  1. Jan ထည့်၊ Hub tab မှ ၇B ဒေါင်း၊ chat လုပ်ပါ။
  2. local API ဖွင့်ပြီး ပေါ့သော ကိရိယာများကို ညွှန်ပါ။
  3. RAM ၁၆ GB laptop တွင် ၇၀B မတင်ပါနှင့်။ swap ဖြစ်ပြီး စက်သေသည်။

မြန်မာအတွက် မှတ်ချက်

ရန်ကုန် လိုင်းပြတ်ချိန် offline အဖော်ကောင်း။ အင်္ဂလိပ် မော်ဒယ်အရင်။ မြန်မာစာ GGUF သည် သုတေသနအဆင့်။