LLMLab.ee

AI-süsteemide kategooria

Kompaktne ja vaikne

Apple Siliconiga Mac mini ja Mac Studio süsteemid, kus Ollama, LM Studio ja kohalikud AI-tööriistad on eelseadistatud. Eraldi GPU-d pole vaja.

KategooriaKompaktne ja vaikneValikudvõrdlemiseksHindkinnitatakse hinnapakkumises

Sobib hästi

  • Vaikne, kompaktne ja lihtne alustada
  • Sujuv macOS-i kasutuskogemus
  • Ühismälu sobib hästi paljude kohalike mudelite käitamiseks

Ei ole parim valik

  • CUDA puudub, seega pole see NVIDIA töövoogude jaoks loomulik valik
  • GPU-d ei saa hiljem uuendada
  • Suurte mudelite kasutamist piirab ühismälu maht

Hinnapakkumise alusel müüdavad Macid

AI-Ready Mac

Konfiguratsioon: Mac mini M4 Pro 48GB / 1TB

Vaikne M4 Pro Mac mini privaatseks AI-vestluseks, programmeerimiseks ning Apple'ile sobivate kohalike AI-projektide jaoks.

Kiip: Apple M4 Pro

Mälu: 48 GB ühismälu

Salvestus: 1000 GB SSD

30B-klassi Q4 ainult piirangutega

Sobivus eeldab kvanditud mudelit, mõõdukat kontekstimahtu ja käituskeskkonna kontrolli; 70B ei ole tavapärane siht ilma vähemalt 48 GB videomälu või suure ühismäluta.

3166 €

Planeerimishinnang

Macid on müügil hinnapakkumise alusel: enne makset kontrollime konfiguratsiooni, saadavust ja tarkvara sobivust.

Vaata lähemalt

Mac Studio M4 Max 64GB / 1TB

Kohaliku tehisaru jaoks valitud süsteem.

Kiip: Apple M4 Max

Mälu: 64 GB ühismälu

Salvestus: 1000 GB SSD

30B-klassi Q4 ainult piirangutega

Sobivus eeldab kvanditud mudelit, mõõdukat kontekstimahtu ja käituskeskkonna kontrolli; 70B ei ole tavapärane siht ilma vähemalt 48 GB videomälu või suure ühismäluta.

4240 €

Planeerimishinnang

Macid on müügil hinnapakkumise alusel: enne makset kontrollime konfiguratsiooni, saadavust ja tarkvara sobivust.

Vaata lähemalt

Mac Studio M4 Max 36GB / 512GB

Kohaliku tehisaru jaoks valitud süsteem.

Kiip: Apple M4 Max

Mälu: 36 GB ühismälu

Salvestus: 512 GB SSD

30B-klassi Q4 ainult piirangutega

Sobivus eeldab kvanditud mudelit, mõõdukat kontekstimahtu ja käituskeskkonna kontrolli; 70B ei ole tavapärane siht ilma vähemalt 48 GB videomälu või suure ühismäluta.

2834 €

Planeerimishinnang

Macid on müügil hinnapakkumise alusel: enne makset kontrollime konfiguratsiooni, saadavust ja tarkvara sobivust.

Vaata lähemalt

Mac mini M4 Pro 24GB / 512GB

Kohaliku tehisaru jaoks valitud süsteem.

Kiip: Apple M4 Pro

Mälu: 24 GB ühismälu

Salvestus: 512 GB SSD

13B/14B Q4 praktilise kontekstiga

Igapäevaseks kasutuseks sobiv kohalik keelemudel eeldab kvantimist ja mõõdukat konteksti; 30B ei ole ilma suurema videomäluta tavapärane siht.

2240 €

Planeerimishinnang

Macid on müügil hinnapakkumise alusel: enne makset kontrollime konfiguratsiooni, saadavust ja tarkvara sobivust.

Vaata lähemalt

Kohalike mudelite näited

Sobib hästi privaatseks vestluseksSobib hästi programmeerimisabiksSobib hästi dokumentide kokkuvõtmiseksEi ole ideaalne 70B+ mudeliteks

Soovitatud mudel

Qwen3.6 27B

Tugev tihe mudel 24–32 GB GPU-dele ja suurema mäluga Apple'i süsteemidele.

Piisava mäluga arvutis on see praktiline kvaliteedisiht suurema tiheda mudeli jaoks.

Sobib hästi GPU-l käitamiseks

Kiire

ollama run qwen3.6:27b

Selle kvanditud mudeli jaoks peaks mõõduka konteksti korral olema piisavalt ühismälu.

  • 48 GB ühismälu on saadaval
  • Pärast operatsioonisüsteemi ja rakenduste varu on hinnanguliselt 42 GB

Qwen3.6 35B-A3B

Programmeerimisagendid, koodihoidla analüüs ja keerukad kohalikud assistenditöövood

Piiratud sobivus

Võimekas MoE-mudel, mis annab 32 ja 48 GB tööjaamadele sisulise suurema programmeerimissihi.

Oodatav kogemus: Aeglane

Ühismälu maht on piiratud: hoia kontekst mõõdukas ning jäta ruumi macOS-ile ja teistele rakendustele.

  • 48 GB ühismälu on saadaval
  • Pärast operatsioonisüsteemi ja rakenduste varu on hinnanguliselt 42 GB

Gemma 4 12B

Privaatne assistent, dokumentide mõistmine ning piltide või heli analüüs

Sobib hästi GPU-l käitamiseks

Kaasaegne mitmikmodaalne igapäevamudel, mis kasutab 16 GB GPU võimekust hästi.

Oodatav kogemus: Kiire

Selle kvanditud mudeli jaoks peaks mõõduka konteksti korral olema piisavalt ühismälu.

  • 48 GB ühismälu on saadaval
  • Pärast operatsioonisüsteemi ja rakenduste varu on hinnanguliselt 42 GB

Llama 3.3 70B Instruct

Tipptasemel kohaliku vestluse katsed 48 GB GPU-l või vähemalt 96 GB Apple'i süsteemil

Sellel arvutil ei ole praktiline

Selge ülempiiri näide, millega hinnata, kas arvuti saab 70B-klassi mudelit üldse proovida.

Oodatav kogemus: Ei ole soovitatav

Konservatiivne Q4_K_M seadistus vajab ligikaudu 96 GB või rohkem Apple'i ühismälu; sellel Macil on 48 GB.

  • 48 GB ühismälu on saadaval
  • Pärast operatsioonisüsteemi ja rakenduste varu on hinnanguliselt 42 GB
Kuva tehnilised üksikasjad

Eeldused

  • Apple unified memory is treated conservatively with OS/app headroom reserved and separate thresholds from desktop VRAM.
  • Süsteemimälu: 48 GB.
  • Hinnang arvestab ühe kohaliku mudeli kaale, KV-vahemälu, käituskeskkonna lisakulu ja turvavaru. See näitab sobivust, mitte tagatud kiirust.
  • Profiilileht kasutab konservatiivset algtaseme Maci näidet. Täpne mälusobivus on toodud iga Maci tootelehel.
Qwen3.6 27B tehnilised detailid

Mudelisari: Qwen3.6

Parameetrite arv: 27B

Struktuur: 27B tihe

Litsents: Apache License 2.0; lubatud. See on üldine sobivushinnang; enne ärilist kasutust kontrolli mudeli litsentsi.

Algne kontekstiaken: 262 144 tokenit

Laiendatud kontekstiaken: 1 010 000 meetodiga YaRN; ei ole vaikimisi sobivuseeldus

Kvantimine: Q4_K_M

Q4 mudelikaalude ligikaudne maht: 17 GB

Vaikehinnang: 23 GB @ 8192 tokenit

Mudelikaalud / KV-vahemälu / käituskeskkond / varu: 17 GB / 2 GB / 1.5 GB / 2.5 GB

CPU- ja RAM-põhine varuvariant: Ei ole soovitatav

VRAM: 24 GB vähemalt / 32 GB soovituslik

RAM: 48 GB vähemalt / 64 GB soovituslik

Praegune käitusviis: Sobib hästi GPU-l käitamiseks

Oodatav kogemus: Kiire

Kogu mudeli GPU-le laadimine: Ainult siis, kui mudel ja kontekst mahuvad mällu

Konteksti hoiatus: Koodihoidla või väga pika dokumendi kontekst võib ületada 24 GB kaardi mugava mahu.

KontekstKaaludKVKäituskeskkondVaruGPU-mälu hinnang
4K17 GB1 GB1.5 GB2.5 GB22 GB
8K17 GB2 GB1.5 GB2.5 GB23 GB
16K17 GB4 GB1.5 GB3 GB25.5 GB
32K17 GB8 GB1.5 GB3.5 GB30 GB

Kõigi mäluhinnangute vaatamiseks libista tabelit külgsuunas.

Teabeallikad

Qwen3.6 27B official model cardOllama Qwen3.6 tags

Andmed kontrollitud: 2026-07-30

Qwen3.6 35B-A3B tehnilised detailid

Mudelisari: Qwen3.6

Parameetrite arv: 35B

Struktuur: 35B kokku / 3B aktiivsed MoE

Litsents: Apache License 2.0; lubatud. See on üldine sobivushinnang; enne ärilist kasutust kontrolli mudeli litsentsi.

Algne kontekstiaken: 262 144 tokenit

Laiendatud kontekstiaken: 1 010 000 meetodiga YaRN; ei ole vaikimisi sobivuseeldus

Kvantimine: Q4_K_M

Q4 mudelikaalude ligikaudne maht: 24 GB

Vaikehinnang: 31.5 GB @ 8192 tokenit

Mudelikaalud / KV-vahemälu / käituskeskkond / varu: 24 GB / 2.5 GB / 2 GB / 3 GB

CPU- ja RAM-põhine varuvariant: Ei ole soovitatav

VRAM: 32 GB vähemalt / 48 GB soovituslik

RAM: 64 GB vähemalt / 64 GB soovituslik

Praegune käitusviis: Piiratud sobivus

Oodatav kogemus: Aeglane

Kogu mudeli GPU-le laadimine: Ainult siis, kui mudel ja kontekst mahuvad mällu

Konteksti hoiatus: Pikk koodihoidla kontekst võib allesjäänud mäluvaru kiiresti ära kasutada, eriti 32 GB GPU-l.

KontekstKaaludKVKäituskeskkondVaruGPU-mälu hinnang
4K24 GB1.5 GB2 GB3 GB30.5 GB
8K24 GB2.5 GB2 GB3 GB31.5 GB
16K24 GB5 GB2 GB3.5 GB34.5 GB
32K24 GB10 GB2 GB4 GB40 GB

Kõigi mäluhinnangute vaatamiseks libista tabelit külgsuunas.

Teabeallikad

Qwen3.6 35B-A3B official model cardOllama Qwen3.6 tags

Andmed kontrollitud: 2026-07-30

Gemma 4 12B tehnilised detailid

Mudelisari: Google Gemma 4

Parameetrite arv: 11.95B

Struktuur: 11.95B tihe

Litsents: Apache License 2.0; lubatud. See on üldine sobivushinnang; enne ärilist kasutust kontrolli mudeli litsentsi.

Algne kontekstiaken: 262 144 tokenit

Kvantimine: Q4_0 QAT

Q4 mudelikaalude ligikaudne maht: 7.2 GB

Vaikehinnang: 11.5 GB @ 8192 tokenit

Mudelikaalud / KV-vahemälu / käituskeskkond / varu: 7.2 GB / 1.5 GB / 1.2 GB / 1.5 GB

CPU- ja RAM-põhine varuvariant: Ei ole soovitatav

VRAM: 12 GB vähemalt / 16 GB soovituslik

RAM: 24 GB vähemalt / 32 GB soovituslik

Praegune käitusviis: Sobib hästi GPU-l käitamiseks

Oodatav kogemus: Kiire

Kogu mudeli GPU-le laadimine: Ainult siis, kui mudel ja kontekst mahuvad mällu

Konteksti hoiatus: Suur kontekstiaken vajab endiselt märkimisväärset KV-vahemälu varu.

KontekstKaaludKVKäituskeskkondVaruGPU-mälu hinnang
4K7.2 GB1 GB1.2 GB1.5 GB11 GB
8K7.2 GB1.5 GB1.2 GB1.5 GB11.5 GB
16K7.2 GB2.5 GB1.2 GB1.5 GB12.5 GB
32K7.2 GB5 GB1.2 GB2 GB15.5 GB

Kõigi mäluhinnangute vaatamiseks libista tabelit külgsuunas.

Teabeallikad

Google Gemma model overviewGemma 4 release notesOllama Gemma 4 tags

Andmed kontrollitud: 2026-07-30

Llama 3.3 70B Instruct tehnilised detailid

Mudelisari: Meta Llama 3.3

Parameetrite arv: 70.60B

Struktuur: 70.6B tihe

Litsents: Llama 3.3 Community License; lubatud litsentsitingimustel; piiratud juurdepääs. See on üldine sobivushinnang; enne ärilist kasutust kontrolli mudeli litsentsi.

Algne kontekstiaken: 131 072 tokenit

Kvantimine: Q4_K_M

Q4 mudelikaalude ligikaudne maht: 42.5 GB

Vaikehinnang: 51 GB @ 4096 tokenit

Mudelikaalud / KV-vahemälu / käituskeskkond / varu: 42.5 GB / 3 GB / 1.5 GB / 4 GB

CPU- ja RAM-põhine varuvariant: Ei ole soovitatav

VRAM: 48 GB vähemalt / 64 GB soovituslik

RAM: 64 GB vähemalt / 96 GB soovituslik

Praegune käitusviis: Sellel arvutil ei ole praktiline

Oodatav kogemus: Ei ole soovitatav

Kogu mudeli GPU-le laadimine: Sageli piiratud

Konteksti hoiatus: Q4 mudelikaalud kasutavad enne KV-vahemälu, käituskeskkonna lisakulu ja töölaua varu juba umbes 42,5 GB.

KontekstKaaludKVKäituskeskkondVaruGPU-mälu hinnang
4K42.5 GB3 GB1.5 GB4 GB51 GB
8K42.5 GB6 GB1.5 GB4 GB54 GB
16K42.5 GB12 GB1.5 GB4.5 GB60.5 GB
32K42.5 GB24 GB1.5 GB5.5 GB73.5 GB

Kõigi mäluhinnangute vaatamiseks libista tabelit külgsuunas.

Teabeallikad

Meta Llama 3.3 model cardOllama Llama 3.3 70B tag

Andmed kontrollitud: 2026-07-30

Kohaliku tehisaru jõudlus on ligikaudne. Tulemus sõltub kvantimisest, konteksti pikkusest, käitusmootorist, draiveritest ja sellest, kas mudel koos KV-vahemäluga mahub GPU-mällu või Apple'i ühismällu.