LLMLab.ee

AI-süsteemide kategooria

Professionaalsed AI-töövood

Nimekirjas olevad süsteemid on peamiselt ühe GPU-ga tööjaamad; mitme GPU-ga ja väga suure videomäluga süsteemidele koostatakse individuaalne hinnapakkumine.

Hindkinnitatakse pakkumises

Sobib hästi

  • 70B-klassi sobivuse kontroll koos kvantimise ja konteksti piirangutega
  • Ühe GPU-ga kataloogisüsteemid ja mitme GPU-ga individuaalsed pakkumised
  • ECC-süsteemimälu, suur videomälu ja tööjaamale sobiv jahutus

Ei ole parim valik

  • Oluliselt kõrgem hind ja voolutarve
  • Füüsiliselt suurem ning koormuse all valjem
  • Liigne lihtsa kohaliku vestluse või väikeste mudelite jaoks

Tehisaru sobivus on ligikaudne hinnang; tulemust mõjutavad mudel, käituskeskkond, kvantimine ja kontekstimaht.

Tööjaam / eripakkumise tee

LLMLab Forge

Konfiguratsioon: RTX PRO 4500 32GB AI Workstation

Vaikne ja hallatav tööjaam professionaalse kohaliku AI, arenduse ning loometöö jaoks.

GPU: PNY NVIDIA RTX PRO 4500 Blackwell 32GB Small Box

CPU: AMD Ryzen 7 9700X

RAM: 64 GB | Salvestus: 4000 GB

Soovituslik mudeliklass: 32 GB ECC GPU-mälu suuremate inferentsitööde ja professionaalse CUDA tarkvara jaoks.

30B-klassi Q4 ainult piirangutega

Sobivus eeldab kvanditud mudelit, mõõdukat kontekstimahtu ja käituskeskkonna kontrolli; 70B ei ole tavapärane siht ilma vähemalt 48 GB videomälu või suure ühismäluta.

9684 €

Vaata lähemalt

Tööjaam / eripakkumise tee

LLMLab Forge Pro

Konfiguratsioon: RTX PRO 5000 72GB AI Workstation

Suure mäluvaruga professionaalne tööjaam suurte kohalike AI-mudelite, nõudliku loovtöö ja tehniliste projektide jaoks.

GPU: PNY NVIDIA RTX PRO 5000 72GB Blackwell Small Box

CPU: AMD Ryzen 9 9950X

RAM: 64 GB | Salvestus: 2000 GB

Soovituslik mudeliklass: 70B-klassi kvanditud kohalikud mudelid, renderdamine ning nõudlikud loome- ja inseneritöövood.

70B-klassi mudeli sobivust tuleb kontrollida

Valitud 70B-klassi Q4 mudelid vajavad palju videomälu või Apple'i ühismälu, lühikest või mõõdukat kontekstimahtu ja käituskeskkonna kontrolli.

14 523 €

Vaata lähemalt

Tööjaam / eripakkumise tee

LLMLab Forge Ultra

Konfiguratsioon: RTX PRO 6000 96GB AI Workstation Max

Maksimaalse mahuga ühe GPU-ga tööjaam suurte mudelite, andmestike, renderduse ja nõudlike CUDA projektide jaoks.

GPU: PNY NVIDIA RTX PRO 6000 Blackwell Workstation Edition 96GB

CPU: AMD Ryzen Threadripper PRO 9975WX

RAM: 256 GB | Salvestus: 8000 GB

Soovituslik mudeliklass: 96 GB ECC videomälu, 256 GB kaheksakanalilist ECC põhimälu ja 8 TB kiiret salvestusruumi.

70B-klassi mudeli sobivust tuleb kontrollida

Valitud 70B-klassi Q4 mudelid vajavad palju videomälu või Apple'i ühismälu, lühikest või mõõdukat kontekstimahtu ja käituskeskkonna kontrolli.

34 667 €

Vaata lähemalt

Tööjaam / eripakkumise tee

48GB ECC CUDA Workstation

Kohaliku tehisaru jaoks valitud süsteem.

GPU: PNY NVIDIA RTX PRO 5000 Blackwell 48GB

CPU: AMD Ryzen 9 9950X

RAM: 64 GB | Salvestus: 4000 GB

Soovituslik mudeliklass: Sobiv mudeliklass kinnitatakse kasutusvajaduse järgi.

70B-klassi mudeli sobivust tuleb kontrollida

Valitud 70B-klassi Q4 mudelid vajavad palju videomälu või Apple'i ühismälu, lühikest või mõõdukat kontekstimahtu ja käituskeskkonna kontrolli.

13 970 €

Vaata lähemalt

Kohalike mudelite näited

Sobib hästi privaatseks vestluseksSobib hästi programmeerimisabiksSobib hästi dokumentide kokkuvõtmiseks70B-klassi mudelid vajavad rangeid piiranguid

Soovitatud mudel

Qwen3.6 35B-A3B

Võimekas MoE-mudel, mis annab 32 ja 48 GB tööjaamadele sisulise suurema programmeerimissihi.

Sobib hästi GPU-l käitamiseks

Kasutatav

ollama run qwen3.6:35b

Selle kvanditud mudeli jaoks peaks tavapärase konteksti korral olema piisavalt mäluvaru.

  • 256 GB süsteemi- või ühismälu on saadaval
  • 96 GB kiirendimälu mudelikaalude ja vahemälu jaoks

Qwen3.6 27B

Nõudlikum programmeerimisabi, keerukas arutlus ja pikemate dokumentide analüüs

Sobib hästi GPU-l käitamiseks

Tugev tihe mudel 24–32 GB GPU-dele ja suurema mäluga Apple'i süsteemidele.

Oodatav kogemus: Kiire

Selle kvanditud mudeli jaoks peaks tavapärase konteksti korral olema piisavalt mäluvaru.

  • 256 GB süsteemi- või ühismälu on saadaval

Qwen3.5 9B

Privaatne vestlus, programmeerimisabi, dokumentide kokkuvõtted ja pildiküsimused

Sobib hästi GPU-l käitamiseks

Tugev igapäevamudel 12 GB klassi GPU-dele ja praktiline kiire programmeerimisabiline.

Oodatav kogemus: Kiire

Selle kvanditud mudeli jaoks peaks tavapärase konteksti korral olema piisavalt mäluvaru.

  • 256 GB süsteemi- või ühismälu on saadaval
Kuva tehnilised üksikasjad

Eeldused

  • Eeldatav GPU-mälu: 96 GB from PNY NVIDIA RTX PRO 6000 Blackwell Workstation Edition 96GB.
  • Süsteemimälu: 256 GB.
  • Hinnang arvestab ühe kohaliku mudeli kaale, KV-vahemälu, käituskeskkonna lisakulu ja turvavaru. See näitab sobivust, mitte tagatud kiirust.
  • Profiilileht kasutab esinduslikku komplekti. Komponentide täpse sobivuse leiad komplekti detailvaatest.
Qwen3.6 35B-A3B tehnilised detailid

Mudelisari: Qwen3.6

Parameetrite arv: 35B

Struktuur: 35B kokku / 3B aktiivsed MoE

Litsents: Apache License 2.0; lubatud. See on üldine sobivushinnang; enne ärilist kasutust kontrolli mudeli litsentsi.

Algne kontekstiaken: 262 144 tokenit

Laiendatud kontekstiaken: 1 010 000 meetodiga YaRN; ei ole vaikimisi sobivuseeldus

Kvantimine: Q4_K_M

Q4 mudelikaalude ligikaudne maht: 24 GB

Vaikehinnang: 31.5 GB @ 8192 tokenit

Mudelikaalud / KV-vahemälu / käituskeskkond / varu: 24 GB / 2.5 GB / 2 GB / 3 GB

CPU- ja RAM-põhine varuvariant: Ei ole soovitatav

VRAM: 32 GB vähemalt / 48 GB soovituslik

RAM: 64 GB vähemalt / 64 GB soovituslik

Praegune käitusviis: Sobib hästi GPU-l käitamiseks

Oodatav kogemus: Kasutatav

Kogu mudeli GPU-le laadimine: Ainult siis, kui mudel ja kontekst mahuvad mällu

Konteksti hoiatus: Pikk koodihoidla kontekst võib allesjäänud mäluvaru kiiresti ära kasutada, eriti 32 GB GPU-l.

KontekstKaaludKVKäituskeskkondVaruGPU-mälu hinnang
4K24 GB1.5 GB2 GB3 GB30.5 GB
8K24 GB2.5 GB2 GB3 GB31.5 GB
16K24 GB5 GB2 GB3.5 GB34.5 GB
32K24 GB10 GB2 GB4 GB40 GB

Kõigi mäluhinnangute vaatamiseks libista tabelit külgsuunas.

Teabeallikad

Qwen3.6 35B-A3B official model cardOllama Qwen3.6 tags

Andmed kontrollitud: 2026-07-30

Qwen3.6 27B tehnilised detailid

Mudelisari: Qwen3.6

Parameetrite arv: 27B

Struktuur: 27B tihe

Litsents: Apache License 2.0; lubatud. See on üldine sobivushinnang; enne ärilist kasutust kontrolli mudeli litsentsi.

Algne kontekstiaken: 262 144 tokenit

Laiendatud kontekstiaken: 1 010 000 meetodiga YaRN; ei ole vaikimisi sobivuseeldus

Kvantimine: Q4_K_M

Q4 mudelikaalude ligikaudne maht: 17 GB

Vaikehinnang: 23 GB @ 8192 tokenit

Mudelikaalud / KV-vahemälu / käituskeskkond / varu: 17 GB / 2 GB / 1.5 GB / 2.5 GB

CPU- ja RAM-põhine varuvariant: Ei ole soovitatav

VRAM: 24 GB vähemalt / 32 GB soovituslik

RAM: 48 GB vähemalt / 64 GB soovituslik

Praegune käitusviis: Sobib hästi GPU-l käitamiseks

Oodatav kogemus: Kiire

Kogu mudeli GPU-le laadimine: Ainult siis, kui mudel ja kontekst mahuvad mällu

Konteksti hoiatus: Koodihoidla või väga pika dokumendi kontekst võib ületada 24 GB kaardi mugava mahu.

KontekstKaaludKVKäituskeskkondVaruGPU-mälu hinnang
4K17 GB1 GB1.5 GB2.5 GB22 GB
8K17 GB2 GB1.5 GB2.5 GB23 GB
16K17 GB4 GB1.5 GB3 GB25.5 GB
32K17 GB8 GB1.5 GB3.5 GB30 GB

Kõigi mäluhinnangute vaatamiseks libista tabelit külgsuunas.

Teabeallikad

Qwen3.6 27B official model cardOllama Qwen3.6 tags

Andmed kontrollitud: 2026-07-30

Qwen3.5 9B tehnilised detailid

Mudelisari: Qwen3.5

Parameetrite arv: 9B

Struktuur: 9B tihe

Litsents: Apache License 2.0; lubatud. See on üldine sobivushinnang; enne ärilist kasutust kontrolli mudeli litsentsi.

Algne kontekstiaken: 262 144 tokenit

Laiendatud kontekstiaken: 1 010 000 meetodiga YaRN; ei ole vaikimisi sobivuseeldus

Kvantimine: Q4_K_M

Q4 mudelikaalude ligikaudne maht: 6.6 GB

Vaikehinnang: 11 GB @ 8192 tokenit

Mudelikaalud / KV-vahemälu / käituskeskkond / varu: 6.6 GB / 1.5 GB / 1.2 GB / 1.5 GB

CPU- ja RAM-põhine varuvariant: Ei ole soovitatav

VRAM: 8 GB vähemalt / 12 GB soovituslik

RAM: 16 GB vähemalt / 32 GB soovituslik

Praegune käitusviis: Sobib hästi GPU-l käitamiseks

Oodatav kogemus: Kiire

Kogu mudeli GPU-le laadimine: Ainult siis, kui mudel ja kontekst mahuvad mällu

Konteksti hoiatus: Alusta umbes 8K kontekstiga, kuigi mudel toetab märksa pikemat konteksti.

KontekstKaaludKVKäituskeskkondVaruGPU-mälu hinnang
4K6.6 GB1 GB1.2 GB1.5 GB10.5 GB
8K6.6 GB1.5 GB1.2 GB1.5 GB11 GB
16K6.6 GB2.5 GB1.2 GB1.5 GB12 GB
32K6.6 GB5 GB1.2 GB2 GB15 GB

Kõigi mäluhinnangute vaatamiseks libista tabelit külgsuunas.

Teabeallikad

Qwen3.5 9B official model cardOllama Qwen3.5 tags

Andmed kontrollitud: 2026-07-30

Kohaliku tehisaru jõudlus on ligikaudne. Tulemus sõltub kvantimisest, konteksti pikkusest, käitusmootorist, draiveritest ja sellest, kas mudel koos KV-vahemäluga mahub GPU-mällu või Apple'i ühismällu.