Kohaliku tehisaru arvuti
LLMLabi maksimaalne ühe GPU-ga tööjaam: 96 GB ECC videomälu, 256 GB kaheksakanalilist ECC põhimälu ja 8 TB salvestusruumi nõudlike kohalike AI-projektide jaoks.
AI-võimekuse skoor
AI-võimekuse skoor
Mille põhjal hinne kujunes
Suurte kohalike mudelite ja nõudliku AI-töö jaoks piisav varu.
Väärtus
Väärtus
Mille põhjal hinne kujunes
Kohaliku tehisaru võimekus on praeguse hinnangulise hinna kohta nõrk.
Sobib hästi
Võimalik piirangutega
Ei ole soovitatav
Kasutab võimalusel turuhindu ja ülejäänu jaoks viitehinnanguid.
Viitehinnang
33 150 €
Ajavahemik
Graafiku liugur näitab süsteemi hinnangulist kogusummat kuupäevade kaupa.
| Kuupäev | Süsteemi hinnang | Protsessor | Graafikakaart | Mälu | Salvestusseade | Emaplaat | Toiteplokk | Korpus | Protsessorijahuti |
|---|---|---|---|---|---|---|---|---|---|
| 1. juuli | 33 135 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 164 € | 152 € |
| 6. juuli | 33 135 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 164 € | 152 € |
| 11. juuli | 33 135 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 164 € | 152 € |
| 16. juuli | 33 135 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 164 € | 152 € |
| 21. juuli | 33 135 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 164 € | 152 € |
| 26. juuli | 33 135 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 164 € | 152 € |
| 31. juuli | 33 135 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 164 € | 152 € |
| 5. aug | 33 135 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 164 € | 152 € |
| 10. aug | 33 135 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 164 € | 152 € |
| 15. aug | 33 150 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 178 € | 152 € |
| 20. aug | 33 150 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 178 € | 152 € |
| 25. aug | 33 150 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 178 € | 152 € |
| 30. aug | 33 150 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 178 € | 152 € |
| 4. sept | 33 150 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 178 € | 152 € |
| 9. sept | 33 150 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 178 € | 152 € |
| 14. sept | 33 150 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 178 € | 152 € |
| 19. sept | 33 150 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 178 € | 152 € |
| 24. sept | 33 150 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 178 € | 152 € |
| 29. sept | 33 150 € | 4400 € | 13 900 € | 8109 € | 1200 € | 1359 € | 459 € | 178 € | 152 € |
CPU
AMD Ryzen Threadripper PRO 9975WX
GPU
PNY NVIDIA RTX PRO 6000 Blackwell Workstation Edition 96GB
VRAM
96 GB
RAM
256 GB
Salvestus
8000 GB
Soovituslik mudeliklass
70B-class quantized inference with long-context headroom after exact workload validation
Läbilaskevõime
Runtime qualification required; no fixed throughput promise
Süsteemivõimsus
~950 W
Soovitatav toiteplokk
1600 W
Jahutus
Full-IHS sTR5 workstation air cooling with a full-tower airflow path
Komponentide read näitavad Eesti turu- või viitehinda. Teenuse, kokkupaneku ja seadistuse tasu on allpool eraldi näidatud.
| Komponent | Toode | Hinnanguline turuhind |
|---|---|---|
| Protsessor | AMD Ryzen Threadripper PRO 9975WX | 4620 € |
| Graafikakaart | PNY NVIDIA RTX PRO 6000 Blackwell Workstation Edition 96GB | 14 595 € |
| Mälu | Kingston FURY Renegade Pro 256GB (8x32GB) DDR5-5600 CL28 ECC RDIMM | 8515 € |
| Salvestusseade | WD Black SN850X 8TB | 1260 € |
| Emaplaat | ASUS Pro WS WRX90E-SAGE SE | 1427 € |
| Toiteplokk | be quiet! Dark Power Pro 13 1600W | 482 € |
| Korpus | Phanteks Enthoo Pro 2 Tempered Glass Black | 172 € |
| Protsessorijahuti | Noctua NH-U14S TR5-SP6 | 160 € |
| Komponentide hinnanguline kogusumma | 31 230 € | |
| Teenuse-, kokkupaneku- ja seadistustasu | 3437 € | |
| Hinnanguline komplekti kogusumma | 34 667 € | |
Soovitatud mudel
Võimekas MoE-mudel, mis annab 32 ja 48 GB tööjaamadele sisulise suurema programmeerimissihi.
Kasutatav
Selle kvanditud mudeli jaoks peaks tavapärase konteksti korral olema piisavalt mäluvaru.
Nõudlikum programmeerimisabi, keerukas arutlus ja pikemate dokumentide analüüs
Tugev tihe mudel 24–32 GB GPU-dele ja suurema mäluga Apple'i süsteemidele.
Oodatav kogemus: Kiire
Selle kvanditud mudeli jaoks peaks tavapärase konteksti korral olema piisavalt mäluvaru.
Privaatne vestlus, programmeerimisabi, dokumentide kokkuvõtted ja pildiküsimused
Tugev igapäevamudel 12 GB klassi GPU-dele ja praktiline kiire programmeerimisabiline.
Oodatav kogemus: Kiire
Selle kvanditud mudeli jaoks peaks tavapärase konteksti korral olema piisavalt mäluvaru.
Tipptasemel kohaliku vestluse katsed 48 GB GPU-l või vähemalt 96 GB Apple'i süsteemil
Selge ülempiiri näide, millega hinnata, kas arvuti saab 70B-klassi mudelit üldse proovida.
Oodatav kogemus: Kasutatav
Selle kvanditud mudeli jaoks peaks tavapärase konteksti korral olema piisavalt mäluvaru.
Eeldused
Mudelisari: Qwen3.6
Parameetrite arv: 35B
Struktuur: 35B kokku / 3B aktiivsed MoE
Litsents: Apache License 2.0; lubatud. See on üldine sobivushinnang; enne ärilist kasutust kontrolli mudeli litsentsi.
Algne kontekstiaken: 262 144 tokenit
Laiendatud kontekstiaken: 1 010 000 meetodiga YaRN; ei ole vaikimisi sobivuseeldus
Kvantimine: Q4_K_M
Q4 mudelikaalude ligikaudne maht: 24 GB
Vaikehinnang: 31.5 GB @ 8192 tokenit
Mudelikaalud / KV-vahemälu / käituskeskkond / varu: 24 GB / 2.5 GB / 2 GB / 3 GB
CPU- ja RAM-põhine varuvariant: Ei ole soovitatav
VRAM: 32 GB vähemalt / 48 GB soovituslik
RAM: 64 GB vähemalt / 64 GB soovituslik
Praegune käitusviis: Sobib hästi GPU-l käitamiseks
Oodatav kogemus: Kasutatav
Kogu mudeli GPU-le laadimine: Ainult siis, kui mudel ja kontekst mahuvad mällu
Konteksti hoiatus: Pikk koodihoidla kontekst võib allesjäänud mäluvaru kiiresti ära kasutada, eriti 32 GB GPU-l.
| Kontekst | Kaalud | KV | Käituskeskkond | Varu | GPU-mälu hinnang |
|---|---|---|---|---|---|
| 4K | 24 GB | 1.5 GB | 2 GB | 3 GB | 30.5 GB |
| 8K | 24 GB | 2.5 GB | 2 GB | 3 GB | 31.5 GB |
| 16K | 24 GB | 5 GB | 2 GB | 3.5 GB | 34.5 GB |
| 32K | 24 GB | 10 GB | 2 GB | 4 GB | 40 GB |
Kõigi mäluhinnangute vaatamiseks libista tabelit külgsuunas.
Mudelisari: Qwen3.6
Parameetrite arv: 27B
Struktuur: 27B tihe
Litsents: Apache License 2.0; lubatud. See on üldine sobivushinnang; enne ärilist kasutust kontrolli mudeli litsentsi.
Algne kontekstiaken: 262 144 tokenit
Laiendatud kontekstiaken: 1 010 000 meetodiga YaRN; ei ole vaikimisi sobivuseeldus
Kvantimine: Q4_K_M
Q4 mudelikaalude ligikaudne maht: 17 GB
Vaikehinnang: 23 GB @ 8192 tokenit
Mudelikaalud / KV-vahemälu / käituskeskkond / varu: 17 GB / 2 GB / 1.5 GB / 2.5 GB
CPU- ja RAM-põhine varuvariant: Ei ole soovitatav
VRAM: 24 GB vähemalt / 32 GB soovituslik
RAM: 48 GB vähemalt / 64 GB soovituslik
Praegune käitusviis: Sobib hästi GPU-l käitamiseks
Oodatav kogemus: Kiire
Kogu mudeli GPU-le laadimine: Ainult siis, kui mudel ja kontekst mahuvad mällu
Konteksti hoiatus: Koodihoidla või väga pika dokumendi kontekst võib ületada 24 GB kaardi mugava mahu.
| Kontekst | Kaalud | KV | Käituskeskkond | Varu | GPU-mälu hinnang |
|---|---|---|---|---|---|
| 4K | 17 GB | 1 GB | 1.5 GB | 2.5 GB | 22 GB |
| 8K | 17 GB | 2 GB | 1.5 GB | 2.5 GB | 23 GB |
| 16K | 17 GB | 4 GB | 1.5 GB | 3 GB | 25.5 GB |
| 32K | 17 GB | 8 GB | 1.5 GB | 3.5 GB | 30 GB |
Kõigi mäluhinnangute vaatamiseks libista tabelit külgsuunas.
Mudelisari: Qwen3.5
Parameetrite arv: 9B
Struktuur: 9B tihe
Litsents: Apache License 2.0; lubatud. See on üldine sobivushinnang; enne ärilist kasutust kontrolli mudeli litsentsi.
Algne kontekstiaken: 262 144 tokenit
Laiendatud kontekstiaken: 1 010 000 meetodiga YaRN; ei ole vaikimisi sobivuseeldus
Kvantimine: Q4_K_M
Q4 mudelikaalude ligikaudne maht: 6.6 GB
Vaikehinnang: 11 GB @ 8192 tokenit
Mudelikaalud / KV-vahemälu / käituskeskkond / varu: 6.6 GB / 1.5 GB / 1.2 GB / 1.5 GB
CPU- ja RAM-põhine varuvariant: Ei ole soovitatav
VRAM: 8 GB vähemalt / 12 GB soovituslik
RAM: 16 GB vähemalt / 32 GB soovituslik
Praegune käitusviis: Sobib hästi GPU-l käitamiseks
Oodatav kogemus: Kiire
Kogu mudeli GPU-le laadimine: Ainult siis, kui mudel ja kontekst mahuvad mällu
Konteksti hoiatus: Alusta umbes 8K kontekstiga, kuigi mudel toetab märksa pikemat konteksti.
| Kontekst | Kaalud | KV | Käituskeskkond | Varu | GPU-mälu hinnang |
|---|---|---|---|---|---|
| 4K | 6.6 GB | 1 GB | 1.2 GB | 1.5 GB | 10.5 GB |
| 8K | 6.6 GB | 1.5 GB | 1.2 GB | 1.5 GB | 11 GB |
| 16K | 6.6 GB | 2.5 GB | 1.2 GB | 1.5 GB | 12 GB |
| 32K | 6.6 GB | 5 GB | 1.2 GB | 2 GB | 15 GB |
Kõigi mäluhinnangute vaatamiseks libista tabelit külgsuunas.
Mudelisari: Meta Llama 3.3
Parameetrite arv: 70.60B
Struktuur: 70.6B tihe
Litsents: Llama 3.3 Community License; lubatud litsentsitingimustel; piiratud juurdepääs. See on üldine sobivushinnang; enne ärilist kasutust kontrolli mudeli litsentsi.
Algne kontekstiaken: 131 072 tokenit
Kvantimine: Q4_K_M
Q4 mudelikaalude ligikaudne maht: 42.5 GB
Vaikehinnang: 51 GB @ 4096 tokenit
Mudelikaalud / KV-vahemälu / käituskeskkond / varu: 42.5 GB / 3 GB / 1.5 GB / 4 GB
CPU- ja RAM-põhine varuvariant: Ei ole soovitatav
VRAM: 48 GB vähemalt / 64 GB soovituslik
RAM: 64 GB vähemalt / 96 GB soovituslik
Praegune käitusviis: Sobib hästi GPU-l käitamiseks
Oodatav kogemus: Kasutatav
Kogu mudeli GPU-le laadimine: Sageli piiratud
Konteksti hoiatus: Q4 mudelikaalud kasutavad enne KV-vahemälu, käituskeskkonna lisakulu ja töölaua varu juba umbes 42,5 GB.
| Kontekst | Kaalud | KV | Käituskeskkond | Varu | GPU-mälu hinnang |
|---|---|---|---|---|---|
| 4K | 42.5 GB | 3 GB | 1.5 GB | 4 GB | 51 GB |
| 8K | 42.5 GB | 6 GB | 1.5 GB | 4 GB | 54 GB |
| 16K | 42.5 GB | 12 GB | 1.5 GB | 4.5 GB | 60.5 GB |
| 32K | 42.5 GB | 24 GB | 1.5 GB | 5.5 GB | 73.5 GB |
Kõigi mäluhinnangute vaatamiseks libista tabelit külgsuunas.
Kohaliku tehisaru jõudlus on ligikaudne. Tulemus sõltub kvantimisest, konteksti pikkusest, käitusmootorist, draiveritest ja sellest, kas mudel koos KV-vahemäluga mahub GPU-mällu või Apple'i ühismällu.
GPU-mälu ja RAM
GPU-mälu määrab enamasti mudeli suuruse; RAM toetab rakendusi, andmeid ja mudeli osalist laadimist.
CUDA
NVIDIA arvutusplatvorm paljude AI-tööriistade jaoks. CUDA vajab toetatud NVIDIA GPU-d; Apple Silicon ja AMD GPU-d ei toeta seda otse.
Apple'i ühismälu
CPU, GPU, macOS-i ja rakenduste jagatud mälu. See pole sama mis NVIDIA videomälu.
7B / 8B / 14B / 70B
Mudeli ligikaudne suurus miljardites parameetrites; suurem mudel vajab tavaliselt rohkem mälu.
Kvanditud mudel
Väiksema täpsusega mudel, näiteks Q4, mis kasutab vähem mälu võimaliku kvaliteedi- või kiirusekaoga.
Konteksti pikkus
Kui palju teksti saab mudel korraga sisendis arvesse võtta. Pikem kontekst kasutab rohkem mälu.
Mudeli käitamine
Valmis mudeli kasutamine vestluseks, koodi abiks, kokkuvõteteks või dokumentidega töötamiseks.
Mudeli kohandamine
LoRA ja QLoRA kohandavad väikseid adaptereid ning vajavad vähem ressursse kui täielik peenhäälestus.
Läbilaskevõime (tokenit/s)
Mudeli väljundkiirus. Võrdle sama mudelit, kvantimist, konteksti, käituskeskkonda ja kasutajate arvu; sisendi töötlemine on eraldi näitaja.
Siin on sarnased konfiguratsioonid selles kategoorias.
34 667 €
Hinnanguline kogusumma. Lõplik hind kinnitatakse enne tellimist.
Küsi hinnapakkumist