GPU-mälu ja RAM
GPU-mälu määrab enamasti mudeli suuruse; RAM toetab rakendusi, andmeid ja mudeli osalist laadimist.
Komponendi ülevaade
Graafikakaart kohaliku tehisaru ja kiirendatud töövoogude jaoks
Tootja
ASUS
Kontrollitud tootja tootekood
90YV0MN0-M0NM00
Väljalase
2025 Q1
Videomälu
32 GB GDDR6 ECC
Arhitektuur
RDNA 4
Graafikakaardi võimsus
300 W
Toitepistiku standard
1x 16-pin
Minimaalne toiteplokk
750 W
Kahe GPU tugi
Ei
Mälusiin
256-bit
Ribalaius
640 GB/s
Voogprotsessorid
4096
Tensorituumad
128
RT-tuumad
64
Baas- / kiirendustakt
2350 / 2920 MHz
TDP
300 W
PCIe-põlvkond
PCIe 5.0
Pesalaius
2-slot
Pikkus
267 mm
Toitepistikud
1x 16-pin
Soovitatud toiteplokk
750 W
FP32 jõudlus
47.8 TFLOPS
Inferentsi märkused
Exact ASUS 90YV0MN0-M0NM00 with 32 GB VRAM. Linux, ROCm, framework, ECC behavior, and the target workload are qualified before quote; CUDA-only tools need an NVIDIA alternative.
30B-klassi Q4 ainult piirangutega
Sobivus eeldab kvanditud mudelit, mõõdukat kontekstimahtu ja käituskeskkonna kontrolli; 70B ei ole tavapärane siht ilma vähemalt 48 GB videomälu või suure ühismäluta.
GPU-mälu ja RAM
GPU-mälu määrab enamasti mudeli suuruse; RAM toetab rakendusi, andmeid ja mudeli osalist laadimist.
CUDA
NVIDIA arvutusplatvorm paljude AI-tööriistade jaoks. CUDA vajab toetatud NVIDIA GPU-d; Apple Silicon ja AMD GPU-d ei toeta seda otse.
Apple'i ühismälu
CPU, GPU, macOS-i ja rakenduste jagatud mälu. See pole sama mis NVIDIA videomälu.
7B / 8B / 14B / 70B
Mudeli ligikaudne suurus miljardites parameetrites; suurem mudel vajab tavaliselt rohkem mälu.
Kvanditud mudel
Väiksema täpsusega mudel, näiteks Q4, mis kasutab vähem mälu võimaliku kvaliteedi- või kiirusekaoga.
Konteksti pikkus
Kui palju teksti saab mudel korraga sisendis arvesse võtta. Pikem kontekst kasutab rohkem mälu.
Mudeli käitamine
Valmis mudeli kasutamine vestluseks, koodi abiks, kokkuvõteteks või dokumentidega töötamiseks.
Mudeli kohandamine
LoRA ja QLoRA kohandavad väikseid adaptereid ning vajavad vähem ressursse kui täielik peenhäälestus.
Läbilaskevõime (tokenit/s)
Mudeli väljundkiirus. Võrdle sama mudelit, kvantimist, konteksti, käituskeskkonda ja kasutajate arvu; sisendi töötlemine on eraldi näitaja.
Kasutab võimalusel turuhindu ja muul juhul viitehinnanguid.
Kõigi kuupäevade vaatamiseks libista graafikut külgsuunas.
2327 €
Hinnanguline kogusumma. Lõplik hind kinnitatakse enne tellimist.
Selle toote eest ei saa veebis maksta; küsi hinnapakkumist.
Kasuta selle lehe hinnapäringuvormi. See ei kogu makse- ega kaardiandmeid; täpse hinna ja saadavuse saadame e-postiga.
Küsi hinnapakkumist
Mis juhtub pärast päringut
Edasine suhtlus ja tugi jätkuvad tellimuse või pakkumise e-kirjavahetuses.
Soovitatud mudel
Tugev tihe mudel 24–32 GB GPU-dele ja suurema mäluga Apple'i süsteemidele.
Kiire
Selle kvanditud mudeli jaoks peaks tavapärase konteksti korral olema piisavalt mäluvaru.
Programmeerimisagendid, koodihoidla analüüs ja keerukad kohalikud assistenditöövood
Võimekas MoE-mudel, mis annab 32 ja 48 GB tööjaamadele sisulise suurema programmeerimissihi.
Oodatav kogemus: Kasutatav
Praktiline ainult Q4-tasemel kvantimise ja mõõduka kontekstiga; pikem kontekst võib nõuda osa mudeli laadimist süsteemimällu või väiksema mudeli kasutamist.
Privaatne assistent, dokumentide mõistmine ning piltide või heli analüüs
Kaasaegne mitmikmodaalne igapäevamudel, mis kasutab 16 GB GPU võimekust hästi.
Oodatav kogemus: Kiire
Selle kvanditud mudeli jaoks peaks tavapärase konteksti korral olema piisavalt mäluvaru.
Eeldused
Mudelisari: Qwen3.6
Parameetrite arv: 27B
Struktuur: 27B tihe
Litsents: Apache License 2.0; lubatud. See on üldine sobivushinnang; enne ärilist kasutust kontrolli mudeli litsentsi.
Algne kontekstiaken: 262 144 tokenit
Laiendatud kontekstiaken: 1 010 000 meetodiga YaRN; ei ole vaikimisi sobivuseeldus
Kvantimine: Q4_K_M
Q4 mudelikaalude ligikaudne maht: 17 GB
Vaikehinnang: 23 GB @ 8192 tokenit
Mudelikaalud / KV-vahemälu / käituskeskkond / varu: 17 GB / 2 GB / 1.5 GB / 2.5 GB
CPU- ja RAM-põhine varuvariant: Ei ole soovitatav
VRAM: 24 GB vähemalt / 32 GB soovituslik
RAM: 48 GB vähemalt / 64 GB soovituslik
Praegune käitusviis: Sobib hästi GPU-l käitamiseks
Oodatav kogemus: Kiire
Kogu mudeli GPU-le laadimine: Ainult siis, kui mudel ja kontekst mahuvad mällu
Konteksti hoiatus: Koodihoidla või väga pika dokumendi kontekst võib ületada 24 GB kaardi mugava mahu.
| Kontekst | Kaalud | KV | Käituskeskkond | Varu | GPU-mälu hinnang |
|---|---|---|---|---|---|
| 4K | 17 GB | 1 GB | 1.5 GB | 2.5 GB | 22 GB |
| 8K | 17 GB | 2 GB | 1.5 GB | 2.5 GB | 23 GB |
| 16K | 17 GB | 4 GB | 1.5 GB | 3 GB | 25.5 GB |
| 32K | 17 GB | 8 GB | 1.5 GB | 3.5 GB | 30 GB |
Kõigi mäluhinnangute vaatamiseks libista tabelit külgsuunas.
Mudelisari: Qwen3.6
Parameetrite arv: 35B
Struktuur: 35B kokku / 3B aktiivsed MoE
Litsents: Apache License 2.0; lubatud. See on üldine sobivushinnang; enne ärilist kasutust kontrolli mudeli litsentsi.
Algne kontekstiaken: 262 144 tokenit
Laiendatud kontekstiaken: 1 010 000 meetodiga YaRN; ei ole vaikimisi sobivuseeldus
Kvantimine: Q4_K_M
Q4 mudelikaalude ligikaudne maht: 24 GB
Vaikehinnang: 31.5 GB @ 8192 tokenit
Mudelikaalud / KV-vahemälu / käituskeskkond / varu: 24 GB / 2.5 GB / 2 GB / 3 GB
CPU- ja RAM-põhine varuvariant: Ei ole soovitatav
VRAM: 32 GB vähemalt / 48 GB soovituslik
RAM: 64 GB vähemalt / 64 GB soovituslik
Praegune käitusviis: Kvanditud mudel mahub GPU-mällu
Oodatav kogemus: Kasutatav
Kogu mudeli GPU-le laadimine: Ainult siis, kui mudel ja kontekst mahuvad mällu
Konteksti hoiatus: Pikk koodihoidla kontekst võib allesjäänud mäluvaru kiiresti ära kasutada, eriti 32 GB GPU-l.
| Kontekst | Kaalud | KV | Käituskeskkond | Varu | GPU-mälu hinnang |
|---|---|---|---|---|---|
| 4K | 24 GB | 1.5 GB | 2 GB | 3 GB | 30.5 GB |
| 8K | 24 GB | 2.5 GB | 2 GB | 3 GB | 31.5 GB |
| 16K | 24 GB | 5 GB | 2 GB | 3.5 GB | 34.5 GB |
| 32K | 24 GB | 10 GB | 2 GB | 4 GB | 40 GB |
Kõigi mäluhinnangute vaatamiseks libista tabelit külgsuunas.
Mudelisari: Google Gemma 4
Parameetrite arv: 11.95B
Struktuur: 11.95B tihe
Litsents: Apache License 2.0; lubatud. See on üldine sobivushinnang; enne ärilist kasutust kontrolli mudeli litsentsi.
Algne kontekstiaken: 262 144 tokenit
Kvantimine: Q4_0 QAT
Q4 mudelikaalude ligikaudne maht: 7.2 GB
Vaikehinnang: 11.5 GB @ 8192 tokenit
Mudelikaalud / KV-vahemälu / käituskeskkond / varu: 7.2 GB / 1.5 GB / 1.2 GB / 1.5 GB
CPU- ja RAM-põhine varuvariant: Ei ole soovitatav
VRAM: 12 GB vähemalt / 16 GB soovituslik
RAM: 24 GB vähemalt / 32 GB soovituslik
Praegune käitusviis: Sobib hästi GPU-l käitamiseks
Oodatav kogemus: Kiire
Kogu mudeli GPU-le laadimine: Ainult siis, kui mudel ja kontekst mahuvad mällu
Konteksti hoiatus: Suur kontekstiaken vajab endiselt märkimisväärset KV-vahemälu varu.
| Kontekst | Kaalud | KV | Käituskeskkond | Varu | GPU-mälu hinnang |
|---|---|---|---|---|---|
| 4K | 7.2 GB | 1 GB | 1.2 GB | 1.5 GB | 11 GB |
| 8K | 7.2 GB | 1.5 GB | 1.2 GB | 1.5 GB | 11.5 GB |
| 16K | 7.2 GB | 2.5 GB | 1.2 GB | 1.5 GB | 12.5 GB |
| 32K | 7.2 GB | 5 GB | 1.2 GB | 2 GB | 15.5 GB |
Kõigi mäluhinnangute vaatamiseks libista tabelit külgsuunas.
Teabeallikad
Andmed kontrollitud: 2026-07-30
Kohaliku tehisaru jõudlus on ligikaudne. Tulemus sõltub kvantimisest, konteksti pikkusest, käitusmootorist, draiveritest ja sellest, kas mudel koos KV-vahemäluga mahub GPU-mällu või Apple'i ühismällu.
Usaldus ja protsess
Täpne toode ja saadavus
Kinnitame enne tellimuse täitmist mudeli, hinna ja saadavuse. Hinnapäringuga makset ei võeta.
Sobivuse ulatus
Kontrollime teadaolevaid mõõtude, toite ja liidese piiranguid. Lõplik sobivus sõltub ülejäänud süsteemist.
Üleandmine Eestis
Üleandmise või kohaletoimetamise viis ja aeg lepitakse kokku pärast saadavuse kinnitamist.
Tagastus, garantii ja tugi
Käsitlus sõltub tellimuse olekust ning komponendi, tootja ja müüja tingimustest. Küsimustele vastame e-kirjavahetuses.
Usaldus
Kontakt ja tugi
Kiireim viis on vastata tellimuse või pakkumise kinnitusele.
Täpne toode ja sobivus
Kinnitame mudeli, saadavuse ja hinna. Sobivus olemasoleva süsteemiga sõltub kogu osade loendist.
Üleandmine ja tagastus
Üleandmine lepitakse kokku pärast saadavuse kinnitamist. Tagastus sõltub tellimuse olekust ja tingimustest.
Hinna alus
Leht eristab turuandmeid, planeerimishinnangut ja kirjalikku pakkumist. Komponendi hind ei sisalda terviksüsteemi teenust.