VRAM
Graafikakaardi videomälu, mis on tavaliselt kohaliku AI-mudeli suuruse peamine piirang.
Komponendi ülevaade
Mälukomplekt kohalike mudelite ja rakenduste jaoks
Kontrollitud tootja tootekood
F5-6000J3040G32GX2-TZ5NR
Maht
64 GB (2x32 GB)
Põlvkond
DDR5
Kiirus
6000 MT/s
Latentsus
CL30
Profiilid
EXPO
Pinge
1.4V
ECC
Ei
Registreeritud mälu
Ei
Soovitatud platvorm
AM5
70B-klassi mudeli sobivust tuleb kontrollida
Valitud 70B-klassi Q4 mudelid vajavad palju videomälu või Apple'i ühismälu, lühikest või mõõdukat kontekstimahtu ja käituskeskkonna kontrolli.
VRAM
Graafikakaardi videomälu, mis on tavaliselt kohaliku AI-mudeli suuruse peamine piirang.
Süsteemimälu ja GPU-mälu
Süsteemimälu aitab rakendusi ja andmetöötlust; GPU-mälu määrab enamasti, kui suurt mudelit saab kiiresti käitada.
CUDA
NVIDIA arvutusplatvorm paljude AI-tööriistade jaoks. CUDA vajab toetatud NVIDIA GPU-d; Apple Silicon ja AMD GPU-d ei toeta seda otse.
Apple'i ühismälu
Apple Siliconi mälu, mida jagavad CPU, GPU, macOS ja rakendused. See on Macis tehisaru kasutamisel kasulik, kuid pole sama mis NVIDIA videomälu.
7B / 8B / 14B / 70B
Mudeli ligikaudne suurus miljardites parameetrites. Suurem arv vajab tavaliselt rohkem mälu ja võib olla aeglasem.
Kvanditud mudel
Väiksema arvulise täpsusega mudel, näiteks Q4, mis kasutab vähem mälu, kuid võib mõjutada kvaliteeti või kiirust.
Konteksti pikkus
Kui palju teksti saab mudel korraga sisendis arvesse võtta. Pikem kontekst kasutab rohkem mälu.
Mudeli käitamine
Valmis mudeli kasutamine vestluseks, koodi abiks, kokkuvõteteks või dokumentidega töötamiseks.
Mudeli kohandamine
Täielikus peenhäälestuses uuendatakse kõiki või enamikku mudeli parameetreid. LoRA ja QLoRA treenivad väiksemaid adaptereid ning vajavad seetõttu vähem arvutusressurssi.
Läbilaskevõime (tokenit/s)
Kui kiiresti mudel väljundit toodab. Võrdle ainult sama mudeli, kvantimise, konteksti pikkuse, käituskeskkonna ja kasutajate arvu tulemusi; sisendi töötlemine ja väljundi genereerimine on erinevad näitajad.
Eesti turu planeerimishinnang. Kirjalik pakkumine sisaldab täpset hinda ja kinnitatud saadavust.
Kõigi kuupäevade vaatamiseks libista graafikut külgsuunas.
Planeerimishinnang: 941 €
Näidatud hind on planeerimishinnang. Täpse hinna ja saadavuse saad kirjaliku pakkumisega.
Selle toote eest ei saa veebis maksta; küsi hinnapakkumist.
Kasuta selle lehe hinnapäringuvormi. See ei kogu makse- ega kaardiandmeid; täpse hinna ja saadavuse saadame e-postiga.
Mis juhtub pärast päringut
Edasine suhtlus ja tugi jätkuvad tellimuse või pakkumise e-kirjavahetuses.
Küsi hinnapakkumist
Päringuga ei koguta makse- ega kaardiandmeid. Saadame täpse hinna, saadavuse ja võimalikud asendused kirjaliku pakkumisena.
Usaldus ja protsess
Täpne toode ja saadavus
Enne tellimuse täitmist kinnitame täpse mudeli, kehtiva hinna ja saadavuse. Hinnapäringu esitamisel makset ei võeta.
Sobivuse ulatus
Vaatame üle komponendi teadaolevad sobivusandmed ja juhime tähelepanu ilmsetele mõõtude, toite või liidese piirangutele. Lõplik sobivus sõltub ülejäänud süsteemist ja sinu antud andmetest.
Üleandmine Eestis
Üleandmise või kohaletoimetamise viis ja ajakava lepitakse kokku pärast saadavuse kinnitamist.
Tagastus, garantii ja tugi
Tagastus- ja garantiikäsitlus sõltub tellimuse olekust, komponendist, tootjast ja müüjast. Küsimustele vastame samas tellimuse või pakkumise e-kirjavahetuses.
Usaldus
Kontakt ja tugi
Vastame tellimuse või pakkumise e-kirjavahetuses. Kiireim viis on vastata saadud kinnitusele.
Garantii
Garantiikäsitlus sõltub komponendist, tootjast ja müüjast; lahendus kinnitatakse juhtumipõhiselt.
Täpne toode
Tootja, mudel, saadavus ja lõpphind kinnitatakse veebimakses või kirjalikult enne tellimuse täitmist. Asendust ei tehta vaikimisi.
Sobivuse piirid
Kataloogi andmed ja teadaolevad piirangud on valikuabi. Olemasoleva süsteemiga sobivuse kinnitamiseks on vaja kogu osade loendit ning mõõtude, toite, liideste ja tarkvaravajaduste andmeid.
Üleandmine ja tagastus
Üleandmise või kohaletoimetamise viis lepitakse kokku pärast saadavuse kinnitamist. Tagastus ja tühistamine sõltuvad tellimuse olekust ning kehtivatest tingimustest.
Hinna alus
Leht märgib, kas hind põhineb hiljutisel turuandmel, planeerimishinnangul või vajab kirjalikku pakkumist. Komponendi hind ei tähenda terve süsteemi kokkupanekut, tarkvara seadistust ega valmis süsteemi testimist.