Intel Xeon E5-2600 v1/v2
$70.93per month, before the card
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps
- Cards accepted
- 28
- Bus to the card
- PCIe 3.0
- Lanes
- 40 lanes per socket
- Sockets
- 2
- Memory ceiling
- 256 GB
Schede grafiche aggiuntive su bare metal · Server Room · dal 2004
Ogni catalogo di questo settore prezza scheda e server come un’unica cifra composta da qualcun altro. Questo li tiene separati: la macchina ha la sua cifra mensile, la scheda ha la sua, e il totale è la loro somma. Imposta i due controlli qui sotto — cosa ci gira sopra, e quanta memoria della scheda serve al lavoro — e tutto ciò che resta in piedi è un server completo, prezzato dallo stesso catalogo da cui il checkout fattura.
Restringi gli scaffali Di chi è la scheda?
Un account per ogni macchina fisica. La scheda viene consegnata al tuo sistema operativo tramite passthrough PCIe — il tuo modulo kernel, la tua versione del driver, nessun hypervisor nel percorso.
Il banco
Nulla qui prenota stock o apre un account. La cifra su ogni riga è l’intero server con quella scheda installata — processore, memoria, dischi in mirroring, porta senza limiti, un IPv4 — e la quota propria della scheda è stampata sotto, così entrambe le metà del costo restano visibili.
GTX 10808 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$125.99a month, complete$55.06 of that is the card
GTX 1080 Ti11 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,584 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P4 / QUADRO P50008 or 16 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P48 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P40 / QUADRO P600024 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$169.93a month, complete$99 of that is the card
RTX 40008 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,304 CUDA cores$172.47a month, complete$99 of that is the card
TITAN V12 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,120 CUDA cores$200.92a month, complete$129.99 of that is the card
RTX 30708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,888 CUDA cores$209.93a month, complete$139 of that is the card
RTX 2080 Ti11 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,352 CUDA cores$219.93a month, complete$149 of that is the card
RTX 3070 Ti8 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47a month, complete$149 of that is the card
RTX 308010 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 8,704 CUDA cores$229.93a month, complete$159 of that is the card
TESLA T416 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$259.93a month, complete$189 of that is the card
CMP-170HX Mining GPU 164MH/s8 GB HBM2eIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 164 MH/s$259.93a month, complete$189 of that is the card
RTX 3080 Ti12 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,240 CUDA cores$272.47a month, complete$199 of that is the card
L4 ADA 24GB GDDR624 GB GDDR6Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$292.67a month, complete$209 of that is the card
RTX 309024 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 10,496 CUDA cores$309.93a month, complete$239 of that is the card
RTX 508016 GB GDDR7Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$312.67a month, complete$229 of that is the card
RTX 4090D24 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 14,592 CUDA cores$372.47a month, complete$299 of that is the card
RTX 800048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$472.47a month, complete$399 of that is the card
RTX 509032 GB GDDR7Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 21,760 CUDA cores$472.47a month, complete$399 of that is the card
L40S48 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$532.67a month, complete$449 of that is the card
Instinct MI21064 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$582.67a month, complete$499 of that is the card
RTX A600048 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$622.47a month, complete$549 of that is the card
RTX 6000 ADA48 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$698.47a month, complete$625 of that is the card
A100 40GB40 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$772.47a month, complete$699 of that is the card
A100 80GB80 GB HBM2eIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$972.47a month, complete$899 of that is the card
RTX PRO 6000 Blackwell 96GB96 GB GDDR7 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$1,382.67a month, complete$1,299 of that is the card
H100 80GB80 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 16,896 CUDA cores$1,682.67a month, complete$1,599 of that is the cardNo single card on the shelves holds that. The largest we fit is 96 GB; past it the build is two or more cards in one chassis, quoted rather than ticked — multi-GPU and multi-node is the adjacent page, or and we will spec the pair.
Stime dal catalogo ordini, non un tariffario, e sono le cifre proprie del checkout. Una scheda il cui produttore non pubblica alcun dato di memoria non ne stampa nessuno qui — e scompare non appena il controllo memoria lascia “qualsiasi”, perché non mostreremo un componente che supera un limite che non possiamo verificare; chiedi e leggiamo il dato direttamente dalla scheda. Diversi componenti si installano in più di uno chassis a più di un prezzo: la riga mostra la sede più economica, il configuratore elenca le altre.
Contato mentre la pagina veniva servita
Letto dal catalogo ordini al momento del rendering, mai digitato. Ritira una scheda dallo store domani e questa striscia sarà più corta domani. Cosa è montato e alimentato stamattina è una questione separata con la sua pagina: server istantanei.
La locazione, prima di ogni altra cosa
Passata attraverso, non suddivisa.
La scheda occupa uno slot PCIe fisico in una macchina noleggiata a un solo account, e il sistema operativo che la possiede è quello che hai installato tu. Carichi il modulo kernel, blocchi il driver, e CUDA o ROCm resta alla release contro cui è stato testato il tuo codice. Non c’è alcun livello hypervisor, nessuna partizione MIG, nessun profilo vGPU e nessuno scheduler a divisione di tempo — la latenza che misuri il primo pomeriggio è la latenza che mantieni, alle quattro del pomeriggio e alle quattro del mattino.
Lo chassis segue la stessa regola: ogni core, ogni DIMM, entrambi i dischi, root, e l’iLO o iDRAC proprio della macchina su una rete di gestione separata per console, supporti virtuali e alimentazione. Un esperimento sul driver che butta giù la rete ti lascia comunque lo schermo.
Il modello di prezzo
Un’“istanza” GPU è la decisione di qualcun altro su quanto un acquirente di schede dovrebbe pagare per processore, memoria, dischi e rete attorno alla scheda. Qui quelli sono una riga, la scheda è un’altra, e si sommano — ed è per questo che entrambe le estremità dello scaffale qui sopra si installano nello stesso chassis, e perché cambiare la scheda modifica la fattura esattamente della differenza tra le due schede.
Complete machine, card fitted, per month, from$91.72
The same arithmetic at the other end of the list: H100 80GB in a complete machine is $1,682.67 a month — $2.31 an hour if the comparison is against hourly billing, and the traffic adds nothing.
Il configuratore arrotonda il prezzo per disco e può discostarsi di un centesimo o due da queste cifre. Cicli di fatturazione più lunghi scontano ulteriormente — prezzi ha ogni cifra in un unico posto, e hardware più vecchio, prezzo più basso è l’argomento costante per cui esiste il fondo dello scaffale.
Memoria della scheda
Core e clock determinano quanto velocemente gira un modello. La memoria della scheda determina se gira: i pesi sono residenti oppure no, e una scheda che ha due gigabyte in meno non gira lentamente — esce. Definite questo numero prima di ogni altro, perché è l'unica specifica che quasi nessuno stampa accanto a un prezzo.
Il calcolo è parametri per byte per parametro: due byte ciascuno a 16 bit, uno a 8 bit, mezzo byte a 4 bit. La quantizzazione a 4 bit è la leva che fa stare un modello su uno scaffale più piccolo, e scambia una quantità misurabile di qualità con il posto.
Margine di sicurezza. La tabella sono i pesi e nient'altro. Il runtime, le attivazioni e la cache chiave-valore vivono tutti nella stessa memoria, e la cache cresce con ogni token di contesto — 38 GB di pesi non si servono comodamente da una scheda da 40 GB. Prevedete da un quarto alla metà in più, oppure diteci il modello e la lunghezza di contesto che usate davvero e la dimensioneremo su quello.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB | 8 GB | 5 GB |
| 13-14 billion parameters | 28 GB | 14 GB | 8 GB |
| 30-34 billion parameters | 68 GB | 34 GB | 19 GB |
| 70 billion parameters | 140 GB | 70 GB | 38 GB |
Lo chassis sottostante
Ciascuna assegna allo slot una generazione di collegamento e un budget di linee diversi, e la colonna è stampata perché cambia i risultati e nessun altro la pubblica: un cliente una volta ha sostituito una generazione consumer con la successiva su una piattaforma Gen 3 ed è diventato più lento, e aveva capito il perché prima di noi. Il numero merita di stare sulla pagina.
$70.93per month, before the card
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps
$73.47per month, before the card
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps
$83.67per month, before the card
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps
$217.59per month, before the card
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps
Una scheda costruita per un bus più recente funziona correttamente su uno più vecchio; semplicemente non può spostare dati sul collegamento alla velocità di progetto. Se questo vi costi qualcosa dipende interamente da dove risiedono i dati.
Già nella cifra
Un sistema operativo pulito e le chiavi. Scegliete voi la release del driver, la versione CUDA o ROCm e la build del framework, e le bloccate — niente si aggiorna sotto una scadenza. Volete il driver già installato prima della consegna? Indicate la versione nell'ordine e ci sarà.
iLO sullo chassis HPE, iDRAC sul Dell: console tastiera e schermo, supporti virtuali, controllo dell'alimentazione, log di sensori e hardware. Un modulo che blocca il display o la NIC è un riavvio che fate da soli, guardando il POST — non un ticket.
Senza limiti in entrambe le direzioni alla velocità inclusa e a ogni velocità superiore. Nessun limite di trasferimento, nessuna riga di egress su alcuna fattura — dataset in entrata, checkpoint in uscita, un modello servito a traffico reale, tutto al prezzo della porta. Banda senza limiti è la scala verso l'alto, ed è la riga più grande che questa pagina cancella da una fattura hyperscaler.
Immagini del sistema operativo in un clic, tutte le volte che volete, senza costi — un esperimento di driver andato male costa venti minuti. Il DNS inverso è vostro da modificare, IPv6 è incluso, e IPv4 aggiuntivo è una riga di catalogo invece di una trattativa.
Telefono, chat dal vivo e ticket su ogni macchina, e un componente guasto viene sostituito entro quattro ore dalla segnalazione per telefono o chat. Supporto pubblica per iscritto i tempi di risposta e il programma di crediti.
New York, Miami, San Francisco, Amsterdam e Bucarest. Dove sta la macchina determina la vostra latenza verso chi la chiama e il regime di protezione dei dati a cui risponde; data center descrive ogni edificio.
Tempi di consegna
Un solo numero sarebbe una bugia in un senso o nell'altro, perché non è mai stato un solo numero: una scheda già montata in una macchina in rack è una consegna, una scheda da acquistare è un ordine di acquisto. Ciò che garantiamo è dirvi su quale gradino siete prima di pagare.
Non si installa nulla e non si sposta nulla. La macchina viene preparata con l'immagine e consegnata. Server immediati elenca cosa c'è in piedi adesso.
Il caso ordinario per questa pagina. Il componente è in magazzino; un tecnico lo monta, costruisce l'array e installa il sistema operativo. Una macchina in rack vicina ma non esatta — memoria aggiunta, un disco sostituito, l'array ricostruito secondo il vostro layout — è la stessa visita, fatta sul posto.
Un componente che non teniamo viene ordinato, poi la costruzione procede come sopra. Costruzione su ordine è la pagina quando l'intera specifica è vostra.
Gli acceleratori di generazione attuale vengono spediti alla data del distributore, non alla nostra, e indichiamo quel collo di bottiglia prima che vi impegniate invece che dopo. L'hardware acquistato per un cliente viene quotato con tre mesi anticipati, perché è una macchina che non possiamo riaffittare se l'account chiude nella seconda settimana.
Ogni gradino parte quando il pagamento e la verifica antifrode sono completati — l'unico passaggio su cui non faremo promesse: la maggior parte degli ordini si completa entro un paio d'ore, un primo ordine da un account nuovo può richiedere di più. Carta, PayPal, ACH e bonifico sono accettati, e su un primo ordine più grande un bonifico di solito supera la verifica più in fretta di una carta.
Già chiesto, risposto qui
Raccolte da chat e ticket, più o meno nell'ordine in cui le pongono gli acquirenti. La prima è costata ordini reali, ed è per questo che apre l'elenco.
Pagine adiacenti
Questa pagina possiede una sola domanda — quali schede montiamo e quanto costa ciascuna. Le domande ai suoi lati hanno ciascuna la propria pagina, e questo è il set completo.
Ancora indeciso tra due scaffali? — chi risponde ha già dimensionato uno di questi prima, e saprà dire quando la scheda più economica è la specifica giusta.
For the record
Read from the order catalog at the moment this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth its time.