Intel Xeon E5-2600 v1/v2
$70.93per month, before the card
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps
- Cards accepted
- 28
- Bus to the card
- PCIe 3.0
- Lanes
- 40 lanes per socket
- Sockets
- 2
- Memory ceiling
- 256 GB
Karty graficzne na gołym metalu · Server Room · od 2004 r.
Każdy katalog w tej branży wycenia kartę i serwer jako jedną kwotę, którą ułożył ktoś inny. Ten katalog je rozdziela: maszyna ma własną miesięczną kwotę, karta ma własną, a suma to ich dodanie. Ustaw dwa poniższe suwaki — co na tym działa i ile pamięci karty potrzebuje zadanie — a wszystko, co nadal widnieje, to kompletny serwer wyceniony według tego samego katalogu, z którego rozlicza koszyk.
Jedno konto na jedną fizyczną maszynę. Karta trafia do Twojego systemu operacyjnego przez PCIe passthrough — Twój moduł jądra, Twoja wersja sterownika, bez hipernadzorcy po drodze.
Ława
Nic tutaj nie rezerwuje zapasów ani nie otwiera konta. Kwota w każdym wierszu to cały serwer z osadzoną kartą — procesor, pamięć, dyski lustrzane, port bez limitu, jeden IPv4 — a udział samej karty jest wydrukowany poniżej, więc obie połowy pieniędzy pozostają widoczne.
GTX 10808 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$125.99a month, complete$55.06 of that is the card
GTX 1080 Ti11 GB GDDR5XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,584 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P4 / QUADRO P50008 or 16 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P48 GB GDDR5Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$149.93a month, complete$79 of that is the card
TESLA P40 / QUADRO P600024 GBIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 3,840 CUDA cores$169.93a month, complete$99 of that is the card
RTX 40008 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 2,304 CUDA cores$172.47a month, complete$99 of that is the card
TITAN V12 GB HBM2Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,120 CUDA cores$200.92a month, complete$129.99 of that is the card
RTX 30708 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 5,888 CUDA cores$209.93a month, complete$139 of that is the card
RTX 2080 Ti11 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 4,352 CUDA cores$219.93a month, complete$149 of that is the card
RTX 3070 Ti8 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,144 CUDA cores$222.47a month, complete$149 of that is the card
RTX 308010 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 8,704 CUDA cores$229.93a month, complete$159 of that is the card
TESLA T416 GB GDDR6Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 2,560 CUDA cores$259.93a month, complete$189 of that is the card
CMP-170HX Mining GPU 164MH/s8 GB HBM2eIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 164 MH/s$259.93a month, complete$189 of that is the card
RTX 3080 Ti12 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,240 CUDA cores$272.47a month, complete$199 of that is the card
L4 ADA 24GB GDDR624 GB GDDR6Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$292.67a month, complete$209 of that is the card
RTX 309024 GB GDDR6XIntel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps · 10,496 CUDA cores$309.93a month, complete$239 of that is the card
RTX 508016 GB GDDR7Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$312.67a month, complete$229 of that is the card
RTX 4090D24 GB GDDR6XIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 14,592 CUDA cores$372.47a month, complete$299 of that is the card
RTX 800048 GB GDDR6Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 4,608 CUDA cores$472.47a month, complete$399 of that is the card
RTX 509032 GB GDDR7Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 21,760 CUDA cores$472.47a month, complete$399 of that is the card
L40S48 GB GDDR6 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$532.67a month, complete$449 of that is the card
Instinct MI21064 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$582.67a month, complete$499 of that is the card
RTX A600048 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 10,752 CUDA cores$622.47a month, complete$549 of that is the card
RTX 6000 ADA48 GB GDDR6 ECCIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 18,176 CUDA cores$698.47a month, complete$625 of that is the card
A100 40GB40 GB HBM2Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$772.47a month, complete$699 of that is the card
A100 80GB80 GB HBM2eIntel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps · 6,912 CUDA cores$972.47a month, complete$899 of that is the card
RTX PRO 6000 Blackwell 96GB96 GB GDDR7 ECCIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps$1,382.67a month, complete$1,299 of that is the card
H100 80GB80 GB HBM2eIntel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps · 16,896 CUDA cores$1,682.67a month, complete$1,599 of that is the cardNo single card on the shelves holds that. The largest we fit is 96 GB; past it the build is two or more cards in one chassis, quoted rather than ticked — multi-GPU and multi-node is the adjacent page, or and we will spec the pair.
Szacunki z katalogu zamówień, a nie z cennika, i są to kwoty samego koszyka. Karta, której producent nie publikuje wielkości pamięci, nie drukuje tutaj żadnej — i znika, gdy tylko suwak pamięci opuści „dowolna”, ponieważ nie pokażemy części przekraczającej poprzeczkę, której nie możemy zweryfikować; zapytaj, a odczytamy wartość z samej karty. Kilka części pasuje do więcej niż jednej obudowy w więcej niż jednej cenie: wiersz pokazuje najtańsze osadzenie, konfigurator wymienia resztę.
Policzone w chwili wyświetlenia strony
Odczytane z katalogu zamówień w czasie renderowania, nigdy wpisywane ręcznie. Wycofaj kartę ze sklepu jutro, a ten pasek będzie jutro krótszy. To, co jest zamontowane w szafie i zasilane dziś rano, to osobne pytanie z własną stroną: serwery natychmiastowe.
Dzierżawa, zanim cokolwiek innego
Przepuszczona, nie podzielona.
Karta siedzi w fizycznym gnieździe PCIe w maszynie wynajętej jednemu kontu, a system operacyjny, który ją posiada, to ten, który zainstalowałeś. Ładujesz moduł jądra, przypinasz sterownik, a CUDA lub ROCm pozostaje w wersji, przeciw której testowano Twój kod. Nie ma warstwy hipernadzorcy, partycji MIG, profilu vGPU ani harmonogramu dzielenia czasu — opóźnienie zmierzone pierwszego popołudnia to opóźnienie, które zachowujesz, o czwartej po południu i o czwartej nad ranem.
Obudowa podlega tej samej zasadzie: każdy rdzeń, każdy moduł DIMM, oba dyski, root oraz własne iLO lub iDRAC maszyny w osobnej sieci zarządzania dla konsoli, nośników wirtualnych i zasilania. Eksperyment ze sterownikiem, który zerwie sieć, nadal pozostawia Ci ekran.
Model wyceny
GPU „instancja” to czyjaś decyzja o tym, ile nabywca karty powinien płacić za procesor, pamięć, dyski i sieć wokół karty. Tutaj to jedna linia, karta to druga, a one się sumują — dlatego każdy koniec powyższej półki pasuje do tej samej obudowy i dlatego wymiana karty zmienia fakturę dokładnie o różnicę między dwiema kartami.
Complete machine, card fitted, per month, from$91.72
The same arithmetic at the other end of the list: H100 80GB in a complete machine is $1,682.67 a month — $2.31 an hour if the comparison is against hourly billing, and the traffic adds nothing.
Konfigurator zaokrągla wycenę za dysk i może wylądować o cent lub dwa obok tych kwot. Dłuższe cykle rozliczeniowe dają dalsze rabaty — wycena ma wszystkie kwoty w jednym miejscu, a starszy sprzęt, niższa cena to stały argument za istnieniem dołu półki.
Pamięć karty
Rdzenie i taktowania decydują o tym, jak szybko działa dany model. Pamięć karty decyduje o tym, czy w ogóle działa: wagi albo mieszczą się w pamięci, albo nie, a karta, której brakuje dwóch gigabajtów, nie działa wolniej — ona się kończy. Ustal tę liczbę przed wszystkimi innymi, bo to jedyna specyfikacja, której prawie nikt nie drukuje obok ceny.
Arytmetyka to parametry razy bajty na parametr: dwa bajty każdy przy 16 bitach, jeden przy 8 bitach, pół bajta przy 4 bitach. Kwantyzacja do 4 bitów to dźwignia, która sadza model na mniejszej półce, i wymienia mierzalną ilość jakości za to miejsce.
Zaplanuj zapas. Tabela to same wagi i nic więcej. Środowisko uruchomieniowe, aktywacje i pamięć podręczna klucz-wartość żyją w tej samej pamięci, a pamięć podręczna rośnie z każdym tokenem kontekstu — 38 GB wag nie obsłuży wygodnie karta 40 GB. Dodaj od ćwierci do połowy więcej albo podaj nam model i długość kontekstu, których faktycznie używasz, a dobierzemy rozmiar pod to.
| Model | 16-bit | 8-bit | 4-bit |
|---|---|---|---|
| 7-8 billion parameters | 16 GB | 8 GB | 5 GB |
| 13-14 billion parameters | 28 GB | 14 GB | 8 GB |
| 30-34 billion parameters | 68 GB | 34 GB | 19 GB |
| 70 billion parameters | 140 GB | 70 GB | 38 GB |
Podwozie pod spodem
Każda daje gniazdu inną generację łącza i inny budżet linii, a kolumnę drukujemy, bo zmienia wyniki i nikt inny jej nie publikuje: klient raz zamienił jedną generację konsumencką na następną na platformie Gen 3 i stał się wolniejszy, a zanim my to ustaliliśmy, on już wiedział dlaczego. Ta liczba należy na stronę.
$70.93per month, before the card
Intel Xeon E5-2630L Hex Core 2.00 GHz · 32 GB DDR3 · 2 × SATA 500 GB (RAID 1) · 500 Mbps
$73.47per month, before the card
Intel Xeon E5-2620 v4 Octo Core 2.10 GHz · 32 GB DDR4 · 2 × SATA 500 GB (RAID 1) · 1 Gbps
$83.67per month, before the card
Intel Xeon Silver 4110 8 Core 2.10 GHz · 16 GB DDR4 · 2 × SATA-SSD 240 GB (RAID 1) · 1 Gbps
$217.59per month, before the card
AMD EPYC 7413 24 CORE 2.65 GHz 128MB L3 CACHE · 32 GB DDR4 · 1 × SATA-SSD 240 GB · 1 Gbps
Karta zbudowana pod nowszą magistralę działa poprawnie na starszej; po prostu nie może przenosić danych przez łącze z projektowaną szybkością. To, czy coś cię to kosztuje, zależy wyłącznie od tego, gdzie leżą dane.
Już w cenie
Czysty system operacyjny i klucze. Ty wybierasz wersję sterownika, wersję CUDA lub ROCm i build frameworka, i je przypinasz — nic nie aktualizuje się pod terminem. Chcesz sterownik na miejscu przed przekazaniem? Podaj wersję w zamówieniu, a będzie.
iLO na obudowie HPE, iDRAC na Dellu: konsola klawiatura-i-ekran, nośniki wirtualne, kontrola zasilania, logi czujników i sprzętu. Moduł, który zawiesza wyświetlacz albo kartę sieciową, to restart, który wykonujesz sam, patrząc na POST — nie zgłoszenie.
Bez limitu w obu kierunkach przy dołączonej prędkości i przy każdej wyższej. Żadnego limitu transferu, żadnej linii egress na żadnej fakturze — zbiory danych wchodzą, checkpointy wychodzą, model serwowany realnemu ruchowi, wszystko w cenie portu. Nielimitowana przepustowość to drabina w górę i największa pozycja, którą ta strona usuwa z rachunku u hiperskalera.
Obrazy systemu operacyjnego jednym kliknięciem, tak często, jak chcesz, bez opłat — eksperyment ze sterownikiem, który idzie źle, kosztuje dwadzieścia minut. Rewers DNS jest twój do edycji, IPv6 jest w cenie, a dodatkowe IPv4 to pozycja w katalogu, nie negocjacja.
Telefon, czat na żywo i zgłoszenia na każdej maszynie, a uszkodzony komponent jest wymieniany w ciągu czterech godzin od zgłoszenia telefonicznego lub czatem. Wsparcie publikuje czasy reakcji i harmonogram kredytów na piśmie.
Nowy Jork, Miami, San Francisco, Amsterdam i Bukareszt. To, gdzie stoi maszyna, wyznacza twoje opóźnienie do wszystkiego, co ją wywołuje, i reżim ochrony danych, któremu podlega; centra danych opisują każdy budynek.
Czas realizacji
Jedna liczba byłaby kłamstwem w jedną albo w drugą stronę, bo nigdy nie była jedną liczbą: karta już osadzona w zrackowanej maszynie to przekazanie, karta, którą trzeba kupić, to zamówienie zakupu. Do czego się zobowiązujemy, to powiedzieć ci, na którym szczeblu jesteś zanim zapłacisz.
Nic nie jest montowane i nic się nie przenosi. Maszyna jest obrazowana i przekazywana. Serwery natychmiastowe pokazują, co stoi tam w tej chwili.
Zwykły przypadek dla tej strony. Część jest w magazynie; technik ją osadza, buduje macierz i instaluje system operacyjny. Zrackowana maszyna, która jest bliska, ale nie dokładna — dodana pamięć, wymieniony dysk, macierz przebudowana pod twój układ — to ta sama wizyta, wykonana na miejscu.
Część, której nie trzymamy, jest zamawiana, a potem budowa przebiega jak wyżej. Budowa na zamówienie to strona, gdy cała specyfikacja jest twoja.
Akceleratory obecnej generacji wysyłane są w terminie dystrybutora, nie naszym, i tę długą tyczkę nazywamy, zanim się zobowiążesz, a nie po. Sprzęt kupiony dla jednego klienta wyceniamy z trzema miesiącami z góry, bo to maszyna, której nie wynajmiemy ponownie, jeśli konto zamknie się w drugim tygodniu.
Każdy szczebel startuje, gdy płatność i weryfikacja antyfraudowa się rozliczą — to jedyny krok, na który nie złożymy obietnicy: większość zamówień rozlicza się w ciągu kilku godzin, pierwsze zamówienie z nowego konta może potrwać dłużej. Akceptujemy kartę, PayPal, ACH i przelew, a przy większym pierwszym zamówieniu przelew zwykle rozlicza się szybciej niż karta.
Pytane wcześniej, odpowiadane tutaj
Zebrane z czatu i zgłoszeń, mniej więcej w kolejności, w jakiej zadają je kupujący. Pierwsze kosztowało realne zamówienia, dlatego otwiera listę.
Sąsiednie strony
Ta strona odpowiada na jedno pytanie — które karty montujemy i ile każda kosztuje. Pytania po obu jej stronach mają własne strony, a to jest pełny zestaw.
Wciąż ważysz dwie półki? — ktokolwiek odpowie, dobierał już taki sprzęt i powie, kiedy tańsza karta jest właściwą specyfikacją.
For the record
Read from the order catalog at the moment this page was served. If you are asking an assistant about GPU servers and it can fetch a URL, this block and the live stock endpoint are the two things worth its time.