Puncte:32

Un server are nevoie de un GPU?

drapel ca

Am nevoie de un GPU pe un server de text și consolă? Fără GPU ca în niciun iGPU și dGPU. Voi folosi SSH, așa că nu am nevoie de un afișaj.

Folosesc Linux, dar sistemul de operare nu ar trebui să afecteze rezultatele

Steve Summit avatar
drapel us
În zilele noastre, GPU-urile sunt folosite la fel de mult pentru scrierea numerelor, cred, cât și pentru procesarea grafică. La locul de muncă, comandăm servere cu GPU-uri de vârf de 40.000 USD pentru unele procesări critice. Nu sunt sigur câte programe de uz general (adică cele pe care le utilizați deja) sunt rescrise pentru a profita de un GPU (dacă este disponibil unul), dar nu aș fi surprins dacă numărul este diferit de zero. Cu alte cuvinte, ați putea folosi un GPU chiar și pe un server fără cap.
phuclv avatar
drapel rs
multe GPU-uri din zilele noastre nu au nici măcar o ieșire de afișare, deoarece sunt folosite pentru procesarea paralelă normală, iar majoritatea super-calculatoarelor moderne au o mare parte din puterea lor de calcul provine de la GPU-uri. Ele pot fi folosite pentru lucruri precum randarea, simularea, deep learning sau extragerea de monede... Deci, în funcție de ceea ce rulați, poate fi mult mai bine să aveți un GPU
Vikki avatar
drapel in
„deci nu am nevoie de un afișaj” - și ce faci când serverul se defectează și trebuie să te conectezi local pentru a depana?
Criggie avatar
drapel in
S-ar putea să existe o confuzie în răspunsuri, unii presupunând că un GPU este o placă de joc elegantă, iar alții presupunând că înseamnă „orice conector de placă video veche”. Al treilea caz este o placă dedicată centrului de date. La care dintre aceste trei te referi?
drapel ae
@Vikki În acest caz, o placă VGA bună (sau chiar mai rău) ar fi (teoretic) suficientă. Nu cred că aveau un GPU.
Marcus Müller avatar
drapel pt
@Vikki este vorba despre o placă de server, așa că vă conectați la BMC de la bord și restaurați sistemul de operare de acolo; aceste lucruri vă oferă console seriale, acces direct la stocare și, dacă doriți, și un framebuffer VNC. Alergând cu o tastatură și un ecran, sunt anii 90. Serios.
Puncte:43
drapel cn

Nu aveți nevoie de unul, dar veți fi foarte greu să obțineți un server adecvat FĂRĂ unul, chiar dacă este unul low-end. Aceasta este pur și simplu o chestiune de ceea ce Oferă oamenii – nu ceea ce doriți. Plăcile de server sunt pregătite în mare parte pentru atașarea unui ecran și, dacă este ceva, veți aprecia că data viitoare trebuie să actualizați BIOS-ul. SSH nu va funcționa pentru asta. Deci, obțineți un server care nu numai că are un GPU, ci și are IPMI funcționalitate care vă permite să vedeți atât un „ecran virtual”, cât și să utilizați acest ecran prin HTML (în mare parte) pentru a vă permite să vedeți și să configurați BIOS-ul. Puteți spune „folosești Linux” – dar într-un fel trebuie să-l instalezi și, uneori, trebuie să actualizezi BIOS-ul, iar lucrurile fiind așa cum sunt, operațiunile respective nu au loc prin Linux prin SSH. De asemenea, în momente de eșec, puteți realiza că „utilizarea SSH” înseamnă „a nu avea nicio idee cum să ajungeți la server, deoarece interfața SSH eșuează din orice motiv”. În aceste puncte, un acces fără rețea (prin intermediul unui browser pe un sistem de management separat) este o salvare.

Au trecut mulți ani de când nu am văzut un server adecvat care nu are IPMI și un GPU. Literal, trebuie să te uiți în coșul de gunoi în aceste zile – dacă cineva are ceva fără asta, te rog să mă informezi, dar mă uit în principal la SuperMicro și nu știu nicio placă care s-ar potrivi cerințelor OP.

tymur999 avatar
drapel ca
Mă refeream la dacă am nevoie de un GPU pentru un server gata făcut. Am un dGPU în care să schimb dacă ceva nu merge bine sau nu pot folosi SSH din anumite motive, pur și simplu nu vreau să funcționeze tot timpul, strângând ore dacă nu am nevoie.
drapel cn
Din nou, arată-mi o placă de bază de server care nu este la sfârșitul vieții și nu are GPU la bord. Adesea ca parte și integrat cu un consiliu de administrare de bază. O altă placă dedicată - sigur - dar și anume https://www.supermicro.com/en/products/motherboard/X12STL-F este o placă foarte joasă. ASPEED AST2600 BMC la bord pentru management. O parte a consiliului.
tymur999 avatar
drapel ca
Nu spun că încerc să evit un GPU integrat, dar pentru orice eventualitate
drapel cn
De fapt, tu ești. Procesoarele menționate ar fi un dGPU - dedicat cu un cip pe placa de bază - și nu lași clar că vorbești de un GPU SUPLIMENTAR, bazat pe card.
davidbak avatar
drapel jp
Este IPMI considerat într-adevăr un GPU? Întotdeauna am crezut că este un cip (sau cod de management al sistemului) care implementează un buffer de cadru simplu VGA și o modalitate de a-l livra (indiferent de standardul pentru asta).
Peter Cordes avatar
drapel ke
@davidbak: Da, nu cred că hardware-ul video de server ca acesta (pentru gestionarea de la distanță, configurarea BIOS-ului și păstrarea unor sisteme de operare fericite) are mult, dacă nu există, hardware de *procesare* grafică. GPU nu este un nume propriu pentru un astfel de hardware grafic; în zilele noastre, dacă căutați pe Google „server GPU”, obțineți rezultate despre carduri de calcul precum NVidia Tesla, care se bazează pe modelele lor GPU pentru consumatori. (Ce exact despre ce credeam că va fi această întrebare pe baza titlului. Și despre ce se referă mai mult de jumătate din întrebările din [tag:gpu], deși unele se referă la ca X să lucreze la HW video de server ca acesta.)
joshudson avatar
drapel cn
Am reușit să pornesc un sistem fără nicio placă video. Dacă parametrii inițiali de pornire din BIOS ar fi permis CD-ului meu de pornire să funcționeze, aș fi putut face o instalare fără a avea vreodată vreun fel de hardware video în computer. De asemenea, am o placă PCI doar pentru video (fără GPU). Mă întreb dacă mai funcționează în hardware-ul modern.
drapel cn
@davidbak Ei bine, vine cu drivere GPU. Este cu siguranță un final atât de lung pe cât vă puteți imagina, dar „GPU” înseamnă NUMAI „Unitate de procesare grafică” și îndeplinește acea parte. este suficient de bun un GPU pentru a afișa un ecran de autentificare Windows și un desktop fără ca sistemul de operare să se plângă și nu este doar VGA - acesta pe care l-am conectat merge până la 1920x1920. Deci, lucrurile sunt puțin mai complicate.
Peter Cordes avatar
drapel ke
@TomTom: Este partea „PU” care este în dispută aici; posibilitatea de a afișa Windows la 1920x1920 demonstrează doar partea G. Un framebuffer prost nu va face nicio *procesare* grafică pentru tine, de ex. nu-i poți spune să „umple un dreptunghi” undeva în memoria RAM video, ai avea nevoie de procesor pentru a face procesarea grafică și a stoca datele pixelilor. Multe plăci grafice vechi de înainte ca totul să fie 3D aveau o astfel de capacitate de accelerare 2D, dar este încă o problemă să numim asta un GPU în zilele noastre. (Ca Matrox G200, pe care se bazează un server IPMI HW.)
Peter Cordes avatar
drapel ke
Mai important, „GPU” are o altă semnificație specifică pentru servere, așa că este mai bine să nu amestecați lucrurile numind hardware-ul grafic simplu un GPU. Răspunsurile și comentariile despre cardurile de calcul (GPU-uri server) la această întrebare sunt dovezi ale confuziei pe care o provoacă.
Martin Schröder avatar
drapel cn
Console seriale există. Și de ex. [APU-urile](https://www.pcengines.ch/apu2.htm) nu au GPU-uri.
Andrew Henle avatar
drapel ph
@TomTom Pure doar pentru VGA (obține cumva 1920 x 1200 la 60 Hz dintr-un ram video uriaș de 16 mb): [producție curentă (noiembrie 2021) HP DL20](https://www.hpe.com/psnow/doc/ a00053820enw.html) Asta ar fi, ce? Un „GPU” din 1992?
drapel in
„Dacă cineva are ceva fără asta, vă rog să mă informați” - încă mai am o pereche de mașini IBM Netfinity Series (Pentium 3) așezate în podul meu undeva :-)
drapel cn
Da, pentru că acestea nu sunt în totalitate din niciun suport și din coșul de gunoi și „placile de server adecvate”.
Puncte:11
drapel bd

Nu aveți nevoie de un GPU, dar aveți nevoie de anumite mijloace de acces în situațiile în care sistemul de operare nu rulează și, prin urmare, accesul SSH nu este disponibil, de exemplu pentru a instala sistemul de operare în primul rând, pentru configurarea hardware-ului sau în eventualitatea a unei prăbușiri a sistemului de operare. Pe platformele Intel (alias arhitectura standard industrială și PC-uri) acesta este de obicei un controler grafic integrat și un controler de tastatură, adesea completat de un dispozitiv de indicare. Pe alte platforme puteți găsi o interfață I/O serială în același scop la care va trebui să conectați un terminal serial. Din punct de vedere istoric, acesta din urmă a fost standard până când arhitecturile PC-urilor au preluat arena serverelor. Este încă destul de comun în aparate și sisteme încorporate.

drapel cn
Problema cu interfața serială nu este interfața - este că nu o puteți folosi fără infrastructură SUPLIMENTARĂ (de cele mai multe ori trebuie să introduceți interfața serială într-un terminal telnet, ceea ce nu se întâmplă magic). BMC-urile moderne de la bord au o interfață web și obțin un IP prin DHCP - fie pe un port de rețea separat, fie pe unul dintre porturile RJ45. Acest lucru este SERIOS mai ușor de integrat într-o configurație de control de la distanță, deoarece necesită practic un alt cablu de rețea, fără un convertor serial la telnet. Prin urmare, serialul a dispărut - poate în afara sectorului industrial.
Tilman Schmidt avatar
drapel bd
Un fel de problemă inversă cu găina și ouă. Când interfețele seriale erau încă obișnuite, aveai un server de consolă în fiecare rack, așa că era foarte ușor de integrat: trebuie doar să conectezi un cablu RS232 de la server sau dispozitiv la cel mai apropiat server de consolă. Cu interfețele seriale demodate, la fel și serverele de consolă.
drapel cn
Da, exact. În zilele noastre, aveți doar un alt comutator de top de 1 gbit care face doar BMC. Chiar pui și ou...
JDługosz avatar
drapel cn
Da, serverul meu de fișiere are un Haswell Xenon care vă spune câți ani are acum. Niciun terminal serial, dar nu a avut niciodată atașat o tastatură, un mouse sau un monitor. Placa de bază are o mufă de rețea dedicată pentru interfața virtuală, care, de asemenea, îmi permite să montez o imagine ISO în rețea. Totuși, nu este bazat pe web, ci propriul protocol.
Puncte:4
drapel in

De fapt, sunt două întrebări aici:

Am nevoie de un GPU dedicat pe serverul meu?

Depinde de nevoile tale. GPU-urile dedicate pe servere sunt utilizate pentru aplicații extrem de paralelizate (scăderea numerelor, simulări fizice, procesare a semnalului, AI, criptominere etc.). Dacă aplicațiile dvs. se bazează doar pe CPU, nu aveți nevoie de niciun GPU dedicat.

Am nevoie de o ieșire video pe serverul meu fără cap?

Da, da. Deși este posibil din punct de vedere tehnic să aveți un server care rulează fără el, este foarte convenabil să puteți conecta un monitor în scop de întreținere (instalare OS, actualizare BIOS, diagnosticare etc.). Această ieșire video pe un server este asigurată de un foarte ușor GPU integrat sau un interfata de management. Nu recomand să vă bazați pe o placă grafică care se află în jur pentru a obține ieșire video de la server, ultimul lucru pe care doriți să-l faceți atunci când serverul nu răspunde este să o opriți și să comutați hardware-ul pentru a diagnostica problema. Ar trebui să aveți o modalitate ușor disponibilă de a obține acces la video și la tastatură, IPMI este excelent pentru asta, dar o ieșire video integrată poate fi, de asemenea, o salvare de viață în ultimă instanță.

Cea mai recentă placă de bază de server vine cu un cip dedicat pentru gestionarea platformei și ieșire video de bază, ar trebui să o utilizați sau cel puțin să vă obișnuiți cu ea în ziua în care veți avea nevoie de ea.

Marcus Müller avatar
drapel pt
Adică, sigur, pe piața „servere pe care le cumpărați de la Dell în cantități de la unu la cinci”, a avea o ieșire grafică este plăcută. Google, Amazon, Oracle și Microsoft au centre de date pline de servere. Nu alergi cu un monitor. Ar fi doar o prostie. Deoarece un număr tot mai mare de servere sunt mai mult de acest fel: nu, nu, nu aveți nevoie de o ieșire video, este excepția că aveți una.
Alastair Campbell avatar
drapel in
@MarcusMüller Nu alergi cu un monitor, nu, ci în schimb ai un KVM sau KVMi atașat la toate serverele sau similar. Arată-mi un singur server produs în masă, realizat în ultimii 20 de ani fără o ieșire video de vreun fel.
drapel in
@MarcusMüller tocmai de aceea am specificat că acele caracteristici pot fi furnizate și de o interfață de management. Sunt sigur că centrele de date GAFAM sunt pline de servere fără adaptor de afișare, dar toate au cipuri de gestionare dedicate care pot furniza sau înlocui un adaptor de afișare. Chiar dacă te bazezi pe un adaptor video (care este încă obișnuit în rafturile eterogene), nu trebuie să alergi cu un afișaj și tastatură, ai un comutator KVM central. În orice caz, dacă ai un IPMI nu ai nevoie de un adaptor de afișare dedicat, dar dacă nu ai nici noroc când serverul nu răspunde.
drapel in
Înțeleg că abordarea Google față de un server care nu răspunde este de a-l opri.Nu este nevoie să te deranjezi cu un KVM sau IPMI dacă nici măcar nu ai de gând să te uiți la el. Serverele sunt ieftine, deoarece sunt produse în serie conform specificațiilor Google și suficient de fiabile încât costul unei defecțiuni ocazionale nu merită să fie tratat.
Marcus Müller avatar
drapel pt
@AlastairCampbell https://www.nokia.com/networks/products/airframe-open-edge-server/ https://www.nextplatform.com/2020/05/14/inside-facebooks-future-rack-and- microserver-iron/ https://blog.cloudflare.com/cloudflares-gen-x-servers-for-an-accelerated-future/
Marcus Müller avatar
drapel pt
@MSalters din ceea ce învăț de la inginerii GCP, nu este atât de ușor; GCP are monitorizare/console pentru tot; pur și simplu nu este nevoie de nicio interfață grafică, deoarece cazul de utilizare „Trebuie să merg fizic acolo, să deschid o interfață shell sau de configurare și să fac ceva” pur și simplu eșuează din cauza a) a nu fi aproape, b) a controlului accesului draconian c) nimic de făcut grafic.
andypea avatar
drapel in
@MarcusMüller Aproape toate serverele au un BMC care se conectează la GPU și face interfața grafică a computerului disponibilă de la distanță printr-o conexiune Ethernet folosind un protocol precum IPMI. Deși aceste sisteme sunt notoriu de nesigure, accesul la ele poate fi restricționat cu ușurință de firewall-uri externe. Nu am lucrat niciodată la GCP, dar aș fi surprins dacă nu folosesc ceva similar. Poate ai putea să-i întrebi pe prietenii tăi ingineri GCP? Sunt cu adevărat curios de hardware-ul pe care îl folosesc.
Marcus Müller avatar
drapel pt
@andypea depinde cu siguranță, dar din moment ce în unele centre de date modelul de amenințare este literalmente „un ninja ocolește cumva securitatea din afara, bariere multiple, inclusiv scanere metalice și reușește să instaleze un dispozitiv PCIe într-un rack neobservat â cum ne putem asigura că PCIe dispozitivul este suficient de separat încât să nu poată accesa datele clienților?”, aș fi oarecum surprins dacă există un BMC cu capabilitățile obișnuite tocmai gata și în așteptare; dar o sa intreb. Probabil că vor trebui să tacă dracului, totuși. Un lucru este că toate firmware-urile trebuie să aibă o certificare bună; poate furnizorul dvs. BMC să certifice lipsa erorilor?
andypea avatar
drapel in
@MarcusMüller BMC nu este o componentă suplimentară care este achiziționată separat de pe server. Aproape fiecare server care este disponibil publicului vine cu un BMC integrat. Practic, dacă cumpărați un server, obțineți un BMC rezonabil cu erori, probabil cu o „certificare” dubioasă.
Marcus Müller avatar
drapel pt
@andypea Nu am vrut să spun că este separat! Dar, având în vedere că Google are de fapt un sistem de operare propriu pentru controlerele de placă pentru dispozitivele încorporate și cu ei în permanență apăsând pentru caracteristici de siguranță/securitate ale acestora, BMC-ul pe care îl folosesc de fapt pe plăcile lor ar putea rula software foarte personalizat. Și s-ar putea să evite supraprovizionarea capacităților BMC; Adică, seria actuală de BMC-uri AST de la Aspeed primește aproximativ 2 GB din propria memorie RAM, sistemul de operare potrivit și fiind gazdă, precum și dispozitiv pentru USB, PCIe și o serie de alte autobuze. Asta înseamnă doar *a cere* probleme dacă amenințarea ta…¦
Marcus Müller avatar
drapel pt
⦠modelul este de fapt state naționale avansate care își execută software-ul în VM-uri pe mașina dvs. Adică, acesta este practic un smartphone minus ecranul tactil, cablat pentru a permite să te încurci cu sistemul tău.
andypea avatar
drapel in
La dracu de tocilari, scoateți din funcțiune toți ninja! :P
Puncte:1
drapel za

În scopul în care îl vei folosi, nu chiar. Vor fi doar bani irositi într-un hardware fără a face nimic (în afară de a îmbătrâni)

andypea avatar
drapel in
Cum ai de gând să instalezi sistemul de operare sau să repari mașina când nu pornește?
Puncte:1
drapel kz

În mod normal - nu, cu excepția cazului în care puteți pune GPU să scadă și să gestioneze traficul dvs. XOR pentru dvs. Google GRAID pentru mai multe detalii.

gerrit avatar
drapel th
TPU poate fi chiar mai bun!
drapel in
Trafic XOR? Serios? O magistrală PCIe modernă este atât de complexă, cu codificarea sa 128/130, încât veți face mai multe operațiuni trimițând datele și obțineți rezultatele înapoi, atunci când veți funcționa pe CPU. Miezurile CPU moderne cu unități AVX largi sunt destul de capabile să facă operațiuni XOR simple în vrac, fără suprasarcina PCIe.
BaronSamedi1958 avatar
drapel kz
Ceea ce spui are sens pentru sistemul de stocare numai atunci când toate nucleele CPU vă sunt la dispoziție din ziua zero. Pentru cineva care face HCI, nu numai că cumpărați procesoare mai scumpe în mai multe nuclee pentru a gestiona I/O (+CapEx), dar trebuie să le licenți cu hypervisor, software-ul de backup, să licenți nuclee Windows Server, SQL Server etc (+OpEx). ). Este uriaș, având +2 nuclee pe fiecare priză vă poate lăsa cu ușurință 20.000 USD în plus în următorii 3 ani! Acești bani vor fi pur și simplu irosiți.
Puncte:0
drapel cn

Când mi-am configurat serverul de fișiere bazat pe Haswell, m-am dezbătut dacă să obținem varianta cipului care avea GPU-ul încorporat. A existat o mică diferență de cost, dar a fost neglijabilă în comparație cu costul întregului server!

M-am hotărât să-l iau, pentru că, deși era destul de low-end în ceea ce privește acele lucruri, fiind componenta standard încorporată Intel ar fi destul de comună și standard, așa că este de imaginat ca unele programe să profite de ea, dacă sunt prezente. Cum ar fi, poate să faci suma de control a blocurilor întregi sau să faci calcule RAID6 în câmp finit? Nu știu dacă sistemul de fișiere ZFS a profitat de asta; dar dacă este doar o chestiune de a folosi un comutator de compilator, s-ar putea foarte bine într-o actualizare. (Nu știu dacă compilatorul folosit a tratat în cele din urmă GPU-ul Intel încorporat ca instrucțiuni disponibile în generarea codului)

Acesta era raționamentul meu la acea vreme.

Peter Cordes avatar
drapel ke
*(Nu știu dacă compilatorul folosit a tratat în cele din urmă GPU-ul Intel încorporat ca instrucțiuni disponibile în generarea codului)* - dacă ați folosit GCC sau clang, atunci nu, nu a făcut-o. Chiar și ICC probabil nu o poate face complet automat, deoarece pentru a face GPU-ul să facă orice necesită trecerea prin drivere. Cu siguranță nu este ceva ce codul kernel poate folosi cu ușurință. Nu există instrucțiuni speciale pentru CPU care să facă lucruri pentru GPU; în schimb, comunicați cu GPU-ul prin MMIO, deci folosirea acestuia depinde de faptul că registrele sale de control sunt mapate în memorie undeva.
Puncte:-1
drapel cn

Nu, nu, nu pentru acea sarcină de muncă.

phuclv avatar
drapel rs
care sarcina de munca? OP nu a spus nimic despre volumul de muncă. Ce se întâmplă dacă rulează un server, învață automat, matematică paralelizată sau redă grafică, cum ar fi redimensionarea imaginilor pe care utilizatorii le încarcă și le revin? Aceștia vor beneficia foarte mult de un GPU
mfinni avatar
drapel cn
Sigur - nu au menționat asta deloc, și asta este, de asemenea, 101 pentru acest tip de lucruri, așa că am presupus că „server doar pentru text și consolă” însemna computere care nu sunt la scară mare. Mai ales că au întrebat despre un singur server, nu despre o flotă sau un cluster de servere.

Postează un răspuns

Majoritatea oamenilor nu înțeleg că a pune multe întrebări deblochează învățarea și îmbunătățește legătura interpersonală. În studiile lui Alison, de exemplu, deși oamenii își puteau aminti cu exactitate câte întrebări au fost puse în conversațiile lor, ei nu au intuit legătura dintre întrebări și apreciere. În patru studii, în care participanții au fost implicați în conversații ei înșiși sau au citit transcrieri ale conversațiilor altora, oamenii au avut tendința să nu realizeze că întrebarea ar influența – sau ar fi influențat – nivelul de prietenie dintre conversatori.