Puncte:0

Server de stocare post-producție video - viteze reduse de transfer de fișiere mici (1-2M) prin grupul SMB la ZFS. (format CinemaDNG)

drapel cn

Sunt OP Camera / Editor video, dar gestionez infrastructura noastră de post pentru echipa noastră de 2 persoane de la o mică companie de producție.

Avem o problemă cu vitezele mici de transfer prin rețea de la una dintre camerele noastre. Această cameră înregistrează pe un card SD (Kingston Canvas React 256 GB) o secvență DNG. Deci, după o filmare, pe cardul SD există foldere pentru fiecare clip care conține zeci de mii de fișiere .dng de 1-2 MB.

Ingerăm imagini pe un PC cu Windows 10 (Alienware Aurora R10, R9-5900x 32 GB RAM RTX 3080) cu DaVinci Resolve și instrumentul de clonare, care verifică fișierele după copiere cu sumă de verificare. Dacă folosim exploratorul pentru a copia fișierele în partajarea rețelei, este aceeași viteză, așa că nu cred că problema este cu rezolvarea DaVinci. (Există software cu licențe scumpe (de exemplu YoYotta) care pretind că copiază mai repede, dar nu le-am încercat). Apropo, este același lucru pe Macbook Air din 2015 cu un adaptor Thunderbolt 2 la Ethernet.

Serverul nostru este un vechi Dell T320 cu 16 GB RAM și 5 x 3TB WD Red Disks (nu cele SMR) conectate la un controler H200 Raid flash în modul IT. Rulează XigmaNas și discurile sunt într-un pool raidz1. Acesta este apoi partajat prin SMB. (Știu că acest server este foarte lent și are o capacitate scăzută pentru ceea ce facem, am plănuit să facem upgrade de aproape un an la 12 discuri și un ssd pentru L2ARC și rețeaua de 10 Gbps, dar nu am fost pot găsi o săptămână gratuită când nu sunt proiecte planificate și pot face upgrade-ul.)

Avem un PC încorporat care rulează PfSense pentru routerul și firewall-ul nostru și folosim un switch Zyxel cu 8 porturi neadministrat pentru a conecta computerele. Poate gestiona o conexiune gigabit completă în fiecare benchmark și test pe care l-am încercat.

Deci problema este următoarea. Când încep transferul, începe cu aproximativ 70-80 Mb/s, scade rapid la 10 MB/s în aproximativ o jumătate de minut, iar încet la aproximativ 2-3 MB/s în câteva ore. Dacă s-a terminat de transferat un folder, următorul pornește din nou la viteză maximă. Deci, dacă cardul este umplut cu o grămadă de foldere (deci clipuri mai mici) nu este chiar așa de rău, transferul se face cu câteva ore. Dar când umplem cardul cu 1-2 clipuri, deci 1-2, 100-150 GB folieri care conțin fișiere de 1-2 MB, durează literalmente mai mult de o zi.

Când folosim celelalte camere ale noastre, care înregistrează în 4K-6K, fișiere mult mai mari (pentru clipuri mai lungi sunt fișiere de 100-800 GB) se transferă la viteză maximă, deci de obicei maximă la 112 MB/s pe toată durata a transferului.

Transferul fișierelor mici este, desigur, puțin mai lent, cu pool-ul peste 80-90% capacitate (acestea sunt numerele pe care le-am scris mai sus), dar când este puțin sub 50%, cel mai lent ajunge este de 5 MB/s, ceea ce nu este. nu prea departe de 1-2 MB/s. Deci este încă lent și nu cred că piscina este plină, pentru că fișierele mari încă se transferă la viteză maximă. Nu-mi amintesc cum era când piscina era goală.

Când lucrăm cu videoclipurile în DaVinci Resolve, indexarea întregului folder în care se află fișierele este lent (5-10 minute pentru 256 GB), dar odată ce este gata, citește fișierele la viteze gigabit maxime. Deci se poate face, de aceea bănuiesc că este o problemă de rețea.

Deci, ce îmi lipsește? Unde pare să fie problema? Am căutat pe Google și citesc forumuri de aproape un an intermitent, dar nu pot găsi problema exactă nicăieri și nu pot experimenta cu adevărat pe server, deoarece este folosit în fiecare zi.

Dacă este vorba de arhitectura întregii configurații și ar trebui să trecem la un server bazat pe SSD, aș prefera să vin cu o altă soluție, pentru că nu avem cu adevărat fondurile în acest moment pentru un upgrade atât de mare. Mă gândeam să scriu un script care să facă un zip sau un tar al folderelor, să le transfere prin rețea și apoi să le decomprima. Dar apoi ar trebui să fac suma de verificare și așa mai departe, iar DaVinci Resolve o face destul de elegant și poți programa transferul și așa. Și este o interfață grafică. Așa că aș fi o soluție de bandaid. Dar caut toate soluțiile.

Vă mulțumesc anticipat. Bence Szentiványi

freezed avatar
drapel ca
Bun venit la Server Fault. Vă rugăm să [faceți turul](https://serverfault.com/tour) pentru a afla cum funcționează Server Fault. Citiți [cum să întreb](https://serverfault.com/questions/how-to-ask) pentru a îmbunătăți calitatea întrebării dvs.Apoi aruncați o privire la [centrul de ajutor](https://serverfault.com/help/on-topic) pentru a vedea dacă unele _întrebări referitoare la subiect_ sunt deja adresate.
ewwhite avatar
drapel ng
Contactați-mă pentru asistență specifică și detaliată în acest sens.
Amitie 10g avatar
drapel in
Folosiți SSD-ul pentru ZIL (jurnalul de intenții) în plus față de cache? Nu uitați să activați scrierea sincronă, pentru a forța utilizarea ZIL (scrierile sunt sincrone pentru sistemul de operare, dar asincrone intern, în sensul că datele vor fi scrise ulterior în stocarea „stabilă”).

Postează un răspuns

Majoritatea oamenilor nu înțeleg că a pune multe întrebări deblochează învățarea și îmbunătățește legătura interpersonală. În studiile lui Alison, de exemplu, deși oamenii își puteau aminti cu exactitate câte întrebări au fost puse în conversațiile lor, ei nu au intuit legătura dintre întrebări și apreciere. În patru studii, în care participanții au fost implicați în conversații ei înșiși sau au citit transcrieri ale conversațiilor altora, oamenii au avut tendința să nu realizeze că întrebarea ar influența – sau ar fi influențat – nivelul de prietenie dintre conversatori.