Erfahrungen: Bildbearbeitung auf Hi End NAS mit 2.5Gbit/s vs 10 GBit/s

[dslr-fanboy]

Ich bin gerade dabei, meine alte NAS (Synology 213 mit 2x4 TByte Platten / RAID 1) gegen eine neue auszutauschen.
Meine Zielvorstellung ist, dass ich zukünftig meine neuen Fotos direkt per Lightroom auf die NAS importiere; der LR Katalog wird weiterhin auf einer im PC verbauten NVME gelagert.

Bei der NAS setze ich auf den Bauvorschlag der letzten c't (Ryzen 4600G / 16GByte RAM / TrueNAS Core) + aktuell 2,5GBit LAN Karte. [Der Bauvorschlag verbraucht nur 17W! im Leerlauf]
Als Festplatten kommen 2 Seagate Wolf Iron Pro (je 12 TByte, CMR) zum Zug, die im RAID 1 laufen werden.

Die Festplatten habe ich schon, die Resthardware ist im Zulauf und wird am Wochenende verbaut.

Mit einem "alt PC" (Phenom X4 955 / 8Gbyte RAM) habe ich erste Erfahrungen mit TrueNAS Core gesammelt und - abgesehen vom Stromverbrauch [ca. 85W im IDLE] - wäre das System auch locker performant genug.
IPerf zeigt exakt 289Mbyte/s Netzwerkübertragungsleistung an. Der Speicherdurchsatz auf den Raid 1 Verbund ist aktuell bis zu diesem Wert gegeben. (Angabe im Win Explorer)

Die Festplattenleistung wird also tatsächlich von der 2.5Gbit/s Übertragungsleistung eingebremst.

Nachdem ich mich mit 10Gbit/s Netzwerktechnik befasst habe, stelle ich fest, dass es gar nicht so teuer ist, wenn man 2 x 10Gbit/s LAN Karten kauft und den PC / NAS direkt verkabelt. Beide Komponenten hätten dann noch je 1 Gbit/s Karte, um ins Hausnetz zu gelangen (surfen bzw. Updates für die NAS). Ich müsste gut 150€ investieren für den Sprung von 2.5 auf 10Gbit/s.

Hat da jemand Erfahrung? Ich vermute, dass wohl kaum mehr als 450 MByte/s von den HDDs transportiert werden können. Das wären aber immerhin immer noch ca. 150Mbyte/s mehr als aktuell.
Wie ist eure Erfahrung? Würdet ihr zum Upgrade 2.5GBit --> 10GBit raten?

 

[schmadde]

Hat da jemand Erfahrung? Ich vermute, dass wohl kaum mehr als 450 MByte/s von den HDDs transportiert werden können. Das wären aber immerhin immer noch ca. 150Mbyte/s mehr als aktuell.
Wie ist eure Erfahrung? Würdet ihr zum Upgrade 2.5GBit --> 10GBit raten?

Vergiss die Bulk-Transferrate. Die ist bei der Anwendung nicht so wichtig. Wichtig ist die Latenz. Schau, dass Du da schnelle SSDs ins NAS baust, mit HDD gewinnst Du da keinen Blumentopf und kannst auch bei 1G bleiben - selbst das bekommst Du da nicht ausgereizt. Ob 2,5G oder 10G ist schätze ich nicht so sehr das Problem. Je schneller, desto besser, aber am wichtigsten erstmal die Latenzen niedrig zu halten. Also am besten NVMe SSDs ins NAS, nur zur Not SATA.

 

[blaubaer_65]

Schau doch einfach mal im Taskmanager auf die Netzwerkauslastung, einmal bei der normalen Bearbeitung und dann, wenn Du grade Bilder importierst. Dann müsstest Du abschätzen können, ob mehr an Performance einen signifikanten Vorteil bringt. Ich denke, wie mein Vorposter, das es eher nicht so viel bringt, solange eine HDD am anderen Ende ist. Zudem gibts Netzwerkkarten von bis und ob die alle wirklich optimalen Durchsatz haben, ist die andere Frage. Hier habe ich einen Artikel gefunden, der etwa Deinen Use Case beschreibt:

Wissen: 10 Gigabit Ethernet in der Praxis

Wir haben auf 10-Gbit-Ethernet aufgerüstet und zeigen euch, vorauf bei 10 GbE zu achten ist und was der neue Standard im LAN wirklich bringt.

www.allround-pc.com

Das Routing könnte noch herausfordernd sein, PC und NAS müssen ja wissen, was sie über welchen Port schicken, damit der PC die Bilder auf dem NAS sucht, und das Internet auf dem anderen Port. Dasselbe beim NAS das auch wissen muss, was es an den ersten und was an den zweiten Port schickt. Alles an einen Switch ist deutlich einfacher, sprengt aber Deinen "Business Case" und die Switche haben ggf. einen Lüfter.

 

[dslr-fanboy]

Vergiss die Bulk-Transferrate. Die ist bei der Anwendung nicht so wichtig. Wichtig ist die Latenz. Schau, dass Du da schnelle SSDs ins NAS baust, mit HDD gewinnst Du da keinen Blumentopf und kannst auch bei 1G bleiben - selbst das bekommst Du da nicht ausgereizt. Ob 2,5G oder 10G ist schätze ich nicht so sehr das Problem. Je schneller, desto besser, aber am wichtigsten erstmal die Latenzen niedrig zu halten. Also am besten NVMe SSDs ins NAS, nur zur Not SATA

Die HDDs sind gesetzt. Redundanz der Datenspeicher ist ein MUST HAVE und der SATA Anschluss ist ebenfalls gesetzt, weil es schlicht nicht möglich ist, aktuell 2x12 TByte auf NVME zu erreichen. SO große NVME's gibt es nicht und preislich ist das auch ne andere Größenordnung,

Für die Datenübertragung wichtig ist das Windows Feature "SMB DIRECT". Bei Win 10 bringt es nur "Win 10 pro !!!FOR WORKSTATIONS!!!" mit, das normale Win 10 Pro hat es nicht. Bei Win 11 Pro ist es anders, da ist SMB DIRECT bereits enthalten.

Deshalb habe ich aktuell beim Phenom IV Board (als NAS) ja schon die 289Mbyte/s (max. Netzwerkleistung) auch als realen Datendurchsatz am Client messen können.

 

[schmadde]

Die HDDs sind gesetzt.

Dann brauchst Du Dir keine Gedanken um 10G machen. Selbst 2,5 sind da Perlen vor die Säue.

 

[blaubaer_65]

Redundanz der Datenspeicher ist ein MUST HAVE

Mit welchem Ziel?

 

[dslr-fanboy]

Dann brauchst Du Dir keine Gedanken um 10G machen. Selbst 2,5 sind da Perlen vor die Säue.

Okay - ich sehe schon - die Expertise hier ist begrenzt.
Du hast schon mitbekommen, dass die 289MByte/s per LAN (von HDD gespeist) übertragen werden bei mir? Bei 1 Gbit/s wären es max. 112 Mbyte/s
Der Faktor 2.5 wird also auch real erreicht. Perlen vor die Säue ist was anderes.

 

[dslr-fanboy]

Mit welchem Ziel?

Die Frage ist nie ob ein Datenspeicher kaputt geht, sondern wann. Meinen Fotopool nur einem Datenspeicher anzuvertrauen, wäre fahrlässig.
Aktuell ist bei meiner 2x4 TByte Synology eine HDD schon "im sterben", dank RAID 1 läuft die ganze Chose aber noch. Es ist dringend Zeit für mich, zu migrieren. Das werde ich nun am Wochenende vollziehen.

 

[blaubaer_65]

Okay - ich sehe schon - die Expertise hier ist begrenzt.
Du hast schon mitbekommen, dass die 289MByte/s per LAN (von HDD gespeist) übertragen werden bei mir? Bei 1 Gbit/s wären es max. 112 Mbyte/s
Der Faktor 2.5 wird also auch real erreicht. Perlen vor die Säue ist was anderes.

Ja es ist schneller, wenn aber ein einzelnes RAW für die Verarbeitung geladen wird, ist das in beiden Fällen in < 1 sec auf dem Rechner. Und as was bei LR der Zeitfresser ist, ist das Rendering das denn immer noch passiert. Beim Upload vieler Bilder sieht es anders aus, da spielen dann aber auch weitere Faktoren rein (Karte und Leser z.B.).

 

[blaubaer_65]

Die Frage ist nie ob ein Datenspeicher kaputt geht, sondern wann. Meinen Fotopool nur einem Datenspeicher anzuvertrauen, wäre fahrlässig.
Aktuell ist bei meiner 2x4 GByte Synology eine HDD schon "im sterben", dank RAID 1 läuft die ganze Chose aber noch. Es ist dringend Zeit für mich, zu migrieren. Das werde ich nun am Wochenende vollziehen.

RAID ist eine Technik um Verfügbarkeit sicherzustellen. Ein RAID hilft nichts gegen versehentliches Löschen, Controllerfehler, Blitzschlag etc pp. Insofern solltest Du parallel ein Backup vorsehen.

 

[dslr-fanboy]

RAID ist eine Technik um Verfügbarkeit sicherzustellen. Ein RAID hilft nichts gegen versehentliches Löschen, Controllerfehler, Blitzschlag etc pp. Insofern solltest Du parallel ein Backup vorsehen.

Das ist mir klar. Hier geht es auch erstmal um Verfügbarkeit.
Das Backup Thema muss ich aber noch lösen - wahrscheinlich wird noch eine zusätzliche 16/20Tbyte Platte dafür angeschafft

 

[schmadde]

Okay - ich sehe schon - die Expertise hier ist begrenzt.

Ja, drum fragst Du doch, oder?
Ich versuche Dir teures Lehrgeld zu ersparen. Von mir aus kaufe 10G Equipment. Das ist ausgereift und verfügbar, bei uns in den RZs ist das schon seit vielen Jahren Standard. Wir haben aber auch schon seit fast 10 Jahren 100% Flash Speicher im NAS - weil das den echten Unterschied in der Performance macht. Vergesse aber nicht für Heimanwendungen, dass nicht nur die Hardware teuer ist, sondern auch viel Strom verbraucht bei 10G über Kupfer.

Überleg mal wie groß so ein Bild ist, von mir aus auch ein RAW. Nach jedem Bild müssen Metadaten geschrieben werden - bei Standard Filesystemen in SOHO NAS in ganz anderen Bereichen des Speichermediums - also braucht Seeks, die bei HDDs sehr lange dauern. Metadaten werden praktisch immer synchron geschrieben. Das ist das Bottleneck. Deine theoretischen Datenübertragungsraten kannst Du erreichen, wenn Du Bluray-Images schreibst. Bei x-hundert Fotos bist du Latenz-Limitiert. Nicht nur im Katalog.

Wenn Du benchmarken willst, kopier mal einen Ordner mit 2.000 Bildern und messe dann.

 

[kk7]

Iperf testet nur die Netzwerkverbindung, da ist keine Festplatte involviert. Bei RAID1 mit HDDs lohnen sich 10GbE nicht, mehr als 270MB/s werden die HDDs nicht liefern können und auch das nur, wenn die Daten auf den äußeren Spuren liegen. Die Daten müssen dazu auch ausreichend groß sein. Bei typischer Bildgröße sehe ich da eher schwarz.

 

[dslr-fanboy]

Iperf testet nur die Netzwerkverbindung, da ist keine Festplatte involviert. Bei RAID1 mit HDDs lohnen sich 10GbE nicht, mehr als 270MB/s werden die HDDs nicht liefern können und auch das nur, wenn die Daten auf den äußeren Spuren liegen. Die Daten müssen dazu auch ausreichend groß sein. Bei typischer Bildgröße sehe ich da eher schwarz.

Das Iperf nur das LAN testet, ist mir klar. Die Messung ergibt 289 MByte/s. Also 1:1 das, was man bei 2500Mbit/s max. erwarten kann.

Ein reales kopieren der Daten auf einen Datapool der TrueNAS hatte bei großen ISO. Images auch die 280MByte/s im WinExplorer als DATEITRANSFER angezeigt. Da war ich schon sehr begeistert von.

Ordner mit 2000 Bildern habe ich auch kopiert, da schwankt die Transferrate zwischen 170 - 280 MByte/s

 

[dslr-fanboy]

Aber die Tendenz geht wohl dahin, dass 2.5Gbit/s bei HDDs reichen.
Ich versuche mal, unter Free BSD eine HDD Durchsatzmessung auf der dann neuen Hardware durchzuführen.
Danach weiss ich wohl mehr.

Übrigens: Die 10GBit Technik würde ich tatsächlich mit SFP+ Karten und einer direkten DAC LWL Verkabelung durchführen. Die Lichttechnik ist da tatsächlich günstiger und auch stromsparender im Vergleich zu 10Gbit Kupfer (TrueNAS empfiehlt Chelsio 520T Chipsatz Karten; diese kosten gut 60,-€/Stück)

 

[mhitzler]

Ich lese hier schon interessiert mit. Zum einen mal: Wie soll denn die direkte Anbindung funktionieren? Braucht es denn da nicht einen 10Gbit-Switch dazwischen?
Zum anderen: Wozu eigentlich der Aufwand? Hast du wirklich täglich so riesige Biddatenmengen, die du per LR auf das NAS importierst?
Ist denn da nicht eh die langsamste Komponente die Begrenzende, hier dann vermutlich der Übertrag von Speicherkarte zu PC?

 

[Marco R.]

hier dann vermutlich der Übertrag von Speicherkarte zu PC?

Nur, wenn man eine langsame Karte verwendet, oder einen langsamen Anschluß hat.

 

[alfons60]

Ich setze eine DS1522+ mit derzeit 3 HDs im Raid-Verbund und einer 10Gb-Ethernet-Erweiterung ein, um alte Jahrgänge darüber zu pflegen. Aktuelle Jahrgänge pflege ich lokal auf einer SSD. Die Bildverarbeitung erfolgt mit Lightroom und Photoshop. Mein Fazit: Mir fällt in der Bearbeitung kein Unterschied auf. Der Raid-Verbund ist schnell genug, um mehrere Sekunden fast die volle Netzwerkleistung aufzunehmen. Und das langt für meine 45MP-Bilder.

 

[ernst.w]

Die HDDs sind gesetzt.

Okay, deine Sache. Da bringen es schon 2,5Gbit/sek nicht mehr, also aufrüsten auf 10Gbit/sek in dem Fall sinnlos.

weil es schlicht nicht möglich ist, aktuell 2x12 TByte auf NVME zu erreichen

Da hast du recht. Du müsstest mit 2x15TB oder 2x30TB das Auslangen finden, weil die Abstufungen andere sind als bei HDDs üblich..

SO große NVME's gibt es nicht

Da fehlt es ein wenig an Information, denke ich. Ich verwende z.B. U.2 bzw. U.3 SSDs an einem U.2/3-NMVe Controller (PCI3.0x4) Burst R~6900Mbit/sek, W+4000Mbit/sek.; IOPS 4K: ~1000k bis 1400k lesend, 150k bis 200k schreibend. Da geht schon etwas weiter.

Meine 7,68TB großen SSDs haben etwa 450,- pro Stück gekostet, 15TB liegen derzeit bei 1700 bis 2700 je nach Ausführung.

Aber selbst mit solchen Muskelpaketen wirst du im durchschnittlichen Realbetrieb mit 2,5Gbit/sek gut durchkommen. Gut, ja, beim Kopieren von CFexpress via Thunderbolt auf SSD bekommst du einen Geschwindigkeits-Rausch, aber Lightroom, Capture One und Co. senden kleine Pakte - und nicht aufregend schnell.

 

[LarsS.]

Zum anderen: Wozu eigentlich der Aufwand? Hast du wirklich täglich so riesige Biddatenmengen, die du per LR auf das NAS importierst?

Die grundsätzliche Überlegung des TO kann ich schon gut nachvollziehen: die Datenmengen werden tendenziell immer größer und wenn man sich anschaut welche Übertragungsleistungen für lokale Verbindungen per Thunderbolt oder USB4 mittlerweile Standard sind, dann drängt sich die Frage schon auf, ob es nicht Möglichkeiten gibt, aus dem alten 1-Gbit-Netzwerkstandard ein bisschen mehr rauszuholen. Und aktuell sieht man ja auch immer mehr NAS und fertige PC, die ab Werk mit 2,5Gbit daherkommen. Wenn bei mir aktuell ein Neukauf anstünde, dann würde ich das auch nicht ganz links liegen lassen.

Unabhängig davon glaube ich, dass für viele Privatanwender ein Setup wie von alfons60 beschrieben das "Richtige" ist: So viel wie halt geht lokal und das NAS als "Datengrab" für die Überbestände, da ist dann die Netzwerkgeschwindigkeit (ein Stück weit) nebensächlich.