Storage-Technologien

Aufbau eines Data Lakes bei einem Cloud Provider

26.10.2023
Anzeige  Für einen Cloud Provider ist die Auswahl und der Aufbau einer Objektspeicher-Plattform von strategischer Bedeutung. Nachfolgend ein Erfahrungsbericht.
Die OceanStor-Serie von Huawei ist eine Suite mit verteilter Speicherung. Die Systeme eignen sich insbesondere für Data Lakes, Big-Data-Analysen, HPC sowie Backup und Archivierung.
Die OceanStor-Serie von Huawei ist eine Suite mit verteilter Speicherung. Die Systeme eignen sich insbesondere für Data Lakes, Big-Data-Analysen, HPC sowie Backup und Archivierung.
Foto: Huawei

Der in Marseille, Frankreich, beheimatete Cloud Provider Hosteur wollte mit einer besonders performanten und sicheren Infrastruktur stark regulierte Branchen wie Pharmaindustrie und Gesundheitswesen als Kunden ansprechen. Hierzu benötigte das Unternehmeneine Daten-Plattform für zwei verschiedene Nutzungsmodelle, die schnell einsatzbereit, flexibel, skalierbar und erschwinglich sind. Ein besonderes Augenmerk entfiel auf die Datenorganisation und die damit einhergehende Technologie. Geplant war der Aufbau eines Data Lakes der die Forderungen nach höchstmöglicher Resilienz, weitgehender Skalierbarkeit, hoher Performance und günstigen Kosten erfüllt.

Die ersten Schritte

Zunächst entschied man sich für eine S3-Storage-Struktur und begann danach mit der Systemauswahl. Die erste Anfrage ging an den chinesischen Storage-Spezialisten Huawei, zu dem es bereits eine solide Geschäftsbeziehung über den Einsatz von Dorado-Systemen gab. Huawei präsentierte ein schlüssiges Konzept auf Basis von OceanStor 100D, das Hosteur auf Anhieb überzeugte und zum Kauf des ersten 250-TB-S3-Objektspeichers auf Basis von Huawei-Hardware führte."Huawei hat uns während des gesamten Bereitstellungsprozesses unterstützt - und das war damals nicht ohne Herausforderungen", erinnert sich Florent Gentric noch heute.

Gemeinsam schaffte man es, dass Hosteur in relativ kurzer Zeit der erste regionale Hosting-Anbieter wurde, der einen echten S3-Objektspeicherdienst anbieten konnte. Inzwischen wurden die APIs der Huawei-Produkte umfassend in die Verwaltungs- und Vertriebstools von Hosteur integriert. "Wir sind sehr zufrieden mit unserer Entscheidung zugunsten von Huawei, es gibt nichts, was wir bereuen", lautet das uneingeschränkte Lob von Florent Gentric an seinen Technologiepartner.

Der aktuelle Stand

Hosteur kann heute seinen kritischen Kunden exzellente SLAs anbieten. Den Grund dafür sieht Florent Gentric ganz klar bei seinen Partnern. "Wir haben sehr gute Hersteller und Partner hinter uns, die ausgezeichnete Produkte herstellen können", sagt er über die Leistungsfähigkeit von Huawei. In Gesprächen mit den Kunden verweist er stets auf die gute Partnerschaft, die Hosteur ganz wesentlich beim Aufbau der Speicher-Topologie geholfen hat. Auch das Problem der schlechteren Latenz von S3 gegenüber HDFS hat man in den Griff bekommen. "Wir haben erhebliche Verbesserungen vorgenommen, was zu einer Lesegeschwindigkeit von über 450 Megabyte pro Sekunde und einer Schreibgeschwindigkeit von 380 Megabyte pro Sekunde geführt hat", freut sich Florent Gentric.

Die nächsten Schritte

Was die die zukünftige Entwicklung angeht, so plant Florent Gentric den Austausch der Dorade-100D-Systeme durch neue OceanStore-Pacific-Geräte. Dabei handelt es sich um Huaweis modernste und leistungsstärkste Scale-out-Storage-Familie, die die Anforderungen einer breiten Anwendungs-Palette, wie High Performance Computing (HPC), KI, Cloud Storage, Datenbanken, Big Data Analytics sowie Backup und Archivierung erfüllt. Basis für die außerordentliche Leistungsfähigkeit der OceanStor-Pacific-Systeme sind verschiedenen Features:

  • Die Softwarealgorithmen werden zwecks Hardwarebeschleunigung auf die Prozessoren verlagert. Darüber hinaus nutzt der Scale-Out-Speicher ein intelligentes und verlustfreies Netzwerk, das eine konsistente Latenz von weniger als einer Millisekunde bietet und schnell auf kritische Arbeitslasten reagieren kann.

  • Ein einziger Bucket beherbergt ohne Leistungseinbußen bis zu 100 Milliarden Objekte, wodurch die Verwendung mehrerer Buckets für große Anwendungen entfällt.

  • Für Anwendungen mit sehr vielen kleinen Dateien wird ein hervorragender I/O-Durchsatz bereitgestellt. Die vollständig symmetrisch verteilte Architektur ermöglicht eine massive und lineare Leistungserweiterung.

  • Das Speichersystemmanagement ist über den gesamten Lebenszyklus hinweg prognostiziert. Es optimiert die Ressourcennutzung und bietet eine proaktive Fehlerbehebung, was den Betriebs- und Wartungsaufwand ganz erheblich rationalisiert.

Das Leistungsspektrum der OceanStor-Pacific-Familie wurde auch von den Analysten bestätigt. So hat IDC diese Systeme im vorigen Jahr mit dem ersten Platz aller Software-defined-Storage-Systeme (SDS) ausgezeichnet.

Fazit

Hosteur betrachtet Huawei als eine alternativlose Option für alle Storage-Systeme. Die Gründe dafür liegen für Florent Gentric auf der Hand:

  • innovativer Hersteller

  • kurze Lieferzeiten

  • einfaches, zentrales Storage-Management in der Cloud

  • umfassender Backup-Service

  • hochwertiger Support

Damit ist klar, dass Huawei auch in Zukunft die erste Wahl für ihn ist, wenn es um weitere Storage-Lösungen geht, beispielsweise beim anstehenden Upgrade auf die OceanStor-Pacific-Systeme.

Zum Huawei-Storage-Portfolio

Die aktuelle IT-Innfrastruktur von Hosteur

Rechenzentren: 5

Compute: 3,94 THZ, Intel Xeon Prozessoren

Storage:
32 TB, ECC DDR4
600+ TB, Huawei OceanStor Dorado 5000 v6
750+ TB, Huawei OceanStor 100D P110

Netzwerk: 35 GBITS/S, MultiHome, AnyCast

Zur Startseite