Wie Personio bei der Skalierung von Snowflake auf über 280 Nutzer Kostenbewusstsein verankerte
- 60%
- kürzere Laufzeiten der dbt-Pipelines
- 280+
- unterstützte direkte Snowflake-Nutzer
HomeChef setzte Snowflake seit fünf Jahren bei stabilen Kosten ein, vor allem für tägliche Batch-Analysen. Mit jedem weiteren operativen Workload stiegen die Kosten – am Ende um das 15-Fache. Die selbst gebauten Looker-Dashboards fürs Kostenmonitoring deckten den Routinebetrieb ab, scheiterten aber an neuen Fragestellungen und verlangten viel Handarbeit für Ad-hoc-Analysen.
SELECT lieferte sofort die Kostentransparenz und Optimierungs-Insights, die die internen Tools von HomeChef nicht bieten konnten. Die Einrichtung dauerte gerade einmal 30 Minuten. Dank der tiefen Integration mit dbt und einer durchgängigen Kostenaufschlüsselung konnte das Team über 1.200 dbt-Modelle hinweg schnell die wirkungsvollsten Optimierungshebel finden – mit genau der Sicht, für die zuvor eigene Dashboards gebaut werden mussten.
SELECT fühlt sich genau so an wie die ideale Monitoring-Lösung, die Paul und ich gebaut hätten, wenn wir uns 18 Monate lang in einem Raum eingeschlossen hätten.
Devin McGee, Data Engineering Lead bei Home Chef
HomeChef migrierte vor fünf Jahren von EMR zu Snowflake und nutzte die Plattform zunächst, um Looker-Dashboards mit täglichen dbt-Batch-Updates zu versorgen – ein stabiles und kosteneffizientes Setup. Das änderte sich, als HomeChef immer mehr operative workloads über Snowflake laufen ließ. Aus täglichen Queries wurden Queries alle 15 Minuten. Wer viele Upserts auf Churn-Tabellen fährt, sieht die Snowflake-Ausgaben rasant nach oben schnellen. Praktisch über Nacht stieg der Verbrauch um eine Größenordnung.
Vor SELECT hatte HomeChef ein eigenes Kostenmonitoring aufgebaut: inkrementelles Harvesting der Query History, getrennte Warehouses zur Nachverfolgung der dbt-Umgebungskosten und individuelle Looker-Dashboards. Die hauseigene Lösung funktionierte für den Routinebetrieb, wurde bei neuen Problemstellungen aber schnell zur Bremse. Für neue Features brauchte es PRs mit zusätzlichen Dimensionen in Tabellen und neuen Measures in Dashboards; Ad-hoc-Analysen waren wegen der komplexen Metadatenstruktur von Snowflake zäh. Die Trägheit und Reibung waren hoch. Mit jedem Feature, das innerhalb von Snowflake dazukam, musste das Team faktisch einen weiteren obskuren Datensatz neu erlernen.
Als die Kosten in die Höhe schossen, brauchte HomeChef sofort Klarheit darüber, was die Ausgaben trieb. Innerhalb von 30 Minuten war SELECT einsatzbereit. Das tiefe Verständnis des dbt-Ökosystems und die umfassende Kostentransparenz von SELECT machten den Umstieg nahtlos – und die Eigenentwicklung überflüssig.
HomeChef erzielte deutliche Kostensenkungen: Zuerst wurden Storage-Probleme angegangen (20 % Einsparung), anschließend identifizierte das Team mit SELECT Performance-Optimierungen für weitere 40 %. Bei über 1.200 dbt-Modellen wäre es unmöglich gewesen, die richtigen Stellschrauben manuell zu finden. Die Kostenaufschlüsselung und die Performance-Insights von SELECT erlaubten es dem Team, sich genau dort einzubringen, wo der Hebel am größten war. SELECT diente gleichzeitig als Werkzeug zur Zielauswahl und als zentrale Beobachtungswarte für Performance-Optimierungen.
SELECT hat HomeChefs Arbeitsweise vom reaktiven Krisenmanagement zu proaktivem Monitoring verschoben. Devin beginnt jeden Arbeitstag mit einem kurzen Blick in SELECT. Er holt sich seinen Kaffee, schaut auf die Pipes und checkt dann SELECT. In zwei bis drei Minuten hat er ein Gefühl dafür, was im Snowflake-Setup passiert. Diese Routine deckt Anomalien, neue workloads und Kostenspitzen frühzeitig auf, bevor daraus größere Probleme werden. Er sieht Nutzungsveränderungen im Zeitverlauf und erkennt, ob neue, nicht eingeplante Use Cases entstehen – und das Business-Analytics-Team kann direkt auf die jeweiligen End-User zugehen.
Die vielleicht wichtigste kulturelle Veränderung: Analytics Engineers denken Optimierung bereits beim Entwickeln mit, nicht erst nach dem Deployment. In Pairing-Sessions mit SELECT-Insights hat das gesamte Team die Prinzipien der Query-Optimierung verinnerlicht. Heute feilen Analytics Engineers proaktiv an der Performance, bevor sie einen Pull Request stellen. Die AEs kündigen jetzt schon vorab an: "Achtung, das hier wird teuer" oder "Ich habe die Laufzeit von X auf Y gedrückt, bevor ich den PR aufgemacht habe, weil mir klar war, dass mich diese Window Function killt". Mindestens genauso wichtig: SELECT zeigt auch, wann sich Optimierung nicht lohnt – und verhindert so vergebliche Mühe bei Modellen mit geringem Hebel.
Erfahren Sie, wie SELECT Teams dabei unterstützt, Warehouse-Waste zu reduzieren, Transparenz zu schaffen und aus Kosten-Insights konkrete Maßnahmen abzuleiten.
This is the easiest thing we've ever done to save money - 20x ROI. Does this not exist for AWS?
Skyler Chi, SVP, GTM Productivity & Excellence at Exiger
SELECT feels like exactly what Paul and I would have built if we had locked ourselves in a room for 18 months to create our ideal monitoring solution.
Devin McGee, Data Engineering Lead at Home Chef
SELECT has made important cost data readily accessible. I will often pull it up during engineering design reviews so we can quickly evaluate cost impact and projections and factor that into our design decision.
Douglas Zickuhr, Senior Data Platform Engineer at Personio
Our costs had jumped up 3X as we scaled, so we're talking about 60% savings in Snowflake spend after adopting SELECT.
Edward Mancey, GTM Lead at Synthesia
SELECT dramatically lowers the cognitive load to understanding Snowflake costs. I'm able to sit there and easily understand what's driving the cost.
Blake Baggett, Head of Data Operations at Entain
You guys have the best UI experience that I've had of any software. It's like you just read my mind where, like, oh, I wish I could click there. Oh, wait, I can!
Diana Koshy, Sr. Director of Data Engineering at Kargo
SELECT works the way my brain works. I love clicking through the query patterns and different workloads. It's a very intuitive diagnostic flow.
Ian Fahey, Senior Analytics Engineer at Loop
One of the most helpful cost rituals we've setup from SELECT is the weekly spend digest sent to Slack. I can start high level and ensure things are in check.
Michael Revelo, Manager of data and analytics engineering at ClickUp