SQL Server Data Warehouse - Mehr als nur SSIS !

-

Immer wieder stelle ich fest, dass sowohl kaufmännische Entscheider als auch IT-Leiter in größeren Organisationen die Vorstellung haben, dass ein Data Warehouse auch ein extra Produkt einer Business Intelligence Umgebung sein müsste.

Gar nicht so selten sind Zitate wie: “Ach so, sie nutzen den SQL Server auch als Data Warehouse. Nun ja, interessant. Kann man wohl machen… Dennoch…”.

Da war das Marketing der Marktbegleiter einfach gut! By the way, bei denen ist das Data Warehouse auch eine relationale Datenbank. Also, ähm, wenn die denn eines einsetzen. Nur diese Diskussion sollten wir an anderer Stelle führen. Okay, ein Satz dazu. Sich gegen ein Data Warehouse zu entscheiden ist keine Frage der Auswahl eines BI Tool Anbieters, sondern eine Architektur Frage, welche gewissenhaft & seriös beantwortet werden muss. </Ende>

Nur kurz angemerkt. Wenn wir uns über wirkliche große Szenarien unterhalten, dann ist JEDE relationale Engine JEDER etablierten Datenbank irgendwann am Ende. Und aufgepasst, fast jeder Kunde (intern wie extern) ist der Meinung, dass er wirklich wirklich viele Daten hat. Mit “viele Daten” meine ich aber gerade gehobene Terabyte Mengen oder etwas in der Nähe von Petabytes. Dafür gibt es dann tatsächlich extra Produkte von Microsoft und auch anderen Herstellern. Nur, wer hat die Herausforderung schon? :-)

Zurück zum Thema.

Ein Data Warehouse zu betrieben ist weit mehr als nur ein Tool für den ETL/ELT Prozess einzusetzen und einen schönen Spaltenzuordnungsdialog (Mapping) zu haben. Auch das gilt für fast alle Hersteller. Nur wird das häufig bei der Auswahl einer Lösung übersehen.

Auch dafür ein Zitat: “Dafür setzen wir das ETL Tool von bla ein…”. Weil wenn das Tool stimmt, dann klappt das auch mit dem relationalem Data Warehouse. Dem ist nicht so.

Wo ich mit mir verhandeln lasse, sind DWH Frameworks, welche sich um die relationale Engine “legen”. Nur häufig sind diese recht überschaubar ausgelegt und unterstützen nicht durchgängig und in aller Konsequenz die Anforderungen an ein Enterprise Data Warehouse (Welche waren das noch gleich…). Dazu kommt, dass solche dann oft wieder geschlossene Lösungen sind. Software im Enterprise Umfeld muss offen sein. Nicht nur mit der herstellereigen Oberfläche zu bedienen sein. Integration ist das Stichwort und das ist für mich ein echtes unverhandelbares Merkmal für die Fähigkeit einer Software “Enterprise Ready” zu sein oder halt auch nicht.

Das Design einer Data Warehouse Infrastruktur ist auch immer Architekturaufwand. Vieles ist Best Practice. Es muss nur noch alles zusammengeführt werden, was benötigt wird.

Für mich immer wieder notwendige Funktionen der relationalen Datenbank Engine für den Betrieb eines klassischen Enterprise Data Warehouse sind:

  • Partitionierung
  • Komprimierung
  • Service Broker
  • Verschlüsselung
  • Resource Governor
  • Columnstore-Indizes (seit 2012)
  • Clustering / AlwaysOn Availability Groups (seit 2012)

Ähm, und ja, dafür braucht man die Enterprise Edition.

Natürlich kommt dann obendrauf noch die ganze Analyse- und Frontend-Nummer. Nur das ist dann wieder etwas ganz anderes als das eigentliche Data Warehouse, oder? :-)

Popular posts from this blog

SQL Server In-Memory OLTP – Isolation Level Beispiele

-
Image
Wie schon mal von mir erwähnt, erlebe ich bei den Teilnehmern meiner SQL Server In-Memory OLTP Workshops die meisten Schwierigkeiten bei der Verwendung der “neuen” Isolation Level. Zwar klingen für viele Entwickler die Level SNAPSHOT, REPEATABLE READ und SERIALIZABLE vertraut, nur schon bei den SQL Server “disk-based” Tabellen haben die wenigsten diese aktiv genutzt. Standard ist häufig READ COMMITED und das ist auch gut so. Die Tatsache, dass In-Memory OLTP aber ohne Sperren auskommt, fühlt sich für die meisten Entwickler erstmal befremdlich an. Zwar haben wohl die meisten Interessierten schon mal die Microsoft PowerPoints mit einer Erklärung des Version Stores gesehen und sich gefreut, wie schön da Versionen von Zeilen nebeneinander koexistieren können. Nur wie sieht das in der Praxis für den Entwickler aus? Der deutsche Begriff für die Technologie In-Memory OLTP “Arbeitsspeicheroptimierung” trifft es irgendwie nicht ganz. Zwar wird der Arbeitsspeicher wesentlich optimierter gen
Read more

PSG Performance Driven Development für den SQL Server

-
In den letzten Monaten wurde ich häufig danach gefragt, was denn dieses Performance Driven Development (PSG PDD) eigentlich sei? Und welche Technologien wir damit meinen? In erster Linie verstehen wir unter der Performance Driven Development Methode weniger einen Technologie Ansatz, als vielmehr einen Rahmen an Maßnahmen, damit das Thema Performance im Laufe einer Software Entwicklung den Stellenwert er- und behält, welcher bei Projektstart als notwendig erachtet wurde. Entstanden ist die Idee zu der Methode u.a. aus dem Feedback unserer Schulungskunden. Es wurde uns zwar attestiert, dass die Teilnehmer unserer Workshops und Schulungen einen deutlichen Knowhow Fortschritt machen würden, dennoch wäre es für den einzelnen Entwickler immer wieder schwierig sei neues Wissen auch so einzusetzen, dass die Projekte bzw. Produkte davon wirklich partizipieren. Der Alltag von Entwicklern sei ja stark getrieben durch ein agiles geprägtes Umfeld und Stakeholder, für die diese grundlegenden t
Read more

SQL Server in-Memory OLTP – Ein Plädoyer für Lasttest Werkzeuge und End-to-End Monitoring

-
Im Rahmen einiger Proof-of-Concepts und Workshops für die in-Memory OLTP Engine des SQL Servers habe ich die Erfahrung gemacht, dass selbst komplexe Eigenentwicklungen von Unternehmen häufig ohne Werkzeuge für realistische Lasttests auskommen müssen. Ziel der PoCs ist es zu evaluieren, ob das Investment in die Integration von SQL Server in-Memory OLTP überhaupt einen wirtschaftlich gerechtfertigten Vorteil mit sich bringt. Die einfache Frage im Raum ist häufig: Wird unsere Anwendung mittels in-Memory OLTP tatsächlich deutlich schneller? Die Voraussetzung für eine solche Überlegung ist natürlich, dass man entweder zurzeit mit der bestehenden Last zu langsam unterwegs ist oder für die Zukunft mit wesentlich mehr Last rechnet und davon ausgeht, dass diese zu Problemen führen wird. Die wenigsten Kunden nutzen zurzeit die in-Memory OLTP Engine des SQL Servers für eine komplette Neuentwicklung auf der grünen Wiese. Wobei, wer als ISV oder Entwicklungsleiter schon länger eine Neuentwickl
Read more