Die bekannte Big-Data-Lösung Hadoop ist schon längere Zeit über den Dienst „HDInsight“ in Microsoft Azure integriert. Mittlerweile ist auch Version 3.1 verfügbar.
Microsoft Azure unterstützt Hadoop 3.x in HDInsight.
(Bild: Microsoft)
Durch die Verfügbarkeit von Hadoop 3.1 in Microsoft Azure profitieren Unternehmen, die den Big-Data-Dienst in Microsoft Azure buchen von einer Vielzahl an Neuerungen. Mit Apache Hive 3.0 lassen sich Datenbankanwendungen auf Basis von Data Lakes erstellen. Entwickler können mit Hive direkt die Daten abfragen, die im Hadoop-Dateisystem HDFS gespeichert sind.
Ebenfalls integriert ist Hive Warehouse Connector für Apache Spark. Dadurch lassen sich die beiden Big-Data-Lösungen Hive und Spark effektiver betreiben und in HDInsight nutzen. Apache Spark erweitert die Möglichkeit von Hadoop-Clustern um Echtzeitabfragen, ähnlich zu SQL. Dazu bietet das Framework In-Memory-Technologien, kann also Abfragen und Daten direkt im Arbeitsspeicher der Clusterknoten speichern.
Apache HBase 2.0 und Apache Phoenix 5.0 sind ebenfalls Bestandteil der neuen Hadoop 3.1-Implementation in Azure HDInsight. So lässt sich zum Beispiel HBase als Datenbank für Big Data nutzen. Diese Datenbank baut auf Google Big Table auf und kann sehr große Datenmengen speichern. Die Datenbank ist vor allem für Infrastrukturen gedacht, die sehr häufig große Datenmengen berechnen müssen, deren Datenstruktur sich aber selten ändert. Apache HBase unterstützt in HDInsight auch Enterprise Security Package (ESP). Dadurch lassen sich Anmeldeinformationen von lokalen Netzwerken in HDInsight nutzen.
Bei Spark IO Cache handelt es sich um einen Speicherdienst, der die Leistung von Apache Spark-Jobs verbessert. Apache Kafka unterstützt in HDInsight eigene Verschlüsselungsschlüssel mit Azure Key Vault. Dadurch lassen sich Azure Managed Disks verschlüsseln, die durch Apache Kafka genutzt werden. Mit Apache Kafka lässt sich eine Analyse-Plattform in Microsoft Azure erstellen, die in Echtzeit Daten analysieren kann.
Stand vom 30.10.2020
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://support.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.