Dariusz quatscht : Concurrency

Nachtrag zum TechTalk: Parallel Computing mit Visual Studio 2010

dparys — Thu, 16 Jul 2009 09:38:43 GMT

Durch 6 Städte habe ich zusammen mit Dr. Mario Deilmann von Intel das Thema Multi-Many-Core Programmieren mit Visual Studio 2010 und dem Intel Parallel Studio vorgetragen. Hierbei haben wir die Themen TPL, PPL, AAL, TBB, Open MP,CT und Tooling angerissen. Wir hatten viel Feedback direkt bekommen und jeder Ort hatte seine besonderen Gegebenheiten. So möchte ich nochmals Tom Wendel dafür danken das er in Karlsruhe meine geschundenen Finger geschont hat und für mich den Tippaffen gemacht hat. So möchte ich darauf hinweisen das Berlin den größten Anteil an C++ Entwicklern hatte was natürlich Mario sehr gefreut hat. Und mir persönlich hat es in Dresden am besten gefallen. Nicht nur weil es dort einen guten Spanier mit leckeren Tapas gab und die Altstadt wirklich sehenswert ist, sondern weil in Dresden die No-Show Rate (Teilnehmer die angemeldet waren und nicth gekommen sind) extrem niedrig war.

Wer nicht dabei gewesen ist, der kann sich die Aufzeichnung aus Hamburg anschauen. Diese ist dreigeteilt. Hier die einzelnen Links:

Teil 1 mit Dr. Mario Deilmann über Parallel Studio, Open MP und Auto Vektorisierung

Teil 2 mit mir über Parallel Computing in Visual Studio 2010

Teil 3 mit Dr. Mario Deilmann über Intel Threading Building Blocks und CT

Das Teil 2 Video habe ich auch noch in diesem Blog Post direkt verlinkt.

Des Weiteren gibt es jetzt hier auch die Code Beispiele für Visual Studio 2010 Beta 1.

Noch einige Antworten zu Fragen die mehrere Teilnehmer während der Tour gestellt haben:

F: In welchen Versionen von Visual Studio 2010 werden die neuen Debugging Funktionalitäten enthalten sein?

A: Die Debugger Fenster für Tasks und den Stackwatch werden in allen Versionen für Visual Studio 2010 verfügbar sein, ausgenommen Visual Studio 2010 Express. Der Visual Studio Profiler der nun auch Concurrency profilen kann wird es nur in der Visual Studio 2010 Team System Developer Edition bzw. in der Visual Studio 2010 Team System Suite geben.

F: Werden die Parallel Extension Extras in die TPL eingearbeitet werden?

A: Zum Teil. Es werden nicht alle Beispiele und Klassen den Weg in das Framework finden, welche genau in das Framework wandern ist zur Zeit noch nicht bekannt.

F: Wird eine Anwendung die die TPL nutzt auch unter Windows XP lauffähig sein?

A: Ja, lediglich der Profiler mindestens Windows Vista

F: Wird der C++ Compiler in Visual Studio 2010 Auto Vektorisierung unterstützen?

A: Momentan wurde diesbezüglich nichts angekündigt.

F: Ist es möglich zu sehen welche Partitionierungsstrategie die Concurrency Runtime bei PLINQ Queries verwendet und kann ich das beeinflussen?

A: Es gibt momentan keine dafür vorgesehene Implementierung. PLINQ ist eine Black Box. Man kann ungefähr abwägen auf Grundlage des Datentyps und der Operationen in der LINQ Query welche Paritionierung verwendet wird. Mehr Informationen zur Partitionierung gibt es in diesem Blog Post.

Was sind relevante Themen in der Softwareentwicklung für Sie?

dparys — Wed, 03 Dec 2008 19:19:00 GMT

Lange Zeit bevor ich bei Microsoft war, habe ich schon in diversen Firmen eigentlich immer aus eigenem Antrieb heraus recht schnell Technologie adaptiert und auch während laufender Projekte reingebracht. Den Mehraufwand hat man gerne selbst getragen (oder tragen lassen, Entschuldigung schon mal an dieser Stelle, Ihr wisst wer gemeint ist) um das Projekt / Produkt auf eine neue technische Ebene zu heben. Meist hat sich der Aufwand auch gelohnt.

Seit ich bei Microsoft bin, liegt hier mein Fokus natürlich verstärkt auf die Microsoft Technologie. Ich möchte mal sagen das ich nicht diesen Bias habe über den Ralf Westphal geschrieben hat, aber mein "Abdriften" in andere Technologie Welten ist definitiv geringer geworden.

Warum schreibe ich das eigentlich? Ganz einfach, nach dem Auswerten der Technical Summit Feedbacks ist mir aufgefallen das die Themen kaum Relevanz für die Teilnehmer hatten und ich nicht von mir ausgehen möchte was relevant ist. Was ich wirklich Cool finden würde, wären Kommentare was für Sie relevante Softwareentwicklungsthemen sind.

Ich, über die Xtopia und den Technical Summit

dparys — Tue, 30 Sep 2008 14:20:46 GMT

Nachdem mein Kollege Oliver Scheer, schon eine Reihe anderer Kollegen zur Xtopia und dem Technical Summit befragt hat, habe ich meine Video Kamera genommen und auch meinen Senf abgegeben.

Xtopia + Technical Summit: Dariusz Parys

Weitere Interviews meiner Kollegen findet man hier auf Channel9.

Velocity – Eine Einführung

dparys — Fri, 26 Sep 2008 09:26:23 GMT

Velociwas? Codenamen sind bei Microsoft, seit ich diese Firma kenne, Bestandteil der Firmenkultur und werden vermutlich so schnell nicht verschwinden. Mittlerweile würde ich mir wünschen von den Codenamen wegzukommen. Es verwirrt mich einfach schon selbst bei der Fülle von Technologien die wir erstellen, den Codenamen jeweils der richtigen zuzuordnen.

Velocity ist ein “Distributed Cache”. Oder auf Deutsch: Velocity ist ein “Verteilter Zwischenspeicher”. Ein Zwischenspeicher der logisch mehrere physikalische Maschinen zu einem einheitlichen Cache verschmelzen lässt. Die Velocity Infrastruktur sorgt hierbei das die Daten im Verbund für alle verfügbar sind und bei Bedarf auch noch repliziert werden.

Wann setzt man Caching ein, wann macht es Sinn Daten nicht direkt aus der eigentlichen Datenquelle zu lesen und dementsprechend vorzuhalten?

Wir benutzen in der Anwendung von Technologien öfters Cache-Systeme und Mechanismen als uns bewußt ist. Dies passiert meist implizit, ohne das wir davon viel mitbekommen. Ein Beispiel ist das Dateisystem. Das Dateisystem speichert die Zugriffe in einen Zwischenspeicher und ermöglicht so eine bessere Performance beim lesen und auch schreiben der Daten. Der Durchsatz wird erhöht und Fesplatten profitieren von dem Lese/Schreibcache.

Wenn man Caching in seine eigene Anwendung einbauen möchte, so möchte man in der Regel die Performance steigern. Das ist oft dann notwendig wenn die Architektur der Anwendung Mehrschichtig ist und die Schichten auch physikalisch in unterschiedlichen Prozessen (oder auch Maschinen) liegen. Nur dann? Nein, das kann ebenfalls Sinn machen wenn es sich um eine Anwendung handelt die Intensive Operationen auf eine Datenquelle (nicht zwangsläufig eine Datenbank) durchführt und diese Operation jedesmal zusätzlich Zeit kostet. Hier bietet es sich auch an die Daten aus der Quelle im Speicher der Anwendung vorzuhalten.

Vielleicht benutzt der ein oder andere für bestimmte Daten schon ein disconnected DataSet in welchem Lookup Daten im Prozess gehalten werden. Das ist im Prinzip auch ein Cache. Allerdings keiner der sich mit anderen Zwischenspeichern synchronisieren kann. Ich habe Lookup Daten erwähnt. Ein Cache ist also nicht für jede Art von Daten Sinnvoll. Welche machen denn Sinn?

Referenz Daten

Bleiben wir doch bei den Lookup Daten. Es sind sogenannte Referenz-Daten. Referenz-Daten sind z.B. Katalog-Daten, Daten von Mitarbeitern, Daten die sich nicht oft ändern, bzw. deren Änderung periodisch geschieht. Diese Daten sind eindeutig versioniert. Auf diese Daten wird auch in der Regel nur lesend zugegriffen und meist werden diese Referenzen nur an Aktivitäten in der Anwendung mitgegeben um sich darauf zu beziehen.

Aktivitäts Orientierte Daten

Es gibt aber auch Daten die während der Benutzung der Anwendung erzeugt werden. Zum Beispiel das Erstellen eines Warenkorbes. Diese Daten sind exklusiv für den jeweiligen Benutzer und werden auch schreibend verändert und sollten dementsprechend auch in einer Transaktion manipuliert werden können.

Resource Orientierte Daten

Bei bestimmten Anwendungen werden eine gewisse Anzahl von Resourcen im System vorhanden sein, die es dann abzuarbeiten gilt. Eine Resource könnte zum Beispiel bei einem Flugbuchungssystem der Sitzplatz in einer speziellen Maschine sein. Hier ist der Umgang meist lesend und wenn geschrieben wird, weil der Sitz gebucht wird, so passiert das im Wissen das konkurrierende Zugriffe erfolgen können. Eine Resource ist meist Bestandteil mehrerer Transaktionen. Hier gibt es zusätzlich die Problematik ob ich diese exklusiv beim Bearbeiten sperren möchte oder das System im Falle der Flugbuchung Überbuchungen zulässt, also mehr eine relaxte Art mit der Resource umzugehen.

Diese drei Arten von Daten unterstützt Velocity. Was ist nun das besondere an einem verteilten Zwischenspeicher? Skalierbarkeit und Verfügbarkeit der Daten. Auf Server-Farmen ist der Einsatz von Caching nicht trivial. Was passiert bei Aktualisierungen von Referenzdaten, was passiert wenn ich auf Server A einen Warenkorb angelegt habe und ich auf Server C beim nächsten Request mir diesen anzeigen lassen möchte? Ein Roundtrip zur Datenbank nur um die Daten zwischen zu speichern? Genau in diesen Bereich kann Velocity helfen, um die Zugriffs-Last an den Daten-Backend zu verringern.

Velocity vereint mehrere physikalische Maschinen zu einem logischen Cache den ich in diesem Verbund einheitlich ansprechen kann. Hier gibt es drei Begriffe die es zu verstehen gilt.

Named Cache

Durch die Zuweisung einer logischen Einheit enthält man einen Named Cache der über die gewünschte Anzahl von Maschinen einheitlich ist und nur über den Namen (deshalb Named Cache) angesprochen wird. Lege ich ein Objekt in den Cache, so weiß ich nicht wo dieses Objekt physikalisch landet, sondern ich übergebe es einfach dem Cache und Velocity macht den Rest. Der Named Cache kann auch noch über die Konfiguration einer Policy im Verhalten angepasst werden.

Region

Eine Region ist physikalisch einer Maschine zugeordnet. Regionen werden implizit angelegt durch Velocity, ich kann diese auch explizit anlegen. Objekte können Regionen zugewiesen werden um so auch komplette Graphen in eine physikalische Region zu packen. Velocity kann auch Daten aus einer Region auf andere Maschinen duplizieren und in sogenannten “Secondary Regions” aufbewahren, für den Fall das eine Maschine wegbricht.

Cache Item

Zu guter letzt gibt es noch das Cache Item. Das Cache Item enthält den eigentlichen Inhalt den man Speichern möchte, zusätzlich attributiert mit einem eindeutigen Key, wenn man möchte auch noch Tags und Angaben wie lange zum Beispiel das Item im Cache leben darf. Dies kann im übrigen unabhängig von der Definition des Named Cache sein.

Arbeiten mit Velocity

Wie funktioniert nun der Zugriff auf die Cache Objekte? Es gibt hier zum einen ein Velocity Client der dafür sorgt das über die Routing Tabelle auf die richtigen Inhalte im verteilten Zwischenspeicher zugegriffen wird, zum anderen gibt es den Velocity Service der dafür verantwortlich ist mit den anderen Diensten innerhalb des Clusters zu kommunizieren. Eine grobe Übersicht der Architektur gibt das folgende Schaubild:

Auf der Basta habe ich in meinem Velocity Vortrag eine Demo gezeigt, aber ich habe ganz vergessen zu zeigen wie der Quellcode aussieht um Objekte in den Cache zu legen. Vielleicht habe ich es unbewußt weggelassen weil die API wirklich sehr einfach gestrickt ist.

   1: string text = "Bitte zwischenspeichern!";

2:

   3: CacheFactory cacheFactory = new CacheFactory();

   4: Cache cache = cacheFactory.GetCache();

5:

   6: // Objekt in Cache Speichern

   7: CacheItemVersion item = cache.Add("EindeutigerKey", text );

8:

   9: // Objekt wieder aus dem Cache lesen

  10: item = ( string ) cache.Get( "EindeutigerKey" );

Die API verfügt zum arbeiten mit den Cache Objekten die Aufrufe, Add, Get, Put und Remove. Daneben hat man noch die Möglichkeit nach Tags zu suchen und komplette Regionen und Listen zu enumerieren. Das war es schon.

Velocity ist momentan als CTP1 verfügbar. Im CTP1 sind noch nicht alle Features implementiert die im Release verfügbar sein sollen, unter anderem die Verfügbarkeits-Funktionalität. Diese werden erst mit dem CTP2 kommen. Microsoft würde sich über Feedback freuen.

Links zum Thema

Parallele Programmierung

dparys — Mon, 04 Aug 2008 09:38:57 GMT

Heutzutage hat beinahe jeder neue Rechner mehr als einen Prozessorkern. In naher Zukunft dürften sich Kerne in Prozessoren um ein vielfaches multiplizieren. Was liegt näher als die gesamte Rechenleistung auch in eigenen Anwendungen zu nutzen? Multithreading Programmierung ist seit Jahren ein Thema mit dem sich viele Entwickler beschäftigen. Es gibt je nach Betriebssystem unterschiedliche Möglichkeiten und auch diverse API's. Im Laufe der Zeit hat man aber erkannt das die Abstraktion auf Betriebssystem Ebene durch deren APIs nicht abstrakt genug ist. Es gibt heute schon verschiedene Ansätze um parallelen Ausführungscode zu schreiben, ich denke hierbei an OpenMP, MPI, Threading Building Blocks usw.

Microsoft investiert sehr viel in diesem Bereich um parallele Programmierung und damit das Ausnutzen der lokalen Rechenleistung zu vereinfachen und zu steigern. Wir bieten nun mehrere Ansätze um Code in Anwendungen zu parallelisieren. Neben PLINQ und der Task Parallel Library, welche beide für Managed Code sind, gibt es auch in naher Zukunft Neues für die nativen C++ Entwickler, was das genau ist kann man am besten untenstehenden Links entnehmen.

Informationen rund um Parallele Verarbeitung findet man unter

Parallel Computing Developer Center

Blog für Managed Code

Blog für Native Code