“Ist das nicht etwas übertrieben? Die Buffalo Terastation kostet nur 2,500 Euro.”

… muss ich mich arg zurückhalten.

/fileserver/Vorratsdatenspeicherung/
/fileserver/Vorratsdatenspeicherung/2007/Januar/
/fileserver/Vorratsdatenspeicherung/2007/Januar/01/Server1/…
/fileserver/Vorratsdatenspeicherung/2007/Januar/01/Server2/…
[...]
/fileserver/Vorratsdatenspeicherung/2007/Januar/31/Server1/…
/fileserver/Vorratsdatenspeicherung/2007/Januar/31/Server2/…
[...]
/fileserver/Vorratsdatenspeicherung/2010/Januar/31/Server1/…
/fileserver/Vorratsdatenspeicherung/2010/Maerz/02/Server2/…

usw…

und möchte das aus gegebenen Anlass loswerden. Die Vermutung war, dass der Linux Client an den NFS Server nur den Befehl  ‘lösche das Verzeichnis “Vorratsdatenspeicherung”‘  schicken müsste, und den Rest würde der NFS Server dann automagisch tun. Ein Vorgang der innerhalb von 1-2 Sekunden also zumindest aus Client Sicht erledigt wäre. In der Realität sieht das ganze etwas anders aus, weshalb es schonmal eine Weile dauert, bis so ein großes Verzeichnis leer ist.

Warum?

Wenn ich den oben genannten Befehl (rm -rf /fileserver/Vorratsdatenspeicherung) absetze, muss der Linux Client das ersteinmal für das Linux Dateisystem übersetzen, denn der Benutzer spricht nicht direkt mit dem NFS Server, sondern über eine Dateisystem-Zwischenschicht, die im Hintergrund Dateisystem-Anfragen in NFS-Operationen umwandelt.

(Achtung: Es folgt eine abstrakte Übersicht über das, was im Hintergrund dabei passiert. Diese Übersicht ist nicht vollständig und in der Realität noch x-fach komplexer)

Der NFS Server kennt den Pfad /fileserver/Vorratsdatenspeicherung vermutlich gar nicht. Der Fileserver hat die Daten vielleicht unter /vol/datenschutzabteilung/Server/Vorratsdatenspeicherung/ liegen und muss nun mit Löschbefehlen gefüttert werden. Der Linux Client läuft also los und sagt ‘Hey Verzeichnis Vorratsdatenspeicherung/, ich lösch dich jetz!’. Das Linux Filesystem antwortet darauf und meinte “Nee, das ist ein Verzeichnis, das geht so nicht, das muss erstmal leer sein, bevor du das löschen kannst. Und dann geht der Spaß los:

- Das Verzeichnis wird geöffnet, openat(Vorratsdatenspeicherung)
- Die Verzeichnisattribute werden eingelesen, fstat()
- Die Verzeichnisinhalte werden abgefragt, getdents()

Die Ausgabe von getdents wird überprüft und oh schreck. Da sind ja noch mehr Verzeichnisse! Also geht das Spiel wieder los für das Verzeichnis Vorratsdatenspeicherung/2007/, dann für Vorratsdatenspeicherung/2007/Januar/, Vorratsdatenspeicherung/2007/Januar/01/ bis Vorratsdatenspeicherung/2007/Januar/01/Server01/ und dann meint der Server, ja, da sind momentan (z.B.) 8192 Dateien drin. Daraufhin holt sich der Linux Client die Liste der Dateien und fängt dann an nach und nach alle 8192 Dateien in dem Verzeichnis zu löschen:

unlinkat(Datei0)
unlinkat(Datei1)
unlinkat(Datei2)
[...]
unlinkat(Datei8191)

Jetzt ist das erste Unterverzeichnis leer. Dann schaut der Client zur Sicherheit mit getdents() nochmal nach ob alles weg ist und erst dann wird das erste Unterzeichnis Vorratsdatenspeicherung/2007/Januar/01/Server01/ entfernt – unlinkat(Server01, AT_REMOVEDIR).

Der Übersicht halber habe ich hier einige Systembefehle weggelassen. In der Realtität passiert da noch viel viel mehr. Bis das gesamte Verzeichnis Vorratsdatenspeicherung/ tatsächlich weg ist, wird der Linux Client mehrere zehntausende Dateisystem-Anfragen gestellt haben und bis zu dieser Stelle hab ich noch gar nicht über NFS(v3) Anfragen gesprochen.

Im Hintergrund wird jede herkömmliche Linux Filesystem-Anfrage in diesem Fall in NFS RPC Calls übersetzt und an den NFS Server übermittelt. Am Ende dieses Löschbefehls wird der NFS Server also vielleicht einige Millionen Befehle empfangen haben, bis das Verzeichnis tatsächlich auf dem Share gelöscht ist. Und genau deshalb dauert es manchmal ziemlich lang einen kleinen unscheinbaren Befehl auszuführen.

Weiterführende Doku:

• Linux NFS FAQ
• Wikipedia über das NFS Protokoll
• RFC1813 (NFS Version 3 Protocol Specification)
• Mike Eislers NFS Blog

Wer sich mit Linux/Solaris auskennt, zumindest Grundkenntnisse mit NetApp-Storage mitbringt und sich vorstellen könnte im Nordwesten zu arbeiten, kann sich mal bei mir melden. Das gleiche gilt für Leute mit Kenntnissen in allem was man im ISP-Bereich so braucht, als Radius, Loadbalancer, POP/IMAP, Mysql-Cluster usw.

Interesse? Nehmt Kontakt mit ihm auf!

Ich sag nur 24°C Ende November. Es war eine harte Woche und ich bin froh wieder mal zu Hause zu sein; auch wenn Deutschland schon etwas blöd ist, so im Vergleich. (jetzt nicht nur des Wetters wegen)

Frage 1: Wie kann ich per SNMP eine Liste meiner LUNs abfragen?

NETWORK-APPLIANCE-MIB -> VALUES -> netapp -> netapp1 -> blocks -> lun -> lunTable -> lunEntry -> lunName

root@prudence:~# snmpwalk -On -c public -v 2c gundel 1.3.6.1.4.1.789.1.17.15.2.1.2
.1.3.6.1.4.1.789.1.17.15.2.1.2.1 = STRING: “/vol/NFSv4_SF/lunTEST”

Frage 2: Wie kann ich die Temperatur meiner Shelves auslesen?

Da gibt es mehrere Wege. Einer wäre die Temperatur per CLI abzufragen. Der Befehl dazu ist “environment”:

gundel> environment status shelf
[...]
Cooling Unit installed element list: 1, 2; with error: none
Temperature Sensor installed element list: 1, 2, 3; with error: none
Shelf temperatures by element:
[1] 21 C (69 F) (ambient)  Normal temperature range
[2] 24 C (75 F)  Normal temperature range
[3] 24 C (75 F)  Normal temperature range

Die Daten können natürlich auch per SNMP ausgelesen werden, um z.B. eine Überwachung in Nagios zu realisieren:

NETWORK-APPLIANCE-MIB -> VALUES -> netapp -> netapp1 -> storage -> enclosure -> enclTable -> enclEntry -> enclTempSensorsCurrentTemp

root@prudence:~# snmpwalk -On  -c public -v 2c gundel 1.3.6.1.4.1.789.1.21.1.2.1.25
.1.3.6.1.4.1.789.1.21.1.2.1.25.1 = STRING: “30C (86F), 24C (75F), 28C (82F)”
.1.3.6.1.4.1.789.1.21.1.2.1.25.2 = STRING: “21C (69F) ambient, 24C (75F), 24C (75F)”
.1.3.6.1.4.1.789.1.21.1.2.1.25.3 = STRING: “19C (66F) ambient, 28C (82F), 27C (80F)”
.1.3.6.1.4.1.789.1.21.1.2.1.25.4 = STRING: “20C (68F) ambient, 38C (100F), 43C (109F)”
.1.3.6.1.4.1.789.1.21.1.2.1.25.5 = STRING: “23C (73F) ambient, 39C (102F), 37C (98F)”

Frage 3: Wie kann ich per SNMP eine Liste meiner Volumes bekommen?

NETWORK-APPLIANCE-MIB -> VALUES -> netapp -> netapp1 -> filesys -> volTable -> volEntry -> volName

root@prudence:~# snmpwalk -On -c public -v 2c gundel 1.3.6.1.4.1.789.1.5.8.1.2
.1.3.6.1.4.1.789.1.5.8.1.2.1 = STRING: “vol0″
.1.3.6.1.4.1.789.1.5.8.1.2.2 = STRING: “vol1″
.1.3.6.1.4.1.789.1.5.8.1.2.3 = STRING: “sl_vol”
.1.3.6.1.4.1.789.1.5.8.1.2.4 = STRING: “NFSv4_SF”

Sessions

Dann ist auf dem Windows System vermutlich ein Proxy konfiguriert, der die nötigen API Calls nicht per HTTPS Richtung Storage Controller loswerden kann. In meinem Fall half es den Proxy in den Windows-Einstellungen zu deaktivieren. Wer nicht ohne kann, wird die nötigen Infos im Proxy Logfile finden um das Problem zu beseitigen.

Quelle: leider nicht bekannt

Sofern man über einen Touchscreen verfügt, kann man auch frei in seine Notizen reinschreiben. Im Hintergrund kann man es mit Microsoft Sharepoint verheiraten und so Team-Übergreifend Projekte zur Verfügung stellen. Ich hab mich ja schon immer gefragt ob Sharepoint zu irgendwas zu gebrauchen ist – hier ist die beste Anwendung dafür.

Für mich ist OneNote mein persönliches eigenes Wiki, nur viel schöner und weitaus mächtiger.

So hangelt man sich im Berufsleben von einem Non-disclosure Agreement zum nächsten. Morgens in der Kaffeeküche teilt sich die Belegschaft in einzelne Inseln von Menschen, die etwas wissen und andere einzelne Personen, die noch ein Stückchen mehr Wissen und ein Schicksal tragen müssen, über das sie sich mit den Anderen nicht austauschen können bzw. dürfen. Und warum bricht niemand aus? Anders als in vielen deutschen Firmen versteht man in Amerikanischen, dass die hochgehaltenen Werte tatsächlich einen Wert tragen, den es zu verteidigen gilt. Nicht, weil man wie die blinde Kuh nach dem Brainwashing oder Blitzdingsen hirnlos ist, sondern, weil man tatsächlich verstanden hat, dass die ganzen Wissensinseln, alle zusammen, abhängig von der Integrität jedes Einzelnen sind.

Ich erinnere mich gut daran was Parolen und Zahlen wert waren… noch vor ein paar Monaten, bei einer (deutschen) Firma mit Beamtenmentalität. Flurfunk und interne Kappelei waren dort oft wichtiger als das Wohl oder die Werte der Muttergesellschaft. Heute an anderer Stelle ist alles anders. Arbeiten für den weltbesten Arbeitgeber macht Spaß und ich bin stolz darauf ein Teil der Geschichte dieser Firma zu sein. Manchmal kann die Realität und der weltweite Markt inklusive seinen Krisen einen aber derb’ erdrücken. Ich hoffe, dass ich solche Momente nicht allzu oft erleben muss.