Timos Blog

Beim Anlegen von ZFS-Speicherpools stellt sich die Frage, ob man ZPOOL die gesamte(n) Disk(s) verwalten lässt (durch Angabe von z.B. c0t0d1 unter Solaris oder /dev/sdb unter Linux) oder den Pool aus einzelnen Partitionen aufbaut (ggf. mit ZFS als einziger Partition auf der Platte).
In letzterem Fall stellt sich außerdem die Frage, welchen Typ von Partitionstabelle man verwenden soll (MBR/DOS-Partitionstabelle, GUID Partition Table (GPT)/EFI Disklabel oder Solaris VTOC).

Insbesondere die zweite Frage ist dann von Bedeutung, wenn man den ZFS-Pool unter verschiedenen Betriebssystemen (z.B. Solaris, Linux und Mac OS X) verwenden möchte.

Diesen beiden Fragen möchte ich im Folgenden versuchen, auf den Grund zu gehen.

• Generell wird empfohlen, die Disks jeweils komplett für ZFS zu verwenden (d.h. man übergibt ZFS entweder das „RAW-Device” oder weist dem ZFS eine Partition zu, die sich über die gesamte Festplatte erstreckt).
• Lässt man zpool das gesamte Gerät verwalten, legt ZFS dort ein GPT-Disklabel an (siehe auch meinen Kommentar)
  (Allerdings entspricht dieses wohl nicht ganz dem, was z.B. Linux erwartet; siehe hier bzw. hier)

• Bei großen Festplatten scheiden DOS-Partitionstabellen und Solaris VTOCs aus:
  • DOS-Partitionstabellen erlauben Partitionen von max. 2 TB Größe
  • Solaris VTOCs unterstützen Festplatten von max. 1 TB Größe

Zu dem Thema habe ich im Folgenden noch etwas „Belegmaterial” zusammengestellt:

Mehr…

Linux, Mac OS X, Solaris disk, EFI, GPT, Linux, Mac OS X, OpenSolaris, Solaris, ZFS

Chris Gerhard hat DTrace und ZFS-Snapshots so verbunden, dass bei jedem Unlink-Vorgang (für nicht UNIXer: Datei löschen) ein Snapshot erstellt wird.

Das passende Skript gibt es im Artikel „snapshot on unlink?” in seinem Blog auf blogs.sun.com zu sehen.

Wie er selbst schreibt, ist das Skript nicht für den ständigen Produktiveinsatz gedacht, aber es zeigt gut, was alles möglich ist.

Computer, Solaris DTrace, OpenSolaris, Shell, Snapshot, Solaris, Sun, ZFS

Nachdem ich nun zwei fertige NAS-Systeme mit Atom-CPU betrachtet habe, stellt sich mir die Frage, was ein in etwa vergleichbares System, z.B. à la DIY: Home NAS Box with OpenSolaris and ZFS mit Intel D945GCLF2 mini-ITX Motherboard mit Dual-Core Atom 330 (1,6 GHz, mit Unterstützung für HyperThreading) in etwa kosten würde.

Wenn ich mich nach obigem Artikel richte, benötige ich in etwa folgende Teile (im Vergleich zu dem Artikel habe ich allerdings einen Promise-RAID-Controller mit drin):

Allgemeines, Computer, Hardware Eigenbau, Linux, NAS, OpenSolaris, Server, Storage, ZFS

Mit dem Befehl “zpool upgrade -v” lässt sich eine Liste der vom System unterstützten Pool-Versionen anzeigen:

VER  DESCRIPTION
---  --------------------------------------------------------
 1   Initial ZFS version
 2   Ditto blocks (replicated metadata)
 3   Hot spares and double parity RAID-Z
 4   zpool history
 5   Compression using the gzip algorithm
 6   bootfs pool property
 7   Separate intent log devices
 8   Delegated administration
 9   refquota and refreservation properties
 10  Cache devices
 11  Improved scrub performance
 12  Snapshot properties
 13  snapused property
 14  passthrough-x aclinherit property support
 15  quota support

For more information on a particular version, including supported releases, see:

http://www.opensolaris.org/os/community/zfs/version/N

Ebenso gibt es für den ZFS POSIX Layer einen Befehl “zfs upgrade -v”

The following filesystem versions are supported:

VER  DESCRIPTION
---  --------------------------------------------------------
 1   Initial ZFS filesystem version
 2   Enhanced directory entries
 3   Case insensitive and File system unique identifer (FUID)
 4   quota support

For more information on a particular version, including supported releases, see:

http://www.opensolaris.org/os/community/zfs/version/zpl/N

Where 'N' is the version number.

Zusammengefasst sieht die Unterstützung in den verschiedenen Portierungen von ZFS folgendermaßen aus:

Allgemeines FreeBSD, FUSE, GNU/Linux, Linux, Mac, Mac OS X, OpenSolaris, Solaris, Ubuntu, ZFS, zfs-fuse, zpool

Heute fand das 2. Treffen der HHOSUG statt.

Neben der Klärung organisatorischer Fragen gab es drei Vorträge:

• Crash- und Coredumps für Anfänger (Joerg Moellenkamp)
• pkgbuild (Julian Wiesner, Lars Timmann)
• ZFS Internals (Joerg Moellenkamp, da Originalredner beruflich verhindert) — wird wegen zeitmangels beim nächsten Treffen fortgesetzt.

Dazu gab es Pizza vom Lieferservice, Kaffe/Tee & „Vorstandskekse” und Cola/Wasser/Saft. Versorgung war also 1A !

Mir hat das Treffen auf jeden Fall viel Freude gemacht und ich hoffe, beim nächsten Treffen wieder dabei sein zu können.

Links

HHOSUG Wiki

Allgemeines HHOSUG, OpenSolaris, Solaris, Sun

Nach meiner Aktion, einen RAIDZ-ZFS-Pool erstmal nur mit zwei “echten Platten” aufzubauen, habe ich nun, da die dritte Platte frei ist, diese auch dem Pool hinzugefügt.

Ein pfexec zpool replace führte dann auch prompt zum gewünschten “Resilvern” des Pools:

jack@opensolaris:/timo/daten/timo$ zpool status
  pool: timo
 state: ONLINE
 scrub: resilver completed after 1h23m with 0 errors on Tue Mar 31 03:27:11 2009
config:

	NAME        STATE     READ WRITE CKSUM
	timo        ONLINE       0     0     0
	  raidz1    ONLINE       0     0     0
	    c6d0    ONLINE       0     0     0  128M resilvered
	    c6d1    ONLINE       0     0     0  128M resilvered
	    c8d0    ONLINE       0     0     0  207G resilvered

errors: No known data errors
jack@opensolaris:/timo/daten/timo$

Allgemeines OpenSolaris, ZFS

Da ich mich nach wie vor nur schlecht für ein bestimmtes Betriebssystem entscheiden kann, habe ich beschlossen, mich wenigstens auf ein Dateisystem festzulegen ;-).

Meine Wahl ist nun also auf ZFS gefallen, da ich dieses neben (Open)Solaris sowohl unter Linux (mit ZFS-FUSE) als auch unter Mac OS X lesen kann (vielleicht wird mein nächster “PC” ja ein Mac)

ZFS-FUSE in Ubuntu 8.10

Der Eintrag zu ZFS im Ubuntu-Wiki beschreibt die Installation von ZFS-Fuse unter Ubuntu Linux. Diese beschränkt sich hauptsächlich auf das Eintragen der Paketquellen in /etc/apt/sources.list sowie ein apt-get update sowie apt-get install zfs-fuse. Bestehende ZFS-Dateisysteme werden daraufhin automatisch gemountet.

Anlegen des ZFS unter OpenSolaris

Leider habe ich für die Erstellung des ZFS-Pools nur zwei Platten frei. Eine dritte Platte wird erst frei, wenn ich meine Daten von dieser auf den ZFS-Pool verschoben habe.

Von einer OpenSolaris 2008.11 Live-CD erstelle ich den RAID-Z-Pool, der eigentlich aus mindestens drei Disks bestehen müsste, aus zwei Platten und einem genauso großen Sparse-File auf der Festplatte:

jack@opensolaris:~$ pfexec mkfile -nv 1000202305536 /tmp/tera
tera 1000202305536 bytes

jack@opensolaris:~$ pfexec zpool create -f timo raidz c6d0 c6d1 /tmp/tera

jack@opensolaris:~$ pfexec zfs create /timo/daten
jack@opensolaris:~$ pfexec zfs create /timo/musik

jack@opensolaris:~$ zpool status
 pool: timo
 state: ONLINE
 scrub: none requested
config:

	NAME                  STATE     READ WRITE CKSUM
	timo                  ONLINE       0     0     0
	  raidz1              ONLINE       0     0     0
	    c6d0              ONLINE       0     0     0
	    c6d1              ONLINE       0     0     0
	    /tmp/tera         ONLINE       0     0     0

errors: No known data errors

Nach dem Anlegen des Dateisystems nehme ich diese Datei /tmp/tera wieder aus dem Pool heraus (entweder per zpool offline bzw. in diesem Fall per Neustart).

Umkopieren der Daten unter GNU/Linux

Von einer Ubuntu-Installations-Live-CD aus kann ich nun (nach oben beschriebener Installation von ZFS-FUSE) die Dateien vom XFS-Dateisystem auf das neue ZFS umziehen. Der ZFS-Pool hat solange allerdings den Status „DEGRADED”. Später kann ich dann das fehlende /tmp/tera durch die bisherige Datenfestplatte ersetzen:

ubuntu@ubuntu:~$ sudo zpool status
  pool: timo
 state: DEGRADED
status: One or more devices could not be opened.  Sufficient replicas exist for
	the pool to continue functioning in a degraded state.
action: Attach the missing device and online it using 'zpool online'.
   see: http://www.sun.com/msg/ZFS-8000-2Q
 scrub: none requested
config:

	NAME                     STATE     READ WRITE CKSUM
	timo                     DEGRADED     0     0     0
	  raidz1                 DEGRADED     0     0     0
	    sdb1                 ONLINE       0     0     0
	    sdc1                 ONLINE       0     0     0
	    7106139258821418871  UNAVAIL      0     0     0  was /tmp/tera

errors: No known data errors
ubuntu@ubuntu:~$ 

Links

• Eintrag zu ZFS im Ubuntu-Wiki
• ZFS on FUSE/Linux (Blog)
• ZFS on FUSE/Linux (Wiki)
• Filip Brcic’s Ubuntu packages for zfs-fuse.

Computer, Linux, Mac OS X, Solaris FUSE, Linux, Mac, OpenSolaris, Solaris, Ubuntu, ZFS

Bisher residieren meine Daten auf Festplatten mit dem XFS-Dateisystem (SGI XFS | XFS.org Wiki). Dies hat sich bei mir mit etlichen hundert Gigabyte Daten (Fotos, Musik, …) im Einsatz unter Linux sehr gut bewährt.

Notfalls klappt auch ein Zugriff von (beliebigen) anderen Systemen aus (getestet mit Windows und Mac OS X 10.5 „Leopard”), indem ich eine virtuelle Linux-Maschine mit Vollzugriff auf diese Platten einrichte und deren Inhalt per Samba über das Netzwerk anbiete. Leistungsmäßig kann das natürlich nur eine Behelfslösung sein (z.B. eben bei meinen seltenen Ausflügen in die Windows-Welt oder aber, um irgendwann auf ein anderes Dateisystem umzustellen).

So langsam denke ich über eine Modernisierung meiner Rechnerausstattung nach. Dazu gehört auch die Frage nach dem passenden Betriebs- und Dateisystem. Vielleicht lohnt sich — obwohl ich mit meinem Ubuntu Linux sehr zufrieden bin — ein Blick über den Tellerrand.

Da ich (außer einer DVB-S-Karte) kaum irgendwelche spezielle Hardware habe und Windows, wenn überhaupt, hauptsächlich in der VirtualBox benutze, hängt die Frage nach dem Betriebssystem für mich sehr eng mit den unterstützten Dateisystemen zusammen:

• Solaris/OpenSolaris hat natürlich von Haus aus volle Unterstützung für ZFS. Für XFS bleibt nur die o.g. „Behelfslösung”.
• FreeBSD kann ab Release 7 das XFS lesen und hat experimentelle Unterstützung für ZFS.
• Mac OS X 10.5 „Leopard” kann ZFS lesen, Schreibunterstützung ist für Mac OS X 10.6 „Snow Leopard” geplant bzw. kann von MacOSForge „nachgerüstet” werden.

Außerdem gibt es eine Handvoll Programme, die unter dem jeweiligen Betriebssystem laufen sollten:

• OpenOffice.org (Linux, Solaris, Mac OS X)
• TrueCrypt (Linux, Mac OS X)
• VirtualBox (Linux, Solaris, Mac OS X)
• MATLAB (Linux, Mac OS X; Solaris nur auf UltraSPARC)
• NetBeans (Linux, Mac OS X, Solaris, Java)
• LaTeX
• Adobe Reader (Linux, Mac OS X; Solaris nur auf SPARC)
• Adobe Flash Plugin (Linux, Mac, Solaris)

Bei einigen anderen Programmen, die ich regelmäßig benutze, mache ich mir kaum Sorgen, da diese auf etlichen Plattformen verfügbar sind (The GIMP, Pidgin, Mozilla Firefox, …).

Sieht wohl bisher so aus, als ob der Mac das Rennen macht (und dann Linux-Multi-Boot oder Linux in der VirtualBox?). Na ja, mal sehen…

Links

• FUSE - Filesystem in Userspace
• ZFS on FUSE/Linux
• ZFS on Mac OS X

Linux, Mac OS X Computer, Dateisystem, FUSE, Linux, Mac, Mac OS X, OpenSolaris, PC, Solaris, XFS, ZFS