...
Code Block |
---|
storageNN# puppet agent --disable ceph-mon# ceph osd crush reweight osd.<id> 0 // Sett vekting på OSDen til 0, for å migrere data av den, og for å hindre en ny rebalansering når man fjerner OSDen fra crushmap // Vent til rebalanseringen er ferdig ceph-mon# ceph osd out osd.<id> storageNN# systemctl stop ceph-osd@<id> ceph-mon# ceph osd purge osd.<id> --yes-i-really-mean-it storageNN# umount /var/lib/ceph/osd/ceph-<id> // Slett raidet fra hpacucli e.l. Bytt disken fysisk, og opprett nytt raid. // Sørg for at OSet har oppdaget ny disk, og at hieradata for disken stemmer storageNN# puppet agent --enable; puppet agent --test |
Lokal montering av disk fra ceph
Det hender at noen brukere ødelegger for seg selv. Da kan det være hyggelig å hjelpe dem litt. I den forbindelse kan det være praktisk å f.eks kunne montere opp disken til en VM, for å hente ut data, fikse feilconfig o.l.
Dette er skrevet for ceph luminous, og må utføres på en host som har Linux Kernel >=4.15, og ha pakken rbd–nbd installert, og ha rett ceph keyrings osv. Pakken blir installert av puppet på alt som inkluderer klassen profile::ceph::client
Code Block |
---|
- Finn UUID-en til VMen du skal montere opp disken til
# openstack server list
+--------------------------------------+-----------+---------+--------------------------------------------------------------------------+------------------------------------------+---------+
| ID | Name | Status | Networks | Image | Flavor |
+--------------------------------------+-----------+---------+--------------------------------------------------------------------------+------------------------------------------+---------+
| 65af6457-51ca-407d-8ab4-aea00ab297c3 | edbmaskin | SHUTOFF | larsep-v6-testnet=192.168.123.14, 2001:700:1d00:ec40:f816:3eff:fe76:b9a9 | Ubuntu Server 16.04 (Xenial Xerus) amd64 | m1.tiny |
+--------------------------------------+-----------+---------+--------------------------------------------------------------------------+------------------------------------------+---------+
- Noter ID-en, og sørg for at maskinen er skrudd av før du fortsetter.
- På en host med kernel >=4.15, rbd-nbd installert og korrekte ceph-keyrings på plass:
# rbd -p volumes ls | grep 65af6457-51ca-407d-8ab4-aea00ab297c3
65af6457-51ca-407d-8ab4-aea00ab297c3_disk # <- dette er objektet vi skal montere opp
# rbd-nbd map volumes/65af6457-51ca-407d-8ab4-aea00ab297c3_disk
/dev/nbd0
# fdisk -l /dev/nbd0
Disk /dev/nbd0: 20 GiB, 21474836480 bytes, 41943040 sectors
Units: sectors of 1 * 512 = 512 bytes
Sector size (logical/physical): 512 bytes / 512 bytes
I/O size (minimum/optimal): 512 bytes / 512 bytes
Disklabel type: dos
Disk identifier: 0xf1917857
Device Boot Start End Sectors Size Id Type
/dev/nbd0p1 * 2048 41943006 41940959 20G 83 Linux
# mount /dev/nbd0p1 /monter/disken/her
- Og vips, har du tilgang til filsystemet :-) |
Avmontering
Når du er ferdig, må du selvfølgelig avmontere ceph-objektet
Code Block |
---|
# umount /monter/disken/her
- For sikkerhets skyld, kan du sjekke hvilke ceph objekter som er mappet opp
# rbd-nbd list-mapped
pid pool image snap device
1037278 volumes 65af6457-51ca-407d-8ab4-aea00ab297c3_disk - /dev/nbd0
# rbd-nbd unmap /dev/nbd |
Done! Nå er det trygt å skru på igjen VMen
Haproxy
To take a server out of haproxy rotation the following command can be used:
...