Versions Compared

Key

  • This line was added.
  • This line was removed.
  • Formatting was changed.

...

Code Block
storageNN# puppet agent --disable
ceph-mon#  ceph osd crush reweight osd.<id> 0 // Sett vekting på OSDen til 0, for å migrere data av den, og for å hindre en ny rebalansering når man fjerner OSDen fra crushmap
// Vent til rebalanseringen er ferdig
ceph-mon#  ceph osd out osd.<id>
storageNN# systemctl stop ceph-osd@<id>
ceph-mon#  ceph osd purge osd.<id> --yes-i-really-mean-it

storageNN# umount /var/lib/ceph/osd/ceph-<id>
// Slett raidet fra hpacucli e.l. Bytt disken fysisk, og opprett nytt raid.
// Sørg for at OSet har oppdaget ny disk, og at hieradata for disken stemmer
storageNN# puppet agent --enable; puppet agent --test

 

Lokal montering av disk fra ceph

Det hender at noen brukere ødelegger for seg selv. Da kan det være hyggelig å hjelpe dem litt. I den forbindelse kan det være praktisk å f.eks kunne montere opp disken til en VM, for å hente ut data, fikse feilconfig o.l.

Dette er skrevet for ceph luminous, og må utføres på en host som har Linux Kernel >=4.15, og ha pakken rbd–nbd installert, og ha rett ceph keyrings osv. Pakken blir installert av puppet på alt som inkluderer klassen profile::ceph::client

Code Block
- Finn UUID-en til VMen du skal montere opp disken til
# openstack server list
+--------------------------------------+-----------+---------+--------------------------------------------------------------------------+------------------------------------------+---------+
| ID                                   | Name      | Status  | Networks                                                                 | Image                                    | Flavor  |
+--------------------------------------+-----------+---------+--------------------------------------------------------------------------+------------------------------------------+---------+
| 65af6457-51ca-407d-8ab4-aea00ab297c3 | edbmaskin | SHUTOFF | larsep-v6-testnet=192.168.123.14, 2001:700:1d00:ec40:f816:3eff:fe76:b9a9 | Ubuntu Server 16.04 (Xenial Xerus) amd64 | m1.tiny |
+--------------------------------------+-----------+---------+--------------------------------------------------------------------------+------------------------------------------+---------+
- Noter ID-en, og sørg for at maskinen er skrudd av før du fortsetter.
- På en host med kernel >=4.15, rbd-nbd installert og korrekte ceph-keyrings på plass:

# rbd -p volumes ls | grep 65af6457-51ca-407d-8ab4-aea00ab297c3
65af6457-51ca-407d-8ab4-aea00ab297c3_disk # <- dette er objektet vi skal montere opp

# rbd-nbd map volumes/65af6457-51ca-407d-8ab4-aea00ab297c3_disk
/dev/nbd0

# fdisk -l /dev/nbd0
Disk /dev/nbd0: 20 GiB, 21474836480 bytes, 41943040 sectors
Units: sectors of 1 * 512 = 512 bytes
Sector size (logical/physical): 512 bytes / 512 bytes
I/O size (minimum/optimal): 512 bytes / 512 bytes
Disklabel type: dos
Disk identifier: 0xf1917857

Device      Boot Start      End  Sectors Size Id Type
/dev/nbd0p1 *     2048 41943006 41940959  20G 83 Linux

# mount /dev/nbd0p1 /monter/disken/her
- Og vips, har du tilgang til filsystemet :-)

Avmontering

Når du er ferdig, må du selvfølgelig avmontere ceph-objektet

Code Block
# umount /monter/disken/her
- For sikkerhets skyld, kan du sjekke hvilke ceph objekter som er mappet opp
# rbd-nbd list-mapped
pid     pool    image                                     snap device    
1037278 volumes 65af6457-51ca-407d-8ab4-aea00ab297c3_disk -    /dev/nbd0
# rbd-nbd unmap /dev/nbd

Done! Nå er det trygt å skru på igjen VMen (smile) 

Haproxy

To take a server out of haproxy rotation the following command can be used:

...