|
|
楼主 |
发表于 2023-12-21 14:56:38
|
显示全部楼层
配置drbd+ J0 q; Q, I' f( r
9 V1 G) V- M" b% z
1、配置文件介绍/ K$ x" j( ?& [- A) b; j
2 b! }3 W0 O6 V( \4 `$ V drbd的主配置文件为/etc/drbd.conf;为了管理的便捷性,目前通常会将些配置文件分成多个部分,且都保存至/etc/drbd.d目录中,主配置文件中仅使用"include"指令将这些配置文件片断整合起来。通常,/etc/drbd.d目录中的配置文件为global_common.conf和所有以.res结尾的文件。其中global_common.conf中主要定义global段和common段,而每一个.res的文件用于定义一个资源。
3 c2 l) z# q% u" s* d1 k
: E) j% |$ c, H! M) D 在配置文件中,global段仅能出现一次,且如果所有的配置信息都保存至同一个配置文件中而不分开为多个文件的话,global段必须位于配置文件的最开始处。目前global段中可以定义的参数仅有minor-count, dialog-refresh, disable-ip-verification和usage-count。
6 [' g7 p# A- ]( ^5 O* z1 w0 P9 ?5 g
common段则用于定义被每一个资源默认继承的参数,可以在资源定义中使用的参数都可以在common段中定义。实际应用中,common段并非必须,但建议将多个资源共享的参数定义为common段中的参数以降低配置文件的复杂度。
, | w+ F0 W; X! }& Q/ H. {0 J2 b# P+ ~
resource段则用于定义drbd资源,每个资源通常定义在一个单独的位于/etc/drbd.d目录中的以.res结尾的文件中。资源在定义时必须为其命名,名字可以由非空白的ASCII字符组成。每一个资源段的定义中至少要包含两个host子段,以定义此资源关联至的节点,其它参数均可以从common段或drbd的默认中进行继承而无须定义。
/ h: l: g' H9 J" C. D( u! Z
( J7 M/ d4 S: ~7 ?- @+ `: R4 U以下是我的配置事例:: A' `' c% v! E. ^: _
) O6 m$ ?- @& Z7 h6 ^' l8 S$ T8 \
#cat /etc/drbd.d/global-common.conf( b m8 J( E+ h/ O0 j$ X, |
2 v0 j; p* F7 {
global {
. y0 H* m7 n- `9 D usage-count no;
1 C; u! }: d9 }) T& J; H9 O! [0 o* Z # minor-count dialog-refresh disable-ip-verification: A; `$ L ]* o, P
}
: f/ l7 k% C0 M) @7 J8 ~0 ~! tcommon {
4 n2 s% J7 K6 b) l% U4 C7 F protocol C;6 i" w, S8 U5 d8 K
handlers {
* [" D0 [8 M+ ], N3 D3 ^$ Z pri-on-incon-degr "/usr/lib/drbd/notify-pri-on-incon-degr.sh; /usr/lib/drbd/notify-emergency-reboot.sh; echo b > /proc/sysrq-trigger ; reboot -f";
4 X; P" {$ Y( l4 j" h pri-lost-after-sb "/usr/lib/drbd/notify-pri-lost-after-sb.sh; /usr/lib/drbd/notify-emergency-reboot.sh; echo b > /proc/sysrq-trigger ; reboot -f";
8 z( f" u# Q# r9 A& M/ a local-io-error "/usr/lib/drbd/notify-io-error.sh; /usr/lib/drbd/notify-emergency-shutdown.sh; echo o > /proc/sysrq-trigger ; halt -f";! I$ j/ B/ k2 f4 H/ r* a
# fence-peer "/usr/lib/drbd/crm-fence-peer.sh";+ n, T* l) l* Z* g) s
# split-brain "/usr/lib/drbd/notify-split-brain.sh root";
5 r- T9 E7 v4 J* k1 z # out-of-sync "/usr/lib/drbd/notify-out-of-sync.sh root";4 R0 i1 D3 V4 V" r# H* y1 I
# before-resync-target "/usr/lib/drbd/snapshot-resync-target-lvm.sh -p 15 -- -c 16k";
# Y: [; g9 C, o # after-resync-target /usr/lib/drbd/unsnapshot-resync-target-lvm.sh;
# D: Z5 v$ `( ^% h: S7 O }/ A+ g* @* g8 Y/ @
startup {
: s! L3 d+ D% g7 S4 F4 L7 { #wfc-timeout 120;7 s5 _$ r0 K1 ^+ ?/ D, X
#degr-wfc-timeout 120;& R2 P0 i! X1 |! m2 N$ |
}$ j+ n, {2 b, a* Z
disk {
% R+ k2 ?; h" x" O+ B: b/ b on-io-error detach;9 p( m1 Y# L8 s6 x8 \0 ~
#fencing resource-only;
y/ g- i6 b L5 q }
0 x; q9 ~4 Y$ S0 Z6 j' K5 l net {
/ E3 [; U( e* i cram-hmac-alg "sha1";, w2 }9 n) v( T
shared-secret "mydrbd";
3 i @ w. f- C. ` }0 G N/ K. x. ^5 i& B% U3 ]5 L$ P& D
syncer {
$ E" V! A9 y; F$ g8 n) C rate 1000M;
; j4 H t& [ S4 X9 b }
: A G% H0 x' K}
6 t* p% M( k5 A @2 v3 @ L2、定义一个资源/etc/drbd.d/web.res,内容如下:7 C$ G: x2 Y0 L1 R5 H
resource web {. R2 H- q; a+ l9 N, Z/ G
on node1.comratings.com {+ e0 O" A; N! x! ]1 a# }
device /dev/drbd0;! L. e% Z7 l$ a) l) N1 l
disk /dev/sda5;7 v2 @- H/ v# b8 I
address 10.0.0.16:7789;5 c& Z& T$ W2 a# n9 \, `
meta-disk internal;, w5 @0 Q' G9 _5 i8 v4 Z1 W
}
7 T0 e2 q e2 U4 @" B I, R' d$ F y5 D on node2.comratings.com {: r M$ @0 d* ~ `& x
device /dev/drbd0;- L6 O# @2 Z: |* W
disk /dev/sda5;: ~& j- W* x5 y- N8 D, q$ \/ ` r' [
address 10.0.0.17:7789;
- }7 R0 }2 f3 W! u' X' i% s; p; ^ meta-disk internal; M5 j. E1 m- _; P
}
* K1 q) a' f, ^" ^3 \- z' a}
" x1 M$ f; x* h( f# ^注:以上配置在两个节点上必须相同+ u# W, i0 e8 `. `* ~
四、drbd启动和查看
% z' H! o% ~2 ^7 Q: Q) O+ ^! i: Q4 p3 @" v
1、初始化资源
2 t0 l1 r6 y6 j! P! o! I
o6 p: m; z& g y6 `在Node1和Node2上分别执行:
6 ^6 Y- }$ M5 U0 U8 x% e( s; R" h$ Z$ C* e* j( h) V# i7 b8 X/ Y- X
# drbdadm create-md web
8 T* ~) M) G( F4 Y7 b# r4 g* w+ x& J% y" v7 e# g' _
2、启动服务) q* F2 p4 [7 ]( }! J
, | l" ~; ?5 r: A- d8 g
在Node1和Node2上分别执行:! |) M2 J. }1 O l# B# e) j
2 f2 b/ k( I5 Y& l5 z# service drbd start- b/ z2 n1 l) N" ?& k& _
% s) x% n9 g9 m5 o, k4 \/ h- M! ], |- }
3、查看启动状态$ o; t X8 [: C8 K; B% J
) O" \* G% r2 l' J3 w9 I# cat /proc/drbd
* t% k# N& z( N$ K
9 j M) y3 H5 ?1 S! bversion: 8.3.8 (api:88/proto:86-94)
% ~4 ^1 c5 Z+ H' m' b( x8 U
2 S7 g8 x) ]9 ZGIT-hash: d78846e52224fd00562f7c225bcc25b2d422321d build by mockbuild@builder10.centos.org, 2010-06-04 08:04:163 {) k6 G7 g* c0 l0 n' b: R# E( R/ k
* u/ Y2 a L8 ^4 T+ O& v 0: cs:Connected ro:Secondary/Secondary ds:Inconsistent/Inconsistent C r----3 g2 Z) N4 L2 p. w; F% x0 @9 U. w! E
* h0 M% }" d3 [9 @6 q |& c ns:0 nr:0 dw:0 dr:0 al:0 bm:0 lo:0 pe:0 ua:0 ap:0 ep:1 wo:b oos:5059640 w* S9 J/ p' N* ?6 {! R
& R) Z+ s2 D9 d5 Q p/ s也可以使用drbd-overview命令来查看:0 E. K: M/ J$ f/ [/ `) S0 W9 { e1 z
6 w& z" Y v9 [: k# drbd-overview + K- u- W0 ]4 j6 G5 V
8 U( \ B. A7 r; x# s h2 }1 J
0:web Connected Secondary/Secondary Inconsistent/Inconsistent C r---- 8 k1 B8 j% |6 o& N* I7 F
$ k% j0 R2 T+ n$ T
从上面的信息中可以看出此时两个节点均处于Secondary状态。于是,我们接下来需要将其中一个节点设置为Primary。在要设置为Primary的节点上执行如下命令:6 I Q7 K- U8 B/ H2 j
3 F9 R" r+ m; z$ D3 U2 E( g
# drbdadm primary --force resource4 H Y- A1 A! }
, x) o4 [& l9 B2 P! i8 ^
注: 也可以在要设置为Primary的节点上使用如下命令来设置主节点:; o( }% D. c& `* d# Q* h% E* H
" e. h: h5 ^& j$ _, I
# drbdadm -- --overwrite-data-of-peer primary web8 R3 U9 A2 E! o$ o
2 W) m5 B% g2 @: Z9 _8 k而后再次查看状态,可以发现数据同步过程已经开始:
* G5 u1 R% o' R) X% X
8 G/ X, \0 P, Y& f( f8 d" I# drbd-overview 6 n+ Z& _* Z: W x, Z3 g8 }4 g5 [
" V1 D' K; p* W4 V: M; b1 k4 U
0:web SyncSource Primary/Secondary UpToDate/Inconsistent C r----
5 A/ [7 b. E5 z0 A6 S$ S" m4 R8 M/ c8 F0 R
[============>.......] sync'ed: 66.2% (172140/505964)K delay_probe: 350 B7 A) l: ?8 e; F% q( H7 `
( Q3 o& \, r7 z% S& @! @+ T7 R
等数据同步完成以后再次查看状态,可以发现节点已经牌实时状态,且节点已经有了主次:
$ S1 ]4 X3 }: j0 u! X# o" A, V% U% ^4 h k T! u% ~4 G
# drbd-overview
& N" e% K$ ]! n4 e4 s
+ A1 t2 u8 L7 S 0:web Connected Primary/Secondary UpToDate/UpToDate C r----
0 A; l' u) r* {
& B% |7 }) h1 L9 Y9 z' q4、创建文件系统
3 v7 ^3 F. d+ |3 \. Q, b3 P, c! G- Q. v0 n! }, v y7 Y
文件系统的挂载只能在Primary节点进行,因此,也只有在设置了主节点后才能对drbd设备进行格式化:
& \- g5 h9 k. p( U
/ H) [8 v( d" |# i. l: E9 \# mke2fs -j -L DRBD /dev/drbd0
9 k9 ]9 _! l2 K) W+ t8 V" q L& J& j' U2 s2 D- P" i4 I2 J
# mkdir /mnt/drbd
* Z7 W9 @/ k/ D# B. n
3 T& S- e! P3 {+ q! x( z# mount /dev/drbd0 /mnt/drbd- [2 g' ~& r3 i7 y5 _! p: Q
' {: i8 ~. T: X5、切换Primary和Secondary节点
- J. Q) s! z7 t$ u8 U+ X' v$ v& I" p( Y3 d; T( T
对主Primary/Secondary模型的drbd服务来讲,在某个时刻只能有一个节点为Primary,因此,要切换两个节点的角色,只能在先将原有的Primary节点设置为Secondary后,才能原来的Secondary节点设置为Primary:3 L; T# j; K' o0 E9 ]0 a
+ [* e2 l$ O9 w+ ?. x3 g/ M f4 N
Node1:4 C( R0 y3 w; q6 e2 |9 [* A& u
/ ]' u: P4 l& A! }
# cp -r /etc/drbd.* /mnt/drbd & O1 C2 U) f1 F: b* U8 r& Z
5 A* [# Q7 H" K' @9 r
# umount /mnt/drbd
) j2 E) W0 T, d2 i+ u8 M; N. ?+ S' a0 r5 M( A, f" B, ]7 @
# drbdadm secondary web6 w a% m& n+ R6 {: M* A e
9 e0 G( R r0 a( z
查看状态:
- _" R( Z3 u" U/ M7 j. H8 R x6 c/ W; h9 O! ^ U# T% a
# drbd-overview
, o G' ]' U! l$ a
0 m6 v2 H7 `( b! D% E$ ?/ b0 m$ ~ 0:web Connected Secondary/Secondary UpToDate/UpToDate C r---- ' y9 |( K; a, Z( w6 r
/ F7 f2 @/ z4 f: U- `5 g5 WNode2:- W' F" C" Z' N. K
4 [7 z* r. H' N
# drbdadm primary web9 y8 O4 M- n# W/ L; I4 k
! q; T; w6 N' n7 {$ T; ?! x* W
# drbd-overview ) ~& U9 O/ {, x# w5 F
) K, D" o% L$ O 0:web Connected Primary/Secondary UpToDate/UpToDate C r---- 3 q7 D- E9 h* U( I
. D" C! |0 x% g6 I6 X1 s3 e
# mkdir /mnt/drbd
6 A2 T: R7 Y7 |: y3 L
- A. \8 L0 O1 b. E2 k) e9 c# mount /dev/drbd0 /mnt/drbd, W1 v3 |3 Q' x+ W
" d) |( \4 p# D, w+ L2 u! V$ D
使用下面的命令查看在此前在主节点上复制至此设备的文件是否存在:
9 @6 W) H, m$ r( {6 B u$ K
! X& ]3 d' a J: ?. R4 `# ls /mnt/drbd |
|