Seaweedfs 安装全过程

admin

Seaweedfs 安装

安装Go

1、下载go

wgethttps://studygolang.com/dl/golang/go1.11.10.linux-amd64.tar.gz

2、解压

tar xfgo1.11.10.linux-amd64.tar.gz -C /usr/local/

3、修改/etc/profile

vim /etc/profile

export GOPATH=/opt/go

exportGOROOT=/usr/local/go

export GOOS=linux

exportGOBIN=$GOROOT/bin

exportGOTOOLS=$GOROOT/pkg/tool/

exportPATH=$PATH:$GOBIN:$GOTOOLS

source /etc/profile

安装weed

1、Github下载指定版本

https://github.com/chrislusf/seaweedfs/releases

2、上传并解压

tar xflinux_amd64.tar.gz -C /usr/local/

3、创建安装目录

mkdir -p /data/seaweedfs/logs

mkdir -p /data/seaweedfs/data

mkdir -p /data/seaweedfs/vol/vol01

mkdir  -p /data/seaweedfs/vol/vol1/

4、添加启动脚本

vim/data/seaweedfs/weedfs.sh

#!/bin/bash

nohup /data/seaweedfs/weedmaster -mdir="/data/seaweedfs/data/" -ip="192.168.120.47" -ip.bind="192.168.120.47"-port=9333 -peers="192.168.120.47:9333,192.168.120.47:9333,192.168.120.47:9333"-defaultReplication="200" &>> /data/seaweedfs/logs/master.log&

nohup /data/seaweedfs/weedvolume -dataCenter=Center1 -rack rack1 -ip=192.168.120.47 -port=9991 -ip.bind192.168.120.47 -max 20 -dir=/data/seaweedfs/vol/vol1/ -mserver=192.168.120.47:9333-publicUrl 192.168.120.47:9222 &>> /data/seaweedfs/logs/vol1.log  &

nohup ./weed volume-dataCenter dc1 -rack rack1 -dir ./seaweedfs/volume -ip 192.168.88.129 -port9222 -ip.bind 192.168.88.129 -max 20 -mserver192.168.88.129:9333,192.168.88.130:9333,192.168.88.131:9333 -publicUrl192.168.88.129:9222 > ./seaweedfs/volume/volume.log &

nohup /data/weedmaster -mdir="/data/seaweedfs/data/" -ip="192.168.120.47"-ip.bind="192.168.120.47" -port=9333-peers="192.168.120.47:9333,192.168.120.47:9333,192.168.120.47:9333"-defaultReplication="200" >> /data/seaweedfs/logs/master.log2>&1 &

nohup /data/weedvolume -dataCenter=Center1 -ip=192.168.120.47 -port=9991-dir=/data/seaweedfs/vol/vol1/ -mserver=192.168.120.47:9333 >>/data/seaweedfs/logs/vol1.log 2>&1 &

chmod +x/data/seaweedfs/weedfs.sh

5、创建启动程序

vim/usr/lib/systemd/system/weedmaster.service

[Unit]

Description=weedmaster

After=network.target rc-local.service

[Service]

Type=forking

PrivateTmp=true

ExecStart=/data/seaweedfs/weedfs.sh

[Install]

WantedBy=multi-user.target

6、启动seaweedfs

systemctl enableweedmaster

systemctl startweedmaster

http://192.168.120.47:9333/

调试：

nohup /data/seaweedfs/weed master -ip=192.168.120.47-port=9333 -mdir=/data/seaweedfs/data -peers=192.168.120.47:9333,192.168.120.47:9333,192.168.120.47:9333>> /data/seaweedfs/data/master.log &

nohup /data/seaweedfs/weed volume -dataCenter dc1-rack rack1 -dir /data/seaweedfs/volume -ip 192.168.120.47 -port 9222 -ip.bind192.168.120.47 -max 20 -mserver 192.168.120.47:9333,192.168.120.47:9333,192.168.120.47:9333-publicUrl 192.168.120.47:9222 >> /data/seaweedfs/volume/volume.log &

测试：

[root@seaweedfs ~]# curlhttp://192.168.120.47:9333/dir/assign

{"fid":"1,01592b640e","url":"192.168.120.47:9222","publicUrl":"192.168.120.47:9222","count":1}[root@seaweedfs~]#

[root@seaweedfs ~]# curl -Ffile=/data/seaweedfs/volume/volume.log   192.168.120.47:9222/1,01592b640e

{"size":33,"eTag":"d7a0738f"}[root@seaweedfs~]#

[root@seaweedfs ~]# curl -Ffile=@/usr/src/linux_amd64.tar.gz   192.168.120.47:9222/1,01592b640e

{"name":"linux_amd64.tar.gz","size":35348455,"eTag":"0747f50b"}[root@seaweedfs~]#

配置运行Filer并挂载到本地目录

Filer允许以另一种方式上传文件

• 安装启动
  $ I  p4 A6 G; p; h% p2 r1 G0 b, J

mkdir -p /data/seaweedfs

cd /data/seaweedfs   

创建filter文件：

touch filer.toml

mkdir -p /data/module/filer_path/level

将 /data/seaweedfs/weed scaffold filer-output="" >filer.toml

打印出的内容写入到 filer.toml中, 并且修改其中的配置

dir = "/data/module/filer_path/level"

可以使用文件, MySQL, redis等保存 filer的元数据信息, 只需要启用或者停用对应的配置,具体请参考https://github.com/chrislusf/seaweedfs/wiki/Filer-Server-API

( o& z, w$ k0 F. W
• 启动
  

nohup /data/seaweedfs/weed filer-master=192.168.120.47:9333,192.168.120.47:9333,192.168.120.47:9333-ip=192.168.120.47 -port=8888 &

$ ]) w  w6 p- P, ]3 ^% `1 a6 l$ N
• 上传文件
  + S4 P5 D9 ]& l! R& A     [root@seaweedfs ~]# curl -F "filename=@/usr/src/go1.11.10.linux-amd64.tar.gz"     "http://192.168.120.47:8888/path/to/sources/"
  3 |2 K! I* E6 e/ g) Y

{"name":"go1.11.10.linux-amd64.tar.gz","size":121074848}[root@seaweedfs~]#

3 a8 |+ m& a! M
• 返回结果
  * \/ E! G" O% c# u* N4 k5 v     {"name":"volume.log","size":1656,"fid":"13,0da7c2b7ff","url":"http://192.168.88.130:9222/13,0da7c2b7ff"}
       可以看到,前面的上传需要两步,现在用filer上传,只需要一步,并且可以指定文件夹,这里的/path/to/sources/就是文件路径
  
• 可直接输入http://192.168.120.47:8888/ 地址进行访问.下载和前面的流程一样.
  

---

mount挂载

• 可以将filer挂载到本地某个目录进行管理,具体请参考https://github.com/chrislusf/seaweedfs/wiki/Mount     
  9 \+ n1 a1 `* W5 e: A

• [root@seaweedfs ~]# mkdir -p /data/seaweedfs/seaweedfs/data/mount
  1 i: H/ z% ^8 {
• 指定文件管理器挂载到/seaweedfs/data/mount目录下
  : W5 G% W& D5 O) t8 z& R3 A: o

nohup /data/seaweedfs/weed mount-filer=192.168.120.47:8888 -dir=/data/seaweedfs/seaweedfs/data/mount/ &

执行命令后,便可看到通过filer上传的文件已经挂载到了本地/data/seaweedfs/seaweedfs/data/mount/  path/to/sources目录下.
具体信息以官方wiki为主.

admin

下载
1 y8 d& C9 ?6 Y7 B& ~wget https://github.com/chrislusf/sea ... /linux_amd64.tar.gz
8 `7 _  v% C3 o  \* O, [$ C3 V* Q解压
tar -zxvf linux_amd64.tar.gz
" b* Z/ L( ~7 B7 b# M3 }: n2 F安装
mv weed /usr/local/bin/weed
& c( X- l- j( v; S8 s文档
#概况
8 o3 a( n& U" j/ M  U/ iweed -h
) [- K; e7 H: c9 t& j, m& R#中央服务器
! V+ v) X" o- D, ^weed master -h
#存储服务器
weed volume -h
3 m* p4 W( `9 W3 O单机
  _% [5 H) l1 U" _+ R8 Amaster（中央服务器）
: {* O' ?/ P$ h# |( \) w1 |设置一台 master，两台 volume ，同一个 dataCenter（机房），同一个 rack（机架），备份策略（001）：相同的机架里备份一份数据

nohup weed master -port=9333 -volumeSizeLimitMB=1024 -defaultReplication=001 -mdir=/mnt/weedfs/m1 > m1.log &
defaultReplication（副本策略）：是 xyz 顺序排列的数值，默认值：000 不备份。
2 i, p/ U1 k* V数值        含义
x        在不同的 dataCenter（机房），所需要备份的数量
y        在相同的 dataCenter（机房），不同的 rack（机架），所需要备份的数量
z        在相同的 dataCenter（机房），相同的 rack（机架），所需要备份的数量
volume（存储服务器）
( b1 i" [6 ?, a. M7 nnohup weed volume -port=9222 -mserver="localhost:9333" -publicUrl=/volume1 -max=500 -dir=/mnt/weedfs/v1 > v1.log &

- W9 b% K( y, ?& ^& g, Anohup weed volume -port=9223 -mserver="localhost:9333" -publicUrl=/volume2 -max=500 -dir=/mnt/weedfs/v2 > v2.log &
9 _% X% e0 u+ |8 {0 x) B: ]5 M-max参数为最大逻辑卷数量，如果磁盘可用空间为500G，( 500 * 1024 ) / 1024[volumeSizeLimitMB] = 500，那最大值为 -max = 500
! D& _5 o) L' }* @8 Q5 d+ [nginx（代理服务器）
# z- }" O+ K  fserver {
0 [6 i7 R: F. A$ W  ^$ x   
    listen       80;
    server_name  file.example.com;
   
6 Z9 E3 L0 Z& l. y4 M5 n    location /volume1/ {
7 g7 I6 [$ s! F4 e        proxy_pass http://localhost:9222/;
& E9 |! ]7 c' B; @: \8 R    }

. V! V: a6 Z+ I: l4 D    location /volume2/ {
          proxy_pass http://localhost:9223/;
    }
   
}
代理详情，如下：
3 g8 U0 Q5 ?1 B. C: P) V( d4 ^3 S) G
用户访问的地址：http://file.example.com/volume1/6,06bb28cc0d.png

实际访问的地址：http://127.0.0.1:9222/6,06bb28cc0d.png

) x2 U- N, l4 z7 G+ R集群
master（中央服务器）
7 X8 S3 Q- Z/ ?5 M  b设置三台 master （必须为奇数），三台 volume，不同的 dataCenter（机房），不同的 rack（机架），备份策略（100）：不同的机房里备份一份数据
7 R1 e3 Q( J, X# H) ~2 W
nohup weed master -port=9333 -ip=192.168.0.1 -peers=192.168.0.1:9333,192.168.1.1:9334,192.168.1.2:9335 -volumeSizeLimitMB=1024 -defaultReplication=100 -mdir=/mnt/weedfs/m1 > m1.log &

8 s8 v$ k! k6 k2 Enohup weed master -port=9334 -ip=192.168.1.1 -peers=192.168.0.1:9333,192.168.1.1:9334,192.168.1.2:9335 -volumeSizeLimitMB=1024 -defaultReplication=100 -mdir=/mnt/weedfs/m2 > m2.log &

6 \4 O- j2 q: tnohup weed master -port=9335 -ip=192.168.1.2 -peers=192.168.0.1:9333,192.168.1.1:9334,192.168.1.2:9335 -volumeSizeLimitMB=1024 -defaultReplication=100 -mdir=/mnt/weedfs/m3 > m3.log &
  y$ R% t) R& B3 Tvolume（存储服务器）
nohup weed volume -ip=192.168.0.10 -port=9222 -dataCenter=dc1 -rack=rc1 -max=0 -mserver=192.168.0.1:9333,192.168.1.1:9334,192.168.1.2:9335 -dir=/seaweed/v1 > v1.log &
+ K0 Y$ e  j) v: a; b; s
; x! Q, e; i, F0 q4 @( Lnohup weed volume -ip=192.168.1.10 -port=9223 -dataCenter=dc2 -rack=rc1 -max=0 -mserver=192.168.0.1:9333,192.168.1.1:9334,192.168.1.2:9335 -dir=/seaweed/v2 > v2.log &

  g2 |! n3 Q; c1 Y" W6 \- jnohup weed volume -ip=192.168.1.20 -port=9224 -dataCenter=dc2 -rack=rc2 -max=0 -mserver=192.168.0.1:9333,192.168.1.1:9334,192.168.1.2:9335 -dir=/seaweed/v3 > v3.log &
如果最大逻辑卷数量设置为零-max = 0，该限制将自动配置为磁盘可用空间除以卷大小，默认值为：“8”。
; v; d+ }* X# z* M  ]nginx（代理服务器）
upstream volumes {
6 u9 D1 g1 |6 C. \( w& p    server 192.168.0.10:9222;
    server 192.168.1.10:9223;
& |: G! {8 Q0 a/ l/ x: Z    server 192.168.1.10:9224;
}
; E& j1 _0 t+ P. |
  u4 U1 ?) d* M2 zserver {
4 X1 a( p' w0 E( }
- h: ~$ J% P5 V- @    listen       80;
- g$ U* }# |9 }: {+ N    server_name  file.example.com;
9 N; A' e! a' ^4 q9 w& t
    location / {
        proxy_pass http://volumes;
    }
0 L% a6 g7 X5 e( O
}
- r, Q" Y9 r8 v* M+ _+ V5 N可通过volume服务器的参数 -readMode = proxy（值：local | proxy | redirect）来设置，默认值为：“proxy”。
API
上传
直接向master(中央服务器)上传文件，内部自动分配文件ID，命令如下：
1 g' _: v/ W! V5 i7 ^  w' p$ M/ G# m
curl -X POST -F file=@/test/1.png http://127.0.0.1:9333/submit?col ... amp;replication=001
上传成功返回下面结果：

( F1 x1 a7 t0 |4 B) \; p7 e{
# ?% ~3 f9 k: K  [" z    "fid": "3,01637037d6",
4 d3 F# f& c3 K- e* K' K* E    "fileName": "1.png",
    "fileUrl": "http://127.0.0.1:9222/3,01637037d6",
  q& K( A( I  W4 s# J3 O    "size": 50326
6 u' w/ p( j  l% }, W! s& p}
参数 ttl 表示过期时间（单位： m [分钟] | h [小时] | d [天] | w [周] | M [月] | y [年]）
. S3 w6 |/ `! M
6 ?) o$ U1 [* {( U- D1 a查看
URL可在浏览器中直接打开：

9 l- g8 ?$ B& ?  Shttp://127.0.0.1:9222/3,01637037d6
URL可访问的等效变种地址：

$ Q# T: o. x- G7 a: t

3 e6 a% R- b0 Z" U5 p* L8 E                               
登录/注册后可看大图

/ h" o, B. J, h$ s& h& f7 P0 d! A                               
登录/注册后可看大图

* K$ |( c' G+ u$ q+ P% Lhttp://127.0.0.1:9222/3,01637037d6.jpg
http://127.0.0.1:9222/3/01637037d6
3 V" e! M$ w0 a) @- T& P5 whttp://127.0.0.1:9222/3,01637037d6
; {4 S" }2 T! |/ X8 V# l缩放
http://127.0.0.1:9222/11,1af9f35ee7.jpg?width=200&height=200&mode=fit
mode（值： fit | fill )
" G( v5 o% c5 Z9 }, R
4 W) W# B  \& D! j! e覆盖
直接对某个已存在的fileUrl 提交POST 请求，将新文件上传即可，新文件内容自动覆盖老的文件，如：

curl -X POST -F file=@/2.png http://127.0.0.1:9222/11,1af9f35ee7
返回结果为：
+ P- j: b4 V& w. \" g  r
0 O9 l5 S: n) a# \: x5 ]{
$ B! ~1 t" m- ]0 J    "name": "2.png",
# W$ x- ]& m+ Q) w    "size": 50326
2 ^' z5 F/ z% ~2 c0 y# g8 n1 F}
: Y0 K1 U7 W. m9 ~( `- a) I9 a2 l删除
0 ~" n. ~4 b. h使用文件所在的volume存储服务器地址执行如下命令
  ~6 X/ t; M! ]# z8 f
, N: B1 _% w% f% r方法一、
curl -X DELETE http://127.0.0.1:9222/11,1af9f35ee7
; u; [' X: J1 z  L0 y
3 D1 w- l, X) @. \方法二、
3 R, _# y- W, z6 Gcurl -X POST http://127.0.0.1:9222/delete?fid=11,1af9f35ee7

/ A+ ^  w1 b' q返回值：
) w+ [" |6 M; d6 P1 C[ {  "fid": "11,1af9f35ee7", "size": 50326 } ]
注： 无返回值或size值为0都为删除失败

断点
0 i3 T7 h+ ^7 S2 i# Z断点续传和断点（并发）下载，是通过标准HTTP的ETag, Accept-Range 进行支持，具体参看标准示例。

6 Q# ~5 d( e5 k' l2 \, o其他
一、volume的节点信息
curl http://127.0.0.1:9222/status?pretty=y

二、查看master下volume节点
curl http://127.0.0.1:9333/dir/status?pretty=y
  x- Y; a( }4 `
. V' F: w  \, z* _+ b) h- ]三、查看集群master信息
curl http://127.0.0.1:9333/cluster/status?pretty=y
0 D4 S3 _; ]% l