Lustre をテンプレートにして作成
[
トップ
] [
新規
|
一覧
|
検索
|
最終更新
|
ヘルプ
|
ログイン
]
開始行:
本家様 [[http://lustre.org/>+http://lustre.org/]]
wiki [[http://wiki.lustre.org/index.php/Main_Page>+http:/...
参照先 [[https://wiki.whamcloud.com/>+https://wiki.whamcl...
https://github.com/whamcloud/Online-Help
スパコン界隈で利用されているファイルシステム. 「Distribut...
ストレージを持ったノードがクラスターを形成して、データを...
構成的には[[BeeGFS]]に似ている.
Lustreの導入例を見てみると冗長構成で落ちにくくして、冗長...
加えてHDD10個で一組の30組、60組で構成されている. &size(10...
ここでは冗長構成とかは作らず、構築の流れを描く. 使うのは ...
***構成 [#y8bdb281]
[[http://wiki.lustre.org/Introduction_to_Lustre>+http://w...
要素としては
-Management Server (MGS)とそのデータを収める「Management ...
1つで十分らしい. MGTは1GBで十分.
-Metadata Server (MDS)とそのデータを収める「Metadata Targ...
16core/256GB mem,RAID1+0
-Object Storage Server (OSS)とそのデータを収める「object ...
OSS一台当たり2から8個のOST(それ以上も可). 1個のOSTは10個...
-Lustre Networking (LNet)
port988/tcpを使用. RDMA通信可. カーネルモジュールを組み込...
-Clients
POSIX標準でLustreを利用できる
ここでは簡単に
|BGCOLOR(YELLOW):種別|BGCOLOR(YELLOW):マシン名|BGCOLOR(YE...
|Management server|MGS|192.168.0.47|4GB(OS)&br;1GB(MGT)|M...
|Metadata Server|MDS|192.168.0.48|4GB(OS)&br;16GB(MDT.1)...
|Object Storage Server|SS1|192.168.0.49|4GB(OS)&br;32GB(O...
|~|SS2|192.168.0.50|4GB(os)+16GB(OST)|~|
|Client|client|192.168.0.18|||
***yum リポジトリ [#oda348d4]
ソースコードが提供されているのでコンパイルしてインストー...
だがインストールするパッケージには組み合わせがあるようで
-OSTのフォーマットとして LDISKFS(ext4系) を使うか ZFS を...
-lustre対応のpatchが入った kernelに差し替えるか そのままC...
&size(10){OS提供のkernelのままだとプロジェクトクォータが...
ここでは LDISKFS を使ってOS提供のkernelをそのまま使うこと...
それに対応したリポジトリを下記のように書く.
#code(nonumber){{
[root@ms ~]# cat /etc/redhat-release
CentOS Linux release 7.8.2003 (Core) <-- CentOS7.8で構...
[root@ms ~]# cat /etc/yum.repos.d/lustre.repo
[lustre-server]
name=CentOS-$releasever - Lustre
baseurl=https://downloads.whamcloud.com/public/lustre/lat...
gpgcheck=0
[e2fsprogs]
name=CentOS-$releasever - Ldiskfs
baseurl=https://downloads.whamcloud.com/public/e2fsprogs/...
gpgcheck=0
[lustre-client]
name=CentOS-$releasever - Lustre
baseurl=https://downloads.whamcloud.com/public/lustre/lat...
gpgcheck=0
[root@ms ~]#
}}
&color(red){*};&size(10){「latest-release」は 2.12.X な L...
&color(red){*};&size(10){パッチが適用されたkernelで行うの...
&color(red){*};&size(10){lustre-2.12.4はe2fsprogs-v1.45.2...
[[Lustre/repository]]
***インストール [#y72cd180]
まずは e2fsprogs(Utilities for managing ext2, ext3, and e...
#code(nonumber){{
[root@ms ~]# yum list installed |grep e2fsprogs
e2fsprogs.x86_64 1.42.9-17.el7 ...
e2fsprogs-libs.x86_64 1.42.9-17.el7 ...
[root@ms ~]# yum upgrade e2fsprogs
}}
ここで残念なお話. lustreのパッケージは CentOS7.7(kernel-3...
&color(red){*};&size(10){lusterのrpmがどのkernelで作られ...
そのためlustreパッケージをインストールしても稼働するkerne...
対策としては、
-カーネルをダウングレードして「3.10.0-1062.9.1」にしてlus...
-「3.10.0-1127.10.1」向けのlustreカーネルモジュールをコン...
のいずれかになる.
ダウングレードする. CentOSの過去カーネルは「vault.centos....
&size(10){参照: [[grub#v64aca0c]]};
#code(nonumber){{
[root@ms ~]# yum install http://vault.centos.org/7.7.1908...
[root@ms ~]# grub2-editenv list
saved_entry=CentOS Linux (3.10.0-1062.9.1.el7.x86_64) 7 (...
[root@ms ~]# reboot
}}
あくまでも最新カーネルで進めたいのなら. 現行のCentOS7.8(k...
&size(10){dkmsで回避可能と思ってたが、カーネルソースコー...
#code(nonumber){{
[root@ms ~]# uname -r
3.10.0-1062.9.1.el7.x86_64
[root@ms ~]# yum install lustre
[root@ms ~]# yum list installed |grep lustre-server
kmod-lustre.x86_64 2.12.4-1.el7 ...
kmod-lustre-osd-ldiskfs.x86_64 2.12.4-1.el7 ...
lustre.x86_64 2.12.4-1.el7 ...
lustre-osd-ldiskfs-mount.x86_64 2.12.4-1.el7 ...
[root@ms ~]#
}}
***lnet [#va4ee000]
YAMLフォーマットで /etc/lnet.conf を描く. 詳細はこちらで ...
#code(nonumber){{
[root@ms ~]# cat /etc/lnet.conf
net:
- net type: tcp
local NI(s):
- nid: 192.168.0.47@tcp <-- nic ipa...
status: up
interfaces:
0: ens32 <-- nicのデ...
[root@ms ~]# systemctl enable lnet && systemctl start lnet
(確認)
[root@ms ~]# lnetctl net show
net:
- net type: lo
local NI(s):
- nid: 0@lo
status: up
- net type: tcp
local NI(s):
- nid: 192.168.0.47@tcp
status: up
interfaces:
0: ens32
[root@ms ~]#
}}
firewallが有効であるなら 988 tcp を開ける必要がある
#code(nonumber){{
[root@ms ~]# firewall-cmd --zone=public --add-port=988/tc...
[root@ms ~]# firewall-cmd --reload
}}
&color(red){*};&size(10){SELinuxは無効にする. lustre自体...
***Lustre File System - MGT [#e359db7d]
MGS向けのディスクを用意する. MGTなので100MBほどでいいよう...
#code(nonumber){{
[root@ms ~]# cat /proc/partitions
major minor #blocks name
2 0 4 fd0
8 0 4194304 sda
8 1 524288 sda1
8 2 524288 sda2
8 3 3144704 sda3
8 16 1048576 sdb
11 0 4554752 sr0
[root@ms ~]# mkfs.lustre --fsname=fsname --mgs /dev/sdb
Permanent disk data:
Target: MGS
Index: unassigned
Lustre FS: fsname
Mount type: ldiskfs
Flags: 0x64
(MGS first_time update )
Persistent mount opts: user_xattr,errors=remount-ro
Parameters:
checking for existing Lustre data: not found
device size = 1024MB
formatting backing filesystem ldiskfs on /dev/sdb
target name MGS
kilobytes 1048576
options -q -O uninit_bg,dir_nlink,quota,hu...
mkfs_cmd = mke2fs -j -b 4096 -L MGS -q -O uninit_bg,dir_...
Writing CONFIGS/mountdata
[root@ms ~]# mkdir /mgt
[root@ms ~]# mount -t lustre /dev/sdb /mgt/
[root@ms ~]# df -lTh
Filesystem Type Size Used Avail Use% Mounted on
devtmpfs devtmpfs 909M 0 909M 0% /dev
tmpfs tmpfs 920M 0 920M 0% /dev/shm
tmpfs tmpfs 920M 8.8M 911M 1% /run
tmpfs tmpfs 920M 0 920M 0% /sys/fs/cg...
/dev/sda3 xfs 3.0G 1.6G 1.5G 52% /
/dev/sda1 xfs 509M 212M 298M 42% /boot
tmpfs tmpfs 184M 0 184M 0% /run/user/0
/dev/sdb lustre 968M 2.3M 915M 1% /mgt
[root@ms ~]#
[root@ms ~]# ls -l /mgt/
ls: cannot access /mgt/: Not a directory
[root@ms ~]#
}}
***Lustre File System - MDS [#ccf2be9f]
MDTは2つ用意してみた. 具体的にどのくらいサイズが必要なの...
#code(nonumber){{
[root@mds ~]# cat /proc/partitions
major minor #blocks name
2 0 4 fd0
8 0 4194304 sda
8 1 524288 sda1
8 2 524288 sda2
8 3 3144704 sda3
8 16 16777216 sdb
8 32 16777216 sdc
11 0 4554752 sr0
[root@mds ~]# mkfs.lustre --fsname=fsname --mgsnode ms --...
Permanent disk data:
Target: fsname:MDT0000
Index: 0
Lustre FS: fsname
Mount type: ldiskfs
Flags: 0x61
(MDT first_time update )
Persistent mount opts: user_xattr,errors=remount-ro
Parameters: mgsnode=192.168.0.47@tcp
checking for existing Lustre data: not found
device size = 16384MB
formatting backing filesystem ldiskfs on /dev/sdb
target name fsname:MDT0000
kilobytes 16777216
options -J size=655 -I 1024 -i 2560 -q -O ...
mkfs_cmd = mke2fs -j -b 4096 -L fsname:MDT0000 -J size=6...
Writing CONFIGS/mountdata
[root@mds ~]# mkfs.lustre --fsname=fsname --mgsnode ms --...
Permanent disk data:
Target: fsname:MDT0001
Index: 1
Lustre FS: fsname
Mount type: ldiskfs
Flags: 0x61
(MDT first_time update )
Persistent mount opts: user_xattr,errors=remount-ro
Parameters: mgsnode=192.168.0.47@tcp
checking for existing Lustre data: not found
device size = 16384MB
formatting backing filesystem ldiskfs on /dev/sdc
target name fsname:MDT0001
kilobytes 16777216
options -J size=655 -I 1024 -i 2560 -q -O ...
mkfs_cmd = mke2fs -j -b 4096 -L fsname:MDT0001 -J size=6...
Writing CONFIGS/mountdata
[root@mds ~]# mkdir /mdt.0 /mdt.1
[root@mds ~]# mount -t lustre /dev/sdb /mdt.0
[root@mds ~]# mount -t lustre /dev/sdc /mdt.1
}}
***Lustre File System - OSS [#j979133e]
備考: RHEL6のext4最大1ボリュームは16TB. RHEL7では50TB. l...
#code(nonumber){{
[root@ss1 ~]# mkfs.lustre --fsname=fsname --mgsnode=ms@tc...
Permanent disk data:
Target: fsname:OST0000
Index: 0
Lustre FS: fsname
Mount type: ldiskfs
Flags: 0x62
(OST first_time update )
Persistent mount opts: ,errors=remount-ro
Parameters: mgsnode=192.168.0.47@tcp
checking for existing Lustre data: not found
device size = 32768MB
formatting backing filesystem ldiskfs on /dev/sdb
target name fsname:OST0000
kilobytes 33554432
options -J size=400 -I 512 -i 69905 -q -O ...
mkfs_cmd = mke2fs -j -b 4096 -L fsname:OST0000 -J size=4...
Writing CONFIGS/mountdata
[root@ss1 ~]# mkdir /ost.0
[root@ss1 ~]# mount -t lustre /dev/sdb /ost.0/
}}
***client [#ncc82ee4]
#code(nonumber){{
[root@client ~]# yum upgrade e2fsprogs
[root@client ~]# yum install lustre-client
[root@client ~]# yum list installed |grep lustre-client
kmod-lustre-client.x86_64 2.12.4-1.el7 ...
lustre-client.x86_64 2.12.4-1.el7 ...
[root@client ~]#
}}
clinetもlnetを設定します
#code(nonumber){{
[root@client ~]# cat /etc/lnet.conf
net:
- net type: tcp
local NI(s):
- nid: 192.168.0.18@tcp
status: up
interfaces:
0: eth0
[root@client ~]# systemctl enable lnet && systemctl start...
}}
そしてlustreをmountしてみます.
#code(nonumber){{
[root@client ~]# mount -t lustre ms@tcp0:/fsname /lustre
[root@client ~]# df -Th /lustre
Filesystem Type Size Used Avail Use% Mo...
192.168.0.47@tcp:/fsname lustre 32G 50M 30G 1% /l...
[root@client ~]# lfs df -h
UUID bytes Used Available ...
fsname-MDT0000_UUID 8.9G 46.2M 8.0G ...
fsname-MDT0001_UUID 8.9G 46.1M 8.0G ...
fsname-OST0000_UUID 31.1G 49.2M 29.5G ...
filesystem_summary: 31.1G 49.2M 29.5G ...
[root@client ~]#
}}
一応、lustreをクライアントにmountできた.
***ベンダー各社の構成提案 [#q3cd62d8]
Lustreイコール [[DDN社様>+https://ddn.co.jp/index.html]] ...
ManagementとMetaサーバを2台一組のHAで運用してOSSは筐体1...
OSSはHDD10本1組で1VMあたり10組以上繋げている.
OSSを増やすより1台のOSSに多数のOSTをぶら下げるのが想定み...
あと[[HPE社様>+https://buy.hpe.com/us/en/enterprise-solut...
2台のDL360に共有ドライブMSA2050を繋げ、おそらくManagemen...
D6020なので70本のHDDを抱えられる.
[[Dell EMC社様>+https://www.dell.com/support/article/ja-j...
終了行:
本家様 [[http://lustre.org/>+http://lustre.org/]]
wiki [[http://wiki.lustre.org/index.php/Main_Page>+http:/...
参照先 [[https://wiki.whamcloud.com/>+https://wiki.whamcl...
https://github.com/whamcloud/Online-Help
スパコン界隈で利用されているファイルシステム. 「Distribut...
ストレージを持ったノードがクラスターを形成して、データを...
構成的には[[BeeGFS]]に似ている.
Lustreの導入例を見てみると冗長構成で落ちにくくして、冗長...
加えてHDD10個で一組の30組、60組で構成されている. &size(10...
ここでは冗長構成とかは作らず、構築の流れを描く. 使うのは ...
***構成 [#y8bdb281]
[[http://wiki.lustre.org/Introduction_to_Lustre>+http://w...
要素としては
-Management Server (MGS)とそのデータを収める「Management ...
1つで十分らしい. MGTは1GBで十分.
-Metadata Server (MDS)とそのデータを収める「Metadata Targ...
16core/256GB mem,RAID1+0
-Object Storage Server (OSS)とそのデータを収める「object ...
OSS一台当たり2から8個のOST(それ以上も可). 1個のOSTは10個...
-Lustre Networking (LNet)
port988/tcpを使用. RDMA通信可. カーネルモジュールを組み込...
-Clients
POSIX標準でLustreを利用できる
ここでは簡単に
|BGCOLOR(YELLOW):種別|BGCOLOR(YELLOW):マシン名|BGCOLOR(YE...
|Management server|MGS|192.168.0.47|4GB(OS)&br;1GB(MGT)|M...
|Metadata Server|MDS|192.168.0.48|4GB(OS)&br;16GB(MDT.1)...
|Object Storage Server|SS1|192.168.0.49|4GB(OS)&br;32GB(O...
|~|SS2|192.168.0.50|4GB(os)+16GB(OST)|~|
|Client|client|192.168.0.18|||
***yum リポジトリ [#oda348d4]
ソースコードが提供されているのでコンパイルしてインストー...
だがインストールするパッケージには組み合わせがあるようで
-OSTのフォーマットとして LDISKFS(ext4系) を使うか ZFS を...
-lustre対応のpatchが入った kernelに差し替えるか そのままC...
&size(10){OS提供のkernelのままだとプロジェクトクォータが...
ここでは LDISKFS を使ってOS提供のkernelをそのまま使うこと...
それに対応したリポジトリを下記のように書く.
#code(nonumber){{
[root@ms ~]# cat /etc/redhat-release
CentOS Linux release 7.8.2003 (Core) <-- CentOS7.8で構...
[root@ms ~]# cat /etc/yum.repos.d/lustre.repo
[lustre-server]
name=CentOS-$releasever - Lustre
baseurl=https://downloads.whamcloud.com/public/lustre/lat...
gpgcheck=0
[e2fsprogs]
name=CentOS-$releasever - Ldiskfs
baseurl=https://downloads.whamcloud.com/public/e2fsprogs/...
gpgcheck=0
[lustre-client]
name=CentOS-$releasever - Lustre
baseurl=https://downloads.whamcloud.com/public/lustre/lat...
gpgcheck=0
[root@ms ~]#
}}
&color(red){*};&size(10){「latest-release」は 2.12.X な L...
&color(red){*};&size(10){パッチが適用されたkernelで行うの...
&color(red){*};&size(10){lustre-2.12.4はe2fsprogs-v1.45.2...
[[Lustre/repository]]
***インストール [#y72cd180]
まずは e2fsprogs(Utilities for managing ext2, ext3, and e...
#code(nonumber){{
[root@ms ~]# yum list installed |grep e2fsprogs
e2fsprogs.x86_64 1.42.9-17.el7 ...
e2fsprogs-libs.x86_64 1.42.9-17.el7 ...
[root@ms ~]# yum upgrade e2fsprogs
}}
ここで残念なお話. lustreのパッケージは CentOS7.7(kernel-3...
&color(red){*};&size(10){lusterのrpmがどのkernelで作られ...
そのためlustreパッケージをインストールしても稼働するkerne...
対策としては、
-カーネルをダウングレードして「3.10.0-1062.9.1」にしてlus...
-「3.10.0-1127.10.1」向けのlustreカーネルモジュールをコン...
のいずれかになる.
ダウングレードする. CentOSの過去カーネルは「vault.centos....
&size(10){参照: [[grub#v64aca0c]]};
#code(nonumber){{
[root@ms ~]# yum install http://vault.centos.org/7.7.1908...
[root@ms ~]# grub2-editenv list
saved_entry=CentOS Linux (3.10.0-1062.9.1.el7.x86_64) 7 (...
[root@ms ~]# reboot
}}
あくまでも最新カーネルで進めたいのなら. 現行のCentOS7.8(k...
&size(10){dkmsで回避可能と思ってたが、カーネルソースコー...
#code(nonumber){{
[root@ms ~]# uname -r
3.10.0-1062.9.1.el7.x86_64
[root@ms ~]# yum install lustre
[root@ms ~]# yum list installed |grep lustre-server
kmod-lustre.x86_64 2.12.4-1.el7 ...
kmod-lustre-osd-ldiskfs.x86_64 2.12.4-1.el7 ...
lustre.x86_64 2.12.4-1.el7 ...
lustre-osd-ldiskfs-mount.x86_64 2.12.4-1.el7 ...
[root@ms ~]#
}}
***lnet [#va4ee000]
YAMLフォーマットで /etc/lnet.conf を描く. 詳細はこちらで ...
#code(nonumber){{
[root@ms ~]# cat /etc/lnet.conf
net:
- net type: tcp
local NI(s):
- nid: 192.168.0.47@tcp <-- nic ipa...
status: up
interfaces:
0: ens32 <-- nicのデ...
[root@ms ~]# systemctl enable lnet && systemctl start lnet
(確認)
[root@ms ~]# lnetctl net show
net:
- net type: lo
local NI(s):
- nid: 0@lo
status: up
- net type: tcp
local NI(s):
- nid: 192.168.0.47@tcp
status: up
interfaces:
0: ens32
[root@ms ~]#
}}
firewallが有効であるなら 988 tcp を開ける必要がある
#code(nonumber){{
[root@ms ~]# firewall-cmd --zone=public --add-port=988/tc...
[root@ms ~]# firewall-cmd --reload
}}
&color(red){*};&size(10){SELinuxは無効にする. lustre自体...
***Lustre File System - MGT [#e359db7d]
MGS向けのディスクを用意する. MGTなので100MBほどでいいよう...
#code(nonumber){{
[root@ms ~]# cat /proc/partitions
major minor #blocks name
2 0 4 fd0
8 0 4194304 sda
8 1 524288 sda1
8 2 524288 sda2
8 3 3144704 sda3
8 16 1048576 sdb
11 0 4554752 sr0
[root@ms ~]# mkfs.lustre --fsname=fsname --mgs /dev/sdb
Permanent disk data:
Target: MGS
Index: unassigned
Lustre FS: fsname
Mount type: ldiskfs
Flags: 0x64
(MGS first_time update )
Persistent mount opts: user_xattr,errors=remount-ro
Parameters:
checking for existing Lustre data: not found
device size = 1024MB
formatting backing filesystem ldiskfs on /dev/sdb
target name MGS
kilobytes 1048576
options -q -O uninit_bg,dir_nlink,quota,hu...
mkfs_cmd = mke2fs -j -b 4096 -L MGS -q -O uninit_bg,dir_...
Writing CONFIGS/mountdata
[root@ms ~]# mkdir /mgt
[root@ms ~]# mount -t lustre /dev/sdb /mgt/
[root@ms ~]# df -lTh
Filesystem Type Size Used Avail Use% Mounted on
devtmpfs devtmpfs 909M 0 909M 0% /dev
tmpfs tmpfs 920M 0 920M 0% /dev/shm
tmpfs tmpfs 920M 8.8M 911M 1% /run
tmpfs tmpfs 920M 0 920M 0% /sys/fs/cg...
/dev/sda3 xfs 3.0G 1.6G 1.5G 52% /
/dev/sda1 xfs 509M 212M 298M 42% /boot
tmpfs tmpfs 184M 0 184M 0% /run/user/0
/dev/sdb lustre 968M 2.3M 915M 1% /mgt
[root@ms ~]#
[root@ms ~]# ls -l /mgt/
ls: cannot access /mgt/: Not a directory
[root@ms ~]#
}}
***Lustre File System - MDS [#ccf2be9f]
MDTは2つ用意してみた. 具体的にどのくらいサイズが必要なの...
#code(nonumber){{
[root@mds ~]# cat /proc/partitions
major minor #blocks name
2 0 4 fd0
8 0 4194304 sda
8 1 524288 sda1
8 2 524288 sda2
8 3 3144704 sda3
8 16 16777216 sdb
8 32 16777216 sdc
11 0 4554752 sr0
[root@mds ~]# mkfs.lustre --fsname=fsname --mgsnode ms --...
Permanent disk data:
Target: fsname:MDT0000
Index: 0
Lustre FS: fsname
Mount type: ldiskfs
Flags: 0x61
(MDT first_time update )
Persistent mount opts: user_xattr,errors=remount-ro
Parameters: mgsnode=192.168.0.47@tcp
checking for existing Lustre data: not found
device size = 16384MB
formatting backing filesystem ldiskfs on /dev/sdb
target name fsname:MDT0000
kilobytes 16777216
options -J size=655 -I 1024 -i 2560 -q -O ...
mkfs_cmd = mke2fs -j -b 4096 -L fsname:MDT0000 -J size=6...
Writing CONFIGS/mountdata
[root@mds ~]# mkfs.lustre --fsname=fsname --mgsnode ms --...
Permanent disk data:
Target: fsname:MDT0001
Index: 1
Lustre FS: fsname
Mount type: ldiskfs
Flags: 0x61
(MDT first_time update )
Persistent mount opts: user_xattr,errors=remount-ro
Parameters: mgsnode=192.168.0.47@tcp
checking for existing Lustre data: not found
device size = 16384MB
formatting backing filesystem ldiskfs on /dev/sdc
target name fsname:MDT0001
kilobytes 16777216
options -J size=655 -I 1024 -i 2560 -q -O ...
mkfs_cmd = mke2fs -j -b 4096 -L fsname:MDT0001 -J size=6...
Writing CONFIGS/mountdata
[root@mds ~]# mkdir /mdt.0 /mdt.1
[root@mds ~]# mount -t lustre /dev/sdb /mdt.0
[root@mds ~]# mount -t lustre /dev/sdc /mdt.1
}}
***Lustre File System - OSS [#j979133e]
備考: RHEL6のext4最大1ボリュームは16TB. RHEL7では50TB. l...
#code(nonumber){{
[root@ss1 ~]# mkfs.lustre --fsname=fsname --mgsnode=ms@tc...
Permanent disk data:
Target: fsname:OST0000
Index: 0
Lustre FS: fsname
Mount type: ldiskfs
Flags: 0x62
(OST first_time update )
Persistent mount opts: ,errors=remount-ro
Parameters: mgsnode=192.168.0.47@tcp
checking for existing Lustre data: not found
device size = 32768MB
formatting backing filesystem ldiskfs on /dev/sdb
target name fsname:OST0000
kilobytes 33554432
options -J size=400 -I 512 -i 69905 -q -O ...
mkfs_cmd = mke2fs -j -b 4096 -L fsname:OST0000 -J size=4...
Writing CONFIGS/mountdata
[root@ss1 ~]# mkdir /ost.0
[root@ss1 ~]# mount -t lustre /dev/sdb /ost.0/
}}
***client [#ncc82ee4]
#code(nonumber){{
[root@client ~]# yum upgrade e2fsprogs
[root@client ~]# yum install lustre-client
[root@client ~]# yum list installed |grep lustre-client
kmod-lustre-client.x86_64 2.12.4-1.el7 ...
lustre-client.x86_64 2.12.4-1.el7 ...
[root@client ~]#
}}
clinetもlnetを設定します
#code(nonumber){{
[root@client ~]# cat /etc/lnet.conf
net:
- net type: tcp
local NI(s):
- nid: 192.168.0.18@tcp
status: up
interfaces:
0: eth0
[root@client ~]# systemctl enable lnet && systemctl start...
}}
そしてlustreをmountしてみます.
#code(nonumber){{
[root@client ~]# mount -t lustre ms@tcp0:/fsname /lustre
[root@client ~]# df -Th /lustre
Filesystem Type Size Used Avail Use% Mo...
192.168.0.47@tcp:/fsname lustre 32G 50M 30G 1% /l...
[root@client ~]# lfs df -h
UUID bytes Used Available ...
fsname-MDT0000_UUID 8.9G 46.2M 8.0G ...
fsname-MDT0001_UUID 8.9G 46.1M 8.0G ...
fsname-OST0000_UUID 31.1G 49.2M 29.5G ...
filesystem_summary: 31.1G 49.2M 29.5G ...
[root@client ~]#
}}
一応、lustreをクライアントにmountできた.
***ベンダー各社の構成提案 [#q3cd62d8]
Lustreイコール [[DDN社様>+https://ddn.co.jp/index.html]] ...
ManagementとMetaサーバを2台一組のHAで運用してOSSは筐体1...
OSSはHDD10本1組で1VMあたり10組以上繋げている.
OSSを増やすより1台のOSSに多数のOSTをぶら下げるのが想定み...
あと[[HPE社様>+https://buy.hpe.com/us/en/enterprise-solut...
2台のDL360に共有ドライブMSA2050を繋げ、おそらくManagemen...
D6020なので70本のHDDを抱えられる.
[[Dell EMC社様>+https://www.dell.com/support/article/ja-j...
ページ名:
1