2009年10月 7日

[samba-jp:20866]特定共有フォルダだけパフォーマンスが落ちる現象が起きています。

近藤です。

特定共有フォルダだけパフォーマンスが落ちる現象が起きています。
クレームが来たので調べていますが、不可解な現象で原因が不明なため
助言があれば助かります。

最初はサーバの負荷が高いのかと思っていましたが、どうもそうでは
ないらしいという結論になりました。

理由は、特定の共有フォルダのみ遅くなるためです。

<調査>
特定のフォルダへ、448ファイル合計約128MB分のファイルを
コピーしたところ14分30秒くらいかかり、おおよそ41Kbps程度の
速度という結果が出ました。(朝一の人がまだあまり使ってない
はずの時間帯でも同様の結果でした。)

Sambaのログをみてもlog level = 1だったので、ほとんどログが
でてなかったので、log level = 3 にしてSambaを再起動したところ
再起動直後は、1分45秒(9.67Mbps)でした。
何時間か1時間ごとに計測した結果、時間経過とともに徐々に
遅くなってきているようです。
翌日になると再起動前と同じように遅くなってました。
※該当フォルダ以外のフォルダは早いようです。

smbd.logログを見てみたのですが、良くわからずです。
1分もかからずにで50MB以上溜まるような速度でログが溜まってます。

共有フォルダのストレージはSANを使っていますが、
同じストレージ同じパーティションで同じ階層に有る別の共有フォルダは、
速度は早いです。

DFSで他のサーバから参照するようにしていますが、直接アクセスでも
該当共有フォルダは同程度の速度しかでなく、該当フォルダ以外を直接
アクセスすると早いです。

smbstatusで見てみると該当フォルダへのアクセス者数は多いようです。
netstatでmicrosoft-dsのセッション数が二百数十個、smbstatusで
該当フォルダへのアクセス者数は100前後でした。
共有フォルダ数は129個ありました。

この結果から、DFS,SANのストレージは関係なし、topの結果でload average
が多少高かったものの、該当フォルダ以外は問題ないということから、
サーバの負荷とは関係なさそうという、自分なりの結論がでたのですが、
何故このような現象が来ているのか判らず、この現象への対処をどうしたら
いいか迷っています。
助言があれば、よろしくお願いします。

ついでに、Sambaの同時アクセス数の限界などがあったら
教えていただけたらと思います。
http://www.jasst.jp/archives/jasst07k/pdf/S1.pdf
を見る限りだと限界はSambaというよりハードの構成によって
変わってくるのかもしれませんが、チューニングが必要となると、
不況のためになかなか有料で頼めそうにないです。
デフォルトの状態だと何人以上の同時アクセスは無理が
あるなどがあれば参考にしたいと思います。

<ハードスペック>
CPU:Xeon CPU E5430 @ 2.66GHz(計8コア)
RAM:4GB

<OS等のバージョン>
OS:RedHatEL5
カーネル2.6.18-8.1.15.el5PAE
Samba:3.0.28
OpenLDAP:2.3.27-8

<smb.conf>
[global]
workgroup = SERVER001
server string = Samba Server
passdb backend = ldapsam:ldap://127.0.0.1:389
log level = 3<---普段は1です。
syslog = 0
max log size = 50000
ldap admin dn = cn=Manager,dc=XXXXXXX,dc=co,dc=jp
ldap group suffix = ou=Groups
ldap passwd sync = Yes
ldap suffix = ,dc=XXXXXXX,dc=co,dc=jp
ldap ssl = no
ldap user suffix = ou=Users
utmp = Yes
create mask = 0660
force create mode = 0660
directory mask = 0770
force directory mode = 0770
browseable = No

[share1]
comment = Home Directory
path = /home/share1
invalid users = @invalid-users
valid users = @group1,@group1-r
force group = group1
write list = group1
read list = group1-r
read only = No
writable = No
guest ok = No

[share2]
comment = Home Directory
path = /home/share2
invalid users = @invalid-users
valid users = @group2,@group2-r
force group = group2
write list = group2
read list = group2-r
read only = No
writable = No
guest ok = No
:
:
共有フォルダ数は、129個

<top実行>
top - 15:29:44 up 364 days, 39 min, 2231 users, load average: 3.39, 2.87,
2.91
Tasks: 473 total, 4 running, 468 sleeping, 0 stopped, 1 zombie
Cpu0 : 50.0%us, 37.5%sy, 0.0%ni, 8.3%id, 0.0%wa, 0.0%hi, 4.2%si,
0.0%st
Cpu1 : 8.3%us, 8.3%sy, 0.0%ni, 83.3%id, 0.0%wa, 0.0%hi, 0.0%si,
0.0%st
Cpu2 : 0.0%us, 0.0%sy, 0.0%ni,100.0%id, 0.0%wa, 0.0%hi, 0.0%si,
0.0%st
Cpu3 : 40.0%us, 60.0%sy, 0.0%ni, 0.0%id, 0.0%wa, 0.0%hi, 0.0%si,
0.0%st
Cpu4 : 40.0%us, 60.0%sy, 0.0%ni, 0.0%id, 0.0%wa, 0.0%hi, 0.0%si,
0.0%st
Cpu5 : 4.0%us, 0.0%sy, 0.0%ni, 96.0%id, 0.0%wa, 0.0%hi, 0.0%si,
0.0%st
Cpu6 : 24.0%us, 8.0%sy, 0.0%ni, 68.0%id, 0.0%wa, 0.0%hi, 0.0%si,
0.0%st
Cpu7 : 3.8%us, 7.7%sy, 0.0%ni, 84.6%id, 0.0%wa, 0.0%hi, 3.8%si,
0.0%st
Mem: 4145404k total, 3970600k used, 174804k free, 62000k buffers
Swap: 4192924k total, 576k used, 4192348k free, 3079960k cached

PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
12947 root 25 0 52172 4908 3112 R 102 0.1 7166:17 smbd
592 root 25 0 48932 5932 3424 R 98 0.1 39810:23 smbd
30112 user1 15 0 64608 29m 13m R 82 0.7 1:12.04 smbd
21670 ldap 25 0 122m 28m 2080 S 23 0.7 375:28.61 slapd
29899 root 15 0 6148 1964 1268 R 12 0.0 0:04.99 top
25773 root 24 0 18980 4224 2676 S 8 0.1 0:01.38 smbd
25893 user2 15 0 43244 6196 4196 S 8 0.1 0:01.84 smbd
25930 user3 15 0 23592 4704 3072 S 8 0.1 7:01.13 smbd
26993 user4 15 0 43644 5524 3384 S 8 0.1 1:56.95 smbd
1 root 15 0 2032 644 552 S 0 0.0 0:02.60 init

<netstatやsmbdプロセス数の確認>
# ps aux | grep smbd | wc
286 3432 20883
# netstat -a | grep microsoft-ds | wc
279 1674 24831
# netstat -a | grep ldap | wc
780 4680 69420

smbstatusも確認したところ、
接続ユーザは、283
問題の共有フォルダへのアクセス:103

※これらの値は実行するたびに、頻繁に変わります。


投稿者 xml-rpc : 2009年10月 7日 17:28
役に立ちました?:
過去のフィードバック 平均:(0) 総合:(0) 投票回数:(0)
本記事へのTrackback: http://hoop.euqset.org/blog/mt-tb2006.cgi/89275
トラックバック
コメント
コメントする




画像の中に見える文字を入力してください。