DB検索プロジェクト

Check このエントリーをはてなブックマークに追加 Tweet

30 : [sage]:2008/07/19(土) 21:00:05.64 ID:8TrEwoAP
4G・・・
スペック的な知識無いですが、なんかすごいのは分かりました
31 : [sage]:2008/07/20(日) 02:52:11.50 ID:???
えっと、そのサーバのスペックなら
やりたかったことなんか出来そうな感じなんですか
32 :出来杉3.0 [sage]:2008/07/20(日) 15:34:45.96 ID:???
まあRAMが4GBあれば十分すぎるでしょうw

いろいろ考えてたらKWICとmreadはそれぞれ別のキャッシュの方が良さそうな気もしてきました(抜粋リストはともかく)

CPUが仮にAthlonだったら効率のいいキャッシュじゃないと厳しくなる か も しれない
でもRAMが4GBあれば2種類のキャッシュでも問題ないでしょう
33 : [sage]:2008/07/20(日) 16:20:57.76 ID:aGSyVVco
今のところ私に出来ることが何一つ見当たらないww
34 : [sage]:2008/07/22(火) 02:41:07.44 ID:???
あれ、レスがない・・・
35 :以下、名無しにかわりましてVIPサービスがお送りします [sage]:2008/07/22(火) 02:47:17.64 ID:aZizvVQo
仕様です
36 :荒巻@中の人 :2008/07/22(火) 10:23:43.24 ID:???
ML115注文しますた.

振り込み確認取れたので今週中には稼働可能な予定.
37 : [sage]:2008/07/22(火) 13:28:43.62 ID:W7Q7UscP
あ、はい分かりました
ご苦労様です
38 :出来杉3.0 :2008/07/22(火) 18:37:02.11 ID:???
このサーバ用のping発信スクリプト、それと検索サーバ用のマルチスレッドなスクリプトを作る踏み台として
subjectが壊れないように更新するスクリプトを作ってたりするかもしれない

>>33
さくらプレミアムでクライアントと検索サーバの間に入るスクリプトとかって作れないですかね?
Socketでシンプルな専用プロトコルのようなもので検索サーバと通信、とか考えてるんですが…
# しかし詳しいことは決まっていないと言う罠w

>>36
乙です、乙です!
39 :萃香@飲酒係 [sage]:2008/07/22(火) 18:48:46.97 ID:???
>>36
乙でーす

とりあえず詳細詰めるのが先ですかねー
40 :以下、名無しにかわりましてVIPサービスがお送りします [sage]:2008/07/22(火) 19:39:57.54 ID:OVR8.kUo
じゃあ風邪でも直しながら待ってますww

そのスクリプトはperlでいいんですか?
41 :荒巻@中の人 :2008/07/22(火) 23:47:22.37 ID:???
ただいまー

一応設置場所の段取り済ませてきますた.

ML1153台分のスペースと電源.(また2台までなら増設できる!)
あとスイッチ小さいのとDMZでグローバルなIP3つ.

ML115は本日発送なので明後日には稼働できるかな.
42 : [sage]:2008/07/22(火) 23:51:28.02 ID:???
1153台かと思った

そのサーバのホストってどうなります?
だいたいいつも自分でなんか組むときはローカルなので・・・
43 :ミーフォ茜 ◆BtIJSeriko [sage]:2008/07/23(水) 02:26:20.42 ID:LeeMUJco
1153台なんて常識的に考えて多過ぎです><
44 :出来杉3.0 [sage]:2008/07/23(水) 14:33:51.31 ID:???
・このサーバで動くpingスクリプト = 仕様が決まったら、出来杉3.0 ★がPerlで作りそうですよ
・さくらプレミアムで動く検索フロントエンド = PerlでもRubyでもphpでも作る人が好きなので作れば良さげですよ(さくらプレミアムってmod_php使えないのね)
・hpのML115で動く検索スクリプト = さてどうしようか、誰がどういう設計で作るかによるだろうね^^;

>>41
詳細スペックplz
45 : [sage]:2008/07/23(水) 14:48:09.74 ID:l6qzVRAo
組んだソースとかはここに晒していいんですか?
46 :荒巻@中の人 :2008/07/23(水) 23:43:59.29 ID:???
うー腹へったー!

サーバ到着。
サーバールームに移送してきたのでこれより設置にかかりますです。

>>44
ML115っていうHPのサーバにメモリが大量にのっかってるだけって感じかな
Rootごとプレゼント。
回線は全ポート開放されてるグローバルだけどIPは隠しておかないとだめ。
UPSもらってきたので8月の年間定期停電以外は障害なく使えるはず。
速度は1M/Secくらいが限界かな

はらへったー
47 : [sage]:2008/07/24(木) 00:19:35.00 ID:ui4o6k2o
お疲れ様ww
たこ焼きでも食べてくださいな

そのML115にはDB乗せるんですよね?
全文検索には必要っぽいし
48 :荒巻@中の人 :2008/07/24(木) 00:22:27.42 ID:???
そのあたりの設計はおまかせします。。

うー腹が・・・
周囲10Kmは飯にありつける店がない、というか自販機すらないという・・・

49 : [sage]:2008/07/24(木) 00:26:06.13 ID:ui4o6k2o
私もほとんど出来杉の人に任せちゃってるので

自販機は500mごとにあるものだと思ってました
50 :荒巻@中の人 :2008/07/24(木) 00:54:32.19 ID:???
ということで、鯖完成。
Webminとか個人的にあったら便利的な物以外はすっからかんです。
IPアドレスとかパスワードはメールで聞いてくださいー


あー・・ 帰れなかった・・・
終電・・・
51 : [sage]:2008/07/24(木) 02:28:58.37 ID:???
#!/usr/bin/perl
use Socket;

$port = getservbyname('http', 'tcp');
$ipAddr = "ここにIP";
$socketAddr = pack_sockaddr_in($port, $ipAddr);
@searcg_sys = ('$search_word','$search_bbs');

socket(ZIP, PF_INET, SOCK_STREAM, 0);
print ZIP @search_sys;
connect(ZIP, $socketAddr);
select(ZIP);
$| = 1;
select(STDOUT);

こんなですかね・・・ソケット
52 : [sage]:2008/07/24(木) 02:30:45.61 ID:???
なんかスペルミスあるww
53 : [sage]:2008/07/24(木) 02:31:40.54 ID:???
#!/usr/bin/perl
use Socket;

$port = getservbyname('http', 'tcp');
$ipAddr = "ここにIP";
$socketAddr = pack_sockaddr_in($port, $ipAddr);
@search_sys = ('$search_word','$search_bbs');

socket(ZIP, PF_INET, SOCK_STREAM, 0);
print ZIP @search_sys;
connect(ZIP, $socketAddr);
select(ZIP);
$| = 1;
select(STDOUT);

こっちで
54 :出来杉3.0 :2008/07/24(木) 19:30:03.19 ID:???
>>46
> ML115っていうHPのサーバにメモリが大量にのっかってるだけって感じかな
BTOの一番安いのに4GBメモリですか?

> 速度は1M/Secくらいが限界かな
メガビット毎秒なのかメガバイト毎秒なのかわかりません><

IPアドレスを隠しとくのは了解です

ところで、UPSって数年毎にバッテリー交換とかしないとw

>>47
全文検索だけならDBはただの邪魔者ですw
KWICを使うならあった方がいいかもしれないかもしれないよとw

>>53
うーん、確かそんな感じだった気がしますw
この手の事は↓が詳しいよw
http://x68000.q-e-d.net/~68user/net/
55 :荒巻@中の人 :2008/07/24(木) 20:23:26.33 ID:???
>>54

>BTOの一番安いのに4GBメモリですか?
メモリはいくら乗っけてもかなり安いからねー

>メガビット毎秒なのかメガバイト毎秒なのかわかりません><
単位はByteっす.


UPSは交換済みのやつです
56 : [sage]:2008/07/24(木) 23:52:52.97 ID:???
>>54
そのページのやつほぼそのまんまで行ける気がする・・・
57 :以下、名無しにかわりましてVIPサービスがお送りします [sage]:2008/07/25(金) 01:47:49.33 ID:h8LT75Qo
どういう仕様になるかわかんないけど、ソケットで送るデータは
板・検索ワード・どの部分か これだけでいいんですよね?
58 :出来杉3.0 :2008/07/25(金) 18:17:12.34 ID:???
>>55
把握すたw

鯖のログイン情報送っといてもらえると助かります

>>56
なかなかいい解説やサンプルがあって助かってますw

>>57
板、検索ワード、名前とかIDとか、1件目から10件目まで欲しいとか
くらいですかね
板や名前やIDは、2ch検索みたいに検索ワードに入れてもらうようにするかもしれません

あと、送り方の候補は今のところ2つくらいあるかな
・QUERY_STRINGそのまま( hoge=%82%c4%3b%82%b7%3d%82%c6&foo=bar )
・QUERY_STRINGをごにょごにょして、\n区切りで( て;す=と\nbar )

まあこんなとこで
59 : [sage]:2008/07/25(金) 18:33:11.73 ID:???
区切って 開いて

がスマートかな
60 : [sage]:2008/07/25(金) 19:28:05.58 ID:???
#!/usr/local/bin/perl
use IO::Socket; # IO::Socket モジュールを使う。
# ホスト名とポート番号を設定
$host = shift || '****'; #IP
$port = shift || getservbyname('echo','tcp') || 7;
$socket = IO::Socket::INET->new(PeerAddr => $host,
PeerPort => $port,
Proto => 'tcp',
);
if ( ! $socket ){
die "なんかのエラーみたいです $!\n";
}
# 文字列を送信
print "$search_bbs\n$search_word\n$search_area\n$return_value\n";
$socket->flush();
$socket->close();
か、あるいは
#!/usr/bin/perl
use Socket; #Socketモジュールを使う
$port = getservbyname('http', 'tcp');
$ipAddr = "ここにIP";
$socketAddr = pack_sockaddr_in($port, $ipAddr);
socket(SOCKET, PF_INET, SOCK_STREAM, 0);
or die "なんか上手くいってない模様\n";
print SOCKET $search_bbs\n$search_word\n$search_area\n$return_value;
connect(SOCKET, $socketAddr);
or die "きっとエラーです\n";
select(SOCKET);
$| = 1;
こんな・・・かな?
61 :荒巻@中の人 :2008/07/25(金) 19:44:12.64 ID:???
出来杉さんおられますかー
62 :出来杉3.0 :2008/07/26(土) 14:19:13.83 ID:???
>>60
まあそんな感じで

>>61
ノシ
63 :荒巻@中の人 :2008/07/29(火) 02:04:30.69 ID:???
>>62
どもです.
search.cgiが本当に負担かけ過ぎて、サーバーが連日ダウンしまくって,いろんなところから苦情等出てきたため,
ミーフォ茜 ◆BtIJSeriko (PHP担当) P(Perl担当) 伊吹萃香 ◆SUICAthVuI (DB担当)  の三方が作られていた検索プログラムを先行的に導入してみますた.
Sennaの組み込みやmread.cgiの最適化等,まだまだ課題は多いと思うのですが・・・
とりあえず検索負担はだいぶ楽になりました.

ということでSennaとかそのあたりを急がずにボチボチとやっていきつつmread.関連を書き直していきたいな−と
64 :出来杉3.0 :2008/07/29(火) 16:13:06.97 ID:???
>>63
> ミーフォ茜 ◆BtIJSeriko (PHP担当) P(Perl担当) 伊吹萃香 ◆SUICAthVuI (DB担当)
> の三方が作られていた検索プログラムを先行的に導入してみますた.
把握しますた

ところで思ったのですが、スレッドのプレビューは>>1よりもKWICよりも、現行のスレ内で最初にヒットしたレスを表示するのが良さげですかね?
まあ、そのへんはアンケートでも採るのがいいんでしょうけど


以下個人的なToDo
・検索スクリプト作成の踏み台として作ってる、subject.txtがぬっこわれないようにするスクリプトをとりあえず使えるようにする
 (今月中、と言いたいところだが今週中…いや8/9までに作る^^;)
・ローカルの新実験環境を構築(PortsがアレなのでやっぱLinuxで、早くて8月後半)
65 :荒巻@中の人 :2008/07/29(火) 19:01:40.41 ID:???
>>64
subject.txtがぬっこわれないようにするのと
この広告をどうにか弾くスクリプトを作ってほしいです.(今月中くらいww)

あ,あとbbs.cgiのバージョンが変わってます(SQL対応)
注意してくださいー

66 :ミーフォ茜 [sage]:2008/07/30(水) 09:44:37.16 ID:???
今の検索はLIKE検索なんで、以前のライブスレッド検索よりは劇的に速いものの、
検索としてはまだ遅いほうです。
そこでSennaの組み込みですが、

・今のMySQLにSennaを組み込む
・今のを暫定的なものにして出来杉さんの検索を使う

の二通りを考えていますがみなさんどうでしょうか。

それと以下の変更を行いました。
・PC版の検索結果をスレ毎に5レス表示
・PC版で_blankで開くリンク、それに伴うXHTML 1.1からXHTML 1.0 Transitionalへの変更
・PC版で検索結果のリンク先をレス単体から50レス前とそれ以降へ
・携帯版でURLの短縮表示
・携帯版で余計なhrを一本減らす
・携帯版でレス内容の改行のカット
・携帯版でスレタイ検索時名前欄の非表示
・携帯版で検索結果のリンク先をレス単体からレス以降へ
67 :出来杉3.0 [sage]:2008/07/30(水) 18:57:20.45 ID:???
>>65
> subject.txtがぬっこわれないようにするのと
> この広告をどうにか弾くスクリプトを作ってほしいです.(今月中くらいwwww)
今精神的に(ry
とりあえずsubjectはともかく、広告の方は実験サーバが無いとどうしようもないので、そこんとこおながいします(><;

> あ,あとbbs.cgiのバージョンが変わってます(SQL対応)
> 注意してくださいー
おk把握w

>>66
どちらがいいでしょうかね?
手っ取り早く作れるのはMySQLの方かもしれません
よりいい感じに仕上がるのは出来杉スクリプトかもしれません
しかし出来杉スクリプトには、本当に完成するかどうかが懸念されます(爆

ちなみに出来杉スクリプトは、掲示板サーバからpingを受け取ったら、DATをHTTPでGETする仕様@仮
68 :ミーフォ茜 [sage]:2008/07/31(木) 08:41:41.18 ID:???
動作的にDBの検索自体よりも結果の転送に時間食ってそうな予感。
検索結果が少ないとすぱっと表示されるし。

>>66については、他の二方の意見もあわせて議論したいところ。
69 :出来杉3.0 :2008/07/31(木) 15:53:38.20 ID:???
>>68
> 動作的にDBの検索自体よりも結果の転送に時間食ってそうな予感。
8Mbits/secとのことなので、そんな気がしますね


それと、出来杉スクリプトが本当に完成するのかと言う懸念が、どんどん上昇しています
(モチベーション的な意味で)
70 :萃香@飲酒係 [sage]:2008/08/02(土) 15:50:59.35 ID:???
>>66
Senna入れつつ出来杉さんの完成を気長に待ちますか?
でも結果の転送に時間かかってるならあんまり変わらないような悪寒
71 :出来杉3.0 :2008/08/02(土) 16:13:44.70 ID:???
出来杉スクリプトは作らず、今のスクリプトにSennaを組み込んで、空いた時間で転送量を減らす事を考えた方が良さげな気がしてきた

MySQLが遅いわけでもなければ、もはや「MySQLより早いの作るぞー!」と言う気も失せてしまったし…
72 :ミーフォ茜 [sage]:2008/08/02(土) 17:04:36.18 ID:???
クエリを調整して転送される結果の量を減らした予感。クエリ回数自体は増えてますが。
あと一部の検索ワードで結果が出ないのを修正しますた。

Sennaの導入はDBをダンプしてから導入してそのあとダンプから元に戻せばよさそう
検索を停止させるから告知が必要かな
73 :ミーフォ茜 [sage]:2008/08/05(火) 08:32:13.19 ID:???
cronを使って毎週日曜日04:22に1000を超えたスレのDB上の情報をお掃除するようにしました。
問題があれば元に戻します。
74 :出来杉3.0 :2008/08/06(水) 16:03:37.81 ID:???
>>65
えー検索と関係ないですが、subject.txtがぬっこわれないようにするのができたかも

使い方
1.名前付きパイプ(普通のファイルみたいに扱えます)を追記モードで開く
2.板ディレクトリ名、datファイル名、あげ or さげ or 新スレ(HTML化時はどれでもいい)を書く
3.後は名前付きパイプを閉じて待ってれば(゚д゚)ウマー

ただ、テストはごく最低限なものしかしてないですw
75 :出来杉3.0 :2008/08/12(火) 17:33:24.02 ID:???
一応、中の人にbbs.cgiでrequireしてるDBの奴のソースをくれくれメールを昨日飛ばしてみたんだけど^^;

あ、俺のメールアドレスとJabberのIDは中の人にメール飛ばして聞いてみてくださいw
76 :以下、名無しにかわりましてVIPサービスがお送りします [sage]:2008/08/17(日) 14:08:19.45 ID:2inmJL6o
DBぶっ壊れてんぞー
77 :ミーフォ茜 [sage]:2008/08/17(日) 15:28:32.81 ID:???
kwsk
78 :以下、名無しにかわりましてVIPサービスがお送りします [sage]:2008/08/17(日) 15:55:54.07 ID:2inmJL6o
ID検索だけ、どれで検索しても↓がでるよー

−−−−−−−−−−−−−−−−−−−−−−−−−−−−−−
なんとなく探してみましたが、見つかりませんでした。
ライブなスレッドのみ検索可能です。
キーワードを減らしてみたり、数を減らしてみたりしてください。
79 :ミーフォ茜 [sage]:2008/08/17(日) 16:01:05.19 ID:???
おーマジだ

ちょっと調べてきますね
80 :以下、名無しにかわりましてVIPサービスがお送りします [sage]:2008/08/17(日) 16:14:06.52 ID:2inmJL6o
頼むぜい
81 :ミーフォ茜 [sage]:2008/08/17(日) 16:16:43.49 ID:???
2008/08/16(土) 09:12:56.21 あたり以降DBにデータが追加されてないくさい
それ以前の書き込みのIDなら検索結果でるね
なんだろうこれは
82 :ミーフォ茜 [sage]:2008/08/17(日) 16:35:13.97 ID:???
よくわからんわー
bbs.cgiの状況は私にはわからんからいまいち原因がつかめない

検索カウントも消えてる・・
83 :出来杉3.0 :2008/08/17(日) 16:54:48.60 ID:???
bbs.cgi見てきますね
84 :出来杉3.0 :2008/08/17(日) 16:56:29.25 ID:???
理由はわかりませんが、DB登録のところがコメントアウトされてました
85 :ミーフォ茜 [sage]:2008/08/17(日) 17:02:23.52 ID:???
把握
コメントインすれば動きそうかな
86 :出来杉3.0 :2008/08/17(日) 17:11:43.63 ID:???
そう思って良さそうですが、詳しいことは中の人待ちでw
87 :ミーフォ茜 [sage]:2008/08/17(日) 17:16:02.20 ID:???
了解です
88 :以下、名無しにかわりましてVIPサービスがお送りします [sage]:2008/08/18(月) 00:33:33.86 ID:YjG9Mawo
一度DBサーバ落ちてたみたいなんで、それも関係してるのかな?
89 :出来杉3.0 [sage]:2008/08/18(月) 18:35:23.73 ID:???
>>88
なるほど
もしbbs.cgi側にタイムアウト処理が無いようなら、書き込めなくなっちゃいますからねぇ
90 :以下、名無しにかわりましてVIPサービスがお送りします [sage]:2008/08/18(月) 21:59:24.03 ID:4cH1g3AP
接続不可ならリターンはしてるんで、書き込めないことはないですが
やっぱり重くなって結果的に書き込み失敗になるのかなぁ

失敗と出ても書き込めてるから、多重になったりするし
91 :出来杉3.0 :2008/08/19(火) 12:20:05.36 ID:???
あ、そうだったw
DATに書き込んでからDBを更新してるんだったw

まあ、タイムアウト時間は短い設定みたいだし、DBで重くなってタイムアウトするとsubjectが更新されなくなっちゃうんだけどね
92 :以下、名無しにかわりましてVIPサービスがお送りします [sage]:2008/08/19(火) 12:36:12.55 ID:2Cd/eA.o
DB書き込みのタイミングなんていつでもいいので更新の後でもいいんですけど
それでまた不具合でたらいやだなぁ。。。
93 :以下、名無しにかわりましてVIPサービスがお送りします :2008/08/19(火) 13:14:57.32 ID:0STh.PEo
>>89
そですね、bbs.cgi側でタイムアウト処理ができてなみたいで、先日の回線トラブルで一時的にDBへの登録んところをコメントアウトしています。
本日受電設備メンテナンスの為、一時的にまたコメントアウトしてます。
17:00前後にメンテナンスが終わる予定ですのでDB検索系を再開するよていです

94 :荒巻@中の人 :2008/08/19(火) 13:15:08.08 ID:???
お、コテ忘れ。
95 :以下、名無しにかわりましてVIPサービスがお送りします [sage]:2008/08/19(火) 13:28:08.86 ID:2Cd/eA.o
ごめんね!なんかごめんね!
96 :出来杉3.0 :2008/08/19(火) 13:47:09.11 ID:???
>>93
なるほど把握w


ところで、bbs.cgiでrequireしてるDBスクリプトって、スレのレス数を渡す必要はあるんでしょうか?
他はグローバル変数から取ってるみたいだから置いといて、そこがsubject.txt更新スクリプトの処理と重複して無駄かなーと
スレのレス数が必要なら、理由を教えてもらえれば何か代替案も思いつくかもしれません
(ちなみにsubject更新スクリプトでレス数を見てるのは、主にbbs.cgi側の処理を減らすためですかね)
97 :荒巻@中の人 :2008/08/19(火) 13:55:55.47 ID:???
どもども
jabber入れますかー?

例のスクリプト送付したいと思いますので。
98 :出来杉3.0 :2008/08/19(火) 17:24:32.06 ID:???
Jabberとメールでsubject更新スクリプトを送ってみたw
99 :出来杉3.0 :2008/08/19(火) 17:58:41.80 ID:???
subjectをぶっこわれないようにするために、現在このサーバをごにょごにょしています

今、Perlのmake時に、ithreadsが無効になっていた問題にぶつかってます^^;
100 :出来杉3.0 [sage]:2008/08/19(火) 18:26:39.44 ID:???
とりあえず、シングルスレッド化して対応
試しに実験板のsubjectを更新してみた
101 :出来杉3.0 [スレチな気がするけど、あそこに書くと流れそうw]:2008/08/20(水) 17:31:53.57 ID:???
subject更新スクリプトについて
・更新間隔
 22:00-01:59は5秒、それ以外は10秒
 言われたとおりに弄りましたとさw
・使用板
 index.htmlを書き込み時に静的生産しない板のみです(パー速とかA雑とか)
・デーモン化について
 rc.dのスクリプトはなんだか起動しかできないので、stopやrestartは手動でプロセスIDを確認してkillしてください
・スクリプトの終了時
 キューが残っていても無視して終了しちゃいます、運が悪いと書き込み中に終了しちゃうかも
 先にApacheだけ手動終了させるとか、起動時にsubjectを確認、必要に応じて復帰するなりしてください

それと、Perlの更新時に「-Dusethreads」を有効化しといてくださいおながいします
102 :出来杉3.0 [sage]:2008/08/20(水) 17:38:54.55 ID:???
あ、DBのコメントアウトも外しときました
103 :!kab- [sage]:2008/08/21(木) 12:53:48.06 ID:OExur56P
>>101
あっちに書いてくれんと分からんぜよ・・・

まだ調子わるいですけど・・・(汗
104 :出来杉3.0 [detectiveで503キターorz]:2008/08/21(木) 14:07:42.70 ID:???
>>103
まあ、中の人への連絡用なのでw

一応、↓の時点では直したつもりですが…まだ調子悪いですか?
http://ex14.vip2ch.com/test/read.cgi/operate/1152262275/381
105 :ミーフォ茜 [sage]:2008/08/28(木) 21:12:02.30 ID:???
現在DBへの接続へ失敗しているわけですが

・ローカルやリモートからのmysqlコマンドでの接続
→too many connections

・コンパネからの各画面
→エラー、error 28

とりあえずerror 28についてはdfで容量を覗いてみたところ
/varが100%食ってて、mysqlのディレクトリが/var/db/mysqlなんでDBのファイルが容量食いつぶした予感。
エラーログにも 誰か空きスペース作ってよ〜 的なことが書いてあるからたぶん原因はそれかなと

どうしましょう?別スペースにまるごとコピーしてシンボリックリンクでも張ります?
(DBはあまり詳しくない)
106 :荒巻@中の人 :2008/08/29(金) 07:51:58.34 ID:???
対処おまかせしますー
ちょっとそっちのほうにさわれる時間がないかもです
107 :ミーフォ茜 [sage]:2008/08/29(金) 15:51:21.74 ID:???
把握しますた

バイナリログをいくつかお掃除、その後壊れていたaaとpart4vipテーブルを修復しますた
多分これで動くはず
108 :荒巻@中の人 :2008/08/29(金) 21:51:05.11 ID:???
>>107
作業おつかれさまでした.
無事動いているみたいです.

>>101
最近攻撃が酷くなっているようで,強制リブートで一旦鯖落としたところSubject作成用のデーモンが立ち上がってきませんでした.
ヘタにいじるとあれなので一応バージョン落としてデーモン使わないbbs.cgi使ってます.
このレスを見たら元のバージョンに戻して,デーモンを立ち上げておいていただければ助かります.
また起動時に自動的に立ち上がるようにしておいてくださいです.


んー最近本当にレベルの低い書き込み荒らしが多い気が...
暇な人,多いんですね.
109 :!kab- [sage]:2008/08/29(金) 22:59:57.12 ID:BepZ1XUP
>>108
攻撃ってのを詳しくww

良くも悪くも知名度アップでしょうな・・・
パー速以外の負荷はどうなんでしょうか。一括でしか管理してない・・・?
110 :出来杉3.0 :2008/08/30(土) 17:30:14.93 ID:???
>>108
ナッナンダッテー!!
自動起動にしたはずだったんだけどなぁ…
とりあえず起動&簡易チェックしてきます
111 :出来杉3.0 :2008/08/30(土) 18:50:04.09 ID:???
どうにか復帰したはず^^;

自動起動しなかった件ですが、結局わかりませんでした
suできず、実験環境も無いので実験することもできません
一応、回避策として手動起動方法をホームのピーに書いておきました

# もしかしたらrc.dのスクリプトをホームにあるのと置き換えたら起動したりして
# ただし動作完全無保証なので、もしも試すときは覚悟してねw
112 :出来杉3.0 [read.cgiが500キターorz]:2008/08/30(土) 19:06:14.19 ID:???
念のため、パー速とA雑のsubjectを更新しときました
113 :!kab- [sage 専ブラ告知をもっとしたらどうだろうか]:2008/08/30(土) 19:35:03.93 ID:Y0NgufUP
お疲れー
114 :出来杉3.0 :2008/09/01(月) 15:33:22.46 ID:???
そういえば、削除やゴミ箱飛ばしは弄ってなかったっけw

>>113
^^ノ
115 :出来杉3.0 :2008/09/16(火) 17:41:23.74 ID:???
スレタイ検索専用のスクリプトを作ろうかな

# とその前に開発サーバを用意しないといけないんだった^^;
116 :荒巻@中の人 :2008/09/17(水) 23:33:26.37 ID:???
どもです。
ちょっと変な思い付きをしてしまったので検索担当された方と会話しましたー。
ということでログ張っておきますね
117 :荒巻@中の人 :2008/09/17(水) 23:33:54.30 ID:???
VIPService(外出先) の発言:
どもっす
リンPすけ の発言:
はい
VIPService(外出先) の発言:
現在検索システムは現行スレのみが対象ですが
VIPService(外出先) の発言:
別に過去ログ用のDB鯖用意してやれば
VIPService(外出先) の発言:
過去ログ検索って可能ですかね
リンPすけ の発言:
SQL一個でデータ移動は不可です
リンPすけ の発言:
コピ^− → 削除
リンPすけ の発言:
ってしないと移動にならないので鯖の負荷もかかりますが、できるといえばできそうですよ」
VIPService(外出先) の発言:
今はDBからの削除はHTML化の段階で行われるわけですよね
VIPService(外出先) の発言:
そのあたりの処理の時にちゃちゃっと過去ログDB鯖にコピーしてやって

VIPService(外出先) の発言:
過去ログはその方に蓄積 → 別途検索 みたいな
118 :荒巻@中の人 :2008/09/17(水) 23:36:55.48 ID:???
リンPすけ の発言:
なるほど
リンPすけ の発言:
HTML化だけだとDBパンクしちゃうので

#1000行っても依頼しないスレの方が多い
リンPすけ の発言:
削除処理全部に移動処理入れる感じですね
VIPService(外出先) の発言:
んー 今は 何かしらの管理メンバによるr***.cgiの操作によってDBからLiveじゃないと判断されて消されてるんですよね?
リンPすけ の発言:
root.cgiじゃなくて茜さんのcronと、
リンPすけ の発言:
あと、めんどくせーやってんで 1000 行ったスレのデータを10スレ分ずつ半自動削除してます
VIPService(外出先) の発言:
手動で消してるんですか?
リンPすけ の発言:
cronだけだと上手く消えてくれないみたいなんですよね
リンPすけ の発言:
しょうがないので、ワンボタンで全自動洗濯機回す感じで
VIPService(外出先) の発言:
CRONが回らないだけで、定期的にスクリプトを立ち上げて清掃していると。
リンPすけ の発言:
です
119 :荒巻@中の人 :2008/09/17(水) 23:41:18.05 ID:???
リンPすけ の発言:
ほっとくと携帯からタイムアウトになってしまうので
VIPService(外出先) の発言:
HTML化のときにs**p***elog.plからDBにHTML化するスレ番号を持つデータを削除ー  とかは無理なんすかね
VIPService(外出先) の発言:
そっちのほうが効率いいような気がするんですが。
リンPすけ の発言:
HTML化のときに削除のやつはテスト環境が無いって言うのが一番のネックです
VIPService(外出先) の発言:
確かにww
VIPService(外出先) の発言:
私はいつも500覚悟で直接触ってますからね・・・
リンPすけ の発言:
あーだこーだとファイルやり取りするのもあれですからww
リンPすけ の発言:
一応関数だけ入れとくので
リンPすけ の発言:
そちらで設置 ならなんとかww
VIPService(外出先) の発言:
んー
VIPService(外出先) の発言:
今の方法で動いてらっさるようでしたらそれでww
VIPService(外出先) の発言:
CRONはちょっと直しておいたほうがいいかもですね
リンPすけ の発言:
とりあえず酒飲みにも聞かないとSQL分かんないので・・・
VIPService(外出先) の発言:
人間が不定期にやってもらうよりはCRONでちゃっちゃとやっちゃったほうがそのあたりは合理的だと思うので
VIPService(外出先) の発言:
急ぎではないのでマターり解決しておいてくださいー
120 :荒巻@中の人 :2008/09/17(水) 23:45:36.89 ID:???
リンPすけ の発言:
cronからの処理だと一度にかかる負荷が懸念的なww
VIPService(外出先) の発言:
CRONはDB鯖でまわしてるんですよね
リンPすけ の発言:
HTML化でも削除やっといたほうが分散できるかなーとは思います
VIPService(外出先) の発言:
あー
VIPService(外出先) の発言:
さくらのほうで回ってるのか
リンPすけ の発言:
ex14ってことですか
VIPService(外出先) の発言:
/usr/local/bin/php /home/******/***/detective_project/delete_1000_over.php > /dev/null 2>&1
VIPService(外出先) の発言:
これかな
VIPService(外出先) の発言:
ミーフォさんが追記してるぶん  っぽいんだけど
VIPService(外出先) の発言:
そのあたりどうなってるんだろ
121 :荒巻@中の人 :2008/09/17(水) 23:46:09.34 ID:???
ミーフォ茜 の発言:
ちょっと死んでました
VIPService(外出先) の発言:
こんばんはー
ミーフォ茜 の発言:
こんばんはです
リンPすけ の発言:
こんばんはです
ミーフォ茜 の発言:
cronで回してるphpはDB鯖に移したほうがいいですかね
VIPService(外出先) の発言:
動いているのであれば問題ないですよー
VIPService(外出先) の発言:
d**2は確かPHP入ってなかったと思うし。
ミーフォ茜 の発言:
はいってないですね
ミーフォ茜 の発言:
まあ/bin/shで(ry
VIPService(外出先) の発言:
既存スクリプト使いまわす場合PHPなのでメンドーかなーと
VIPService(外出先) の発言:
動いていない というのが解決すべき問題なのでそれさえどうにかなればww
ミーフォ茜 の発言:
今のだとover 1000をSearch & Destroyする方法が微妙だったり
VIPService(外出先) の発言:
HTML化時にごにょごにょ がベストっすかね
ミーフォ茜 の発言:
それのほうが効率がよさそうです
122 :荒巻@中の人 :2008/09/17(水) 23:46:48.51 ID:???
VIPService(外出先) の発言:
d**3 的な鯖を作ってやったとして

HTML化(s**p***log.plが担当)の際にd**2のLiveなデータをd**3にコピー、そしてd**2からは削除
どさくさにまぎれてついでにFTP的なものでDATも転送しておく → d**3はDBで過去ログ検索+DATも保持(HTTPDで公開)

VIPService(外出先) の発言:
こんなことできないですかね
ミーフォ茜 の発言:
DATの転送がネックですね
VIPService(外出先) の発言:
FTPD立ち上げておけばどうにかならないですか?
Perlで転送してやればー。。
ミーフォ茜 の発言:
Net::FTPなのかー
VIPService(外出先) の発言:
使い物になるかはやったことないっすけど。
VIPService(外出先) の発言:
それだと後に板を鯖ごとに分けたりとかex14のクラッシュでもd**3にログが残るので便利かなーと
VIPService(外出先) の発言:
あとは過去ログの参照が気軽にできるかなとか。
read.cgiのポップアップでレス単位の過去ログをXMLで拾ってこれたりとかー
123 :荒巻@中の人 :2008/09/17(水) 23:47:01.43 ID:???
ミーフォ茜 の発言:
DBのみに保存しておいてdatにリクエストがあったときにdatを生成してファイル数削減を(ry
VIPService(外出先) の発言:
DBはなんとなくあてにならん気がするのです
VIPService(外出先) の発言:
ただそれだけだけどww
リンPすけ の発言:
wwwwww
VIPService(外出先) の発言:
専用ブラウザからの旧DATへの呼び出しとかの問題の解決とか結構面倒になるかもしれないしね
VIPService(外出先) の発言:
専用ブラウザは気を利かせてうちだけ過去ログサーバーにDAT読みに行ってくれないだろうし
VIPService(外出先) の発言:
そのあたりをどうするか。。。。 どうしようww
ミーフォ茜 の発言:
つ[Redirect]
つ[mod_rewrite]
VIPService(外出先) の発言:
それやるとね すんごい重たくなる(希ガスる
VIPService(外出先) の発言:
というか
VIPService(外出先) の発言:
Redirectするとあれ
VIPService(外出先) の発言:
拾ってくれない たしか
VIPService(外出先) の発言:
だからHTTPDがこっそりと内部的にPHPにリクエスト渡して、d**3からDAT拾ってきてあたかもex14においてあるかのように振舞わなければならない
VIPService(外出先) の発言:
ということでそれが負担にならないか心配なのです。
124 :荒巻@中の人 :2008/09/17(水) 23:47:09.52 ID:???
ミーフォ茜 の発言:
mod_rewriteでPオプションを使えばできそうだけどex14への負荷は取得する分かかりますね
VIPService(外出先) の発言:
readcgiとmreadの変更も必要だし
VIPService(外出先) の発言:
とりあえずはd**3に過去ログを蓄積していく ってのがやってみようかなーっていうことなので
VIPService(外出先) の発言:
そのあたりをどうやったら一番スマートに出来そうかを考えておいてもらえればなーと 
そんな感じです
VIPService(外出先) の発言:
CRONのほうはDBが膨らんでなんか重たくなってるみたいなので速めに解決しておいてもらえればなーと
VIPService(外出先) の発言:
そのあたりのご連絡っす
ミーフォ茜 の発言:
了解です
リンPすけ の発言:
アイサー
VIPService(外出先) の発言:
必要な権限とかソースがあれば言って頂ければ随時。
実験用の鯖とかd**3ほしい っていうときは一台ml115買っておいたので例の場所に設置しておきます
VIPService(外出先) の発言:
ということで。
以上のログを出来杉な方諸々に把握してもらうために掲示板にコピペしておいておkでしょうか
ミーフォ茜 の発言:
okですー
リンPすけ の発言:
はいな
125 :出来杉3.0 :2008/09/18(木) 15:20:44.51 ID:???
ではとりあえずツッコミをw


> どさくさにまぎれてついでにFTP的なものでDATも転送しておく → d**3はDBで過去ログ検索+DATも保持(HTTPDで公開)

ex14からd**3にDATを転送と言うことですかね?
そうだとしたらHTML化処理中にDATを送ると、HTML化にますます時間がかかっちゃいますね

なので「HTML化のバックグラウンド化」または「HTML化処理ではpingのみを送り、d**3がex14のhttpdか何かに取りにいく」のがいいかと

個人的には後者の方がex14とd**3をトラブル時に切り離しやすく、リカバリもしやすいんじゃないかと思います (実装のしやすさは別として)


> read.cgiのポップアップでレス単位の過去ログをXMLで拾ってこれたりとかー

前から思ってるんだけど、XML使うと転送量増えそうだよね、うん^^;
(まあこれは今すぐ考える必要はないだろうけど)


> だからHTTPDがこっそりと内部的にPHPにリクエスト渡して、d**3からDAT拾ってきてあたかもex14においてあるかのように振舞わなければならない
> ということでそれが負担にならないか心配なのです。

まあphp使うかは別として、なるべくex14に残しておいた方がいいでしょうね

後は前話した過去ログのHTMLとDATの二重保存をやめるかどうするか、やめるとしてHTML化した人や日時をどう保存するかとかも一緒に考えておくと後で面倒なことにならないかも
126 :ミーフォ茜 [sage]:2008/09/19(金) 00:52:53.12 ID:???
とりあえずphpで動かしてた1000オーバーのSearch & Destroyをはずして
シェルスクリプトとsqlファイルに変えてDB鯖のcronにぶちこんどきました
127 :萃香@飲酒係 :2008/10/09(木) 20:33:54.44 ID:???
>>105と同じ状況になってました
/var/db/mysqlを/usr/db/mysqlにコピってシンボリックリンクを張りました

A雑とA独のテーブルが破損していたため修復しました
128 :ミーフォ茜 [sage]:2008/10/12(日) 00:09:37.34 ID:???
503の多さをどう修正しよう
検索結果のキャッシュ化でもしましょうかね?
129 :ミーフォ茜 [sage]:2008/10/12(日) 11:06:05.58 ID:???
DBへの書き込みが2008/10/10(金) 03:52:12.71で止まってるにおい
先日のDB鯖停止と関係ありそうかな

bbs.cgiのほうでDBに処理を投げる前にpingで生存確認するとかはできないんですかね?
163.99 KB Speed:0   VIP Service VIPサービス運用情報 更新 専用ブラウザ 検索 全部 前100 次100 最新50 続きを読む
名前: E-mail(省略可)

256ビットSSL暗号化送信っぽいです 最大8000バイト 最大95行
画像アップロードに対応中!(http://fsmから始まるひらめアップローダからの画像URLがサムネイルで表示されるようになります)


スポンサードリンク


Check このエントリーをはてなブックマークに追加 Tweet

荒巻@中の人 ★ VIP(Powered By VIP Service) read.cgi ver 2013/10/12 prev 2011/01/08 (Base By http://www.toshinari.net/ @Thanks!)
respop.js ver 01.0.4.0 2010/02/10 (by fla@Thanks!)