調査

目的

大量検索する際のI/O負荷の分散

実験

5件ずつ検索してみた

検索クエリ

curl 'http://localhost:8983/solr/uc/select?indent=on&q=:&sort=id%20desc&wt=json&rows=5&cursorMark=*'

二回目以降はcursorMarkにnextCursorMarkの値を入れる 結果はsmallに入れておく

1000件ずつ検索してみた

結構な速度感で取得できている気がする

結論

10000件だと取得はちょっと時間がかかるので,1000件を刻んでいく感じで行きたい

適当にScriptを組んでみる

1000件ずつぶん投げていく

検索エンジンのメモリは24g

結果

qtime: 55778 elapsed_time:69.0891661643982[sec]

速い気がする

全件を一気に検索して何秒か確かめてみる

1596 elapsed_time:13.586029767990112[sec]

負けた

二回め

0 elapsed_time:12.383924961090088[sec]