crawler のニューフェイス
id:nminoru:20050119:p3 で見つけた ConveraCrawler だが、バージョンが上がって自分の所属を名乗るようになった。
準備中の検索サイトのクローラーのようだ。
ConveraCrawler/0.9d (+http://www.authoritativeweb.com/crawl)
HooWWWer/2.1.3 (debugging run) (+http://cosco.hiit.fi/search/hoowwwer/ | mailto:crawler-infohiit.fi)
Yahoo の検索サイトのクローラーの新バージョン?
YahooSeeker-Testing/v3.9 (compatible; Mozilla 4.0; MSIE 5.5; http://search.yahoo.com/)
リンク先に「aipbot は robots.txt を守ります。指定方法はカクカクシカジカ」という説明があるが、aipbot 自体が何なのかは不明。
aipbot/1.0 (aipbot; http://www.aipbot.com; aipbot@aipbot.com)
Java で書かれた Web クローラー messor。
messor.redants.net/3.0 (+http://messor.redants.net/; mailto:messor@redants.net)