まとまりのないブログ

something which something is something

Tips

BaiduspiderとNHN Corpのクローラーを禁止

投稿日:

Baiduspiderという中国のクローラーと、ipアドレス61.247.222.*からはじまるYetiという韓国のクローラーの巡回を禁止するためにrobots.txtファイルを作成する。あまりにも負荷が酷いので。robots.txtというテキストファイルに下記内容を記述してサイトのルートへ保存した。効くといいんだが・・・。

User-agent: Yetibot
Disallow: /

iuser-agent: Baiduspider+
disallow: /

user-agent: BaiduImagespider
disallow: /

-Tips

執筆者:


comment

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

日本語が含まれない投稿は無視されますのでご注意ください。(スパム対策)

関連記事

no image

jdbc はこのコンテキストにバインドされていません

java.lang.Exception: failure:名前 jdbc はこのコンテキストにバインドされていません JAVA/Tomcatでまたこのエラーが発生した。Tomcatとmysqlを接続す …

no image

サーバーを監視するサーバーを立てることをダラダラ考えてみる

今現在のところ私はサーバーを複数台稼働させているのだけれど、数が増えてくると手間がかかるため一台一台順調に動いているかどうかチェックするのが煩わしくなってくる。そこで、その問題を解消するために、サーバ …

no image

reportviewer はデータソースが複数あるとわけがわからない状態になる

visual studioのreportviewer コントロールの設定で嵌ってしまったので備忘。reportviwerコントロールをフォーム上に配置したらレポートの設定をするためにrdlcという拡張 …

no image

UITableviewのCellに設定したUITextFieldが画面外にスクロールすると内容が消える件

UITableViewCellにコードでUITextFieldをaddSubviewしたとき、例えばテキストフィールドが複数行あってスクロールしたときに画面外に消えて、再表示したら入力したはずの値が消 …

no image

E: https://packages.cloud.google.com/apt/dists/kubernetes-xenial/main/binary-armhf/by-hash/SHA256/f840280436b5a28e352a584ead923e2554ddb4156b458f1205534af1f9db56d9 の取得に失敗しまし た

raspberry pi3にkubernetesを公式の通りにインストールしようとしたら下記エラーが出た。 E: https://packages.cloud.google.com/apt/dists …