Re: Забанить поисковики

Alexey Kovyrin alexey at kovyrin.net
Tue Jan 8 05:51:22 MSK 2008


У нас вот такое вот используется:

  @@invalid_ua = [
    /google/i,
    /yahoo/i,
    /slurp/i,
    /msn.*bot/i,
    /bot/i,
    /detectURL/i,
    /AcadiaUniversityWebCensusClient/i,
    /Accoona/i,
    /Apexoo/i,
    /appie/i,
    /crawler/i,
    /spider/i,
    /Bigsearch/i,
    /Blaiz\-Bee/i,
    /BlogBridge/i,
    /Bloglines/i,
    /Drupal/i,
    /Teoma/i,
    /inktomi/i,
    /Infoseek/i,
    /Scooter/i,
    /Lycos/i,
    /alexa/i,
    /findlinks/i,
    /Alltheweb/i,
    /Exalead/i,
    /Xenu/i,
    /curl/i,
    /wget/i
  ]

Еще есть список ипов поисковых ботов.

On Jan 7, 2008 7:10 PM, Nick S. Knutov <mail at knutov.com> wrote:
>
> Хочу полностью избавить несколько server {} от поисковиков. У
> кого-нибудь есть готовые строчки с регекспами? Поделитесь пожалуйста,
> буду очень признателен.

-- 
Alexey Kovyrin
http://kovyrin.info/


More information about the nginx-ru mailing list