Abbiamo avuto alcuni seri problemi con il ragno (incredibilmente) mal scritto di Yahoo in passato , e di conseguenza li abbiamo bloccati. Marco Arment di Tumblr ha anche condiviso le sue frustrazioni con noi l'31 / 31/2009, che è stato un fattore nel nostro blocco.
[Il ragno di Yahoo] ci sta invadendo con 70-200 richieste / secondo dalle 5:30 EST circa. Non ho mai visto nulla di simile, nemmeno dai loro "crawler" sperimentali canaglia che ci hanno abusato in passato. Il ban robots.txt non è abbastanza: devo bloccarli tramite IP a livello di bilanciamento del carico. Da quando hanno abusato di Stack Overflow in passato, ho pensato che potresti voler sapere.
Sembra che la ricerca sul web di Yahoo sia "Powered by Bing!" adesso. Questo va bene, perché non abbiamo mai avuto problemi con il ragno di Bing (aka MSNBOT).
Quindi, la ricerca di Yahoo è la stessa della ricerca di Bing ora, o dovremmo cercare di sbloccarli potenzialmente se in qualche modo, contro ogni previsione, hanno smesso di succhiare così duramente?