Sto avendo un problema con un determinato individuo che continua a grattare il mio sito in modo aggressivo; spreco di larghezza di banda e risorse della CPU. Ho già implementato un sistema che codifica i log di accesso al mio server Web, aggiunge ogni nuovo IP a un database, tiene traccia del numero di richieste fatte da quell'IP e quindi, se lo stesso IP supera una determinata soglia di richieste all'interno un certo periodo di tempo, viene bloccato tramite iptables. Può sembrare elaborato, ma per quanto ne so, non esiste una soluzione preconfigurata progettata per limitare un determinato IP a una determinata quantità di larghezza di banda / richieste.
Funziona bene per la maggior parte dei crawler, ma un individuo estremamente persistente sta ottenendo un nuovo IP dal suo pool ISP ogni volta che viene bloccato. Vorrei bloccare completamente l'ISP, ma non so come procedere.
Facendo un whois su alcuni IP di esempio, posso vedere che condividono tutti lo stesso "netname", "mnt-by" e "origin / AS". Esiste un modo per interrogare il database ARIN / RIPE per tutte le sottoreti usando lo stesso mnt-by / AS / netname? In caso contrario, in quale altro modo è possibile ottenere tutti gli IP appartenenti a questo ISP?
Grazie.