Come ha detto @MartinSmith se si aggiorna mai a SQL 2008, un indice filtrato sarebbe la soluzione perfetta. Tuttavia, nel frattempo, come caso generale, QUALUNQUE indice aggiunto aumenterà il tempo di caricamento. Piccoli indici meno di quelli grandi.
Una cosa che vorrei guardare è se hai un indice esistente che può essere modificato. Supponendo che le tue query esistenti stiano utilizzando un determinato indice, quindi l'aggiunta della colonna di bit alla fine di tale indice dovrebbe avere un effetto minimo sugli inserti e l'effetto positivo che stai cercando sulle tue query.
La prossima cosa da guardare è "Ho già molti indici?" Non esiste una regola rigida e veloce su ciò che è "molto", ma di solito vado in base a una regola di 10 indici che è il limite a meno che non abbia VERAMENTE bisogno di uno nuovo.
Ultimo pensiero, testalo su un'istanza di test. Imposta una tabella con alcuni milioni di righe, esegui il carico su di esso, aggiungi il tuo indice quindi esegui nuovamente il carico e vedi se noti un aumento significativo del tempo di caricamento.
Solo tu puoi veramente decidere cosa sia "significativo". Ho macchine in cui l'aggiunta di 5 minuti al tempo di caricamento è "significativa" e altre in cui ho potuto vedere aumentare di un paio d'ore in sicurezza.
MODIFICARE:
Un'altra opzione è quella di partizionare la tabella. Potrebbe non essere necessario utilizzare una vista partizionata se non si utilizza l'edizione Enterprise ma anche in questo caso dovrebbe essere di aiuto. Metti i tuoi bit 0 in una partizione e i bit 1 in un'altra. Supponendo che tu stia inserendo solo una versione o l'altra, potresti persino accelerare gli inserti.