Come eseguire un grep multilinea


15

Come eseguiresti un grep per il testo che appare su due righe?

Per esempio:

pbsnodes è un comando che uso che restituisce l'utilizzo di un cluster Linux

root$ pbsnodes
node1
    state = free
    procs = 2
    bar = foobar

node2
    state = free
    procs = 4
    bar = foobar

node3
    state = busy
    procs = 8
    bar = foobar

Voglio determinare il numero di proc che corrispondono ai nodi che si trovano nello stato "libero". Finora sono stato in grado di determinare il "numero di proc" e "i nodi in stato libero", ma voglio combinarli in un unico comando che mostra tutti i proc gratuiti.

Nell'esempio sopra, la risposta corretta sarebbe 6 (2 + 4).

Ciò che ho

root$ NUMBEROFNODES=`pbsnodes|grep 'state = free'|wc -l`
root$ echo $NUMBEROFNODES
2

root$ NUMBEROFPROCS=`pbsnodes |grep "procs = "|awk  '{ print $3 }' | awk '{ sum+=$1 } END { print sum }'`
root$ echo $NUMBEROFPROCS
14

Come posso cercare ogni riga che legge 'procs = x', ma solo se la riga sopra legge 'state = free?

Risposte:


12

Se i dati sono sempre in quel formato, puoi semplicemente scriverli:

awk -vRS= '$4 == "free" {n+=$7}; END {print n}'

( RS=significa che i record sono paragrafi ).

O:

awk -vRS= '/state *= *free/ && match($0, "procs *=") {
  n += substr($0,RSTART+RLENGTH)}; END {print n}'

5
$ pbsnodes
node1
    state = free
    procs = 2
    bar = foobar

node2
    state = free
    procs = 4
    bar = foobar

node3
    state = busy
    procs = 8
    bar = foobar
$ pbsnodes | grep -A 1 free
    state = free
    procs = 2
--
    state = free
    procs = 4
$ pbsnodes | grep -A 1 free | grep procs | awk '{print $3}'
2
4
$ pbsnodes | grep -A 1 free | grep procs | awk '{print $3}' | paste -sd+ 
2+4
$ pbsnodes | grep -A 1 free | grep procs | awk '{print $3}' | paste -sd+ | bc 
6

https://en.wikipedia.org/wiki/Pipeline_(Unix)


4

Ecco un modo per farlo usando pcregrep.

$ pbsnodes | pcregrep -Mo 'state = free\n\s*procs = \K\d+'
2
4

Esempio

$ pbsnodes | \
    pcregrep -Mo 'state = free\n\s*procs = \K\d+' | \
    awk '{ sum+=$1 }; END { print sum }'
6

3

Il formato di output è innescato per lo slurp di paragrafo di Perl:

pbsnodes|perl -n00le 'BEGIN{ $sum = 0 }
                 m{
                   state \s* = \s* free \s* \n 
                   procs \s* = \s* ([0-9]+)
                 }x 
                    and $sum += $1;
                 END{ print $sum }'

Nota

Questo funziona solo perché l'idea di Perl di un "paragrafo" è un blocco di linee non vuote separate da una o più linee vuote. Se non ci fossero linee vuote tra ilnode sezioni, questo non avrebbe funzionato.

Guarda anche


3

Se si dispone di dati a lunghezza fissa (lunghezza fissa riferita al numero di righe in un record), sedè possibile utilizzare il Ncomando (più volte), che unisce la riga successiva allo spazio del modello:

sed -n '/^node/{N;N;N;s/\n */;/g;p;}'

dovrebbe darti un output come:

node1;state = free;procs = 2;bar = foobar
node2;state = free;procs = 4;bar = foobar
node3;state = busy;procs = 8;bar = foobar

Per la composizione di record variabili (ad esempio con una linea di separazione vuota), è possibile utilizzare i comandi di diramazione te b, ma awkè probabile che vi porti lì in un modo più comodo.


3

L'implementazione GNU di grepinclude due argomenti per stampare anche le righe prima ( -B) e dopo ( -A) una corrispondenza. Snippet dalla pagina man:

   -A NUM, --after-context=NUM
          Print NUM lines of trailing context after matching lines.  Places a line containing  a  group  separator  (--)  between  contiguous  groups  of  matches.   With  the  -o  or
          --only-matching option, this has no effect and a warning is given.

   -B NUM, --before-context=NUM
          Print  NUM  lines  of  leading  context  before  matching  lines.   Places  a  line  containing  a group separator (--) between contiguous groups of matches.  With the -o or
          --only-matching option, this has no effect and a warning is given.

Quindi, nel tuo caso, dovresti cercare state = freee anche stampare la seguente riga. Combinando questo con gli snippet della tua domanda arriverai a qualcosa del genere:

usr@srv % pbsnodes | grep -A 1 'state = free' | grep "procs = " | awk  '{ print $3 }' | awk '{ sum+=$1 } END { print sum }'
6

e un po 'più breve:

usr@srv % pbsnodes | grep -A 1 'state = free' | awk '{ sum+=$3 } END { print sum }'
6

awkfa la corrispondenza del modello; non hai bisogno grep: vedi la risposta di Stephane
jasonwryan,

Bene, sedanche la corrispondenza dei modelli. Puoi anche usare perl, o php, o quale lingua preferisci. Ma almeno il titolo della domanda posta per grep multilinea ... ;-)
binfalse

Sì: ma visto che stavi usando awkcomunque ... :)
Jasonwryan,

0

... ed ecco una soluzione Perl:

pbsnodes | perl -lne 'if (/^\S+/) { $node = $& } elsif ( /state = free/ ) { print $node }'

0

Puoi usare il awk getlinecomando:

$ pbsnodes | awk 'BEGIN { freeprocs = 0 } \
                  $1=="state" && $3=="free" { getline; freeprocs+=$3 } \
                  END { print freeprocs }'

Da man awk :

   getline               Set $0 from next input record; set NF, NR, FNR.

   getline <file         Set $0 from next record of file; set NF.

   getline var           Set var from next input record; set NR, FNR.

   getline var <file     Set var from next record of file.

   command | getline [var]
                         Run command piping the output either into $0 or var, as above.

   command |& getline [var]
                         Run  command  as a co-process piping the output either into $0 or var, as above.  Co-processes are a
                         gawk extension.
Utilizzando il nostro sito, riconosci di aver letto e compreso le nostre Informativa sui cookie e Informativa sulla privacy.
Licensed under cc by-sa 3.0 with attribution required.