Sequenziale: for i in {1..1000}; do do_something $i; done
- troppo lento
Parallelo: for i in {1..1000}; do do_something $i& done
- carico eccessivo
Come eseguire comandi in parallelo, ma non più di, ad esempio, 20 istanze al momento?
Ora di solito usando hack come for i in {1..1000}; do do_something $i& sleep 5; done
, ma questa non è una buona soluzione.
Aggiornamento 2 : conversione della risposta accettata in uno script: http://vi-server.org/vi/parallel
#!/bin/bash
NUM=$1; shift
if [ -z "$NUM" ]; then
echo "Usage: parallel <number_of_tasks> command"
echo " Sets environment variable i from 1 to number_of_tasks"
echo " Defaults to 20 processes at a time, use like \"MAKEOPTS='-j5' parallel ...\" to override."
echo "Example: parallel 100 'echo \$i; sleep \`echo \$RANDOM/6553 | bc -l\`'"
exit 1
fi
export CMD="$@";
true ${MAKEOPTS:="-j20"}
cat << EOF | make -f - -s $MAKEOPTS
PHONY=jobs
jobs=\$(shell echo {1..$NUM})
all: \${jobs}
\${jobs}:
i=\$@ sh -c "\$\$CMD"
EOF
Si noti che è necessario sostituire 8 spazi con 2 schede prima di "i =" per farlo funzionare.