Looping a través del contenido de un archivo en Bash

¿Cómo puedo iterar a través de cada línea de un archivo de texto con Bash ?

Con este script:

echo "Start!" for p in (peptides.txt) do echo "${p}" done 

Obtengo esta salida en la pantalla:

 Start! ./runPep.sh: line 3: syntax error near unexpected token `(' ./runPep.sh: line 3: `for p in (peptides.txt)' 

(Más tarde quiero hacer algo más complicado con $p que solo la salida a la pantalla).


La variable de entorno SHELL es (desde env):

 SHELL=/bin/bash 

/bin/bash --version salida:

 GNU bash, version 3.1.17(1)-release (x86_64-suse-linux-gnu) Copyright (C) 2005 Free Software Foundation, Inc. 

salida de cat /proc/version :

 Linux version 2.6.18.2-34-default (geeko@buildhost) (gcc version 4.1.2 20061115 (prerelease) (SUSE Linux)) #1 SMP Mon Nov 27 11:46:27 UTC 2006 

El archivo peptides.txt contiene:

 RKEKNVQ IPKKLLQK QYFHQLEKMNVK IPKKLLQK GDLSTALEVAIDCYEK QYFHQLEKMNVKIPENIYR RKEKNVQ VLAKHGKLQDAIN ILGFMK LEDVALQILL 

Una forma de hacerlo es:

 while read p; do echo "$p" done  

Como se señala en los comentarios, esto tiene los efectos secundarios de recortar espacios en blanco iniciales, interpretar secuencias de barra inclinada invertida y omitir la línea posterior si falta un salto de línea de terminación. Si estas son preocupaciones, puede hacer:

 while IFS="" read -rp || [ -n "$p" ] do printf '%s\n' "$p" done < peptides.txt 

Excepcionalmente, si el cuerpo del bucle puede leer desde la entrada estándar , puede abrir el archivo utilizando un descriptor de archivo diferente:

 while read -u 10 p; do ... done 10 

Aquí, 10 es solo un número arbitrario (diferente de 0, 1, 2).

 cat peptides.txt | while read line do # do something with $line here done 

Opción 1a: While loop: línea única a la vez: entrada de redirección

 #!/bin/bash filename='peptides.txt' echo Start while read p; do echo $p done < $filename 

Opción 1b: ciclo While: línea única a la vez:
Abra el archivo, lea desde un descriptor de archivo (en este caso, descriptor de archivo n. ° 4).

 #!/bin/bash filename='peptides.txt' exec 4< $filename echo Start while read -u4 p ; do echo $p done 

Opción 2: para bucle: leer el archivo en una sola variable y analizar.
Esta syntax analizará "líneas" en función de cualquier espacio en blanco entre los tokens. Esto todavía funciona porque las líneas del archivo de entrada son tokens de una sola palabra. Si hubiera más de un token por línea, este método no funcionaría. Además, leer el archivo completo en una sola variable no es una buena estrategia para archivos grandes.

 #!/bin/bash filename='peptides.txt' filelines=`cat $filename` echo Start for line in $filelines ; do echo $line done 

Esto no es mejor que otras respuestas, pero es una forma más de hacer el trabajo en un archivo sin espacios (ver comentarios). Encuentro que a menudo necesito ideas únicas para profundizar en listas en archivos de texto sin el paso adicional de usar archivos de script separados.

 for word in $(cat peptides.txt); do echo $word; done 

Este formato me permite ponerlo todo en una sola línea de comando. Cambia la parte “echo $ word” a lo que quieras y puedes emitir varios comandos separados por punto y coma. El siguiente ejemplo usa los contenidos del archivo como argumentos en otros dos scripts que puede haber escrito.

 for word in $(cat peptides.txt); do cmd_a.sh $word; cmd_b.py $word; done 

O si tiene la intención de usar esto como un editor de flujo (learn sed) puede volcar el resultado a otro archivo de la siguiente manera.

 for word in $(cat peptides.txt); do cmd_a.sh $word; cmd_b.py $word; done > outfile.txt 

Los he usado como está escrito arriba porque he usado archivos de texto donde los he creado con una palabra por línea. (Ver comentarios) Si tiene espacios que no desea dividir sus palabras / líneas, se vuelve un poco más feo, pero el mismo comando funciona de la siguiente manera:

 OLDIFS=$IFS; IFS=$'\n'; for line in $(cat peptides.txt); do cmd_a.sh $line; cmd_b.py $line; done > outfile.txt; IFS=$OLDIFS 

Esto solo le dice al shell que se divida solo en líneas nuevas, no en espacios, luego devuelve el entorno a lo que era anteriormente. En este punto, es posible que desee considerar poner todo en un script de shell en lugar de exprimirlo todo en una sola línea.

¡La mejor de las suertes!

Use un ciclo while, como este:

 while IFS= read -r line; do echo "$line" done  

Notas:

  1. Si no establece el IFS correctamente, perderá sangría.

  2. Casi siempre debes usar la opción -r con lectura.

  3. No lea líneas con for

Algunas cosas más que no están cubiertas por otras respuestas:

Lectura de un archivo delimitado

 # ':' is the delimiter here, and there are three fields on each line in the file # IFS set below is restricted to the context of `read`, it doesn't affect any other code while IFS=: read -r field1 field2 field3; do # process the fields # if the line has less than three fields, the missing fields will be set to an empty string # if the line has more than three fields, `field3` will get all the values, including the third field plus the delimiter(s) done < input.txt 

Lectura desde la salida de otro comando, usando sustitución de proceso

 while read -r line; do # process the line done < <(command ...) 

Este enfoque es mejor que el command ... | while read -r line; do ... command ... | while read -r line; do ... command ... | while read -r line; do ... porque el bucle while se ejecuta en el shell actual en lugar de en una subcadena como en el caso de este último. Ver la publicación relacionada No se recuerda una variable modificada dentro de un ciclo while .

Lectura desde una entrada delimitada nula, por ejemplo find ... -print0

 while read -r -d '' line; do # logic # use a second 'read ... < << "$line"' if we need to tokenize the line done < <(find /path/to/dir -print0) 

Relacionados con la lectura: BashFAQ / 020 - ¿Cómo puedo encontrar y manejar con seguridad nombres de archivos que contengan líneas nuevas, espacios o ambos?

Lectura de más de un archivo a la vez

 while read -u 3 -r line1 && read -u 4 -r line2; do # process the lines # note that the loop will end when we reach EOF on either of the files, because of the `&&` done 3< input1.txt 4< input2.txt 

Basado en la respuesta de @ chepner aquí :

-u es una extensión bash. Para la compatibilidad con POSIX, cada llamada se vería como read -r X < &3 .

Lectura de un archivo completo en una matriz (versiones Bash anteriores a 4)

 while read -r line; do my_array+=("$line") done < my_file 

Si el archivo finaliza con una línea incompleta (falta una nueva línea al final), entonces:

 while read -r line || [[ $line ]]; do my_array+=("$line") done < my_file 

Lectura de un archivo completo en una matriz (Bash versiones 4x y posteriores)

 readarray -t my_array < my_file 

o

 mapfile -t my_array < my_file 

Y entonces

 for line in "${my_array[@]}"; do # process the lines done 
  • Más sobre los comandos de read y readarray comandos readarray - GNU

  • Más sobre IFS - Wikipedia

  • BashFAQ / 001 - ¿Cómo puedo leer un archivo (flujo de datos, variable) línea por línea (y / o campo por campo)?

Artículos Relacionados:

  • Crear una matriz a partir de un archivo de texto en Bash
  • ¿Cuál es la diferencia entre los enfoques para leer un archivo que tiene solo una línea?

Si no desea que su lectura se rompa por el carácter de nueva línea, use –

 #!/bin/bash while IFS='' read -r line || [[ -n "$line" ]]; do echo "$line" done < "$1" 

A continuación, ejecute el script con el nombre del archivo como parámetro.

Supongamos que tiene este archivo:

 $ cat /tmp/test.txt Line 1 Line 2 has leading space Line 3 followed by blank line Line 5 (follows a blank line) and has trailing space Line 6 has no ending CR 

Hay cuatro elementos que alterarán el significado del resultado de archivo leído por muchas soluciones de Bash:

  1. La línea en blanco 4;
  2. Espacios iniciales o finales en dos líneas;
  3. Mantener el significado de las líneas individuales (es decir, cada línea es un registro);
  4. La línea 6 no termina con un CR.

Si desea que el archivo de texto línea por línea incluya líneas en blanco y líneas de terminación sin CR, debe usar un ciclo while y debe tener una prueba alternativa para la línea final.

Estos son los métodos que pueden cambiar el archivo (en comparación con lo cat devuelve el cat ):

1) Pierde la última línea y los espacios iniciales y finales:

 $ while read -rp; do printf "%s\n" "'$p'"; done  

(Si lo hace while IFS= read -rp; do printf "%s\n" "'$p'"; done en while IFS= read -rp; do printf "%s\n" "'$p'"; done lugar, conserva los espacios while IFS= read -rp; do printf "%s\n" "'$p'"; done y finales, pero aún pierde la última línea si no está terminado con CR)

2) El uso de la sustitución de proceso con cat leerá todo el archivo de un gulp y perderá el significado de las líneas individuales:

 $ for p in "$(cat /tmp/test.txt)"; do printf "%s\n" "'$p'"; done 'Line 1 Line 2 has leading space Line 3 followed by blank line Line 5 (follows a blank line) and has trailing space Line 6 has no ending CR' 

(Si elimina el " de $(cat /tmp/test.txt) , lee el archivo palabra por palabra en lugar de un solo gulp. Probablemente tampoco lo que se pretende ...)


La forma más robusta y sencilla de leer un archivo línea por línea y conservar todos los espacios es:

 $ while IFS= read -r line || [[ -n $line ]]; do printf "'%s'\n" "$line"; done  

Si desea despojar espacios líderes y comerciales, elimine la parte IFS= :

 $ while read -r line || [[ -n $line ]]; do printf "'%s'\n" "$line"; done  

(Un archivo de texto sin terminación \n , aunque es bastante común, se considera roto en POSIX. Si puede contar con el \n no finalizado, no necesita || [[ -n $line ]] en el ciclo while.)

Más en BASH FAQ

 #!/bin/bash # # Change the file name from "test" to desired input file # (The comments in bash are prefixed with #'s) for x in $(cat test.txt) do echo $x done 

Aquí está mi ejemplo de la vida real de cómo hacer un bucle en las líneas de otro resultado del progtwig, verificar las subcadenas, soltar las comillas dobles de la variable, usar esa variable fuera del ciclo. Supongo que muchos hacen estas preguntas tarde o temprano.

 ##Parse FPS from first video stream, drop quotes from fps variable ## streams.stream.0.codec_type="video" ## streams.stream.0.r_frame_rate="24000/1001" ## streams.stream.0.avg_frame_rate="24000/1001" FPS=unknown while read -r line; do if [[ $FPS == "unknown" ]] && [[ $line == *".codec_type=\"video\""* ]]; then echo ParseFPS $line FPS=parse fi if [[ $FPS == "parse" ]] && [[ $line == *".r_frame_rate="* ]]; then echo ParseFPS $line FPS=${line##*=} FPS="${FPS%\"}" FPS="${FPS#\"}" fi done < << "$(ffprobe -v quiet -print_format flat -show_format -show_streams -i "$input")" if [ "$FPS" == "unknown" ] || [ "$FPS" == "parse" ]; then echo ParseFPS Unknown frame rate fi echo Found $FPS 

Declarar la variable fuera del ciclo, establecer el valor y usarlo fuera del ciclo requiere la syntax < << "$ (...)" . La aplicación debe ejecutarse dentro de un contexto de consola actual. Las comillas alrededor del comando mantienen nuevas líneas de flujo de salida.

La coincidencia de bucle para subcadenas luego lee el par nombre = valor , divide la parte del lado derecho del último = carácter, descarta la primera cita, descarta la última cita, tenemos un valor limpio para usar en otro lugar.

@ Peter: Esto podría funcionar para usted-

 echo "Start!";for p in $(cat ./pep); do echo $p done 

Esto devolvería la salida-

 Start! RKEKNVQ IPKKLLQK QYFHQLEKMNVK IPKKLLQK GDLSTALEVAIDCYEK QYFHQLEKMNVKIPENIYR RKEKNVQ VLAKHGKLQDAIN ILGFMK LEDVALQILL