Eliminar caracteres unicode de archivos de texto – sed, otros métodos bash / shell

¿Cómo elimino los caracteres Unicode de un grupo de archivos de texto en la terminal? Lo intenté pero no funcionó:

sed 'g/\u'U+200E'//' -i *.txt 

Necesito eliminar estos unicodes de los archivos de texto

 U+0091 - sort of weird "control" space U+0092 - same sort of weird "control" space A0 - non-space break U+200E - left to right mark 

Si desea eliminar SOLAMENTE caracteres particulares y tiene Python, puede:

 CHARS=$(python -c 'print u"\u0091\u0092\u00a0\u200E".encode("utf8")') sed 's/['"$CHARS"']//g' < /tmp/utf8_input.txt > /tmp/ascii_output.txt 

borrar todos los caracteres no ascii de file.txt

 $ iconv -c -f utf-8 -t ascii file.txt $ strings file.txt 

Para la encoding utf-8 de Unicode, puedes usar esta expresión regular para sed:

 sed 's/\xc2\x91\|\xc2\x92\|\xc2\xa0\|\xe2\x80\x8e//' 

Use iconv:

 iconv -f utf8 -t ascii//TRANSLIT < /tmp/utf8_input.txt > /tmp/ascii_output.txt 

Esto traducirá caracteres como “Š” en “S” (los más similares).

Convierte archivos Swift de utf-8 a ascii:

 for file in *.swift; do iconv -f utf-8 -t ascii "$file" > "$file".tmp mv -f "$file".tmp "$file" done 

La finalización automática rápida no funciona en Xcode6-Beta