sed で連続した複数の空行を1つにまとめる
公開日:
:
最終更新日:2014/07/16
パソコン
前日の記事「 WSH で初めてのプログラミング 」で行った作業ですが、ちょっと不満があったのでやり直し。
プログラムではなく、データ自体の問題。
6000以上ある個別のテキストファイルのうちのかなりのものが重複しているのですが、改行が1つ余分に入っているだけで同じファイルとは認識されず、ほぼ同じデータが最終データに大量に混入します。
そこでまたいろいろ考えたのですが、たしか sed(ストリームエディタ)で昔やったことがあるな、と。
調べてみるとありました。
/^$/{
N
/^\n$/D
}
上の sed 用コマンドで、複数個の連続した改行(空の行)を1つに縮められます。
> sed –f commandfile < file1 >file2
の書式を使って簡単に終了。
もちろん1個1個こんなことはしておらず、DOS用のsedコマンドを使ったためバッチファイルと組み合わせて一括で処理してしまいました。
前日の結果よりも 500個近い重複ファイルが排除され、ずいぶんスリムになりました。
*
上は DOS で行ったのでめんどくさいですが、Linux なら sed も標準で装備していますし、強力なシェルスクリプトもありますので、もっと簡単。
上の sed 用コマンドを commandfile というファイルにしておいて次のようなシェルスクリプトを端末から走らせれば、テキストファイルが 6000個だろうと 6000万個だろうと一発ですんでしまいます。
#!/bin/bash
shori_files=”$(find /tmp/shorizen -name *.txt)”
for file in $shori_files
do
sed -f commandfile < $file > /temp/shorigo $file
done
###
関連記事
-
-
Linuxをすぐに使いこなす本
Linuxをすぐに使いこなす本 (100%ムックシリーズ) 晋遊舎 2012-
-
-
【ヤフオク】DELL OptiPlex 3050 到着後セットアップ
3,097円(税込)+送料 1,606円 で落札した DELL の小型デスクトップ Opti
-
-
Seagate製HDD Barracuda 2000GB(ST2000DM001)調べてみた
レグザで使っていて一昨日壊れた外付けドライブの中身のハードディスクは、Seagate製の Bar
-
-
寒いとパソコンが起きてくれません
寒くなるとパソコンの起動が遅くなったりしませんか? それは故障ではありません。 * うちのパ
-
-
さよならBフレッツ(3)
先週、自宅横の事務所のフレッツネクスト化(2回線)をすませたと書きましたが、昨日昼まで快調だった
-
-
Lubuntu 14.04 ライブ起動してみた(2)
Lubuntu としては初の LTS 版の Lubuntu 14.04の続きです。 USB メ
-
-
XOOPSでつくる!最強のコミュニティサイト
XOOPSでつくる!最強のコミュニティサイト 小川 晃夫 南大沢ブロードバンド研
-
-
アマゾンで激安商品の見つけ方
* 以前、ここにも書き、雑誌『Windows100% 2012年4月号』にも書いてありましたが
-
-
日経 Linux 2013年 09月号
日経 Linux (リナックス) 2013年 09月号 日経Linux
-
-
AI で note に投稿することが流行っているそうな
AI で note に投稿することが流行っているそうな。 note(ノート)は「だれもが創作を
- PREV
- お勧めの壁紙
- NEXT
- 電脳セッション (ハヤカワ文庫JA) / 東野 司






