注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

红烧鱼

linux & windows management

 
 
 

日志

 
 
关于我
mac

专注IT基础架构设计与运维。 欢迎给我留言,或邮件沟通zjwsk@163.com

网易考拉推荐

Linux按行读取文件  

2012-12-18 09:40:21|  分类: Linux |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |

#!/bin/bash
FILE="$1"   # 这里可直接定义文件的路径,或者按照本文的方式,在执行脚本时给出文件路径;
cat $FILE | while read LINE
 do
 # keyin your command, like this.
 /usr/local/pureftpd/bin/pure-pw usermod ${LINE} -r 10.245.230.40,10.139.8.119
done



----------------------
参考了下 1

#!/bin/bash
n=1
while ((n<=$(cat readline|wc -l)))
do
    array=$(cat readline| sed -n "${n} p"|awk '{print $1}')
    echo $array
    array2=$(cat readline| sed -n "${n} p"|awk '{print $2}')
    echo $array2
    ((n+=1))
done


#按行读取文件
#定义变量接受文件名称
FILE=""
#判断文件是否存在
if [ "$1" == "" ]; then
     FILE="/dev/stdin"
else
     FILE="$1"
#判断文件是否可读
     if [ ! -f $FILE ]; then
      echo "$FILE : does not exists"
      exit 1
     elif [ ! -r $FILE ]; then
          echo "$FILE: can not read"
          exit 2
    fi
fi


#按行读取文件并将值赋给变量
cat $FILE | while read LINE
 do
  RES=`cat  icv_access_log.2012-09-03.txt  |grep $LINE |awk '{print $4}'|sort|uniq -c |sort -nr|head -1`
  WD=${RES}" "${LINE}
  echo $WD >>result.txt
  echo $WD
done
                        

你要把每行取出来分别赋给一个变量的话,用sed 或 head 即可。
a=`sed -n '1p' ./data/1/statusl.txt`
b=`sed -n '2p' ./data/1/statusl.txt`
或者
a=`head -n 1 ./data/1/statusl.txt`
b=`head -n 2 ./data/1/statusl.txt`



参考了下 2

  在linux中有很多方法逐行读取一个文件的方法,其中最常用的就是下面的脚本里的方法,而且是效率最高,使用最多的方法。为了给大家一个直观的感受,我们将通过生成一个大的文件的方式来检验各种方法的执行效率。


方法1:while循环中执行效率最高,最常用的方法。
 
function while_read_LINE_bottm(){
 While read LINE
 do
echo $LINE
done   < $FILENAME
}
 
         注释:我习惯把这种方式叫做read釜底抽薪,因为这种方式在结束的时候需要执行文件,就好像是执行完的时候再把文件读进去一样。
 
方法2 : 重定向法;管道法: cat $FILENAME | while read LINE
 
Function While_read_LINE(){
 cat $FILENAME | while read LINE
 do
echo $LINE
done
}
          注释:我只所有把这种方式叫做管道法,相比大家应该可以看出来了吧。当遇见管道的时候管道左边的命令的输出会作为管道右边命令的输入然后被输入出来。
 
方法3: 文件描述符法
 
Function while_read_line_fd(){
Exec 3<&0
Exec 0<$FILENAME
While read LINE
Do
 Echo $LINE
 Exec 0<&<3
}
 
         注释: 这种方法分2步骤,第一,通过将所有内容重定向到文件描述符3来关闭文件描述符0.为此我们用了语法Exec 3<&0 。第二部将输入文件放送到文件描述符0,即标准输入。
 
方法4    for  循环。
 
function  for_in_file(){
For  i  in  `cat $FILENAME`
do
echo $i
done
}
           注释:这种方式是通过for循环的方式来读取文件的内容相比大家很熟悉了,这里不多说。
 
 
     对各个方法进行测试,看那方法的执行效率最高。
 
           首先我们用脚本(脚本见附件)生成一个70000行的文件,文件位置在/scripts/bigfile。然后通过下面的脚本来测试各个方法的执行效率,脚本很简单,不再解释。
 
#!/bin/bash
FILENAME="$1"
TIMEFILE="/tmp/loopfile.out" > $TIMEFILE
SCRIPT=$(basename $0)
 
function usage(){
echo -e "\nUSAGE: $SCRIPT file \n"
 
exit 1
}
 
function while_read_bottm(){
 
while read LINE
do
echo $LINE
 
done < $FILENAME
 
}
 
function while_read_line(){
 
cat $FILENAME | while read LINE
do
echo $LINE
done
 
}
 
 function while_read_line_fd(){
 
exec 3<&0
exec 0< $FILENAME
while read LINE
do
 echo $LINE
done
 exec 0<&3
}
 
function for_in_file(){
for i in   `cat $FILENAME`
do
echo $i
done
}
 
if [ $# -lt 1 ] ; then
usage
fi
 echo -e " \n starting file processing of each method\n"
 echo -e "method 1:"
 echo -e "function while_read_bottm"
 time while_read_bottm >> $TIMEFILE
 
echo -e "\n"
 
echo -e "method 2:"
echo -e "function while_read_line "
time while_read_line >> $TIMEFILE
 
echo -e "\n"
echo -e "method 3:"
echo "function while_read_line_fd"
time while_read_line_fd >>$TIMEFILE
 
echo -e "\n"
echo -e "method 4:"
echo -e "function   for_in_file"
time   for_in_file >> $TIMEFILE
 
     执行脚本后: [root@localhost shell]# ./while /scripts/bigfile
脚本输出内容:
method 1:
function while_read_bottm
 
real    0m5.689s
user    0m3.399s
sys     0m1.588s
 
 
method 2:
function while_read_line
 
real    0m11.612s
user    0m4.031s
sys     0m4.956s
 
 
method 3:
function while_read_line_fd
 
real    0m5.853s
user    0m3.536s
sys     0m1.469s
 
 
method 4:
function   for_in_file
 
real    0m5.153s
user    0m3.335s
sys     0m1.593s
 
 
下面我们对各个方法按照速度进行排序。
real    0m5.153s    method 4 (for 循环法)
real    0m5.689s    method 1   (while 釜底抽薪法)
real    0m5.853s    method 3    (标识符法)
real    0m11.612s   method 2     (管道法)
 
 由此可见在各个方法中,for语句效率最高,而在while循环中读写文件时,
while read LINE
do
echo $LINE
 
done < $FILENAME
方式执行效率最高。面的内容:
  评论这张
 
阅读(865)| 评论(0)
推荐 转载

历史上的今天

在LOFTER的更多文章

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017