Erlang实战建立文本索引

为文本建立索引是文本信息处理的一个重要的任务，给定一个由英文单词构成的文件，为文件中所有单词建立索引，记录每个单词出现的行号和每行出现的次数，并将索引存入一个文件。在Erlang实战练习（六）中我强调了当时建立文本索引的时候太粗糙，一是使用了尽量规避的进程字典的方式；二是分词使用的是正则表达式，不够灵活。本文将改进我以前建立文本索引的方式，使用ETS来存储单词及其索引列表，同时拆分词使用Erlang提供的string：token模块，更加灵活和可移植性。

word_index.erl文件的总体结构如下：

 
 
 
    
  
  
  
  1. -module(word_index).   
    2. 
  
  
  
  2. -export([start/2]).   
    3. 
  
  
  
  3. -import(re, [run/2,replace/4]).   
    4. 
  
  
  
  4. -import(string,[substr/3]).  
    5. 
  
  
  
  5. %% start两个参数：FileIn表示要建立索引的文本文件，FileOut表示索引保存的目标文件start(FileIn,FileOut) -> 
    6. 
  
  
  
  6.     {_First,Second} = file:open(FileIn,read),%% 只读打开FileIn文件　　　
    7. 
  
  
  
  7. if
    8. 
  
  
  
  8.         _First =:= ok -> 
    9. 
  
  
  
  9.             LineList = readFile(Second,0),%% 函数readFile/2的功能是将文本以行为单位，存入列表         　　　　　　　
    10. 
  
  
  
  10. %io:format("~nfile contents:~p~n",[LineList]), 
    11. 
  
  
  
  11.             TableID = ets:new(index,[ordered_set]),%% ets:new创建一个“键值”搜索表，
    12. 
  
  
  
  12. 存储键值映射元祖，设置表名为index,表的类型为ordered_set         　　　　　　　
    13. 
  
  
  
  13. index(FileOut,LineList,TableID);%% 为文本中的每一行建立单词索引       　　　　　　　
    14. 
  
  
  
  14. _First =/= ok -> 
    15. 
  
  
  
  15.             io:format("Open file error: file doesn't exist!") 
    16. 
  
  
  
  16.     end. 
    17.

readFile/2函数代码如下：

 
 
 
    
  
  
  
  1. %% 读取文本每一行，以{Line,LineNo}为元组存入列表中readFile(S, LineNo) -> readFile(S,LineNo,[]). 
    2. 
  
  
  
  2. 
  
  
  
  3. readFile(S, LineNo, Ret) -> 
    4. 
  
  
  
  4.     UpdateLineNo = LineNo +1, 
    5. 
  
  
  
  5.     OneLine = io:get_line(S,''),%% 读取文件中的一行内容   　　 if
    6. 
  
  
  
  6.         OneLine =:= eof -> 
    7. 
  
  
  
  7.              io:format("Read file EOF!"), 
    8. 
  
  
  
  8.              file:close(S), 
    9. 
  
  
  
  9.              lists:reverse(Ret); 
    10. 
  
  
  
  10.         OneLine =/= eof -> 
    11. 
  
  
  
  11.             readFile(S,UpdateLineNo, [{OneLine,UpdateLineNo} | Ret]) 
    12. 
  
  
  
  12.     end.
    13.

index/3函数代码如下：

 
 
 
    
  
  
  
  1. index(File,LineList,TableID) -> 
    2. 
  
  
  
  2.     if
    3. 
  
  
  
  3.         length(LineList) =:= 0 -> 
    4. 
  
  
  
  4.             ToList = ets:tab2list(TableID), 
    5. 
  
  
  
  5.             io:format("index is:~n~p~n",[ToList]), 
    6. 
  
  
  
  6.             writeToFile(File,ToList), 
    7. 
  
  
  
  7.             io:format("create index success! "); 
    8. 
  
  
  
  8.         length(LineList) =/= 0 -> 
    9. 
  
  
  
  9.             First = lists:nth(1,LineList), 
    10. 
  
  
  
  10.             processOneLine(First,TableID), 
    11. 
  
  
  
  11.             index(File,lists:delete(First, LineList), TableID)             
    12. 
  
  
  
  12.     end. 
    13. 
  
  
  
  13. 
  
  
  
  14. %% 处理一行文本processOneLine(OneLine, TableID) -> 
    15. 
  
  
  
  15.     {Element, LineNo } = OneLine, 
    16. 
  
  
  
  16.     %io:format("Line no:~p~n",[LineNo]), 
    17. 
  
  
  
  17.     Words = string:tokens(Element,"\n\t "), 
    18. 
  
  
  
  18.     matchWords(Words,LineNo,TableID). 
    19. 
  
  
  
  19. 
  
  
  
  20. matchWords([], LineNo, TableID) ->  
    21. 
  
  
  
  21.     io:format("process line(~p) success!~n",[LineNo]); 
    22. 
  
  
  
  22.      
    23. 
  
  
  
  23. matchWords(Words, LineNo, TableID) -> 
    24. 
  
  
  
  24.     %io:format("Words:~p~n",[Words]), 
    25. 
  
  
  
  25.     Word = lists:nth(1,Words), 
    26. 
  
  
  
  26.     _Value = ets:lookup(TableID,Word),%%返回值为匹配Word的元组列表    　　 if
    27. 
  
  
  
  27.         length(_Value) =:= 0 -> %% Word还未被索引，直接插入此Word索引         　　　　　　　ets:insert(TableID,{Word,[{LineNo,1}]} ); 
    28. 
  
  
  
  28.         length(_Value) =/= 0 -> %% Word已被索引，更新Word索引列表          　　　　　　　KVs = lists:nth(1,_Value), 
    29. 
  
  
  
  29.             Value = element(2,KVs), 
    30. 
  
  
  
  30.             ets:insert(TableID,{Word, insertRec(Value,LineNo) } ) 
    31. 
  
  
  
  31.     end, 
    32. 
  
  
  
  32.     matchWords(lists:delete(Word, Words), LineNo, TableID). 
    33. 
  
  
  
  33. 
  
  
  
  34. %% 处理行号与出现次数元组列表insertRec(List,LineNo) -> insertRec(List,LineNo,length(List)). 
    35. 
  
  
  
  35. 
  
  
  
  36. insertRec(List, LineNo, 0) ->  
    37. 
  
  
  
  37.     [{LineNo, 1} |List]; 
    38. 
  
  
  
  38. insertRec(List, LineNo, Ret) -> 
    39. 
  
  
  
  39.     First = lists:nth(Ret,List), 
    40. 
  
  
  
  40.     {LN, Num} = First, 
    41. 
  
  
  
  41.     if
    42. 
  
  
  
  42.         LN =:= LineNo -> 
    43. 
  
  
  
  43.             Temp = lists:delete(First, List), 
    44. 
  
  
  
  44.             [{LineNo, Num+1} | Temp]; 
    45. 
  
  
  
  45.         LN =/= LineNo -> 
    46. 
  
  
  
  46.             insertRec(List, LineNo, Ret-1) 
    47. 
  
  
  
  47.     end. 
    48. 
  
  
  
  48.             
    49. 
  
  
  
  49. 
  
  
  
  50. %% 将索引写入文件writeToFile(File,ToList) -> 
    51. 
  
  
  
  51.     {ok,S} = file:open(File,write), 
    52. 
  
  
  
  52.     lists:foreach(fun(X) -> io:format(S,"~p.~n",[X]) end, ToList), 
    53. 
  
  
  
  53.     file:close(S).
    54.

至此，我已经将使用ets存储键值大型表来存储单词索引列表的程序讲完了，大家自己回去动手试验吧。本文是继续上文的一个续篇，是一种改进的建立文本索引方式。以后我还好继续通过实战练习来探讨Erlang的学习与总结思考，谢谢大家的关注。

原文：http://www.cnblogs.com/itfreer/archive/2012/05/07/Erlang_in_practise_index.html

网页名称：Erlang实战建立文本索引
链接分享：http://www.shufengxianlan.com/qtweb/news33/416533.html

网站建设、网络推广公司-创新互联，是专注品牌与效果的网站制作，网络营销seo公司；服务项目有等

广告

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源： 创新互联

猜你还喜欢下面的内容

定制网站知识

同城分类信息

成都小程序开发　　 　证企宝企业　　 　普特斯腐植酸　　 　网站制作　　 　安防网站建设方案　　 　公司logo设计　　 　成都网络推广　　 　成都h5建站开发　　 　企业网站设计　　 　成都集团网站建设　　 　成都雪糕加盟　　 　成都网站建设　　 　成都模版网站建设　　 　定制网站建设　　 　四川瑞杰　　 　成都租用服务器　　 　资阳网站建设　　 　移动服务器托管　　 　胜锦安防科技　　 　营销型网站建设