麻豆黑色丝袜jk制服福利网站-麻豆精品传媒视频观看-麻豆精品传媒一二三区在线视频-麻豆精选传媒4区2021-在线视频99-在线视频a

千鋒教育-做有情懷、有良心、有品質的職業教育機構

手機站
千鋒教育

千鋒學習站 | 隨時隨地免費學

千鋒教育

掃一掃進入千鋒手機站

領取全套視頻
千鋒教育

關注千鋒學習站小程序
隨時隨地免費學習課程

當前位置:首頁  >  技術干貨  > 使用python進行漢語分詞

使用python進行漢語分詞

來源:千鋒教育
發布人:xqq
時間: 2023-11-06 03:57:51 1699214271

目前我常常使用的分詞有結巴分詞、NLPIR分詞等等

最近是在使用結巴分詞,稍微做一下推薦,還是蠻好用的。

一、結巴分詞簡介

利用結巴分詞進行中文分詞,基本實現原理有三:

基于Trie樹結構實現高效的詞圖掃描,生成句子中漢字所有可能成詞情況所構成的有向無環圖(DAG)

采用了動態規劃查找最大概率路徑,找出基于詞頻的最大切分組合

對于未登錄詞,采用了基于漢字成詞能力的HMM模型,使用了Viterbi算法

二、安裝及使用(Linux)

1.下載工具包,解壓后進入目錄下,運行:pythonsetup.pyinstall

Hint:a.一個良好的習慣是,對于下載下來的軟件,先看readme,再進行操作。(沒有閱讀readme,直接嘗試+百度,會走很多彎路);

b.當時運行安裝命令時,出現錯誤:nopermission!(有些人可能會遇見這種問題,這是因為權限不夠的。執行:sudo!!其中“!!”表示上一條命令,這里指的就是上面的安裝命令),使用sudo后便可正常運行。

2.在使用結巴做分詞的時候,一定會用的函數是:jieba.cut(arg1,arg2);這是用于分詞的函數,我們只需要了解以下三點,便可使用

a.cut方法接受兩個輸入參數:第一個參數(arg1)為需要進行分詞的字符串,arg2參數用來控制分詞模式。

分詞模式分為兩類:默認模式,試圖將句子最精確地切開,適合文本分析;全模式,把句子中所有的可以成詞的詞語都掃描出來,適合搜索引擎

b.待分詞的字符串可以是gbk字符串、utf-8字符串或者unicode

使用Python的人要注意編碼問題,Python是基于ASCII碼來處理字符的,當出現不屬于ASCII的字符時(比如在代碼中使用漢字),會出現錯誤信息:“ASCIIcodeccan'tencodecharacter”,解決方案是在文件頂部加入語句:#!-*-coding:utf-8-*-來告訴Python的編譯器:“我這個文件是用utf-8進行編碼的,你要進行解碼的時候,請用utf-8”。(這里記住,這個命令一定要加在文件的最頂部,如果不在最頂部,編碼問題就依然存在,得不到解決)關于編碼的轉換,可以參考博文(ps:個人理解“importsysreload(sys)sys.setdefaultencoding('utf-8')”這幾句話與“#!-*-coding:utf-8-*-”等價)

c.jieba.cut返回的結構是一個可迭代的generator,可以使用for循環來獲得分詞后得到的每一個詞語(unicode),也可以用list(jieba.cut(...))轉化為list

3.以下舉例jieba中提供的一個使用方法作為說明:

#!-*-coding:utf-8-*-

importjieba

seg_list=jieba.cut("我來到北京清華大學",cut_all=True)

print"FullMode:",''.join(seg_list)

seg_list=jieba.cut("我來到北京清華大學")

print"DefaultMode:",''.join(seg_list)

輸出結果為:

FullMode:我/來/來到/到/北/北京/京/清/清華/清華大學/華/華大/大/大學/學

DefaultMode:我/來到/北京/清華大學

三、結巴中文分詞的其他功能

1、添加或管理自定義詞典

結巴的所有字典內容存放在dict.txt,你可以不斷的完善dict.txt中的內容。

2、關鍵詞抽取

通過計算分詞后的關鍵詞的TF/IDF權重,來抽取重點關鍵詞。

以上內容為大家介紹了使用python進行漢語分詞,希望對大家有所幫助,如果想要了解更多Python相關知識,請關注IT培訓機構:千鋒教育。http://www.dietsnews.net/

tags: python培訓
聲明:本站稿件版權均屬千鋒教育所有,未經許可不得擅自轉載。
10年以上業內強師集結,手把手帶你蛻變精英
請您保持通訊暢通,專屬學習老師24小時內將與您1V1溝通
免費領取
今日已有369人領取成功
劉同學 138****2860 剛剛成功領取
王同學 131****2015 剛剛成功領取
張同學 133****4652 剛剛成功領取
李同學 135****8607 剛剛成功領取
楊同學 132****5667 剛剛成功領取
岳同學 134****6652 剛剛成功領取
梁同學 157****2950 剛剛成功領取
劉同學 189****1015 剛剛成功領取
張同學 155****4678 剛剛成功領取
鄒同學 139****2907 剛剛成功領取
董同學 138****2867 剛剛成功領取
周同學 136****3602 剛剛成功領取
相關推薦HOT
主站蜘蛛池模板: 国产无套护士丝袜在线观看| 国内黄色一级片| 久久99精品九九九久久婷婷| 亚洲伊人久久大香线蕉综合图片| 国产制服丝袜在线| 青青草国产精品视频| 精品精品国产高清a毛片| avav在线播放| 国产特级毛片aaaaaa毛片| 国产成在线观看免费视频成本人| 日本一品道门免费高清视频| 黑人巨茎大战欧美白妇| 草草影院最新发布地址| 中文字幕亚洲综合久久| a级毛片高清免费视频就| 花季app色版网站免费| 坛蜜甜蜜皮鞭| chinese乱子伦xxxx视频播放| 久久久久久久综合狠狠综合 | 亚洲精品在线观看视频| 曰批免费视频播放免费| 亚洲一卡二卡三卡四卡无卡麻豆| 国产午夜精品一区二区三区不卡 | yy一级毛片免费视频| 欧美无卡| 动漫美女被羞羞动漫小舞| 中文字幕无码久久精品| 里番牝教师~淫辱yy608| 2015天堂网| 99热精品国产麻豆| 2021国产麻豆剧果冻传媒电影| 老子影院午夜| h视频免费观看| 性欧美18-19sex性高清播放| 公车校花小柔h| 国产成人精品999在线观看| 日韩特黄| 久久99精品国产自在现线小黄鸭| 午夜网站在线观看| 在线观看国产一区二区三区 | 国产精品免费一区二区三区|