Python中的自然語言處理實例:詞向量

WBOY
發布: 2023-06-11 09:48:46
原創
1277 人瀏覽過

Python自然語言處理(NLP)是一種廣泛使用的技術,用於從人類語言資料中提取和分析有意義的資訊。其中一個重要的NLP應用是詞向量(word embeddings),它是一種將單字轉換為數字向量的技術,將單字的語義表示為向量空間中的實數值。

在本文中,我們將學習如何使用Python和NLP函式庫來建立詞向量模型,並對其進行一些基本的分析。

安裝Python NLP庫
我們將使用Python中的gensim庫,它是一個專門用於NLP的庫。在使用之前,首先需要在本機上安裝gensim 。我們可以使用以下命令在終端機中安裝gensim:

pip install gensim

#準備資料
在創建詞向量之前,我們需要準備一些文字資料作為輸入。在本範例中,我們將使用Gutenberg計劃的經典小說作為我們的輸入文字。

我們將使用以下程式碼下載並匯入Gutenberg計畫庫:

!pip install gutenberg

from gutenberg.acquire import load_etext
from gutenberg.cleanup import strip_headers
text = strip_headers(load_etext(2701)).strip()

#在這裡,我們透過呼叫strip_headers 函數來去除小說的頂部資訊和頁首。現在,我們已經準備好將此文字輸入詞向量模型中。

建立詞向量模型
要使用Python建立字向量,我們需要執行以下步驟:

將原始文字轉換為單字清單
使用單字清單訓練字向量模型
在以下程式碼中,我們將文字分成單字,建立詞彙表,將單字編碼為整數,並使用gensim庫訓練詞向量模型。

from gensim.models import Word2Vec
import nltk
nltk.download('punkt')

raw_sentences = nltk.sent_tokenize(text)
sentences = [nltk. word_tokenize(sentence) for sentence in raw_sentences]
model = Word2Vec(sentences, min_count=1)

首先,我們使用nltk函式庫中的sent_tokenize 函式將文字分成句子。

然後,我們使用nltk的 word_tokenize 函數將句子分成單字。這將傳回一個嵌套的單字列表。

Word2Vec 模型使用巢狀單字清單作為輸入,並根據它們的共現關係學習單字向量。 min_count 參數指定單字至少出現多少次才會被考慮。

訓練模型需要一些時間,這取決於輸入資料集的大小和電腦的效能。

模型分析
我們可以使用以下程式碼來分析單字向量模型:

尋找與單字最相似的其他單字

model.wv.most_similar('monster ')

找出單字向量

model.wv['monster']

#查看詞彙表的大小

len(model.wv.vocab)

將模型儲存到磁碟

model.save('model.bin')

從磁碟載入模型

model = Word2Vec.load( 'model.bin')

在這裡,我們首先使用most_similar 函數來尋找與單字monster 最相似的其他單字。結果包括單字和相似度得分。

接下來,我們使用詞向量描述中的 wv 屬性來找出單字 monster 的向量表示。

len(model.wv.vocab) 查看了模型中詞彙表的大小。最後,我們使用 save 和 load 函數來儲存和載入模型。

結論
在本文中,我們學習如何使用Python和gensim函式庫建立詞向量模型。我們了解如何將文字轉換為單字列表,並將此資料用於訓練詞向量模型。最後,我們也學習如何使用模型來找出與給定單字最相似的單字。

詞向量是NLP的一個重要主題,透過本文你學習如何使用Python中的NLP函式庫進行詞向量分析,希望這對你有幫助。

以上是Python中的自然語言處理實例:詞向量的詳細內容。更多資訊請關注PHP中文網其他相關文章!

來源:php.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板