まず、Python クローラーを使用して詩をクロールし、コーパスを作成します。クロールされたページは次のとおりです。
クロールされた詩
この記事は主にプロジェクトのアイデアを示すことを目的としているため、クロールされたページのみを掲載します。このページには、唐の詩 300 首、古詩 300 首、宋の詩 300 首、厳選された宋の詩が 1,100 首以上掲載されています。クローラーを高速化するために、クローラーは同時に実装され、poem.txt ファイルに保存されます。完全な Python プログラムは次のとおりです。
import re
import requests
from bs4 import BeautifulSoup
from concurrent.futures import ThreadPoolExecutor, wait, ALL_COMPLETED
# 爬取的诗歌网址
urls = ['https://so.gushiwen.org/gushi/tangshi.aspx',
'https://so.gushiwen.org/gushi/sanbai.aspx',
'https://so.gushiwen.org/gushi/songsan.aspx',
'https://so.gushiwen.org/gushi/songci.aspx'
]
poem_links = []
# 诗歌的网址
for url in urls:
# 请求头部
headers = {: 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.87 Safari/537.36'}
req = requests.get(url, headers=headers)
soup = BeautifulSoup(req.text, "lxml")
content = soup.find_all('div', class_="sons")[0]
links = content.find_all('a')
for link in links:
poem_links.append('https://so.gushiwen.org'+link['href'])
poem_list = []
# 爬取诗歌页面
def get_poem(url):
#url = 'https://so.gushiwen.org/shiwenv_45c396367f59.aspx'
# 请求头部
headers = {: 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.87 Safari/537.36'}
req = requests.get(url, headers=headers)
soup = BeautifulSoup(req.text, "lxml")
poem = soup.find('div', class_='contson').text.strip()
poem = poem.replace(' ', '')
poem = re.sub(re.compile(r"([sS]*?)"), '', poem)
poem = re.sub(re.compile(r"（[sS]*?）"), '', poem)
poem = re.sub(re.compile(r"。([sS]*?）"), '', poem)
poem = poem.replace('!', '！').replace('?', '？')
poem_list.append(poem)
# 利用并发爬取
executor = ThreadPoolExecutor(max_workers=10) # 可以自己调整max_workers,即线程的个数
# submit()的参数： 第一个为函数， 之后为该函数的传入参数，允许有多个
future_tasks = [executor.submit(get_poem, url) for url in poem_links]
# 等待所有的线程完成，才进入后续的执行
wait(future_tasks, return_when=ALL_COMPLETED)
# 将爬取的诗句写入txt文件
poems = list(set(poem_list))
poems = sorted(poems, key=lambda x:len(x))
for poem in poems:
poem = poem.replace('《','').replace('》','')
.replace('：', '').replace('“', '')
print(poem)
with open('F://poem.txt', 'a') as f:
f.write(poem)
f.write('
')このプログラムは 1,100 を超える詩をクロールし、詩をpoem.txt ファイルに保存して詩コーパスを形成します。もちろん、これらの詩を直接使用することはできず、データをクリーンアップする必要があります。たとえば、句読点が不規則である詩、詩ではなく詩の序文にすぎない詩などがあります。このプロセスは手作業が必要ですが、は少し面倒ですが、その後の詩のフレーズ化にも効果はあります。
詩コーパスでは、詩を分割する必要がありますが、分割の基準は次のとおりです。 ? ！セグメンテーションの場合、これは正規表現を使用して実現できます。その後、良い文章の詩を辞書に書き込みます。キー(key)は文の最初の単語のピンイン、値(value)はピンインに対応する詩で、辞書をピクルスとして保存します。ファイル。完全な Python コードは次のとおりです:
import re
import pickle
from xpinyin import Pinyin
from collections import defaultdict
def main():
with open('F://poem.txt', 'r') as f:
poems = f.readlines()
sents = []
for poem in poems:
parts = re.findall(r'[sS]*?[。？！]', poem.strip())
for part in parts:
if len(part) >= 5:
sents.append(part)
poem_dict = defaultdict(list)
for sent in sents:
print(part)
head = Pinyin().get_pinyin(sent, tone_marks='marks', splitter=' ').split()[0]
poem_dict[head].append(sent)
with open('./poemDict.pk', 'wb') as f:
pickle.dump(poem_dict, f)
main()pickle ファイル (poemDict.pk) の内容を見てみましょう:
Contents of pickle ファイル (部分)
もちろん、1 つのピンインが複数の詩に対応することもあります。
pickle ファイルを読み込んでプログラムを書き、exe ファイルとしてプログラムを実行します。 exe ファイルのコンパイル時のエラーを回避するには、xpinyin モジュールの init.py ファイルを書き換え、ファイルのすべてのコードを mypinyin.py にコピーし、次のコードを置き換える必要があります。コード
data_path = os.path.join(os.path.dirname(os.path.abspath(__file__)), 'Mandarin.dat')
は
data_path = os.path.join(os.getcwd(), 'Mandarin.dat')
に書き換えられ、mypinyin.py ファイルが完成します。次に、詩ソリティアのコード (Poem_Jielong.py) を記述する必要があります。完全なコードは次のとおりです:
import pickle
from mypinyin import Pinyin
import random
import ctypes
STD_INPUT_HANDLE = -10
STD_OUTPUT_HANDLE = -11
STD_ERROR_HANDLE = -12
FOREGROUND_DARKWHITE = 0x07 # 暗白色
FOREGROUND_BLUE = 0x09 # 蓝色
FOREGROUND_GREEN = 0x0a # 绿色
FOREGROUND_SKYBLUE = 0x0b # 天蓝色
FOREGROUND_RED = 0x0c # 红色
FOREGROUND_PINK = 0x0d # 粉红色
FOREGROUND_YELLOW = 0x0e # 黄色
FOREGROUND_WHITE = 0x0f # 白色
std_out_handle = ctypes.windll.kernel32.GetStdHandle(STD_OUTPUT_HANDLE)
# 设置CMD文字颜色
def set_cmd_text_color(color, handle=std_out_handle):
Bool = ctypes.windll.kernel32.SetConsoleTextAttribute(handle, color)
return Bool
# 重置文字颜色为暗白色
def resetColor():
set_cmd_text_color(FOREGROUND_DARKWHITE)
# 在CMD中以指定颜色输出文字
def cprint(mess, color):
color_dict = {
: FOREGROUND_BLUE,
: FOREGROUND_GREEN,
: FOREGROUND_SKYBLUE,
: FOREGROUND_RED,
: FOREGROUND_PINK,
: FOREGROUND_YELLOW,
: FOREGROUND_WHITE
}
set_cmd_text_color(color_dict[color])
print(mess)
resetColor()
color_list = ['蓝色','绿色','天蓝色','红色','粉红色','黄色','白色']
# 获取字典
with open('./poemDict.pk', 'rb') as f:
poem_dict = pickle.load(f)
#for key, value in poem_dict.items():
#print(key, value)
MODE = str(input('Choose MODE(1 for 人工接龙, 2 for 机器接龙): '))
while True:
try:
if MODE == '1':
enter = str(input('
请输入一句诗或一个字开始：'))
while enter != 'exit':
test = Pinyin().get_pinyin(enter, tone_marks='marks', splitter=' ')
tail = test.split()[-1]
if tail not in poem_dict.keys():
cprint('无法接这句诗。
', '红色')
MODE = 0
break
else:
cprint('
机器回复：%s'%random.sample(poem_dict[tail], 1)[0], random.sample(color_list, 1)[0])
enter = str(input('你的回复：'))[:-1]
MODE = 0
if MODE == '2':
enter = input('
请输入一句诗或一个字开始：')
for i in range(10):
test = Pinyin().get_pinyin(enter, tone_marks='marks', splitter=' ')
tail = test.split()[-1]
if tail not in poem_dict.keys():
cprint('------>无法接下去了啦...', '红色')
MODE = 0
break
else:
answer = random.sample(poem_dict[tail], 1)[0]
cprint('（%d）--> %s' % (i+1, answer), random.sample(color_list, 1)[0])
enter = answer[:-1]
print('
（*****最多展示前10回接龙。*****）')
MODE = 0
except Exception as err:
print(err)
finally:
if MODE not in ['1','2']:
MODE = str(input('
Choose MODE(1 for 人工接龙, 2 for 机器接龙): '))プロジェクト全体の構造は次のようになります (Mandarin.dat ファイルは次からコピーされます) xpinyin モジュールに対応するフォルダー):
プロジェクト ファイル
フォルダーに切り替え、次のコマンドを入力して exe ファイルを生成します:
pyinstaller -F Poem_jielong.py
生成された exe ファイルは Poem_jielong.exe で、このフォルダーの dist フォルダーにあります。 exe を正常に実行するには、poemDict.pk ファイルと Mandarin.dat ファイルを dist フォルダーにコピーする必要があります。
Poem_jielong.exe ファイルを実行します。ページは次のとおりです:
exe ファイルの開始ページ
このプロジェクト 詩ソリティアには 2 つのモードがあります。1 つは手動ソリティアで、最初に詩または単語を入力すると、コンピューターが文を返します。文を返信し、詩のルールに責任を持つのはあなたです。ソリティア、もう 1 つのモードはマシン ソリティアで、最初に詩または単語を入力すると、マシンが次のソリティアの詩 (最大 10 個) を自動的に出力します。最初に手動ソリティア モードをテストします:
以上がPython で詩を書くソリティア プログラムの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。
![[Web フロントエンド] Node.js クイック スタート](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
