回覆列表
  • 1 # 何以笙丶丶

    基於詞庫的漢字轉拼音

    詞庫中既要包含每個字的拼音,也要包含常用單詞/短語的讀音。有些字是多音字,所以至少要儲存其最常用的讀音,不常用的讀音多出現在單詞短語裡。

    你好世界盃

    我們的詞庫是這樣子的:

    你:nǐ

    好:hǎo,hào

    世:shì

    界:jiè

    杯:bēi

    世界:shì,jiè

    你好:nǐ,hǎo

    苦盡甘來:kǔ,jìn,gān,lái

    詞庫中最長的詞 苦盡甘來 包含4個字。所以 你好世界盃 從4個字開始匹配:

    判斷 你好世界 是否在詞庫中,不在;

    判斷 你好世 是否在詞庫中,不在;

    判斷 你好 是否在詞庫中,在,得到 nǐ,hǎo ;

    判斷 世界盃 是否在詞庫中,不在;

    判斷 世界 是否在詞庫中,在,得到 shì,jiè ;

    判斷 杯 是否在詞庫中,在,得到 bēi ;

    於是 你好世界盃 被轉換為 nǐ,hǎo,shì,jiè,bēi 。

    基於詞庫和分詞工具的漢字轉拼音

    純粹的基於詞庫的方法在實際的使用中會遇到問題,例如 提出瞭解決方案 這句話中 瞭解 會被當作一個單詞,所以會得到錯誤的結果:

    tí,chū,liǎo,jiě,jué,fāng,àn

    更好的方法是先進行分詞得到:

    提出

    解決

    方案

    然後基於詞庫對每個結果分別處理。

    基於HMM的拼音轉漢字

    這裡的拼音一般不帶聲調。

    將漢字作為隱藏狀態,拼音作為觀測值,使用viterbi演算法可以將多個拼音轉換成合理的漢字。例如給出 ti,chu,le,jie,jue,fang,an ,viterbi演算法會認為 提出瞭解決方案 是最合理的狀態序列。

    HMM需要三個分佈,分別是:

    初始時各個狀態的機率分佈

    各個狀態互相轉換的機率分佈

    狀態到觀測值的機率分佈

    這個3個分佈就是三個矩陣,根據一些文字庫統計出來即可。

    viterbi演算法基於動態規劃,

    基於詞庫的拼音轉漢字

    原則:

    詞的權重大於字的權重;

    轉換中匹配的詞越多,權重越小。

    詞庫的格式是:

    拼音:單詞:權重

    例如:

    ni:你:0.15 ni:泥:0.12 a:啊:0.18 hao:好:0.14 nihao:你好:0.6

    假如輸入是 ni,hao,a ,我們計算一下各種組合的權重:

    組合 權重

    你,好,啊 0.15×0.14×0.18 = 0.00378

    泥,好,啊 0.12×0.14×0.18 = 0.003024

    你好,啊 0.6×0.18 = 0.108

    可以看出, 你好,啊 是最好的結果。

    實際實現中需要用到 動態規劃 , 和求有向無環圖中兩點之間最短距離類似。

  • 中秋節和大豐收的關聯?
  • 監獄學畢業後好進監獄工作嗎?