回覆列表
  • 1 # 使用者834195712159

    字串的相似性比較應用場合很多,像拼寫糾錯、文字去重、上下文相似性等。

    評價字串相似度最常見的辦法就是:把一個字串透過插入、刪除或替換這樣的編輯操作,變成另外一個字串,所需要的最少編輯次數,這種就是編輯距離(edit distance)度量方法,也稱為Levenshtein距離。海明距離是編輯距離的一種特殊情況,只計算等長情況下替換操作的編輯次數,只能應用於兩個等長字串間的距離度量。

    其他常用的度量方法還有 Jaccard distance、J-W距離(Jaro–Winkler distance)、餘弦相似性(cosine similarity)、歐氏距離(Euclidean distance)等。

    # -*- coding: utf-8 -*-

    import difflib

    # import jieba

    import Levenshtein

    str1 = "我的骨骼雪白 也長不出青稞"

    str2 = "雪的日子 我只想到雪中去si"

    # 1. difflib

    seq = difflib.SequenceMatcher(None, str1,str2)

    ratio = seq.ratio()

    print "difflib similarity1: ", ratio

    # difflib 去掉列表中不需要比較的字元

    seq = difflib.SequenceMatcher(lambda x: x in " 我的雪", str1,str2)

    ratio = seq.ratio()

    print "difflib similarity2: ", ratio

    # 2. hamming距離,str1和str2長度必須一致,描述兩個等長字串之間對應位置上不同字元的個數

    # sim = Levenshtein.hamming(str1, str2)

    # print "hamming similarity: ", sim

    sim = Levenshtein.distance(str1, str2)

    print "Levenshtein similarity: ", sim

    # 4.計算萊文斯坦比

    sim = Levenshtein.ratio(str1, str2)

    print "Levenshtein.ratio similarity: ", sim

    # 5.計算jaro距離

    sim = Levenshtein.jaro(str1, str2 )

    print "Levenshtein.jaro similarity: ", sim

    # 6. Jaro–Winkler距離

    sim = Levenshtein.jaro_winkler(str1 , str2 )

    print "Levenshtein.jaro_winkler similarity: ", sim

    difflib similarity1: 0.246575342466

    difflib similarity2: 0.0821917808219

    Levenshtein similarity: 33

    Levenshtein.ratio similarity: 0.27397260274

    Levenshtein.jaro similarity: 0.490208958959

    Levenshtein.jaro_winkler similarity: 0.490208958959

  • 中秋節和大豐收的關聯?
  • 列女傳趙將括母成語?