全文檢索在MySQL裡面很早就支援了,只不過一直以來只支援英文。緣由是他從來都使用空格來作為分詞的分隔符,而對於中文來講,顯然用空格就不合適,需要針對中文語義進行分詞。這不,從MySQL5.7開始,MySQL內建了ngram全文檢索外掛,用來支援中文分詞,並且對MyISAM和InnoDB引擎有效。在使用中文檢索分詞外掛ngram之前,先得在MySQL配置檔案裡面設定他的分詞大小,比如,[mysqld]ngram_token_size=2這裡把分詞大小設定為2。要記住,分詞的SIZE越大,索引的體積就越大,所以要根據自身情況來設定合適的大小。示例表結構:CREATE TABLE articles (id INTUNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY,titleVARCHAR(200),body TEXT,FULLTEXT (title,body) WITH PARSER ngram) ENGINE=InnoDBCHARACTER SET utf8mb4;示例資料,有6行記錄。mysql> select * from articles\G***************************1. row ***************************id: 1title: 資料庫管理body: 在本教程中我將向你展示如何管理資料庫***************************2. row ***************************id: 2title: 資料庫應用開發body: 學習開發資料庫應用程式***************************3. row ***************************id: 3title: MySQL完全手冊body: 學習MySQL的一切***************************4. row ***************************id: 4title: 資料庫與事務處理body: 系統的學習資料庫的事務概論***************************5. row ***************************id: 5title: NoSQL精髓body: 學習瞭解各種非結構化資料庫***************************6. row ***************************id: 6title: SQL 語言詳解body: 詳細瞭解如果使用各種SQL6 rows inset (0.00 sec)顯式指定全文檢索表源mysql> SETGLOBAL innodb_ft_aux_table="new_feature/articles";Query OK, 0 rows affected (0.00 sec)透過系統表,就可以檢視到底是怎麼劃分articles裡的資料。mysql> SELECT *FROM information_schema.INNODB_FT_INDEX_CACHE LIMIT 20,10;+------+--------------+-------------+-----------+--------+----------+| WORD | FIRST_DOC_ID | LAST_DOC_ID | DOC_COUNT | DOC_ID| POSITION |+------+--------------+-------------+-----------+--------+----------+| 中我 | 2 | 2 | 1 | 2 | 28 || 習m | 4 | 4 | 1 | 4 | 21 || 習了 | 6 | 6 | 1 | 6 | 16 || 習開 | 3 | 3 | 1 | 3 | 25 || 習數 | 5 | 5 | 1 | 5 | 37 || 瞭解 | 6 | 7 | 2 | 6 | 19 || 瞭解 | 6 | 7 | 2 | 7 | 23 || 事務 | 5 | 5 | 1 | 5 | 12 || 事務 | 5 | 5 | 1 | 5 | 40 || 何管 | 2 | 2 | 1 | 2 | 52 |+------+--------------+-------------+-----------+--------+----------+10 rows in set (0.00 sec)這裡可以看到,把分詞長度設定為2,所有的資料都只有兩個一組。上面資料還包含了行的位置,ID等等資訊。接下來,我來進行一系列檢索示範,使用方法和原來英文檢索一致。1. 自然語言模式下檢索:A,得到符合條件的個數,mysql>SELECT COUNT(*) FROM articles-> WHERE MATCH (title,body) AGAINST ("資料庫" IN NATURALLANGUAGE MODE);+----------+| COUNT(*) |+----------+| 4 |+----------+1 row in set (0.05 sec)B,得到匹配的比率,mysql>SELECT id, MATCH (title,body) AGAINST ("資料庫" IN NATURAL LANGUAGE MODE)AS score FROM articles;+----+----------------------+| id| score |+----+----------------------+| 1 | 0.12403252720832825 || 2 | 0.12403252720832825 || 3 | 0 || 4 | 0.12403252720832825 || 5 | 0.062016263604164124 || 6 | 0 |+----+----------------------+6rows in set (0.00 sec)2. 布林模式下搜尋,這個就相對於自然模式搜尋來的複雜些:A,匹配既有管理又有資料庫的記錄,mysql> SELECT * FROM articles WHERE MATCH (title,body)-> AGAINST ("+資料庫 +管理" IN BOOLEAN MODE);+----+------------+--------------------------------------+| id| title | body |+----+------------+--------------------------------------+| 1 | 資料庫管理 | 在本教程中我將向你展示如何管理資料庫|+----+------------+--------------------------------------+1 rowin set (0.00 sec)B,匹配有資料庫,但是沒有管理的記錄,mysql> SELECT * FROM articles WHERE MATCH (title,body)-> AGAINST ("+資料庫 -管理" IN BOOLEAN MODE);+----+------------------+----------------------------+| id| title | body |+----+------------------+----------------------------+| 2 | 資料庫應用開發 | 學習開發資料庫應用程式 || 4 | 資料庫與事務處理 | 系統的學習資料庫的事務概論 || 5 | NoSQL 精髓 | 學習瞭解各種非結構化資料庫 |+----+------------------+----------------------------+3rows in set (0.00 sec)C,匹配MySQL,但是把資料庫的相關性降低,mysql> SELECT * FROM articles WHERE MATCH (title,body)-> AGAINST (">資料庫 +MySQL" INBOOLEAN MODE);+----+---------------+-----------------+| id| title | body |+----+---------------+-----------------+| 3 | MySQL完全手冊 |學習MySQL的一切 |+----+---------------+-----------------+1 rowin set (0.00 sec)3,查詢擴充套件模式,比如要搜尋資料庫,那麼MySQL,oracle,DB2也都將會被搜尋到,mysql> SELECT * FROM articles-> WHERE MATCH (title,body)-> AGAINST ("資料庫" WITH QUERY EXPANSION);+----+------------------+--------------------------------------+| id| title | body |+----+------------------+--------------------------------------+| 1 | 資料庫管理 | 在本教程中我將向你展示如何管理資料庫| 4 | 資料庫與事務處理 | 系統的學習資料庫的事務概論| 2 | 資料庫應用開發 | 學習開發資料庫應用程式 || 5 | NoSQL 精髓 | 學習瞭解各種非結構化資料庫 || 6 | SQL 語言詳解 | 詳細瞭解如果使用各種SQL|| 3 | MySQL完全手冊 | 學習MySQL的一切 |+----+------------------+--------------------------------------+6rows in set (0.01 sec)當然,我這裡只是功能演示,更多的效能測試,大家有興趣可以進行詳細測試。由於N-grm是中文檢索常用的分詞演算法,已經在網際網路大量使用,這次整合到mysql中,想必效果上不會有太大的問題。
全文檢索在MySQL裡面很早就支援了,只不過一直以來只支援英文。緣由是他從來都使用空格來作為分詞的分隔符,而對於中文來講,顯然用空格就不合適,需要針對中文語義進行分詞。這不,從MySQL5.7開始,MySQL內建了ngram全文檢索外掛,用來支援中文分詞,並且對MyISAM和InnoDB引擎有效。在使用中文檢索分詞外掛ngram之前,先得在MySQL配置檔案裡面設定他的分詞大小,比如,[mysqld]ngram_token_size=2這裡把分詞大小設定為2。要記住,分詞的SIZE越大,索引的體積就越大,所以要根據自身情況來設定合適的大小。示例表結構:CREATE TABLE articles (id INTUNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY,titleVARCHAR(200),body TEXT,FULLTEXT (title,body) WITH PARSER ngram) ENGINE=InnoDBCHARACTER SET utf8mb4;示例資料,有6行記錄。mysql> select * from articles\G***************************1. row ***************************id: 1title: 資料庫管理body: 在本教程中我將向你展示如何管理資料庫***************************2. row ***************************id: 2title: 資料庫應用開發body: 學習開發資料庫應用程式***************************3. row ***************************id: 3title: MySQL完全手冊body: 學習MySQL的一切***************************4. row ***************************id: 4title: 資料庫與事務處理body: 系統的學習資料庫的事務概論***************************5. row ***************************id: 5title: NoSQL精髓body: 學習瞭解各種非結構化資料庫***************************6. row ***************************id: 6title: SQL 語言詳解body: 詳細瞭解如果使用各種SQL6 rows inset (0.00 sec)顯式指定全文檢索表源mysql> SETGLOBAL innodb_ft_aux_table="new_feature/articles";Query OK, 0 rows affected (0.00 sec)透過系統表,就可以檢視到底是怎麼劃分articles裡的資料。mysql> SELECT *FROM information_schema.INNODB_FT_INDEX_CACHE LIMIT 20,10;+------+--------------+-------------+-----------+--------+----------+| WORD | FIRST_DOC_ID | LAST_DOC_ID | DOC_COUNT | DOC_ID| POSITION |+------+--------------+-------------+-----------+--------+----------+| 中我 | 2 | 2 | 1 | 2 | 28 || 習m | 4 | 4 | 1 | 4 | 21 || 習了 | 6 | 6 | 1 | 6 | 16 || 習開 | 3 | 3 | 1 | 3 | 25 || 習數 | 5 | 5 | 1 | 5 | 37 || 瞭解 | 6 | 7 | 2 | 6 | 19 || 瞭解 | 6 | 7 | 2 | 7 | 23 || 事務 | 5 | 5 | 1 | 5 | 12 || 事務 | 5 | 5 | 1 | 5 | 40 || 何管 | 2 | 2 | 1 | 2 | 52 |+------+--------------+-------------+-----------+--------+----------+10 rows in set (0.00 sec)這裡可以看到,把分詞長度設定為2,所有的資料都只有兩個一組。上面資料還包含了行的位置,ID等等資訊。接下來,我來進行一系列檢索示範,使用方法和原來英文檢索一致。1. 自然語言模式下檢索:A,得到符合條件的個數,mysql>SELECT COUNT(*) FROM articles-> WHERE MATCH (title,body) AGAINST ("資料庫" IN NATURALLANGUAGE MODE);+----------+| COUNT(*) |+----------+| 4 |+----------+1 row in set (0.05 sec)B,得到匹配的比率,mysql>SELECT id, MATCH (title,body) AGAINST ("資料庫" IN NATURAL LANGUAGE MODE)AS score FROM articles;+----+----------------------+| id| score |+----+----------------------+| 1 | 0.12403252720832825 || 2 | 0.12403252720832825 || 3 | 0 || 4 | 0.12403252720832825 || 5 | 0.062016263604164124 || 6 | 0 |+----+----------------------+6rows in set (0.00 sec)2. 布林模式下搜尋,這個就相對於自然模式搜尋來的複雜些:A,匹配既有管理又有資料庫的記錄,mysql> SELECT * FROM articles WHERE MATCH (title,body)-> AGAINST ("+資料庫 +管理" IN BOOLEAN MODE);+----+------------+--------------------------------------+| id| title | body |+----+------------+--------------------------------------+| 1 | 資料庫管理 | 在本教程中我將向你展示如何管理資料庫|+----+------------+--------------------------------------+1 rowin set (0.00 sec)B,匹配有資料庫,但是沒有管理的記錄,mysql> SELECT * FROM articles WHERE MATCH (title,body)-> AGAINST ("+資料庫 -管理" IN BOOLEAN MODE);+----+------------------+----------------------------+| id| title | body |+----+------------------+----------------------------+| 2 | 資料庫應用開發 | 學習開發資料庫應用程式 || 4 | 資料庫與事務處理 | 系統的學習資料庫的事務概論 || 5 | NoSQL 精髓 | 學習瞭解各種非結構化資料庫 |+----+------------------+----------------------------+3rows in set (0.00 sec)C,匹配MySQL,但是把資料庫的相關性降低,mysql> SELECT * FROM articles WHERE MATCH (title,body)-> AGAINST (">資料庫 +MySQL" INBOOLEAN MODE);+----+---------------+-----------------+| id| title | body |+----+---------------+-----------------+| 3 | MySQL完全手冊 |學習MySQL的一切 |+----+---------------+-----------------+1 rowin set (0.00 sec)3,查詢擴充套件模式,比如要搜尋資料庫,那麼MySQL,oracle,DB2也都將會被搜尋到,mysql> SELECT * FROM articles-> WHERE MATCH (title,body)-> AGAINST ("資料庫" WITH QUERY EXPANSION);+----+------------------+--------------------------------------+| id| title | body |+----+------------------+--------------------------------------+| 1 | 資料庫管理 | 在本教程中我將向你展示如何管理資料庫| 4 | 資料庫與事務處理 | 系統的學習資料庫的事務概論| 2 | 資料庫應用開發 | 學習開發資料庫應用程式 || 5 | NoSQL 精髓 | 學習瞭解各種非結構化資料庫 || 6 | SQL 語言詳解 | 詳細瞭解如果使用各種SQL|| 3 | MySQL完全手冊 | 學習MySQL的一切 |+----+------------------+--------------------------------------+6rows in set (0.01 sec)當然,我這裡只是功能演示,更多的效能測試,大家有興趣可以進行詳細測試。由於N-grm是中文檢索常用的分詞演算法,已經在網際網路大量使用,這次整合到mysql中,想必效果上不會有太大的問題。