在人工智慧深度學習輸入的資料和其輸出的答案之間，存在著人們無法洞悉的“隱層”，它被稱為“黑箱”。這裡的“黑箱”並不只意味著不能觀察，還意味著即使計算機試圖向我們解釋，人們也無法理解。

事實上，早在1962年，美國的埃魯爾在其《技術社會》一書中就指出，人們傳統上認為的技術由人所發明就必然能夠為人所控制的觀點是膚淺的、不切實際的。技術的發展通常會脫離人類的控制，即使是技術人員和科學家，也不能夠控制其所發明的技術。

進入人工智慧時代，演算法的飛速發展和自我進化已初步驗證了埃魯爾的預言，深度學習更是凸顯了“演算法黑箱”現象帶來的某種技術屏障。以至於無論是程式錯誤，還是演算法歧視，在人工智慧的深度學習中，都變得難以識別。

與此同時，在生命科學方面，理解細胞差異、為細胞分類，對生命科學具有重要意義，一系列基於基因轉錄資料和深度學習的分類方法正在興起，然而，由於演算法“黑箱”，以至於現有的方法可解釋性往往不足。

近日，由北京師範大學、中科研基因所研究人員合作在Nature Machine Intelligence 期刊發表論文，其中，研究人員利用改進後的膠囊網路深度架構，應用於轉錄組分析和細胞分類，取得良好效果並具有較強的可解釋性。

在研究人員提出的膠囊網路中，膠囊代表多個神經元組成的向量，作為基本的運算單位。每個向量（膠囊）代表特定物件的一種屬性。所以，膠囊網路具有模組化的架構，適用於同樣具有模組化特徵的生物學資料。

最初版本的膠囊網路模型使用卷積神經網路作為特徵提取器，用於影象分類任務。在此次研究中，研究人員則將其改造成為“單細胞膠囊網路”（scCapsNet ），以多個並聯的神經網路替換原有卷積神經網路，作為特徵提取器，用於單細胞表達譜的分類。

單細胞膠囊網路從多個層面彌補了傳統機器學習透明度低及缺乏可解釋性的問題。這對於決策黑盒子透明化具有重要意義。