這是我寫的一篇舊文,能夠很清晰的回答騰訊的守護者計劃的成立,以及這幾年來守護者計劃走過的道路
------------------這是分割線 ------------
遠征漠北——騰訊的黑產戰爭
馬雲曾經感嘆,年入幾百萬,你是這些錢的主人;年入幾百億,你就對這些錢負有巨大的責任。
他的老對手騰訊又何嘗不是如此。
當你有一萬個使用者,他們是你的金礦;當你手握十億使用者的時候,他們的喜怒哀樂興衰榮辱,都在你的手上。試問,如果是你,你當如何。
這是馬化騰面前的王屋和太行。
站在“守護者計劃”的演講臺上,我猜他全身都在用著力。
騰訊的同學告訴我,Pony 每有涉及騰訊安全的活動,必爭取親自站臺。這大概像拿破崙衝在陣前,他看到的不是土地和金錢,而是一個不容有失的世界,是某個無法接受的終局。
此中況味,唯英雄識。
(一)騰訊的邊局,中原和漠北
“凡無必要,勿增實體。”
中國最成功的網際網路公司騰訊不可能不知道這個道理。然而,由李旭陽主導的騰訊反詐騙技術團隊,卻早在十年前就成為了騰訊內部的一個重要部門。
可見“反黑產”這件事,對騰訊來說已經“必要”很久了。
1)黑產的“流寇”時代
李旭陽團隊最早的目標只有一個,那就是把騰訊使用者和非法網站隔離。(彼時是網際網路的蠻荒時期,大批經驗不豐富的使用者,需要貼身保護。)
在這個時候,李旭陽更像北築長城的蒙恬。
為什麼這樣說呢?這裡有一個“疆域”的概念,以 QQ 為例:
出現在 QQ 裡面的惡意網址,他可以隨意剮殺。例如標註風險網址、強制不允許點開,不一而足。
然而 QQ 只是整個資訊傳遞鏈條的一部分。一方面,終端使用者一旦被矇蔽,跳出 QQ 訪問危險網址,QQ 立刻鞭長莫及。(這也是後來騰訊管家的由來之一,此乃後話);另一方面,惡意網站本身託管在其他伺服器上,騰訊並無權過問。
你可以把騰訊的產品想象成中原的王朝,而黑產就是擾邊的流寇。流寇一旦回到原野,立刻遁於無形。
簡而言之,一旦超出一個產品的“疆域”,攻守形勢馬上不同。所以我說,李旭陽和同事最初所做,更像修築一道長城,用“守”的方式保障使用者安全。
對於秦王朝來說,長城一線即是國界,烽火臺外,連綿衰草,無謂西東。彼時的騰訊,守住“關中沃野”才是戰和的要義。
如果騰訊一直是是當年的騰訊,自然問題不大。但十年間,它的市值已經翻了五十倍,業務已經擴充套件到遊戲、文娛、社交等各個領域。可以說,在滿足“個人的需求”的產品上,騰訊幾乎一統江山。
2)黑產的“部落聯合”時代
這個時候,因為疆域廣大,所以黑產只要行動,勢必會經過騰訊的產品領土。(某種程度上而言,由於騰訊產品的普及性,黑產極願意“搭順風車”。)
舉例來說,
惡意推廣的木馬病毒,會試圖繞過電腦管家的攔截;
詐騙團伙的詐騙電話,也會試圖從各類手機管家眼皮底下繞過;
各類個人資訊販賣團伙,會試圖在各種社交平臺裡尋找下家;
賭博、傳銷的群組,會試圖利用社交軟體形成聯絡組織。
此時的長城南北,一邊是一統江山的中原王朝,一邊是組織結構大幅升級的“草原部落”。這就是網際網路世界的殘酷。短短几年間,敵我形勢已經有了深刻的進化。
而揹負十億網民,騰訊必須要面對黑產這個敵人,於公於私,半步都不能退。
這就是兩年前“守護者計劃”推出的底層邏輯。
在我的理解中,守護者計劃最核心的部分,就是騰訊用自己的反黑產技術,武裝銀行、武裝運營商、武裝公安執法部門,一起幹掉黑產。(當然在官方闡述中,這是一套有指導單位領導,各家共同參與的聯盟。)
這其中,有一個轉換的過程:
在2016年的語境中,守護者計劃的主要矛頭指向電信詐騙。守護者計劃的負責人是騰訊安全管理部總經理朱勁松,而主要的產品研發仍是百戰老將李旭陽。他領銜的“反詐騙實驗室”推出了“鷹眼盒子”,用於放在運營商的機房中,自動識別電信詐騙電話,從而使得電信運營商可以依據“鷹眼盒子”的結果實時阻斷詐騙。
之所以說黑產像極了草原部落,是因為他們可以以非常快的速度“調轉馬頭”調整進攻方向。2017年,人們身邊的電信詐騙勢頭稍緩,各種賭博、傳銷、黃色直播、惡意刷量、個人資訊販賣等等形式又開始爆發。
所以,騰訊調轉槍頭,2017年一整年,李旭陽又帶領隊伍研究了靈鯤、神羊、麒麟等一系列反黑產神器。(靈鯤是金融風險感知系統、神羊是大資料黑產情報分析平臺、麒麟是監控偽基站的產品)
此時的李旭陽,可能更像武帝時期北擊匈奴的霍去病。
為什麼這麼說呢?
因為在“守護者計劃”的加持下,隊伍中終於出現了騰訊之外的力量,包括運營商、銀行和公安機關。尤其是公安機關的參與,讓他們作為一個整體,對黑產有了真正的圍剿能力。
大軍第一次殺過長城,黑產丟盔棄甲。
有幾個資料:
160:2017年守護者計劃協助公安辦了160起案件。
3800:這些案件,一共抓捕了3800多人。
32億:案件涉案金額總共32億人民幣。
100億:公安機關繳獲個人資訊100億條。
現在,黑產哥們涮鍋時互相提醒:“別被警察抓了!”
武帝派兵越過長城,北擊匈奴。在網路世界中,我們首次率大軍直擊敵巢。
(二)騰訊的幾場邊疆戰役
2018年1月,騰訊專門召開了一個“守護者計劃大會”,會上的重頭戲就是公佈了2017年的“十大案件”。
分析了半天天下大勢,現在具體的黑產究竟什麼樣子嘞?我挑幾個點評一下吧。
1)最“高科技”的黑產——AI 打碼平臺
早在去年中旬,騰訊安全的童鞋就神秘兮兮地告訴我,他們正在和一個“高智商”黑產團伙進行對抗。不過我問到具體的內容,他們又都守口如瓶,只是留下一句:“這年頭,幹什麼都得有知識。現在的黑產,都開始玩人工智慧了!”
果不其然,他們說的就應該是這個“用 AI 破解驗證碼”的團伙了。
你平常在登入網站的時候,經常會被要求輸入“圖形碼”(就是旁邊有一張圖,你看裡面寫的是什麼字母然後打出來)。這個機制一般是用來驗證操作的人是不是機器。
一般情況下,機器是很難自動識別出來圖行裡究竟是什麼字母的。但人工智慧(AI)技術的發展讓這種識別成為可能。一般情況下, 使用人工智慧需要比較強的計算機知識,黑產人員不具備。
但是,事情就這樣發生了。
這個團伙不僅掌握了人工智慧技術,還把識別率最佳化到了80%以上,“可用性”極好。簡直是“流氓會武術,誰都攔不住。”
於是,這個名叫“快啊答題”的服務瞬間壟斷了地下市場90%的份額,累計破解驗證碼1204億次。(比1024還多。。。)
結果你知道的。出來混還是要還的。這幫“人工智慧專家”還是栽到了守護者和警察叔叔手裡。順便說一句,這是全國首例用人工智慧技術犯罪的案件。
在網上還可以搜到一些“答題軟體”,他們一般會明碼標價,但是由於技術的中立性,需要證據證明某團隊所提供的技術已經被用於黑產,才可定罪。
2)最“清涼”的黑產——月光寶盒
開啟月光寶盒,裡面全是不愛穿衣服的小姐姐。
除了收費提供各個平臺的色情直播以外,如你所見,月光寶盒還出售 Banner 廣告位,每個廣告位4000元左右。
簡單來說,月光寶盒是一個聚合類平臺,它透過破解的方式,把隱匿在地下的各種“黃播平臺”聚合在一起,然後對會員收費觀看。從2017年3月上線, 到2017年11月被打掉,短短8個月時間,已經有300萬會員了。
出售會員的代理商,分為好幾個層級,不同的代理商會透過自己的社交渠道“拉客”。這樣的事情發生在騰訊的生態中,自然會被守護者計劃“盯上”。
值得一提的是,這是全國最大的聚合類直播涉黃平臺。
月光寶盒的某個代理商
利用控制的眾多手機,黑產分子就可以去接活了:“親,你的號需要刷量嗎?”
十大案例中,黑產走位都很風騷,我就不一一列舉了。
某次行動的抓捕場景,警察叔叔持槍站在桌子上,還是挺厲害的。
我想重點說說我從中觀察到的一些有趣的事實:
首先, 黑產分工之細密,到達了令人髮指的程度。打擊他們絕不像請客吃飯那麼簡單。
在很多案例中,從上游的技術提供,到下游的犯罪實施,基本上有四五道工序。而這四五道工序,竟然是由四五類團伙分別完成的。
例如,剛才提到的“打碼平臺”,就屬於技術支持者。如果不是因為疏忽露出了參與黑產的馬腳,他們甚至可以高呼“技術無罪”(這大概就相當於,生產菜刀的人無罪,你專門給殺人犯提供菜刀就有罪),這就給守護者尋找證據帶來了巨大的困難。
說個題外話,這種分工模式,我們可以在中國東南沿海的製造業找到對應的模式。
中國的“世界工廠”的地位可不是白來的。我們的工業分工細緻到什麼程度呢?一段伸縮天線,其中的每一節都有獨立的工廠生產。也就是說,做一根完整的天線,需要五個廠家共同完成。
我們驕傲於中國雄霸全球的工業化體系時,是不是也要驕傲於熊霸全球的黑產分工呢?
在如此細密的分工下,打掉一個黑產團伙是很不容易的。從這一點上看,確實應該向警察叔叔和騰訊致敬。
“月光寶盒”案中,被抓獲的犯罪嫌疑人,他們大多來自同一個家族。
其次,黑白對抗已經進入自動化武器較量的階段,沒有金剛鑽絕對攬不了瓷器活。
從黑產的角度看,什麼叫“AI 打碼”,哪個是“木馬遠控”,都已經成為產業鏈的標準化工具。
從騰訊的角度看,他們必須要搞出比對手更高明的技術武器。所謂鷹眼盒子、神羊系統、麒麟系統其實都是在對抗中被“逼出來”的產物。(幸好,騰訊的技術實力還遠在黑產之上。)
從這一點上來看,反黑產已經成為了一個“技術密集”的營生,如果騰訊這樣的頂尖公司不參與,戰場形勢將會發生巨大的逆轉。
幸好,如我之前所證:騰訊在反黑產這件事上,於公於私,都不會選擇獨善其身。
(三)將軍勒馬,北望荒原
朱勁松說,相比於2016年只關注網路電信詐騙,2017年的守護者計劃更加摸向黑色產業鏈的上游,從上面“扎住口袋”,遏制下游黑產氾濫。
當然,深入敵巢比固守藩籬更振奮人心。
有漢之年,武帝卻匈奴於漠北。但是在其後的將近兩千年年時間,中原王朝卻始終與草原部落對抗,無法徹底消滅。
我猜想,和黑產的戰爭,短時間內也難以看到終局。
從警方抓捕行動的照片中可以看出,那些黑產從業者都很年輕,他們的臉一如你我。如果從事黑產帶來的誘惑始終存在,那麼永遠會有年輕人帶著自己的技術鋌而走險。而這種誘惑,我並沒有看到短期內得以消除的可能。
所以,守護者計劃也許難言有勝利的一天。但是,如若它不存在,那些所有曾被預言的恐懼,就會如沙暴一樣向我們飛速襲來。
中原百姓笙歌如海,北方將軍勒馬回望。
正如一盤巨大的圍棋,在黑白的交鋒面上,那個決定生死的點位,白棋不佔,自會有黑棋來佔。
世界原本如此。
-End-
這是我寫的一篇舊文,能夠很清晰的回答騰訊的守護者計劃的成立,以及這幾年來守護者計劃走過的道路
------------------這是分割線 ------------
遠征漠北——騰訊的黑產戰爭
馬雲曾經感嘆,年入幾百萬,你是這些錢的主人;年入幾百億,你就對這些錢負有巨大的責任。
他的老對手騰訊又何嘗不是如此。
當你有一萬個使用者,他們是你的金礦;當你手握十億使用者的時候,他們的喜怒哀樂興衰榮辱,都在你的手上。試問,如果是你,你當如何。
這是馬化騰面前的王屋和太行。
站在“守護者計劃”的演講臺上,我猜他全身都在用著力。
騰訊的同學告訴我,Pony 每有涉及騰訊安全的活動,必爭取親自站臺。這大概像拿破崙衝在陣前,他看到的不是土地和金錢,而是一個不容有失的世界,是某個無法接受的終局。
此中況味,唯英雄識。
(一)騰訊的邊局,中原和漠北
“凡無必要,勿增實體。”
中國最成功的網際網路公司騰訊不可能不知道這個道理。然而,由李旭陽主導的騰訊反詐騙技術團隊,卻早在十年前就成為了騰訊內部的一個重要部門。
可見“反黑產”這件事,對騰訊來說已經“必要”很久了。
1)黑產的“流寇”時代
李旭陽團隊最早的目標只有一個,那就是把騰訊使用者和非法網站隔離。(彼時是網際網路的蠻荒時期,大批經驗不豐富的使用者,需要貼身保護。)
在這個時候,李旭陽更像北築長城的蒙恬。
為什麼這樣說呢?這裡有一個“疆域”的概念,以 QQ 為例:
出現在 QQ 裡面的惡意網址,他可以隨意剮殺。例如標註風險網址、強制不允許點開,不一而足。
然而 QQ 只是整個資訊傳遞鏈條的一部分。一方面,終端使用者一旦被矇蔽,跳出 QQ 訪問危險網址,QQ 立刻鞭長莫及。(這也是後來騰訊管家的由來之一,此乃後話);另一方面,惡意網站本身託管在其他伺服器上,騰訊並無權過問。
你可以把騰訊的產品想象成中原的王朝,而黑產就是擾邊的流寇。流寇一旦回到原野,立刻遁於無形。
簡而言之,一旦超出一個產品的“疆域”,攻守形勢馬上不同。所以我說,李旭陽和同事最初所做,更像修築一道長城,用“守”的方式保障使用者安全。
對於秦王朝來說,長城一線即是國界,烽火臺外,連綿衰草,無謂西東。彼時的騰訊,守住“關中沃野”才是戰和的要義。
如果騰訊一直是是當年的騰訊,自然問題不大。但十年間,它的市值已經翻了五十倍,業務已經擴充套件到遊戲、文娛、社交等各個領域。可以說,在滿足“個人的需求”的產品上,騰訊幾乎一統江山。
2)黑產的“部落聯合”時代
這個時候,因為疆域廣大,所以黑產只要行動,勢必會經過騰訊的產品領土。(某種程度上而言,由於騰訊產品的普及性,黑產極願意“搭順風車”。)
舉例來說,
惡意推廣的木馬病毒,會試圖繞過電腦管家的攔截;
詐騙團伙的詐騙電話,也會試圖從各類手機管家眼皮底下繞過;
各類個人資訊販賣團伙,會試圖在各種社交平臺裡尋找下家;
賭博、傳銷的群組,會試圖利用社交軟體形成聯絡組織。
此時的長城南北,一邊是一統江山的中原王朝,一邊是組織結構大幅升級的“草原部落”。這就是網際網路世界的殘酷。短短几年間,敵我形勢已經有了深刻的進化。
而揹負十億網民,騰訊必須要面對黑產這個敵人,於公於私,半步都不能退。
這就是兩年前“守護者計劃”推出的底層邏輯。
在我的理解中,守護者計劃最核心的部分,就是騰訊用自己的反黑產技術,武裝銀行、武裝運營商、武裝公安執法部門,一起幹掉黑產。(當然在官方闡述中,這是一套有指導單位領導,各家共同參與的聯盟。)
這其中,有一個轉換的過程:
在2016年的語境中,守護者計劃的主要矛頭指向電信詐騙。守護者計劃的負責人是騰訊安全管理部總經理朱勁松,而主要的產品研發仍是百戰老將李旭陽。他領銜的“反詐騙實驗室”推出了“鷹眼盒子”,用於放在運營商的機房中,自動識別電信詐騙電話,從而使得電信運營商可以依據“鷹眼盒子”的結果實時阻斷詐騙。
之所以說黑產像極了草原部落,是因為他們可以以非常快的速度“調轉馬頭”調整進攻方向。2017年,人們身邊的電信詐騙勢頭稍緩,各種賭博、傳銷、黃色直播、惡意刷量、個人資訊販賣等等形式又開始爆發。
所以,騰訊調轉槍頭,2017年一整年,李旭陽又帶領隊伍研究了靈鯤、神羊、麒麟等一系列反黑產神器。(靈鯤是金融風險感知系統、神羊是大資料黑產情報分析平臺、麒麟是監控偽基站的產品)
此時的李旭陽,可能更像武帝時期北擊匈奴的霍去病。
為什麼這麼說呢?
因為在“守護者計劃”的加持下,隊伍中終於出現了騰訊之外的力量,包括運營商、銀行和公安機關。尤其是公安機關的參與,讓他們作為一個整體,對黑產有了真正的圍剿能力。
大軍第一次殺過長城,黑產丟盔棄甲。
有幾個資料:
160:2017年守護者計劃協助公安辦了160起案件。
3800:這些案件,一共抓捕了3800多人。
32億:案件涉案金額總共32億人民幣。
100億:公安機關繳獲個人資訊100億條。
現在,黑產哥們涮鍋時互相提醒:“別被警察抓了!”
武帝派兵越過長城,北擊匈奴。在網路世界中,我們首次率大軍直擊敵巢。
(二)騰訊的幾場邊疆戰役
2018年1月,騰訊專門召開了一個“守護者計劃大會”,會上的重頭戲就是公佈了2017年的“十大案件”。
分析了半天天下大勢,現在具體的黑產究竟什麼樣子嘞?我挑幾個點評一下吧。
1)最“高科技”的黑產——AI 打碼平臺
早在去年中旬,騰訊安全的童鞋就神秘兮兮地告訴我,他們正在和一個“高智商”黑產團伙進行對抗。不過我問到具體的內容,他們又都守口如瓶,只是留下一句:“這年頭,幹什麼都得有知識。現在的黑產,都開始玩人工智慧了!”
果不其然,他們說的就應該是這個“用 AI 破解驗證碼”的團伙了。
你平常在登入網站的時候,經常會被要求輸入“圖形碼”(就是旁邊有一張圖,你看裡面寫的是什麼字母然後打出來)。這個機制一般是用來驗證操作的人是不是機器。
一般情況下,機器是很難自動識別出來圖行裡究竟是什麼字母的。但人工智慧(AI)技術的發展讓這種識別成為可能。一般情況下, 使用人工智慧需要比較強的計算機知識,黑產人員不具備。
但是,事情就這樣發生了。
這個團伙不僅掌握了人工智慧技術,還把識別率最佳化到了80%以上,“可用性”極好。簡直是“流氓會武術,誰都攔不住。”
於是,這個名叫“快啊答題”的服務瞬間壟斷了地下市場90%的份額,累計破解驗證碼1204億次。(比1024還多。。。)
結果你知道的。出來混還是要還的。這幫“人工智慧專家”還是栽到了守護者和警察叔叔手裡。順便說一句,這是全國首例用人工智慧技術犯罪的案件。
在網上還可以搜到一些“答題軟體”,他們一般會明碼標價,但是由於技術的中立性,需要證據證明某團隊所提供的技術已經被用於黑產,才可定罪。
2)最“清涼”的黑產——月光寶盒
開啟月光寶盒,裡面全是不愛穿衣服的小姐姐。
除了收費提供各個平臺的色情直播以外,如你所見,月光寶盒還出售 Banner 廣告位,每個廣告位4000元左右。
簡單來說,月光寶盒是一個聚合類平臺,它透過破解的方式,把隱匿在地下的各種“黃播平臺”聚合在一起,然後對會員收費觀看。從2017年3月上線, 到2017年11月被打掉,短短8個月時間,已經有300萬會員了。
出售會員的代理商,分為好幾個層級,不同的代理商會透過自己的社交渠道“拉客”。這樣的事情發生在騰訊的生態中,自然會被守護者計劃“盯上”。
值得一提的是,這是全國最大的聚合類直播涉黃平臺。
月光寶盒的某個代理商
利用控制的眾多手機,黑產分子就可以去接活了:“親,你的號需要刷量嗎?”
十大案例中,黑產走位都很風騷,我就不一一列舉了。
某次行動的抓捕場景,警察叔叔持槍站在桌子上,還是挺厲害的。
我想重點說說我從中觀察到的一些有趣的事實:
首先, 黑產分工之細密,到達了令人髮指的程度。打擊他們絕不像請客吃飯那麼簡單。
在很多案例中,從上游的技術提供,到下游的犯罪實施,基本上有四五道工序。而這四五道工序,竟然是由四五類團伙分別完成的。
例如,剛才提到的“打碼平臺”,就屬於技術支持者。如果不是因為疏忽露出了參與黑產的馬腳,他們甚至可以高呼“技術無罪”(這大概就相當於,生產菜刀的人無罪,你專門給殺人犯提供菜刀就有罪),這就給守護者尋找證據帶來了巨大的困難。
說個題外話,這種分工模式,我們可以在中國東南沿海的製造業找到對應的模式。
中國的“世界工廠”的地位可不是白來的。我們的工業分工細緻到什麼程度呢?一段伸縮天線,其中的每一節都有獨立的工廠生產。也就是說,做一根完整的天線,需要五個廠家共同完成。
我們驕傲於中國雄霸全球的工業化體系時,是不是也要驕傲於熊霸全球的黑產分工呢?
在如此細密的分工下,打掉一個黑產團伙是很不容易的。從這一點上看,確實應該向警察叔叔和騰訊致敬。
“月光寶盒”案中,被抓獲的犯罪嫌疑人,他們大多來自同一個家族。
其次,黑白對抗已經進入自動化武器較量的階段,沒有金剛鑽絕對攬不了瓷器活。
從黑產的角度看,什麼叫“AI 打碼”,哪個是“木馬遠控”,都已經成為產業鏈的標準化工具。
從騰訊的角度看,他們必須要搞出比對手更高明的技術武器。所謂鷹眼盒子、神羊系統、麒麟系統其實都是在對抗中被“逼出來”的產物。(幸好,騰訊的技術實力還遠在黑產之上。)
從這一點上來看,反黑產已經成為了一個“技術密集”的營生,如果騰訊這樣的頂尖公司不參與,戰場形勢將會發生巨大的逆轉。
幸好,如我之前所證:騰訊在反黑產這件事上,於公於私,都不會選擇獨善其身。
(三)將軍勒馬,北望荒原
朱勁松說,相比於2016年只關注網路電信詐騙,2017年的守護者計劃更加摸向黑色產業鏈的上游,從上面“扎住口袋”,遏制下游黑產氾濫。
當然,深入敵巢比固守藩籬更振奮人心。
有漢之年,武帝卻匈奴於漠北。但是在其後的將近兩千年年時間,中原王朝卻始終與草原部落對抗,無法徹底消滅。
我猜想,和黑產的戰爭,短時間內也難以看到終局。
從警方抓捕行動的照片中可以看出,那些黑產從業者都很年輕,他們的臉一如你我。如果從事黑產帶來的誘惑始終存在,那麼永遠會有年輕人帶著自己的技術鋌而走險。而這種誘惑,我並沒有看到短期內得以消除的可能。
所以,守護者計劃也許難言有勝利的一天。但是,如若它不存在,那些所有曾被預言的恐懼,就會如沙暴一樣向我們飛速襲來。
中原百姓笙歌如海,北方將軍勒馬回望。
正如一盤巨大的圍棋,在黑白的交鋒面上,那個決定生死的點位,白棋不佔,自會有黑棋來佔。
世界原本如此。
-End-