回覆列表
-
1 # 加米穀大資料
-
2 # 火星異端
作為一位老爬蟲工程師,也面過不少應聘者,瞭解基本的行業行情。先做總結:爬蟲相對來說是一個比較有前景的工作,但是不推薦普通人來做,相對於前後端等業務,爬蟲的後續發展(對抗能力)是很急缺的,然而這種能力是需要天分和大量的汗水的,隨著人工智慧和5G的到來,大廠的反爬策略會越來越多樣化,那時候普通業務的爬蟲將會面臨爬不到資料的尷尬,而那些具有對抗能力的逆向工程師將會有更高的待遇。
首先:爬蟲工程師的工資和前後端的薪資標準是差不多的,10—15K(廣州)是一個基本區間,這部分割槽間的能力基本要求較低,屬於業務型別的工作,技術棧:抓包工具,scrapy等爬蟲框架,selenium或者pyppeteer等瀏覽器渲染的工具,要求高點的需要前端比較熟,逆向前端的加密介面。這部分其實還是屬於一個普通開發者階段,並不涉及多高明的技術內容,很多大資料開發或者演算法崗都說自己會爬蟲,也基本屬於這個階段。即應付普通業務。
第二個階段:對抗階段(逆向工程)是爬蟲的後續發展,其實大部分人走不到這裡,原因很簡單,逆向是個很複雜而且很無聊的工作,不管是JS逆向還是安卓逆向最基本的操作都是混淆,很多人面對a,b,c,d等各種函式名就覺得頭疼,沒有耐心根本不可能找到加密規則。大部分在這個階段都可能會選擇做全棧,後端,前端等業務方向,畢竟業務其實是最簡單的。這部分的工資是15以上(現在不少公司招30K以上的),中間差距很大,這部分基本看個人能力了。
爬蟲最終目的是提供資料,爬蟲工程師要做的就是編寫一個程式,這個程式會自動抓取並儲存下獲得的資訊。但與資料分析不一樣,爬蟲工程師一般來說是按照別人的需要去抓取資料,至於資料價值的挖掘就和他們沒什麼關係了。
從職友集上查找了爬蟲工程師的薪資水平,可以看到,北京的爬蟲工程師薪資最高,平均月薪達到21310元,另外成都爬蟲工程師薪資也不低,在全國排名第8,薪資超過10000元,平均月薪是12020元。
相關:
學習 Python 並實現基本的爬蟲過程
https://www.toutiao.com/i6606535448061805070/