YouTube在公開場合曾表示，它正在盡力將極端內容的放大程度降到最低。但它仍在尋找留住使用者的方法。

推薦演算法是當今最強大的機器學習演算法之一，因為它們決定了我們看到的資訊。YouTube的推薦演算法影響力尤其巨大。據估計，該平臺在網路流量方面僅次於谷歌，70%的使用者觀看的內容是通過推薦演算法提供給他們的。

近年來，這種影響受到了密切關注。由於該演算法是為讓人們觀看視訊而不斷優化的，它提供的一些選擇往往是強化人們已經喜歡或相信的內容，從而創造出一種讓人上癮的體驗，並將其他觀點拒之門外。這通常方便了最極端和最有爭議的視訊，研究表明，這些視訊常常會呈病毒式傳播，並導致觀點激化。

儘管YouTube公開表示，它正在努力解決這些問題，但YouTube的母公司谷歌發表的一篇新論文似乎講述了一個不同的故事。該論文對平臺演算法提出了更新建議，其旨在向用戶推薦更具針對性的內容，以提高使用者的參與度。

YouTube的推薦系統目前是這樣工作的。為了將推薦視訊填充在側邊欄，它首先通過查詢與您正在觀看的視訊的主題和其他特性匹配的視訊，編譯一個包含數百個視訊的候選列表。然後，根據使用者的偏好對列表進行排序，通過將您的所有點選、喜歡和其他互動輸入到機器學習演算法中來學習使用者的偏好。

在這些提議的更新中，研究人員特別提出了一個他們認為是“隱性偏見”的問題。它指的是推薦本身能夠影響使用者的行為方式，讓人很難分辨你是因為喜歡某個視訊而點選了它，還是因為它被高度推薦了。其結果是，隨著時間的推移，推薦系統可能會把使用者推得越來越遠，讓使用者無法看到他們真正想看的視訊。

為了減少這種偏見，研究人員建議對演算法進行調整：每次使用者點選視訊時，它也會在推薦側邊欄中考慮視訊的排名。當輸入機器學習演算法時，靠近側邊欄頂部的視訊的權重更小；排名靠後的視訊（需要使用者滾動）權重更大。當研究人員在YouTube上對這些變化進行實時測試時，他們發現使用者參與度顯著提高。

雖然論文沒有說明新系統是否會永久部署，但youtube前工程師、目前運營AlgoTransparency的紀堯姆•查斯洛特(Guillaume Chaslot)表示，他“相當有信心”，新系統將很快實施，因為新系統將使觀看時間增加0.24%。即使最保守的估算一下觀看時間和收益之間的關係，就知道這多出來的時間將可能會帶來數百億美元的價值。

幾位研究該論文的專家表示，這些變化可能會產生負面影響。伯克曼克萊因網際網路與社會中心的成員喬納斯凱澤(Jonas Kaiser)表示：“在我們的研究中發現，YouTube的演算法建立了一個孤立的極右社群，並傳播錯誤資訊。在邊緣地帶，這種變化可能促進形成比我們已經看到的更為孤立的社群。Tow數字新聞中心主任喬納森·奧爾布賴特(Jonathan Albright)表示，雖然減少位置偏差是減緩低品質內容迴圈反饋的良好開端，但從理論上講，這種改變也可能進一步有利於極端內容。

貝卡·劉易斯(Becca Lewis)曾是一名研究網路極端主義的研究員。她說，YouTube上有很多不同的社群，人們使用YouTube的方式不同，內容的型別也不同，所以在很多情況下，影響也會不同。而我們成了YouTube的測試物件。

《麻省理工學院技術評論》聯絡的三位外部研究人員都建議YouTube花更多時間通過訪談、調查和使用者輸入等方法來探索演算法變化的影響。YouTube發言人表示，YouTube有在做，並且正在努力刪除其平臺上以仇恨言論形式出現的極端內容。

YouTube應該花更多的精力去了解他們的演算法支援和放大了哪些視訊，而不是如何讓使用者留在這個平臺上。但很明顯也很令人沮喪的是，這樣做不符合YouTube的商業利益。但從倫理上講，這卻是勢在必行的。