預先想好意料之外的情況！
明智的產品經理和設計師能看出產品中顯而易見的淺層問題，然後在程式碼中加入修復程式碼，從而保障安全。然而，人工智慧系統相對複雜，即使是團隊也難以考慮周全。 總會有突發事件讓你陷入尷尬的境地。
現實生活中也是如此，籌劃假期時，大家總是小心翼翼。但萬萬沒有想到，可能有人竟然因為貝類中毒而去醫院，最終錯過了去羅馬的火車。所以，永遠別說“我已經準備周全了”。
當意想不到的事情發生時，我們只能指望可以有效減輕行動負擔的基礎架構。下面我們來聊聊人工智慧領域的基礎架構吧。
狂野的聊天機器人
網際網路界非常喜歡狂野的聊天機器人，我們來看看微軟推出的聊天機器人Tay吧。
想象一下，你想讓人工智慧系統像人類一樣發推特。你當然會在真正的人類推特上教導它。現在，假設它已經可以完美運作了。
你將Tay設定為十幾歲的女孩，很快它就成為了一個“不良少女”，學著你在網上罵髒話以及其他不良言辭等等。
儘管Tay確實會發推特了，但使用者對這個總是咒罵他們（或者更糟）的機器人感到很失望。你也沒有達到想要的效果。
在此過程中你的錯誤是雙重的：
1. 目標（“像人類一樣發推特的機器人”和“樂於結交、聰明而又不失禮貌的能夠發推特的機器人”是截然不同的）。
2. 使用的資料（沒有被整合好，較為放浪形骸的學習資料）。
有遠見卓識
經驗豐富的機器學習從業這可以預見到這樣可笑的事情——如果有人對這種結果感到驚訝，那就太業餘了。光靠常識就可以知道，指望一個機器人像人類一樣發推特就和逼它罵人沒什麼兩樣。
人工智慧系統並不會獨立思考，事實上，它們根本就不會思考。
人類說話的方式就是如此，所以我們可以預料到聊天機器人會將這些資料讀取出來——因為不管出於怎樣的原因，那些惡毒的言行確實存在於資料中。就算你竭盡全力的去擬人化它們，機器學習或人工智慧系統也不會獨立思考。它們只是將模式轉化為既定程式以不斷複製。
分析學就是眼睛緊盯著資料，這樣才能發現問題並作出相應規劃。
當你預料到一個行為並不受歡迎時，可以馬上編碼將其扼殺在搖籃裡。如果你未能預料到一些事情，也要有防護措施：傑出的團隊在釋出之前就會部署好訓練分析資料，他們也熟知讓機械系的學生從“教科書”上學的東西是什麼。如果團隊未能考慮到這個非期望行為的出現，他們也不會讓這個行為成為漏網之魚，畢竟大量資料都讓他們深諳人類的抒情表達方式。
這是理想情況，但如果老闆沒有考慮到這件事，而且分析師也在旁邊打瞌睡然後錯過了呢？
後見之明的備用方案
不要指望僅憑先見之明就可以解決一切問題。僅憑藉自身的預料能力來處理事情是不明智的。採取保護措施便能安然無恙——設立策略層。
不要僅依靠先見之明，請使用策略層！
策略層是位於機器學習/人工智慧系統之上的一個單獨的邏輯層。這一邏輯層是人工智慧必備的安全網，可以檢測輸出、過濾，並決定如何處理。例如，策略層可能會提示“輸出中沒有單詞與髒話黑名單相匹配”。
人工智慧的禮儀
策略層就等同於人工智慧版的人類禮儀。
思考一下你是如何罵人不帶髒字的，你就會明白為什麼策略層是一個比簡單在系統中剔除不良資料更好的選擇。我知道一些其他語言中的髒話，但我從來不會在臺面上說這些詞彙。並不是因為我忘了這些詞彙，而是進行了自我過濾。社會教會了我禮貌。幸運的是，對於你（和使用者），機器學習中也有這樣的修復系統，那就是——策略層。
既然你知道策略層的存在，而且他們很容易構建，如果你現在不馬上把它安裝到人工智慧系統中去，那就太失策啦。
預先想好意料之外的情況！
明智的產品經理和設計師能看出產品中顯而易見的淺層問題，然後在程式碼中加入修復程式碼，從而保障安全。然而，人工智慧系統相對複雜，即使是團隊也難以考慮周全。 總會有突發事件讓你陷入尷尬的境地。
現實生活中也是如此，籌劃假期時，大家總是小心翼翼。但萬萬沒有想到，可能有人竟然因為貝類中毒而去醫院，最終錯過了去羅馬的火車。所以，永遠別說“我已經準備周全了”。
當意想不到的事情發生時，我們只能指望可以有效減輕行動負擔的基礎架構。下面我們來聊聊人工智慧領域的基礎架構吧。
狂野的聊天機器人
網際網路界非常喜歡狂野的聊天機器人，我們來看看微軟推出的聊天機器人Tay吧。
想象一下，你想讓人工智慧系統像人類一樣發推特。你當然會在真正的人類推特上教導它。現在，假設它已經可以完美運作了。
你將Tay設定為十幾歲的女孩，很快它就成為了一個“不良少女”，學著你在網上罵髒話以及其他不良言辭等等。
儘管Tay確實會發推特了，但使用者對這個總是咒罵他們（或者更糟）的機器人感到很失望。你也沒有達到想要的效果。
在此過程中你的錯誤是雙重的：
1. 目標（“像人類一樣發推特的機器人”和“樂於結交、聰明而又不失禮貌的能夠發推特的機器人”是截然不同的）。
2. 使用的資料（沒有被整合好，較為放浪形骸的學習資料）。
有遠見卓識
經驗豐富的機器學習從業這可以預見到這樣可笑的事情——如果有人對這種結果感到驚訝，那就太業餘了。光靠常識就可以知道，指望一個機器人像人類一樣發推特就和逼它罵人沒什麼兩樣。
人工智慧系統並不會獨立思考，事實上，它們根本就不會思考。
人類說話的方式就是如此，所以我們可以預料到聊天機器人會將這些資料讀取出來——因為不管出於怎樣的原因，那些惡毒的言行確實存在於資料中。就算你竭盡全力的去擬人化它們，機器學習或人工智慧系統也不會獨立思考。它們只是將模式轉化為既定程式以不斷複製。
分析學就是眼睛緊盯著資料，這樣才能發現問題並作出相應規劃。
當你預料到一個行為並不受歡迎時，可以馬上編碼將其扼殺在搖籃裡。如果你未能預料到一些事情，也要有防護措施：傑出的團隊在釋出之前就會部署好訓練分析資料，他們也熟知讓機械系的學生從“教科書”上學的東西是什麼。如果團隊未能考慮到這個非期望行為的出現，他們也不會讓這個行為成為漏網之魚，畢竟大量資料都讓他們深諳人類的抒情表達方式。
這是理想情況，但如果老闆沒有考慮到這件事，而且分析師也在旁邊打瞌睡然後錯過了呢？
後見之明的備用方案
不要指望僅憑先見之明就可以解決一切問題。僅憑藉自身的預料能力來處理事情是不明智的。採取保護措施便能安然無恙——設立策略層。
不要僅依靠先見之明，請使用策略層！
策略層是位於機器學習/人工智慧系統之上的一個單獨的邏輯層。這一邏輯層是人工智慧必備的安全網，可以檢測輸出、過濾，並決定如何處理。例如，策略層可能會提示“輸出中沒有單詞與髒話黑名單相匹配”。
人工智慧的禮儀
策略層就等同於人工智慧版的人類禮儀。
思考一下你是如何罵人不帶髒字的，你就會明白為什麼策略層是一個比簡單在系統中剔除不良資料更好的選擇。我知道一些其他語言中的髒話，但我從來不會在臺面上說這些詞彙。並不是因為我忘了這些詞彙，而是進行了自我過濾。社會教會了我禮貌。幸運的是，對於你（和使用者），機器學習中也有這樣的修復系統，那就是——策略層。
既然你知道策略層的存在，而且他們很容易構建，如果你現在不馬上把它安裝到人工智慧系統中去，那就太失策啦。