將Kubernetes新增到Microsoft用來擴充套件基於雲的人工智慧邊界的不斷增長的技術中。流行的開源容器編排平臺Kubernetes 在2017年取得了突破性的發展。現在，除了幫助企業在雲或本地管理其應用程式容器部署外，還招募了Kubernetes，以便為基於雲的AI工作負載提供在需求回升時完成工作所需的空間。

微軟推出了一種新的自動擴充套件系統，該系統使用Kubernetes來擴充套件或縮減學習培訓工作負載所需的雲端計算資源量。該系統是與加利福尼亞州聖何塞市的技術初創公司Litbit合作開發的，該公司使用物聯網資料建立“ AI角色”，工作場所可根據其集體經驗和專有技術來增強員工的能力。

例如，組織可以建立和培訓角色，以幫助其現場技術人員在跳上工作卡車並親自拜訪正在起作用以節省時間和費用的機械之前，檢測並診斷裝置問題。

事實證明，這是一個艱鉅的任務，而且是一個不可預測的任務。Litbit發現，由於客戶在不同時間訓練其角色，因此AI訓練工作負載的變化很大。

“其中一些訓練工作(例如Spark ML)大量使用CPU，而其他一些工作(例如TensorFlow)大量使用GPU。在後一種情況下，某些工作會重新訓練神經網路的單個層並很快完成，而其他人則需要訓練整個新的神經網路，這可能需要數小時甚至數天。”微軟代表在部落格中解釋道。

微軟和Litbit選擇了Kubernetes，部分原因是因為其成熟的叢集管理技術，而且還因為該專案在短短几年內吸引了社群的大力支援。儘管該專案始於Google，但仍被視為Linux基金會的Cloud Native Computing Foundation(CNCF)的頭等大事。

兩家公司著手通過使用適用於Kubernetes的Azure CNI網路外掛在具有GPU支援的Azure上配置Kubernetes群集來解決高度可變的機器學習工作負載的問題。然後，他們使用用於Kubernetes的Helm軟體包管理器應用了節點級自動縮放器，隨後進行了一些配置更改，以啟動和執行系統。

該專案是成功的。該系統已經運行了四個月，它使Litbit一次可以擴充套件到40個節點，並且在需求減少時可以無縫縮減規模。微軟已經在其開發者部落格上釋出了Kubernetes自動縮放器的完整演練。

反映出困擾企業DevOps團隊的容器熱潮，微軟對Kubernetes的支援增加了一倍。

在今年12月初的KubeCon會議上，微軟宣佈其Azure容器服務現已縮寫為AKS，這表示該公司以客戶為中心，以Kubernetes為中心的雲原生應用程式開發方法。該公司還推出了一個名為Virtual Kubelet的新聯結器，該聯結器使使用者可以定位該公司的快速容器建立和部署服務Azure容器例項(ACI)。

注：文章為作者獨立觀點，不代表Soo56立場