定義如下多目標最佳化問題，
透過非負加權求和把上面多目標最佳化轉化為單目標問題，
對比多目標最佳化問題和單目標最佳化，最大的區別在於多目標最佳化問題是一個向量最佳化的問題，需要比較向量之間的大小，向量之間僅僅存在偏序關係，這就導致該最佳化問題的性質非常不好。
首先說一下我們平常遇到的最佳化問題嚴格來說都屬於多目標最佳化問題，但是目前來說大多數的做法是把多個目標直接做非負加權求和轉化為一個單目標的最佳化問題。所以這裡要指出的就是直接處理多目標最佳化問題和透過加權求和的方式轉化為單目標相比優勢是什麼？
1單目標權值難以確定
多個目標之間必然存在矛盾，如何權衡這些目標，如果是用單目標加權的話，我們只能是調節權值大小，這樣權值的確定其實是很難的，除了一頓實驗沒有什麼太好的方法去確定，而多目標最佳化因為是直接求解多目標問題，就不存在確定權值的問題了。
2各個目標之間量綱的不統一，可能會造成單目標最佳化問題魯棒性差
各個目標之間量綱往往不統一，所以為了平衡各個目標之間的量綱，往往需要較大的權值 來平衡量綱。例如目標函式 的量綱相對其它目標函式就很小，所以為了平衡各個目標，就需要將 設定的很大，而如果 包含一點Noise的話，很大的權值 就會對整個目標函式產生巨大的影響。
3單目標加權求和只能逼近凸的帕累託面
加權求和的方式只能逼近帕累託前沿面為凸集的情況，如果多目標最佳化問題的帕累託面為非凸，則加權求和的方式就不能和原多目標最佳化問題等價，此時只有直接處理原多目標最佳化問題才能解決。
4多目標最佳化問題的帕累託解集包含更多有效資訊
多目標最佳化問題的求解是會得到一個帕累託解集的，這個解集裡邊包含著很多的資訊，例如可以產生一些對模型的可解釋，可以分析多個目標之間的相關性等等。去年的機器學習頂級會議NIPS2018有一篇文章就是巧妙的將多目標最佳化的概念引入到多工學習中，就是利用了多目標最佳化問題的這個性質。具體可參看我之前的回答 NIPS 2018 有什麼值得關注的亮點？
多目標最佳化的侷限性
說完了優勢，那現在多目標最佳化的侷限性是什麼？為啥我們之前都是用單目標的比較多呢？原因比較簡單，1單目標畢竟是比較簡單的。2搞成多目標之後計算量要大大增加，這對於目前非常吃計算量的最佳化領域來說也很致命的弱點。看看多目標領域的頂級期刊的文章，搞個幾千或者上萬維的決策變數就是large-scale的了，可是在實際應用中經常會遇到百萬，千萬級別的最佳化問題。3多目標最佳化目前在處理2-5個目標還不錯，如果目標數太多，其實目前也沒啥太的好方法啦。4在業界的應用問題中，業務方需要你給一個明確的答案，而不是在一堆帕累託解集裡邊去選。
更多關於單目標和多目標最佳化可以參考
運籌OR帷幄專欄也會定期釋出最佳化領域的科普內容和前沿進展
定義如下多目標最佳化問題，
透過非負加權求和把上面多目標最佳化轉化為單目標問題，
對比多目標最佳化問題和單目標最佳化，最大的區別在於多目標最佳化問題是一個向量最佳化的問題，需要比較向量之間的大小，向量之間僅僅存在偏序關係，這就導致該最佳化問題的性質非常不好。
首先說一下我們平常遇到的最佳化問題嚴格來說都屬於多目標最佳化問題，但是目前來說大多數的做法是把多個目標直接做非負加權求和轉化為一個單目標的最佳化問題。所以這裡要指出的就是直接處理多目標最佳化問題和透過加權求和的方式轉化為單目標相比優勢是什麼？
1單目標權值難以確定
多個目標之間必然存在矛盾，如何權衡這些目標，如果是用單目標加權的話，我們只能是調節權值大小，這樣權值的確定其實是很難的，除了一頓實驗沒有什麼太好的方法去確定，而多目標最佳化因為是直接求解多目標問題，就不存在確定權值的問題了。
2各個目標之間量綱的不統一，可能會造成單目標最佳化問題魯棒性差
各個目標之間量綱往往不統一，所以為了平衡各個目標之間的量綱，往往需要較大的權值 來平衡量綱。例如目標函式 的量綱相對其它目標函式就很小，所以為了平衡各個目標，就需要將 設定的很大，而如果 包含一點Noise的話，很大的權值 就會對整個目標函式產生巨大的影響。
3單目標加權求和只能逼近凸的帕累託面
加權求和的方式只能逼近帕累託前沿面為凸集的情況，如果多目標最佳化問題的帕累託面為非凸，則加權求和的方式就不能和原多目標最佳化問題等價，此時只有直接處理原多目標最佳化問題才能解決。
4多目標最佳化問題的帕累託解集包含更多有效資訊
多目標最佳化問題的求解是會得到一個帕累託解集的，這個解集裡邊包含著很多的資訊，例如可以產生一些對模型的可解釋，可以分析多個目標之間的相關性等等。去年的機器學習頂級會議NIPS2018有一篇文章就是巧妙的將多目標最佳化的概念引入到多工學習中，就是利用了多目標最佳化問題的這個性質。具體可參看我之前的回答 NIPS 2018 有什麼值得關注的亮點？
多目標最佳化的侷限性
說完了優勢，那現在多目標最佳化的侷限性是什麼？為啥我們之前都是用單目標的比較多呢？原因比較簡單，1單目標畢竟是比較簡單的。2搞成多目標之後計算量要大大增加，這對於目前非常吃計算量的最佳化領域來說也很致命的弱點。看看多目標領域的頂級期刊的文章，搞個幾千或者上萬維的決策變數就是large-scale的了，可是在實際應用中經常會遇到百萬，千萬級別的最佳化問題。3多目標最佳化目前在處理2-5個目標還不錯，如果目標數太多，其實目前也沒啥太的好方法啦。4在業界的應用問題中，業務方需要你給一個明確的答案，而不是在一堆帕累託解集裡邊去選。
更多關於單目標和多目標最佳化可以參考
文雨之：【學界】資料+進化演算法=資料驅動進化最佳化？進化計算PK 數學最佳化運籌OR帷幄專欄也會定期釋出最佳化領域的科普內容和前沿進展
『運籌OR帷幄』大資料時代的運籌學