機器學習的數學基礎
我們知道，機器學習涉及到很多的工具，其中最重要的當屬數學工具了，因此必要的數學基礎可謂是打開機器學習大門的必備鑰匙。機器學習涉及到的數學基礎內容包括三個方面，分別是線性代數、概率統計和最優化理論。下面小編就會好好給大家介紹一下機器學習中涉及到的數學基礎知道，讓大家在日常的機器學習中可以更好地運用數學工具。
首先我們給大家介紹一下線性代數，線性代數起到的一個最主要的作用就是把具體的事物轉化成抽象的數學模型。不管我們的世界當中有多麼紛繁復雜，我們都可以把它轉化成一個向量，或者一個矩陣的形式。這就是線性代數最主要的作用。所以，在線性代數解決表示這個問題的過程中，我們主要包括這樣兩個部分，一方面是線性空間理論，也就是我們說的向量、矩陣、變換這樣一些問題。第二個是矩陣分析。給定一個矩陣，我們可以對它做所謂的SVD分解，也就是做奇異值分解，或者是做其他的一些分析。這樣兩個部分共同構成了我們機器學習當中所需要的線性代數。
然後我們說一下概率統計，在評價過程中，我們需要使用到概率統計。概率統計包括了兩個方面，一方面是數理統計，另外一方面是概率論。一般來說數理統計比較好理解，我們機器學習當中應用的很多模型都是來源於數理統計。像最簡單的線性回歸，還有邏輯回歸，它實際上都是來源於統計學。在具體地給定了目標函數之後，我們在實際地去評價這個目標函數的時候，我們會用到一些概率論。當給定了一個分布，我們要求解這個目標函數的期望值。在平均意義上，這個目標函數能達到什麼程度呢？這個時候就需要使用到概率論。所以說在評價這個過程中，我們會主要應用到概率統計的一些知識。
最後我們說一下最優化理論，其實關於優化，就不用說了，我們肯定用到的是最優化理論。在最優化理論當中，主要的研究方向是凸優化。凸優化當然它有些限制，但它的好處也很明顯，比如說能夠簡化這個問題的解。因為在優化當中我們都知道，我們要求的是一個最大值，或者是最小值，但實際當中我們可能會遇到一些局部的極大值，局部的極小值，還有鞍點這樣的點。凸優化可以避免這個問題。在凸優化當中，極大值就是最大值，極小值也就是最小值。但在實際當中，尤其是引入了神經網路還有深度學習之後，凸優化的應用范圍越來越窄，很多情況下它不再適用，所以這裡面我們主要用到的是無約束優化。同時，在神經網路當中應用最廣的一個演算法，一個優化方法，就是反向傳播。
㈡ 機器學習應補充哪些數學基礎
機器學習理論是統計學、概率學、計算機科學以及演算法的交叉領域，是通過從數據中的迭代學習去發現能夠被用來構建智能應用的隱藏知識。盡管機器學習和深度學習有著無限可能，然而為了更好地掌握演算法的內部工作機理和得到較好的結果，對大多數這些技術有一個透徹的數學理解是必要的。
最後整理這些，看你要學哪些知識
知識是永遠不會覺得多的，活到老學到老。
㈢ 機器學習對數學功底的要求到底有多高
豆瓣的話題：
研究機器學習需要什麼樣的數學基礎？
來自: 求真 2013-07-11 13:44:22
我是小碩一枚，研究方向是機器學習。通過閱讀一些機器學習的教科書，發現機器學習對於數學基礎要求比較高。
我想問一下：一般研究機器學習需要怎樣的數學基礎？
我們大學學習的高等數學、線性代數和概率論之類的數學基礎課程能夠用嗎？
skynet 2013-07-12 15:30:26
看方向，不過任何方向都基本上不夠。缺什麼補什麼吧，數學是個坑，機器學習也是個坑，人不可能同時在兩個坑裡掙扎。
贊 (3) 回應
skynet 2013-07-12 15:30:26
看方向，不過任何方向都基本上不夠。缺什麼補什麼吧，數學是個坑，機器學習也是個坑，人不可能同時在兩個坑裡掙扎。
贊 (3) 回應
求真 2013-07-12 16:07:20
看方向，不過任何方向都基本上不夠。缺什麼補什麼吧，數學是個坑，機器學習也是個坑，人不可能同 ... skynet
嗯啊，好的。
贊 回應
frce 2014-06-09 15:39:55
說得好，我喜歡。
贊 回應
opera 2014-06-09 15:43:56
高等數學、線性代數和概率論肯定是要用到的。除了它們可能還有別的。
贊 回應
Mr. L (Live long and prosper) 2014-06-09 20:51:39
應用域呢？
贊 回應
泡泡龍 2014-07-03 17:16:37
具體點應該是微積分、概率論、線性代數、隨機分布、凸優化吧
贊 回應
求真 2014-07-06 10:46:35
具體點應該是微積分、概率論、線性代數、隨機分布、凸優化吧泡泡龍
謝謝！
----------------------------------------------------------------------------------------------------
知乎的話題：
如果對機器學習僅是以應用為目的的話，到底需要多少數學…，比如說微分流形，代數拓撲，泛函之類的需要懂嗎？
「僅是以應用為目的」有點含糊。。乍一看題主好像想說是在公司里用，但後面又出來一大票高大上課程，看起來又好像偏學界。。前面的大大們提到的感覺更偏學界。我補充一些工業界的情況。
總的來說我偏向匿名用戶的回答。如果對機器學習僅是以應用為目的的話，到底需要多少數學…，比如說微分流形，代數拓撲，泛函之類的需要懂嗎？ - 匿名用戶的回答
在思考這個問題之前，要先搞清楚公司花錢雇你來幹啥的。我的經驗是，這有兩種情況。一是公司原來沒有一項業務，現在要把一些機器學習這個東西跑起來（從無到有）。二是在你接手的時候公司已經有一定基礎了，現在要把性能調上去（從差到優）。前者完全不用任何數學，先用別人有的模塊/代碼把系統擼起來是王道。後者看具體問題，大多數情況不用數學。
從無到有的情況，比如我原來在facebook做place deplication，大概就是說非死不可上面超多可以簽到的地點，要判斷裡面有哪些是重復的地點。類似知乎上面有很多重復的問題，如何鑒別和重定向這些問題。這個問題從機器學習的角度來看並不難，有很多已有工作。但公司更關心的其實是怎麼把隨便一個系統在fb數十TB的數據上日起來。所以我們的絕大多數時間根本不是花在評估哪個機器學習模型更好，這個流形有什麼性質，那個系統有什麼下限，而是——擼hadoop用幾千個核先把feature抽出來。有了feature以後後台分類器是特媽隨便找的這種事我會亂說？這種情況跟數學完全沒鳥關系好嗎。
從有到優的情況，我也參與了這個項目的調優。基本經驗是——分類器啊模型啊再復雜精巧數學性質再好沒吊用，關鍵還是看feature。弄一個有效的feature出來精度呼呼的往上漲，各種分類器瞎JB換啊調啊基本沒差別。。（當然deep learning這種模型的質變除外，但這個和不搞科研的人就沒啥關系了）所以你要問數學有沒有用，我說有用，根據數學才能提出有效的模型——但這特媽是學界人家十年磨一劍的人用的。放公司里用數學拱KPI分分鍾被nen死。隔壁王二狗整倆新feature獎金拿得多多的，這邊你要死磕泛函產品狗咬死你。。
當然在偏研究的地方比如Google X的某些部門還是有用的，但我覺得這還是偏學界。
總的來說，我的建議是，如果想去公司的話就不要糾結逼格過高的事情了。學好線性代數，統計和凸優化就出門打怪吧，攢系統經驗和dirty trick才是王道。當然我也不是說就不要搞數學，只是如果你去公司的話，在學好線代統計凸優化的前提下，同樣的時間花在學計算機系統的構建和系統性的思考方法上，比學習數學更劃算。
編輯於 2015-04-09 35 條評論 感謝
這里有個80-20原則的應用。
只要20%的機器學習知識，其實已經可以在80%的商業應用里取得滿意的效果。
但，如果公司精益求精，或者說是專注於機器學習演算法的公司，可能要投入指數級別的努力來達到性能的提升。
不請自來，我本人就是從數學轉到數據科學上來的，是完全以應用為目的學的機器學習。本科加PHD九年中，數學方面的課程大概學過：數學分析（微積分），線性代數，概率論，統計，應用統計，數值分析，常微分方程，偏微分方程，數值偏微分方程，運籌學，離散數學，隨機過程，隨機偏微分方程，抽象代數，實變函數，泛函分析，復變函數，數學建模，拓撲，微分幾何，漸近分析等等
從我個人的學習過程中，覺得對機器學習的應用有幫助的數學學科有（重要性從高到低）：
1， 線性代數（或叫高等代數）：必需，所有的演算法最後都會向量化表示，線性代數不熟的話，演算法都看不懂啊
2，微積分：這個是所有高等數學的基礎，不細說了
3，統計：這里包括統計理論基礎，和應用統計（主要就是線性模型）。很多機器學習內容的前身就是統計啊。
3.5， 凸優化： 經 @徐文浩 補充，原因跟6相似
前三個感覺是想要學好機器學習所必需的，後面的雖然不必需，但是適當了解之後，幫助也很大：
4,概率論：基礎概率論就夠了，以測度為基礎的高級概率論對機器學習幫助不大
5，數值分析：數值分析的一部分包括了插值，擬合，數值求解各種方程，數值積分，這些小技術雖然沒有跟機器學習直接扯上關系，但是可能在你處理復雜問題時的一些小地方起到奇效。數值分析的另一大塊就是數值線性代數了，包括怎麼矩陣求逆了，矩陣的各種分解了，矩陣特徵根奇異值什麼了，這裡面很多演算法都會被機器學習的書法直接使用的。比如SVD就被Principal Component Analysis直接調用了啊。
6，運籌學：運籌就是做優化，說白了就是把問題表示成數學公式和限制條件，然後求最大值或最小值。所以不少機器學習裡面先進的優化演算法，最先都是在運籌裡面出現的
暫時就想到這么多，至於題主說的泛函，微分流形，代數拓撲啥的，完全不需要了解啊。
編輯於 2015-04-28 26 條評論 感謝
我就是從數學轉ML的。我就知道，肯定有人要扯很多純數學的「基礎背景」。我說一些實在的，微分幾何，流形，代數拓撲這些知識，只要你去找相關的研究論文，總能找得到和Ml有交集的地方。但是，不代表你必須掌握它們。在大部分的ML研究里，還是微積分和線性代數、概率統計的功底最重要。不要太小看微積分和線性代數，很多時候做研究時要用的推導還是需要很多熟練的技巧才可以勝任。至於其他知識，可以用到時再補充。
----------------------------------------------------------------------------------------------
CSDN的TOPIC:
機器學習需要學習哪些數學知識 [問題點數：20分，結帖人hanyahui88]
收藏
關注
hanyahui88
大眼的小眼
本版等級：
結帖率：100%
樓主發表於： 2014-10-16 11:07:37
機器學習數學數據分析演算法
最近公司做數據分析，但是以前都沒有接觸過，看了一下所有的演算法，很多都是跟數學有關，看不懂很多數學符號，所以問問我應該學習什麼數學 好像離散數學是必須的
更多0分享到：
相關推薦：
阿里雲機器學習演算法應用實踐
統計機器學習入門——重抽樣方法
統計機器學習入門——分類2
統計機器學習入門——線性模型選擇與正則化2
對我有用[0] 丟個板磚[0] 引用 | 舉報 | 管理
回復次數：9
關注
OrthocenterCh...
Kenney_Qin
本版等級：
#1 得分：3回復於： 2014-10-16 13:18:23
以我平時接觸到的機器學習演算法來說，與其相關的的數學知識有：求導，求梯度，拉格朗日乘子法，拉格朗日對偶，牛頓迭代法等，數學知識是基礎，很多機器學習演算法是建立在數學的基礎上，是數值計算的比較多，和離散數學關系不是特別大，如果你要做圖演算法，那離散數學就很重要了。
對我有用[0] 丟個板磚[0] 引用 | 舉報 | 管理
關注
hanyahui88
大眼的小眼
本版等級：
#2 得分：0回復於： 2014-10-17 09:12:48
引用 1 樓 OrthocenterChocolate 的回復:以我平時接觸到的機器學習演算法來說，與其相關的的數學知識有：求導，求梯度，拉格朗日乘子法，拉格朗日對偶，牛頓迭代法等，數學知識是基礎，很多機器學習演算法是建立在數學的基礎上，是數值計算的比較多，和離散數學關系不是特別大，如果你要做圖演算法，那離散數學就很重要了。
我最近在研究均值漂移演算法，裡面的核函數，好多公式都看不懂 我也不知道學什麼數學可以看懂這些公式。
你說的求導，求梯度，拉格朗日乘子法，拉格朗日對偶，牛頓迭代法等 這些是什麼數學中的？？
對我有用[0] 丟個板磚[0] 引用 | 舉報 | 管理
關注
longburulin
longburulin
本版等級：
#3 得分：2回復於： 2014-10-17 09:51:41
引用 2 樓 hanyahui88 的回復:Quote: 引用 1 樓 OrthocenterChocolate 的回復: 以我平時接觸到的機器學習演算法來說，與其相關的的數學知識有：求導，求梯度，拉格朗日乘子法，拉格朗日對偶，牛頓迭代法等，數學知識是基礎，很多機器學習演算法是建立在數學的基礎上，是數值計算的比較多，和離散數學關系不是特別大，如果你要做圖演算法，那離散數學就很重要了。我最近在研究均值漂移演算法，裡面的核函數，好多公式都看不懂 我也不知道學什麼數學可以看懂這些公式。
你說的求導，求梯度，拉格朗日乘子法，拉格朗日對偶，牛頓迭代法等 這些是什麼數學中的？？
數值分析裡面好像除了拉格朗日對偶沒有 其他好像有
對我有用[0] 丟個板磚[0] 引用 | 舉報 | 管理
關注
OrthocenterCh...
Kenney_Qin
本版等級：
#4 得分：0回復於： 2014-10-19 21:38:16
引用 2 樓 hanyahui88 的回復:Quote: 引用 1 樓 OrthocenterChocolate 的回復: 以我平時接觸到的機器學習演算法來說，與其相關的的數學知識有：求導，求梯度，拉格朗日乘子法，拉格朗日對偶，牛頓迭代法等，數學知識是基礎，很多機器學習演算法是建立在數學的基礎上，是數值計算的比較多，和離散數學關系不是特別大，如果你要做圖演算法，那離散數學就很重要了。我最近在研究均值漂移演算法，裡面的核函數，好多公式都看不懂 我也不知道學什麼數學可以看懂這些公式。
你說的求導，求梯度，拉格朗日乘子法，拉格朗日對偶，牛頓迭代法等 這些是什麼數學中的？？
求導，求梯度，拉格朗日乘子法是高等數學裡面的，拉格朗日對偶，牛頓迭代法你可以看看凸優化，其實凸優化應該包含了你想看的很多機器學習中的數學知識，只不過它們是建立在一些更為基礎的數學知識上（如求導）。
對我有用[0] 丟個板磚[0] 引用 | 舉報 | 管理
關注
hanyahui88
大眼的小眼
本版等級：
#5 得分：0回復於： 2014-10-21 14:40:54
引用 4 樓 OrthocenterChocolate 的回復:Quote: 引用 2 樓 hanyahui88 的回復:Quote: 引用 1 樓 OrthocenterChocolate 的回復: 以我平時接觸到的機器學習演算法來說，與其相關的的數學知識有：求導，求梯度，拉格朗日乘子法，拉格朗日對偶，牛頓迭代法等，數學知識是基礎，很多機器學習演算法是建立在數學的基礎上，是數值計算的比較多，和離散數學關系不是特別大，如果你要做圖演算法，那離散數學就很重要了。我最近在研究均值漂移演算法，裡面的核函數，好多公式都看不懂 我也不知道學什麼數學可以看懂這些公式。
你說的求導，求梯度，拉格朗日乘子法，拉格朗日對偶，牛頓迭代法等 這些是什麼數學中的？？求導，求梯度，拉格朗日乘子法是高等數學裡面的，拉格朗日對偶，牛頓迭代法你可以看看凸優化，其實凸優化應該包含了你想看的很多機器學習中的數學知識，只不過它們是建立在一些更為基礎的數學知識上（如求導）。
也就是看高等數學 和凸優化 基本就可以了？？？
對我有用[0] 丟個板磚[0] 引用 | 舉報 | 管理
關注
OrthocenterCh...
Kenney_Qin
本版等級：
#6 得分：5回復於： 2014-10-23 14:32:40
引用 5 樓 hanyahui88 的回復:Quote: 引用 4 樓 OrthocenterChocolate 的回復:Quote: 引用 2 樓 hanyahui88 的回復:Quote: 引用 1 樓 OrthocenterChocolate 的回復: 以我平時接觸到的機器學習演算法來說，與其相關的的數學知識有：求導，求梯度，拉格朗日乘子法，拉格朗日對偶，牛頓迭代法等，數學知識是基礎，很多機器學習演算法是建立在數學的基礎上，是數值計算的比較多，和離散數學關系不是特別大，如果你要做圖演算法，那離散數學就很重要了。我最近在研究均值漂移演算法，裡面的核函數，好多公式都看不懂 我也不知道學什麼數學可以看懂這些公式。
你說的求導，求梯度，拉格朗日乘子法，拉格朗日對偶，牛頓迭代法等 這些是什麼數學中的？？求導，求梯度，拉格朗日乘子法是高等數學裡面的，拉格朗日對偶，牛頓迭代法你可以看看凸優化，其實凸優化應該包含了你想看的很多機器學習中的數學知識，只不過它們是建立在一些更為基礎的數學知識上（如求導）。
也就是看高等數學 和凸優化 基本就可以了？？？
對，還有些矩陣運算，如果不熟悉的話再看看線性代數，建議你碰到不會的再去查，而不是事先全部看完， 不然太多了。
對我有用[0] 丟個板磚[0] 引用 | 舉報 | 管理
關注
q243021856
狼痕
本版等級：
#7 得分：5回復於： 2014-10-23 14:58:16
微積分、線性代數、概率論、離散數學、統計學
對我有用[0] 丟個板磚[0] 引用 | 舉報 | 管理
關注
shaowei213
Tracysw
本版等級：
#8 得分：5回復於： 2014-10-23 15:38:32
引用 7 樓 q243021856 的回復:微積分、線性代數、概率論、離散數學、統計學
專業
對我有用[0] 丟個板磚[0] 引用 | 舉報 | 管理
關注
hanyahui88
大眼的小眼
本版等級：
#9 得分：0回復於： 2014-10-28 11:45:36
好的 謝謝大家㈣ 如何快速掌握機器學習中的數學知識
我們學習的諸多技術中都離不開數學知識，而機器學習中涉及到很多知識，其中最重要的就是數學知識。當然，很多人認為數學是比較難的知識，不過確實是這樣的。現在有很多人都開始關注機器學習，而學習機器學習離不開數學內容，你是否開始納悶，要如何快速地掌握機器學習的知識呢？下面我們就給大家解答一下這個問題。
快速掌握機器學習中的數學知識需要從三個方向進行，第一就是掌握核心概念，掌握核心概念。我們需要掌握核心概念，比如說在線性代數當中核心概念是什麼？就是線性空間，向量矩陣以及對於向量矩陣的度量，包括范數、包括內積這些，這些就是它的核心概念。那麼在概率統計當中，頻率學派，還有貝葉斯學派，他們兩者之間的區別是一個核心概念，同時呢，像期望方差這些指標，還有條件概率，這樣的一些概念，條件概率聯合概率這樣一些概念也是核心概念。那麼在最優化當中，這些演算法，這個梯度下降法，或者牛頓法，這就是核心概念。
然後就是以點帶面。具體就是在時間有限的情況下，我們一定要把有限的精力集中在重要的知識上。先把這些核心概念搞清楚，再通過這些核心的概念，來以點代面，從這些關鍵的問題去鋪開，慢慢地去接觸其他的問題。這樣做有利於增加我們的數學知識儲備。
最後就是問題導向，也就是結合著我們實際的需求，結合我們實際的問題，來決定我們去學什麼。因為畢竟學習機器學習當中的數學都是為了解決問題。如果不能解決問題的話，你學到的這個東西的價值就沒有能夠解決問題的這個知識的價值大。當然我們也不能說一點價值都沒有。在學習的時候，大家可以嘗試著以問題為導向。帶著問題去探索這些知識，帶著問題去學習知識，那時候我們就會發現，這樣會得到更高的效率。
在這篇文章中我們給大家介紹了關於機器學習中數學的相關內容，通過這些內容我們可以更好地掌握到機器學習的要領，要知道數學知識是一個十分重要的知識體系，我們只有學好了數學才能夠為機器學習奠定基礎，希望這篇文章能夠更好的幫助大家。㈤ 關於機器學習的數學基礎問題
機器學習背後的數學基礎，假設有了高中數學基礎，正常再學習也要5年，所以如果一個人真的零基礎，補起來實在太久，成本大到不應該入這行。
至於教的時候是否使用形象比喻生活例子，其實不重要，因為數學就是脫離現實的，只有靠筆頭計算才能掌握起來。
如果只有編程基礎，但搞不了數學，也可以做點其他的事，比如開發系統，雖然人工智慧核心是演算法，但相關系統的基礎設施建設也是很缺的，可以考慮給它們做系統。㈥ 機器學習需要什麼數學基礎，學習這些數學需要會哪些
高數、線性代數、概率論，深度學習裡面一些矩陣運算比較多，還涉及一些梯度、求導之類的基礎知識。真要學的很精的話還是需要很扎實的數學基礎的。
㈦ 機器學習的需要什麼數學基礎
最基礎的部分包括抄基本的高等數學襲，比如分析、代數（尤其是矩陣論）、數值優化演算法、概率論與數理統計等。
更進階的需要掌握實分析（比如測度論）、圖論、時間序列、回歸分析等等。
再深入的你還可以掌握微分方程、流形幾何等等基礎機器學習涉及不到的內容，這個時候你就可以挖別人挖不出來的坑了。
另外雖然嚴格來說不屬於數學，但是演算法的概念和數據結構的相關知識也是一定要掌握的㈧ 機器學習應補充哪些數學基礎
線性代數、概率與數理統計等吧
我目前在研究機器學習的演算法，發現用的比專較多的數學知識有：屬
1、矩陣相關計算，因為機器學習處理的是多特徵多樣本，涉及矩陣是不可避免的，而且在降維時用到PCA、奇異值等。
2、微積分求導，例如求梯度方向，求極大極小值時
3、貝葉斯公式，很多模型基於貝葉斯原理
4、統計分布，特別是高斯分布應用很廣。㈨ 機器學習需要哪些數學基礎
我們知道，機器學習涉及到很多的工具，其中最重要的當屬數學工具了，因此必要的數學基礎可謂是打開機器學習大門的必備鑰匙。機器學習涉及到的數學基礎內容包括三個方面，分別是線性代數、概率統計和最優化理論。下面小編就會好好給大家介紹一下機器學習中涉及到的數學基礎知道，讓大家在日常的機器學習中可以更好地運用數學工具。
首先我們給大家介紹一下線性代數，線性代數起到的一個最主要的作用就是把具體的事物轉化成抽象的數學模型。不管我們的世界當中有多麼紛繁復雜，我們都可以把它轉化成一個向量，或者一個矩陣的形式。這就是線性代數最主要的作用。所以，在線性代數解決表示這個問題的過程中，我們主要包括這樣兩個部分，一方面是線性空間理論，也就是我們說的向量、矩陣、變換這樣一些問題。第二個是矩陣分析。給定一個矩陣，我們可以對它做所謂的SVD分解，也就是做奇異值分解，或者是做其他的一些分析。這樣兩個部分共同構成了我們機器學習當中所需要的線性代數。
然後我們說一下概率統計，在評價過程中，我們需要使用到概率統計。概率統計包括了兩個方面，一方面是數理統計，另外一方面是概率論。一般來說數理統計比較好理解，我們機器學習當中應用的很多模型都是來源於數理統計。像最簡單的線性回歸，還有邏輯回歸，它實際上都是來源於統計學。在具體地給定了目標函數之後，我們在實際地去評價這個目標函數的時候，我們會用到一些概率論。當給定了一個分布，我們要求解這個目標函數的期望值。在平均意義上，這個目標函數能達到什麼程度呢？這個時候就需要使用到概率論。所以說在評價這個過程中，我們會主要應用到概率統計的一些知識。
最後我們說一下最優化理論，其實關於優化，就不用說了，我們肯定用到的是最優化理論。在最優化理論當中，主要的研究方向是凸優化。凸優化當然它有些限制，但它的好處也很明顯，比如說能夠簡化這個問題的解。因為在優化當中我們都知道，我們要求的是一個最大值，或者是最小值，但實際當中我們可能會遇到一些局部的極大值，局部的極小值，還有鞍點這樣的點。凸優化可以避免這個問題。在凸優化當中，極大值就是最大值，極小值也就是最小值。但在實際當中，尤其是引入了神經網路還有深度學習之後，凸優化的應用范圍越來越窄，很多情況下它不再適用，所以這裡面我們主要用到的是無約束優化。同時，在神經網路當中應用最廣的一個演算法，一個優化方法，就是反向傳播。
㈩ 機器學習需要哪些數學基礎
掃描各種演算法數據集，並給定正確的答案。使機器得到一個最優模型，再利用這個模型將所有新的數據樣本映射為相應的輸出結果，對輸出結果進行簡單的判斷而實現分類的目的，那麼這個最優模型也就具有了對未知數據進行分類的能力。