中小学数学网

当前位置: 主页 > 数学试题 > 数学试题论坛 >

【Hacker News最火教程】机器学习必备的数学知识(责编推荐:数学视频/xuesheng)

时间:2018-12-15 08:02来源:网络整理 作者:游客 点击:
编辑:大明、肖琴 【新智元导读】 对付许多入坑呆板进修的同窗来说,数学也许是较量艰苦的部门。本文作者先容了构建呆板进修产物、或举办呆板进修研究所需的数学配景,以及来自呆板进修工程师、研究职员和西席的名贵履历和提议,并提供了很多课程和书本资

编辑:大明、肖琴

【新智元导读】对付许多入坑呆板进修的同窗来说,数学也许是较量艰苦的部门。本文作者先容了构建呆板进修产物、或举办呆板进修研究所需的数学配景,以及来自呆板进修工程师、研究职员和西席的名贵履历和提议,并提供了很多课程和书本资源。

【Hacker News最火教程】呆板进修必备的数学常识(责编保举:数学视频jxfudao.com/xuesheng)

今朝我们还不完全清晰开始进修呆板进修必要奈何的数学程度,对付那些没有在学校进修过数学或统计学的人尤其云云。

这篇文章的方针是提出打造一款呆板进修产物、或举办有关呆板进修的学术研究所必要的数学配景。这些提议来自与呆板进修工程师、研究职员和教诲事变者的对话,以及笔者在呆板进修研究和行业中的履历。

为了构建所需数学程度的先决前提,本文起首提出了差异的思想模式和计策,以便读者在传统教室之外打仗数学教诲。然后,文章概述了差异范例的呆板进修项目所需的详细配景,因这些学科的范畴从高中程度的统计和微积分常识到概率图模子(PGM)的最新成长。在这最后,我但愿读者可以或许对数学进修发生感受,你必要在你的呆板进修项目中有用操作这些常识,无论是什么项目!

起首,我认可对进修气魄威风凛凛/框架/资源的进修,进修者的小我私人需求和方针也许是唯一无二的。 接待列位在HN上提出本身的意见!

关于数学焦急症的一些领会

究竟证明,许多人,包罗工程师在内,都对数学有着害怕情感。起首,我想谈谈关于“善于数学”的话题。

现实上,善于数学的人城市有许多现实运用数学的实践履历。功效,他们会认为在数学上陷入逆境是习觉得常的工作。最近的研究表现,进修者的心态(而非天赋手段),是一小我私人进修数学手段的首要猜测指标。

要清晰,要到达这种习觉得常的精采状态必要时刻和精神,初中数学 ,但这必定不是人生成就有的手段。本文别的部门将辅佐读者确定所需的数学基本程度,并概述应怎样成立这种程度的计策。

入门:数学和代码

作为软先决前提,我们必要读者把握一些线性代数/矩阵运算的根基常识(以免在标记暗示上感想狐疑),并对概率论有起源相识。另外,我们还勉励您把握根基的编程手段,以作为在给定语境下进修数学的器材。之后,您可以按照感乐趣的项目范例调解本身的存眷核心。

如安在校外进修数学

我信托进修数学的最佳方法是满身心进修(即作为门生)。假如离开了这种全天进修情形,您也许就不会把握学术教室中的解说布局,得到来自伙伴的(起劲)压力和可用的资源。

假如要在校外进修数学,我提议组织进修小组或午餐会、进修研讨会,作为得到进修动力的重要资源。在研究尝试室中,也可以组织念书小组。在进修布局方面,您的念书小组可以赏识教科书的章节并按期进行接头讲座,开发渠道进行Q&A问答勾当等。

这里,文化在施展着重要浸染。这种“特殊”的进修应该是值得勉励的,高中数学,以免在日复一日的繁杂事宜中健忘所学的常识。究竟上,尽量这种方法存在短期本钱,但在构建伙伴驱动的进修情形可以让您的恒久事变服从更高。

数学和代码

数学和代码在呆板进修事变流程中高度融合。代码凡是是用数学直觉直接构建出来,代码乃至和数学共享部门标记和语法。现实上,当代数据科学的框架(譬喻NumPy)使数学运算(如矩阵/矢量积)转换成的可读代码变得越发直观和高效。

笔者勉励读者将代码作为固定进修的一种方法。数学和代码都依靠于领略和暗示要领的准确性。譬喻,实践丧失函数或优化算法的手动实现可以成为真正领略基本观念的好要领。

这里让我们举一个通过代码进修数学的具编制子:在神经收集中实现ReLU激活的反向撒播(没错,通过Tensorflow / PyTorch就可以做到!详细见链接@karpathy/yes-you-should-understand-backprop-e2f06eab496b)。反向撒播是一种依赖微积分链法则,高效计较梯度的技能。为了在这个设定下行使链法则,我们将upstream导数与ReLU的梯度相乘。

起首,我们对ReLU的激活举办可视化处理赏罚,如图:

【Hacker News最火教程】呆板进修必备的数学常识(责编保举:数学视频jxfudao.com/xuesheng)

为了计较梯度(直观地说,就是斜率),可以对一个分段函数举办可视化,以指标函数暗示如下:

【Hacker News最火教程】呆板进修必备的数学常识(责编保举:数学视频jxfudao.com/xuesheng)

NumPy为我们提供了有效且直观的语法,我们的激活函数(蓝色曲线)可以在代码中表明,个中x是输入,relu是输出:

relu = np.maximum(x, 0)

然后是梯度(图中赤色曲线),个中grad暗示upstream梯度:

grad[x < 0] = 0

在没有起首本身推导出梯度的环境下,这行代码的意义也许没有那么显而易见。在我们的代码中,对付满意前提的全部元素,会将upstream梯度(grad)中的全部值设为0,[h <0]。在数学上,这现实上相等于对ReLU梯度的分段暗示,当将其与upstream梯度相乘时,它会将任何小于0的值归零!

如上所见,通过我们对微积分的根基领略,可以清晰地对代码举办思索。神经收集实现的完成示例在这里:

构建呆板进修产物所需的数学常识

在撰写本节内容时,我咨询了呆板进修的工程师,确定怎样最有用地操作数学对体系举办除错。下面的题目示例是工程师以数学视角给出的回覆。假如你早年从没见过也没相关,笔者但愿这一章节可以或许为你感乐趣的专门题目提供一些恰当的配景。


顶一下
(0)
0%
踩一下
(0)
0%
------分隔线----------------------------
发表评论
请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
评价:
表情:
用户名: 验证码:点击我更换图片
栏目列表
推荐内容