由统计机器学习的观点,如何在概念上理解预训练的过程?
学习两用哲学后的感悟 在听这堂哲学课之前，我对哲学的了解还很肤浅，只是接触过一些哲学常识和故事，像这样全面系统的学习哲学还是第一次。通过学习我了解到，哲学能够提升人们的观点，从而使人对事物产生更深的理解，它提高的是人的思想和主观意识，这种根深蒂固的变化，使人的思想变的成熟，所以说，以哲学的视角看待世界，应该是站在一个超越世界的立足点之上的，这种俯瞰一切的高度是哲学独有的，它不同于其它人类的思维，它是精神的自由与主动所赋予的反思人类自身、以至于反思整个世界的能力。作为一名普通职工，要学会用哲学的眼光对待同事、亲人、朋友，应当理性处理好自然、社会和人三者的关系，做到“仁”、“恕”、“忠”、“信”。对待工作要做到“忠”，为人处事要忠厚，在本职工作面前不受任物质诱惑，要树立自己的行为准则，当遇到困难时不要急躁，和领导、同事及时沟通，要用一种积极的心态面对。工作中难免会出现意见的分歧，当意见不统一时，首先应当检讨自己，先从对方的角度考虑，用辩证的思想了解情况、分析矛盾、解决问题，妥善的处理好领导和同事的关系，只有抱着谦虚的态度，认识到自己的不足，才能更好的提高工作业绩。对待亲人要做到“仁”和“恕”，中国有句古话“百善孝为先，”要有一颗仁爱之心，孝敬父母、善待家人，才能使家庭更加和睦。我认为，一个人在自己的亲人面前，往往是最真实的，当与家人发生了争吵时，我们应当宽容体谅对方，而不是一味的指责或埋怨，因为争吵解决不了任何问题，何不用理性的眼光去分析问题的所在呢？不要认为自己的让步会在亲人面前失掉面子，恰恰相反，必要的让步也会换来亲人对你的理解和尊重。对待朋友要做到“信”。与朋友相处时，要讲诚信，相互信任，你尊重别人才能换来对方的尊重，诚信体现了一个人良好的品格，子曰：“益者三友，损者三友。友直、友谅、友多闻，益矣；友便辟，友善柔，友便佞，损矣。”所以在结交新朋友时，首先要了解对方的为人，结交益友可以为我们的生活带来很多帮助，相反与品格低劣的人在一起是百害而无一益的。通过这次学习，我对哲学又有了更高的认识，它使我在分析、处理事物的时候思路更加清晰，眼光更加宽广，在今后，有机会我还会多接触哲学的书籍，相信只有通过不断的学习哲学，才能充实自己的精神世界，才能对人生有更多的感悟。
就是可以提高自己的哲学素质,学会看待问题的思维方法.有利于洞察世界和社会,从而明辨是非.提高自己修养.每个人都有自己的人生哲学，哪怕是不愿意思考的人，他的哲学就是得过且过。
学哲学并不能直接给你带来物质利益，但却能让你去思考人生。哲学的基本问题最简单，答案却五花八门，没有定论。
中国人一直都有一样哲学，那就是趋利避害，为了生存、利益而不择手段。这种哲学统治了中国人2000多年，从根源上来看，其实就是外儒内法。外儒教会人们做伪君子，内法教会人们残忍、不把自己当人看。
法家的思想并不是法治抑或法制，其根本其实就是“术”，通俗点说就是阴谋诡计、不择手段。
一个思想如此统一的国度，带给世界先进国家的概念就是——这个国家没有哲学，除了吃饭、做爱，大脑里一片空白。因此，从大国角度来看，中国是唯一没有给世界贡献文明的大国，不管是人文文明还是科技文明。
思想决定行动，思考带来进步
试看西方的伟大人物，都是先有思想，然后才有成就。
牛顿未尝不是一个思想家，爱因斯坦更是如此；一个建立经典物理，一个打破经典，创建相对论。
文艺复兴时期的启蒙大师包括了作家、画家、雕刻家等等，他们都用行动展示了他们的思想，或者接受先进思想，把这些思想融进作品中，影响了一代又一代的人。如果没有洛克的思想，就没有伏尔泰、狄德罗、孟德斯鸠的启蒙运动，没有洛克，也没有卢梭的《社会契约论》。
同样，没有尼采的超人理论，希特勒就找不到种族灭绝政策的理论根据。当然，尼采是被希特勒利用的。这里也说明思想的厉害程度。
学哲学，也许会让你痛苦不堪，看到自己的人生际遇，看到周围人们的生活痛苦、焦虑不安，就会感到这个社会没救了；
学哲学，也许会让你快快乐乐，看到的这些情况，其实都可以用社会规律来解释；既然有些情况是不可避免的，那么你就可以一点一点的做起，或者出国呼吸自由的空气，或者留在国内做一些事情；
学哲学，也许会让你觉得生命无意义，也许会让你觉得生命更有意义。
学哲学到底有什么好处？凭君自判。
例：数据源自高斯，或类高斯的模型，那么就可以用高斯模型拟合数据，进而得到该高斯模型的(均值,方差)，然后对于一个新来的输入，就可以根据这个高斯模型，预测其属于该类别的概率。
目前机器学习的一个比较热门的方向是统计机器学习（另外一个可能是图模型，按照Jordan的说法是统计机器学习属于频率主义，而图模型属于贝叶斯主 义）， 对于每一个做统计机器学习的研究者来说，他们大致可以分为两类：一类做统计学习理论相关工作，如泛化界、约简或一致性；一类做优化算法，如支持向量机、 Boosting等。作为一个纯统计机器学习的学者来说，我想这两块内容都得了解。优化算法的门槛低点，可能比较容易上手，了解并不太难，比如支持向 量机本质上是求解一个RKHS上的二次优化问题，Boosting是函数空间上的梯度下降优化问题。统计学习理论的门槛高点，需要的基础数学知识多点，离 计算机出生的人比较远，因而常常使人望而生畏。对统计学习理论这块做了些整理，发现其实这块东西并非如想象的那么难，本质无非是概率集中不 等式在机器学习上的应用，下面以泛化界为例讲一下自己对那块内容的理解。
中文上的意思是，依赖于许多独立随机变量的随机变量本质上是个常量，举个例子，经验风险就是一个依赖于一个随机训练样本集合的随机变量，因而经验风险本质 上应该是个常量。
预训练指的是train model的过程么？还是deep learning中的unsupervised pre-training？
如果是前者的话：
感觉从概率的角度看，一般是用概率上的统计模型拟合数据，
例：数据源自高斯，或类高斯的模型，那么就可以用高斯模型拟合数据，进而得到该高斯模型的(均值,方差)，然后对于一个新来的输入，就可以根据这个高斯模型，预测其属于该类别的概率了。
如果你听说过猴子和打字机的故事就好理解了，猴子打出来的名著就是人工智能，所谓的机器学习就是猴子打字，而预训练就是培训猴子打字
以作画为例。这个本身可以当成一个随机过程。可参考lda对比。可以是 想法->轮廓画->成画。预训练，可以认为，给定一幅成画，找出其最可能的轮廓画的样子。
不好说。直觉上，第一点，预训练后，新的表示只留了骨架，类似一张图片的速写素描版本，信息量减少了，但表达的意思都还在。
所以可以从速描图和原图两者之间的关系上想想。
机器学习方法有哪些?
机器学习中常用的方法有：(1) 归纳学习符号归纳学习：典型的符号归纳学习有示例学习、决策树学习。函数归纳学习(发现学习)：典型的函数归纳学习有神经网络学习、示例学习、发现学习、统计学习。(2) 演绎学习(3) 类比学习：典型的类比学习有案例(范例)学习。(4) 分析学习：典型的分析学习有解释学习、宏...
于机器学习来说,为什么读计算机比读统计更好
并没有，最好的结果是有AMS和CS的双重背景。没有coding技术其实还好，这个东西不是很重要，没有统计的背景很多算法学起来会很难。
机器学习和统计里面的auc怎么理解
作者：小小丘来源：知乎 我给出的答案是 AUC是指 随机给定一个正样本和一个负样本，分类器输出的正样本的概率 比 分类器出去负样本的概率 大的可能性。（这里要感谢下 @付笑晗 大兄弟的严谨）。详细解释如下：随机抽取一个样本， 对应每一潜在可能值X都对应有一个判定位正样本的概率P。对一批已知...
如何看待机器学习领域里的PMLR论文?
探索机器学习领域的璀璨明珠：PMLR会议全解析PMLR，即"Proceedings of Machine Learning Research"，是机器学习领域里一颗璀璨的学术明星，它为全球科研者们提供了一个独特的平台。这个在线、免费且开放获取的论文集，汇集了诸如国际机器学习大会（ICML）、神经信息处理系统大会（NIPS）和人工智能与统计学习研讨...
什么是机器学习?
(2) 结合各种学习方法，取长补短的多种形式的集成学习系统研究正在兴起。特别是连接学习符号学习的耦合可以更好地解决连续性信号处理中知识与技能的获取与求精问题而受到重视。(3) 机器学习与人工智能各种基础问题的统一性观点正在形成。例如学习与问题求解结合进行、知识表达便于学习的观点产生了通用智能系统...
机器学习的目的
机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能核心，是使计算机具有智能的根本途径。机器学习是研究怎样使用计算机模拟或实现...
机器学习的书籍选择有哪一些呢?
推荐的话还是听听业内人士说的建议吧。现在北京大学的张志华教授曾经在2017年的《中国计算机学会通讯》上发表了《机器学习的发展历程及启示》[1]，这篇文章里就很详细地推荐了机器学习的学习方式——机器学习集技术、科学与艺术于一体,它有别于传统人工智能,是现代人工智能的核心。它牵涉到统计、优化、...
机器学习的意义
人们曾对机器学习给出各种定义。H.A.Simon认为，学习是系统所作的适应性变化，使得系统在下一次完成同样或类似的任务时更为有效。R.s.Michalski认为，学习是构造或修改对于所经历事物的表示。从事专家系统研制的人们则认为学习是知识的获取。这些观点各有侧重，第一种观点强调学习的外部行为效果，第二种则...
如何评价 Coursera 的机器学习 课程
如何评价 Coursera 的机器学习 (Andrew Ng) 课程？本人统计学专业在读小本一枚。暑假想扩充一下知识面，正好看到了这门课对背景知识要求不高，感觉像是给非计算机专业的业余爱好者开得课程，于是选了这门课。现在已经Week6结束了，现在已经介绍了线性回归、logistic回归、BP神经网络以及机器学习算法中的...
聚类分析是什么研究手段
从统计学的观点看，聚类分析是通过数据建模简化数据的一种方法。传统的统计聚类分析方法包括系统聚类法、分解法、加入法、动态聚类法、有序样品聚类、有重叠聚类和模糊聚类等。采用k-均值、k-中心点等算法的聚类分析工具已被加入到许多著名的统计分析软件包中，如SPSS、SAS等。从机器学习的角度讲，簇相当...
歧肤欣民： 深度学习是机器学习领域中对模式(声音、图像等等)进行建模的一种方法,它也是一种基于统计的概率模型.在对各种模式进行建模之后,便可以对各种模式进行识别了,例如待建模的模式是声音的话,那么这种识别便可以理解为语音识别
林甸县18882805364： 如何进行有效的数据分析 - ？
歧肤欣民： 首先,我们要明确数据分析的概念和含义,清楚地理解什么是数据分析; 什么是数据分析呢,浅层面讲就是通过数据,查找其中蕴含的能够反映现实状况的规律. 专业一点讲:数据分析就是适当的统计分析方法对收集来的大量数据进行分析,...
林甸县18882805364： 机器学习有哪些定义? ？
歧肤欣民： 机器学习有下面几种定义:“机器学习是一门人工智能的科学,该领域的主要研究对象是人工智能,特别是如何在经验学习中改善具体算法的性能”
林甸县18882805364： 什么是机器学习 - ？
歧肤欣民： 机器学习通过从数据里提取规则或模式来把数据转换成信息.主要的方法有归纳学习法和分析学习法.数据首先被预处理,形成特征,然后根据特征创建某种模型.机器学习算法分析收集到的数据,分配权重、阈值和其他参数达到学习目的....
林甸县18882805364： 机器是如何学习的 - ？
歧肤欣民： 机器学习是近20多年兴起的一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科.机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法.机器学习算法是一类从数据中自动分析获得规律,并利用规律对未知数据进行预测的算法.因为学习算法中涉及了大量的统计学理论,机器学习与统计推断学联系尤为密切,也被称为统计学习理论.算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法.很多推论问题属于无程序可循难度,所以部分的机器学习研究是开发容易处理的近似算法.
林甸县18882805364： 大数据 和 数据挖掘 的区别 - ？
歧肤欣民： 大数据概念:大数据是近两年提出来的,有三个重要的特征:数据量大,结构复杂,数据更新速度很快.由于Web技术的发展,web用户产生的数据自动保存、传感器也在不断收集数据,以及移动互联网的发展,数据自动收集、存储的速度在加...
林甸县18882805364： 计算思维的计算思维 - ？
歧肤欣民： 操作模式计算思维建立在计算过程的能力和限制之上,由人由机器执行.计算方法和模型使我们敢于去处理那些原本无法由任何个人独自完成的问题求解和系统设计.计算思维直面机器智能的不解之谜:什么人类比计算机做得好?什么计算机...
林甸县18882805364： 怎么通过机器学习得到统计数据 - ？
歧肤欣民： 我的理解是这样的:1.人工智能:给机器赋予人类的智能,让机器能够像人类那样独立思考.当然,目前的人工智能没有发展到很高级的程度,这种智能与人类的大脑相比还是处于非常幼稚的阶段,但目前我们可以让计算机掌握一定的知识,更...
林甸县18882805364： 名词解释——人工智能 - ？
歧肤欣民：[答案] 人工智能(Artificial Intelligence) ,英文缩写为AI.它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应... 心理学和哲学.人工智能是包括十分广泛的科学,它由不同的领域组成,如机器学习,计算机视觉等等,总的说来,人工智能...
