机器学习和深度学习到底有什么区别?
机器学习和深度学习不是两种并列、互不相关的技术:深度学习是机器学习的一类方法。区别主要在于模型如何表示规律,以及学习这些表示需要多少数据和计算资源。
传统机器学习通常先由人根据问题设计或挑选特征,再让算法学习特征与结果之间的关系。例如判断邮件是否为垃圾邮件,可以先提取词频、发件人、链接数量等特征,再训练逻辑回归、决策树或支持向量机。这样的方案在结构化数据、样本不多、特征含义清楚时往往很有效,也比较容易检查模型依据;但特征设计质量会显著影响效果。
深度学习使用多层神经网络,把特征表示也纳入训练过程。图像任务中,网络可以逐层学习边缘、纹理和更复杂的形状;文本和语音任务也可从原始或较少加工的数据中学习有用表示。因此它尤其适合图像、语音、自然语言等高维、非结构化数据。不过,这通常需要更多训练数据、算力和调参,训练与部署成本更高,决策过程也较难解释;数据不足或分布变化时,并不保证比简单模型好。
实践中应按问题选工具:先看数据量、数据形态、延迟与成本、可解释性要求,再用验证集比较方案。表格数据且样本有限时,梯度提升树等传统方法常是很强的基线;有大量图像、文本或语音数据,并且复杂模式确实带来收益时,再考虑深度网络。简言之,深度学习属于机器学习,优势是自动学习复杂表示,代价通常是更大的数据和计算需求。