什么是深度学习？

已发表: 2024-06-13

什么是深度学习？

深度学习是机器学习 (ML) 的一个子集，它使用多层神经网络，称为深度神经网络 (DNN)。这些网络由许多称为神经元或节点的互连单元组成，充当特征检测器。每个神经网络都有一个用于接收数据的输入层、一个用于生成预测的输出层以及多个用于处理数据并提取有意义的模式的隐藏层。

例如，早期层可能会检测图像识别网络中的边缘和角落等简单特征，而较深层可能会识别更复杂的结构，如面部或物体。在语言处理网络中，早期层可能会识别单个字母或声音等基本元素，而较深层可能会理解语法、上下文，甚至句子中表达的情感。

虽然早期的神经网络只有几个隐藏层，但深度神经网络却有很多隐藏层，有时甚至超过一百个。添加多个隐藏层使网络更加灵活，并且能够更好地学习泛化到训练数据之外的复杂模式。因此，大多数现代神经网络都是深度神经网络。

使用 Grammarly 更智能地工作

任何有工作要做的人的人工智能写作伙伴

深度学习与机器学习

深度学习和机器学习经常被一起提及，但又有本质区别。简单来说，深度学习是机器学习的一种。机器学习模型是人工智能 (AI) 的一种形式，它通过学习数据模式来做出预测。

线性回归、随机森林、k 最近邻和支持向量机等机器学习模型相当简单，并且依赖于人类定义的特征。例如，人类提供平方英尺、卧室数量和社区特征等特征来预测房价。机器学习模型微调这些特征的重要性以进行预测，但其准确性取决于所提供特征的质量。

另一方面，深度学习模型不需要预定义的特征。他们在训练期间独立学习特征，从随机值开始并随着时间的推移而改进。这使他们能够找到人类可能错过的重要模式，从而做出更好的预测。与更简单的机器学习模型相比，它们还可以处理更多的功能，并且通常更擅长处理原始数据，例如图像和文本。

尽管深度学习模型很强大，但有时更简单的模型可能更好。深度学习需要大量数据集，并且它们的内部工作原理可能很难理解。当您的数据较少或需要解释模型如何进行预测时，更简单的机器学习模型可能更合适。

深度学习如何运作

深度学习使用深度神经网络通过多层处理和分析数据，产生复杂的预测。

1输入层

该过程从输入层开始，神经元检测基本信息。例如，在语言模型中，神经元可能会识别单个字母，例如o或t 。

2隐藏层

接下来，隐藏层发挥作用。输入层中激活的神经元会刺激第一个隐藏层中的神经元，该隐藏层会检测更复杂的特征，例如on等字母的组合。当信号穿过额外的隐藏层时，网络会识别出越来越抽象的特征。神经元之间连接的权重决定了这些激活的强度。

3抽象特征检测

网络在更深的隐藏层中检测更抽象的特征。这种功能使深度神经网络能够处理需要抽象推理的复杂任务，例如撰写文本或识别图像中的对象。

4输出层

最后，网络在输出层生成预测。该层中的每个神经元代表一个可能的结果。例如，在完成短语“once Upon a ___”时，一个神经元可能代表时间、另一个梦想和第三个床垫。网络估计每种结果的概率并选择最有可能的一个。一些网络，尤其是语言模型，通过在大多数时间选择最可能的答案来引入可变性，从而确保多样化和自然的输出。

深度神经网络通过多层处理输入来学习复杂的模式和特征，使其成为图像识别和自然语言处理 (NLP) 等任务的强大工具。

深度学习网络的类型

深度学习包含各种类型的神经网络，每种神经网络都旨在处理特定任务。了解这些不同的架构对于有效利用其功能至关重要。

前馈神经网络 (FNN)

前馈神经网络或“普通”神经网络沿一个方向处理信息：从输入到输出。它们非常适合简单的预测任务，例如检测信用卡欺诈或预先批准贷款。训练通过反向传播进行，根据预测误差调整模型。

循环神经网络 (RNN)

循环神经网络适合需要动态更新的任务，例如语言翻译。他们使用时间反向传播 (BPTT) 来解释输入序列，使其能够有效地理解序列数据中的上下文和关系。

长短期记忆（LSTM）

长短期记忆网络通过选择性地忘记不相关信息同时保留重要细节来改进循环神经网络，使其适用于需要长期上下文保留的任务。长短期记忆网络增强了谷歌翻译的能力，但由于其线性处理，在处理大型数据集时可能会很慢。

卷积神经网络 (CNN)

卷积神经网络通过扫描图像以获取边缘和形状等视觉特征，在图像识别方面表现出色。它们保留空间信息，并且可以识别物体，无论它们在图像中的位置如何，这使得它们成为许多基于图像的应用的最先进技术。

生成对抗网络（GAN）

生成对抗网络由生成器和鉴别器竞争组成。生成器创建假数据，鉴别器尝试将其识别为假数据。两个网络都通过反向传播进行改进。生成对抗网络非常适合生成真实数据，并且在图像识别中很有用。

变形金刚和注意事项

Transformer 代表了深度学习的突破，尤其是自然语言处理方面。他们使用注意力机制来权衡不同输入元素的重要性。与以前的模型不同，变压器并行处理数据，从而能够有效处理大型数据集。自注意力使 Transformer 能够考虑输入中所有元素之间的关系，从而使它们对于文本生成和翻译等任务非常有效。

深度学习的应用

深度学习模型已应用于许多现实世界的问题，包括那些曾经看似机器无法解决的问题。

自动驾驶汽车

自动驾驶汽车依靠深度学习模型来识别交通信号和标志、附近的汽车和行人。这些车辆使用传感器融合，结合来自激光雷达、雷达和摄像头的数据来创建环境的全面视图。深度学习算法实时处理这些数据以做出驾驶决策。例如，特斯拉的自动驾驶系统使用神经网络来解释周围环境并进行相应的导航，从而提高安全性和效率。

大型语言模型 (LLM) 和聊天机器人

深度学习模型是 ChatGPT 和 Gemini 等类人聊天机器人以及 Copilot 等代码编写工具的核心。大型语言模型经过大量文本数据的训练，使它们能够理解并生成高度准确的人类语言。这些模型可以进行连贯的对话、回答问题、撰写论文，甚至通过基于自然语言描述生成代码片段来协助编程。例如，OpenAI 的 GPT-4 可以编写代码、起草电子邮件并提供各种主题的详细解释。

写作协助

写作工具利用深度学习模型来帮助您写得更好。这些工具分析整个句子和段落，以提供语法、标点符号、风格和清晰度方面的建议。例如，Grammarly 使用先进的自然语言处理技术来理解您的写作上下文并提供个性化建议。它可以检测语气、建议同义词，甚至帮助构建您的写作以提高可读性和参与度。

使用 Grammarly 更智能地工作

任何有工作要做的人的人工智能写作伙伴

图像生成

DALL-E 等深度学习模型最近在基于文本提示生成新颖图像或执行风格转换以使用第三张图像的风格创建现有图像的新版本方面取得了长足进步。例如，您可以通过输入自己的照片和绘画参考来制作文森特·梵高的《星夜》 （1889）风格的个人资料照片。这些模型结合使用卷积神经网络和生成对抗网络来生成高度真实且富有创意的图像。

医疗诊断

一些语言处理模型可以分析患者记录中的信息（例如测试结果、调查回复、医生就诊记录和病史），并找出患者症状的可能原因。例如，IBM 的 Watson Health 使用自然语言处理从非结构化医疗记录中提取相关信息。同样，图像识别模型可以读取放射学报告，帮助放射科医生检测异常结果。深度学习模型用于识别 X 射线和 MRI 等医学图像中的模式，有助于早期发现癌症和神经系统疾病等疾病。

深度学习的挑战和局限性

尽管深度学习模型很强大，但它很灵活并且具有实际成本。以下是使用深度学习的一些挑战：

数据要求：深度学习模型需要大量数据才能很好地训练它们。例如，OpenAI 的 GPT-3 模型在五个数据集上进行训练，其中最小的数据集包含所有维基百科文章。
计算成本：训练和运行深度学习模型需要高度计算密集型、能源和成本密集型。
偏差：根据有偏差的数据训练的模型将继承该偏差并将其纳入其响应中。例如，如果 50% 的现实世界图像包含猫，则用 90% 的狗图像和 10% 的猫图像训练图像识别模型将无法很好地准备模型。
可解释性：构成深度学习模型大部分的“隐藏层”被恰当地命名，因为了解它们正在做什么来做出预测可能是一项挑战。在某些情况下，这可能没问题。在其他情况下，了解预测的内容至关重要。例如，了解模型如何预测患者对新治疗的反应结果在科学和医学上都是必要的。
虚假图像和错误信息：像 DeepDream 这样的生成对抗网络可以生成虚假但令人信服的图像。如果落入坏人之手，这些信息可能会被用来传播错误信息。同样，像 ChatGPT 这样的聊天机器人可能会“幻觉”出不正确的信息，因此应始终进行事实检查。

深度学习的未来

虽然很难知道深度学习的未来会怎样，但以下是一些积极发展的领域：

大型语言模型正在不断改进：像 OpenAI 这样的组织继续在过去的成功基础上发展，您应该会看到他们的模型的响应变得更好、更准确。
多模态学习：一些前沿的深度学习模型经过多模态训练，可以泛化不同类型的信息；例如，基于文本训练的模型可以预测有关语音或图像的信息。
可解释性：虽然深度学习模型仍然相对不透明，但我们将来可能会看到更多工具，使人们更容易理解它们如何得出预测。

结论

深度学习是一种强大的工具，有可能解决我们今天面临的许多问题，无论是在野生动物相机上检测熊、发现新的疾病治疗方法，还是更清晰地书写。

什么是深度学习？