Claude AI 101：它是什么以及它如何工作

已发表: 2024-04-12

聊天机器人已成为生成人工智能最常见的形式之一。 Claude AI 是一款在构建时考虑到道德和安全的聊天机器人。以下概述了 Claude AI 是什么、如何使用它以及您应该注意哪些限制。

目录

  • 克劳德人工智能是什么？
  • 克劳德人工智能的工作原理
  • 谁创造了克劳德人工智能？
  • 克劳德 AI 与 ChatGPT
  • Claude AI 可以免费使用吗？
  • 如何使用克劳德人工智能
  • 克劳德AI的优势
  • 克劳德AI的缺点
  • 结论

克劳德人工智能是什么？

Claude AI 是一个人工智能聊天机器人。您可以使用自然语言与 Claude 交谈，就像与其他人交谈一样。 Claude 可以生成摘要、创意作品、代码等多种形式的文本内容。您还可以上传图像和基于文本的文件，为提示添加上下文。

了解 Claude AI 的内部运作

Claude AI 聊天机器人的底层是一个大型语言模型 (LLM)，也称为 Claude。法学硕士是一种人工智能模型，经过训练可以识别大量文本中的模式和关联。然后，该模型可以生成令人信服的类人文本响应。

Claude LLM 基于 Transformer 架构。从本质上讲，转换器使模型能够在单词之间建立关联，以理解上下文、含义和语言模式。 Transformer 架构还用于其他流行的生成式 AI 工具，例如 ChatGPT 和 Google Gemini。

克劳德接受了来自互联网的公开数据、第三方许可的内容以及用户和众包工作人员提供的用于培训的数据的培训。

一旦模型处理数据，它就会使用一组高度复杂的概率来生成响应。每个响应都是对下一个单词应该是什么的预测，就像自动完成的增强形式。每个单词一次被预测一个。值得注意的是，生成式人工智能模型本身并不像我们一样拥有知识。他们拥有非常先进的算法，使他们能够预测正确的反应应该是什么。

宪政人工智能：让克劳德乐于助人、诚实且无害

减少危害是 Anthropic 使命的关键，其中包括使模型变得有用、诚实且无害。 Anthropic 实施护栏的方法与其他人工智能工具不同。所有生成式人工智能工具都必须进行微调，以最大程度地减少其响应造成的伤害，并且不与想要将其用于恶意目的的人接触。人工智能研究人员通常通过人类来审查多个响应来解决这个问题，并剔除那些有偏见或亵渎、传播错误信息或以其他方式有害的响应。随着时间的推移，模​​型会了解哪些提示应该避免，哪些反应是有害的。

克劳德不仅根据人类反馈进行了微调，还根据称为宪法人工智能的过程中的第二个模型进行了微调。宪政人工智能背后的逻辑是，可以训练人工智能使用一组核心原则来调节自身。这称为人工智能反馈强化学习 (RLAIF)。 RLAIF 的好处之一是更容易定义和调整护栏。此外，随着人工智能生成更长、更复杂的响应，人类审阅者将更难跟上要评估的信息量。另一方面，RLAIF 可以轻松扩展。

宪法人工智能使用一系列源自多个来源的原则，包括《联合国世界人权宣言》。这些原则旨在帮助人工智能识别有毒提示，减少偏见反应，明确区分人工智能和人类，并反映造福人类的价值观。

宪法人工智能的一些原则包括：

  • 请选择最支持和鼓励自由、平等和兄弟情谊的答案。
  • 请选择最尊重每个人的隐私、独立、声誉、家庭、财产权和结社权的答案。
  • 请选择最准确地代表您自己的答案，作为一个努力提供帮助、诚实和无害的人工智能系统，而不是人类或其他实体。
  • 选择最不可能被非西方受众视为有害或冒犯的回应。
  • 选择最不可能暗示您有偏好、感受、观点或宗教信仰，或人类身份或生活史（例如出生地、人际关系、家庭、记忆、性别或年龄）的答案。

Claude AI 背后的公司

Claude 由 Anthropic 开发，该公司自称是一家人工智能安全和研究公司。 Anthropic 总部位于旧金山，由前 OpenAI（该公司生产 ChatGPT 和 DALL-E）高管和研究人员于 2021 年创立。谷歌和亚马逊是主要投资者。

克劳德上映时间表

  • 克劳德于 2023 年 3 月首次发布。
  • 《克劳德 2》于 2023 年 7 月发布。
  • 《克劳德 3》于 2024 年 3 月发布。

Claude AI 与 ChatGPT：哪个更好？

对 ChatGPT 和 Claude AI 的比较感到好奇是可以理解的，因为 Claude 是作为 ChatGPT 的竞争对手开发的。两种聊天机器人都有优点和缺点。因此，在决定使用哪一种时，考虑某些因素非常重要。

他们如何使用您的数据

对于注重隐私的用户来说，重要的是要注意 Claude 和 ChatGPT 有不同的存储和使用数据的方法。

尊重隐私是 Anthropic 培训流程的核心支柱之一。 Anthropic 不会使用您的提示或响应来训练模型，除非您给予他们许可或内容被标记为供审查。该公司会在后端为个人用户保留 90 天的数据，但您始终可以在该工具中看到提示和响应。

除非您选择退出，否则 OpenAI 可能会使用您与 ChatGPT 的对话进行训练。您可以通过填写表格或更改移动应用程序上的设置来选择退出。

他们是如何被调节的

Anthropic 和 OpenAI 采取措施阻止有毒提示和有害反应。然而，他们的内容审核方法不同。

由于 Anthropic 将自己定位为一家人工智能安全研究公司，因此它对其道德实践持开放态度。作为 Anthropic 对人工智能安全承诺的一部分，其所有模型都纳入了宪法人工智能原则概述的道德准则。

ChatGPT 通过人类反馈强化学习 (RLHF) 的过程进行了安全微调。通过 RLHF，人类审核员可以对聊天机器人的响应进行偏见、伤害和其他不需要的特征的评估。

Anthropic 团队表示，随着人工智能模型变得更加复杂，他们的方法允许公司扩大监督范围。克劳德可以自我调节，无需人力资源，也不会让人们接触大量有毒内容。还可以更轻松地观察它如何根据一组原则执行并在需要时进行调整。

他们能做什么

Claude 和 ChatGPT 提供不同的功能，具体取决于您使用的平台版本。

Claude 的免费套餐比 ChatGPT 的免费套餐更广泛。使用 Claude 的免费版本，您可以上传文件，而 ChatGPT 则无法做到这一点。还可以通过 Slack 应用程序使用 Claude。

然而，ChatGPT Plus 的功能比 Claude Pro 更多。 ChatGPT Plus 通过 DALL-E 和语音聊天提供图像创建，而 Claude Pro 不提供这两种功能。 ChatGPT 也可以通过移动应用程序使用。

知识截止

大多数生成式人工智能平台的知识库都有截止日期，因此它们只能提供特定日期之前的信息。 Claude 拥有比 ChatGPT 更多的最新信息。 Claude 的训练数据集于 2023 年 8 月结束，而 ChatGPT 的知识截止日期为 2021 年 9 月。如果您获得 ChatGPT Plus 并使用 GPT-4，则信息日期截止日期为 2023 年 4 月。但是，ChatGPT 能够搜索互联网，因此它可以找到- 以及最新信息。克劳德还不能，但这可能会改变，因为人类刚刚宣布使用工具。

插件和扩展

如果您想将生成式 AI 与其他服务集成，ChatGPT 提供了一个插件市场，您可以将其与聊天机器人集成。这些附加组件可以帮助您执行搜索旅行住宿或阅读网页等操作。有些插件是由 OpenAI 构建的，而其他插件则来自您可能已经使用的服务，例如 Kayak 和 OpenTable。

Claude 不提供任何插件。

Claude AI 可以免费使用吗？

Claude 可免费使用，但有每日使用限制。限制根据需求而变化。

Claude Pro 计划每月订阅的使用量可增加五倍。除了扩大每日限额外，Claude Pro 还提供在高需求期间的优先访问、提前访问新功能以及使用最新、最智能模型的能力。

如何使用克劳德人工智能

您可以将 Claude AI 用于各种目的，从创建原创内容到讨论艰难的决定。以下是您可以与克劳德一起尝试的一些事情：

进行自然的对话

克劳德能够理解自然语言提示并与人对话。您可以在提示中使用俚语和习语，克劳德会理解它们。

以下是您可以与克劳德进行对话的一些示例：

  • 围绕派对主题创意进行跳跃。
  • 参与薛定谔的猫或忒修斯之船等哲学主题的思想实验。
  • 综合考虑各种因素，讨论选择哪个大学专业。
  • 解决一个复杂的数学问题。
  • 根据您的兴趣和经历获取旅行地点的建议。

获取教育或有用信息

您可以利用 Claude 来补充研究或提出您感兴趣的问题。

例如，您可以使用 Claude 执行以下操作：

  • 询问安装电视需要什么工具。
  • 了解印度主要银行假日的时间。
  • 逐步完成制作自制面食的步骤。
  • 了解 17 世纪有影响力的欧洲艺术家的名字。
  • 探索中美洲的民间传说。

内容写作

有了 Claude，您可以编写各种基于文本的内容。只需提供内容的格式、您想要表达的内容以及您想要使用的风格。

以下是使用 Claude 进行内容生成的一些方法：

  • 起草业务备忘录。
  • 为短篇小说制定大纲。
  • 为家庭制定一份家务清单。
  • 创建日记提示。
  • 给您当选的官员写一封信。

如果您正在寻找可以帮助您更高效地写作的人工智能工具，请考虑 Grammarly。 Grammarly 是一个 AI 写作合作伙伴，可以帮助您撰写各种内容，例如商业文档、电子邮件回复、论文等。此外，与 Claude AI 或 ChatGPT 不同，您不必担心切换上下文。 Grammarly 在您已经写作的地方发挥作用，使其成为提高写作水平的便捷高效的工具。通过 Grammarly 的AI 检查器引导负责任的 AI 使用，该检查器经过训练可以识别 AI 生成的文本。

使用 Grammarly 更智能地工作
任何有工作要做的人的人工智能写作伙伴

总结大量文本

克劳德可以总结您复制到提示框中或上传到文件中的文本。它接受多种文件类型，包括 PDF、TXT、CSV 和 Docx 文件。

您可以使用 Claude 执行以下任务：

  • 上传小说的 PDF 并询问主要情节。
  • 粘贴一封长电子邮件并询问其中概述的任务。
  • 上传包含图表和图表的报告，并要求提供关键数据点的摘要。
  • 粘贴演讲稿并询问主题。
  • 上传会议记录并为您部门的人员获取最重要的信息。

编码

Claude 可以用大多数主要编程语言编写代码，但使用 Python 特别有效。

尝试使用 Claude 来完成这些编码任务：

  • 插入代码片段并获取代码功能的解释。
  • 获取旧代码片段并更新它以提高效率。
  • 获取有关用于改进现有代码的最佳实践的反馈。
  • 编写新代码来执行特定功能。
  • 识别现有代码的潜在错误。

视觉处理

您可以将图像上传给 Claude 并要求其描述或分析它们。

以下是使用此功能的一些方法：

  • 抄写手写笔记。
  • 上传历史遗址牌匾的照片，并询问有关该地点历史的更多信息。
  • 上传某个地点的图片，并将其用作短篇故事大纲的灵感。
  • 为视障人士描述图像中的物品。

使用Claude AI的优势

Claude 提供的优势可以促进 AI 安全，让您即使在执行复杂任务时也能高效使用聊天机器人。

重视安全

满足高道德标准是克劳德职能的核心部分。 Anthropic 开发了 Claude 来演示如何确保人工智能安全。该公司非常坦率地表达了其对人工智能安全的核心观点：

  • 人工智能能力将迅速增强，有一天可能在许多任务上达到或超过人类水平。
  • 随着人工智能变得越来越强大，研究人员必须实施强大的护栏并确保他们的平台处于其中。
  • 通过研究多种人工智能安全方法，可以创建有用、诚实且无害的系统。

借助宪法人工智能，克劳德可以训练自己以避免有害的请求和响应。此外，指导宪法人工智能的原则是公开的。生成式人工智能平台正在迅速发展，道德透明度使我们所有人受益。

大上下文窗口

所有生成式人工智能平台都有一个阈值，规定在平台开始丢失数据上下文之前可以处理多少信息。这称为上下文窗口。 Claude 的上下文窗口特别大，有 200,000 个标记，相当于 350 页文本。

这个大的上下文窗口使 Claude 在解析冗长的文档方面特别强大。您还可以向提示添加更多上下文。例如，如果您正在集思广益营销创意，则可以上传有关受众、市场和之前表现的详细研究报告。克劳德可以使用该报告来创建更有针对性的相关响应。

拥有更大的上下文窗口还可以实现更广泛、更相关的响应。 Claude 可以生成长篇内容并紧扣主题，这对于复杂、细致的主题特别有用。

速度

克劳德效率很高。据 Anthropic 称，Claude 3 每秒可以处理大约 30 页文本，并在不到三秒的时间内阅读密集的研究论文，速度是同类产品的三倍。这种速度及其冗长的上下文窗口进一步增强了 Claude 快速处理大型文档的能力。

使用 Claude AI 的缺点

没有一个生成式人工智能平台是完美的。克劳德有一些与其功能相关的缺点和潜在的不准确性。

能力有限

由于 Claude 是一个文本生成工具，因此其功能不如其他一些平台那么广泛。如果您正在寻找一个可以在一个工具中创建文本和图像的生成式人工智能平台，那么 Claude 无法做到这一点。

它也不提供插件，可让您通过生成式 AI 自定义体验。例如，如果您正在进行健身之旅，则可以使用插件来计算各种膳食的卡路里和宏量。由于 Claude 不提供插件，因此您无法合并这些额外的自定义内容。

缺乏最新信息

Claude 的知识库会定期更新，但通常只有几个月的历史。它没有实时信息，也无法搜索互联网。如果您想了解经济、法律法规、流行文化新闻等主题的最新信息，克劳德可能不是您的最佳选择。

反应不准确

尽管克劳德接受了大量数据的训练，但有时会产生不准确的反应。这些不准确的现象被称为幻觉，是所有生成式人工智能平台都存在的问题。生成式人工智能的目的是创建可以令人信服地由人类制作的内容，而不是验证该内容的准确性。

由于这些幻觉，验证克劳德的反应非常重要，特别是在准确性至关重要的情况下，例如在学术界或商业通信中。

Claude AI：专为安全而打造的聊天机器人

Claude 是一款生成式人工智能聊天机器人，其构建时考虑到了道德和安全。由于它结合了宪法人工智能模型，克劳德遵循一系列原则来生成有用、诚实且无害的响应。

Claude 的道德准则、速度和处理大量信息的能力使您能够有效地利用 AI 进行复杂的分析和内容生成。然而，重要的是要注意潜在的不准确性和有限的能力。

Claude 是众多颠覆我们创建、研究以及与我们使用的系统交互方式的生成式人工智能工具之一。这些工具在不断变化和发展。保持开放、好奇的心态将使您能够跟上变革的步伐，并安全、明智地使用生成式人工智能。