生成式人工智能时代的行业责任和问责框架

上个月，在宣布我们新的生成式人工智能产品功能之后，我参加了在德克萨斯州奥斯汀举行的 SXSW 会议。 SXSW 上围绕人工智能的能量是显而易见的，围绕负责任的人工智能进行对话的兴趣也令人鼓舞。我在 The Grammarly AI Hub 举行的一场关于责任的炉边谈话中传达了这种精神，这个话题为我在 SXSW 上的演讲“人工智能的未来：从人工到增强”奠定了基础。

当我们向用户和客户推出 Grammarly的生成式人工智能帮助时，负责任地部署人工智能仍然是首要考虑的问题。我之前写过 Grammarly 的增强智能方法，即人工智能只有在以增强和帮助人们发挥潜力的方式应用时才能成功。增强智能支撑着我们的产品开发理念，并为 TRUE 框架提供了信息，我在 SXSW 上分享了该框架，以展示 Grammarly 的产品团队如何处理我们利用的所有技术（包括生成人工智能）。

像 TRUE 这样的负责任的人工智能框架可以指导产品的开发，从而增强跨行业、技术和用例的人员能力。当这些框架得到大规模部署时，我们可以创造一个个人和企业充分发挥潜力、建立更深层次的联系并推动成果的未来。我相信 TRUE 框架以四个核心原则为基础——信任、责任、用户控制和同理心——可以推动我们朝着未来的方向前进。

以下是我们如何应用 TRUE 框架来确保我们对生成式 AI 的部署履行我们增强客户能力的承诺，同时优先考虑他们的自主性、隐私和安全。

信任：将安全和隐私标准和实践放在首位

Grammarly 对隐私和安全的坚定承诺引领了我们的 TRUE 框架，也是我们业务模式的基础。将我们的激励措施与客户的激励措施结合起来是建立信任的核心。我们通过销售订阅来赚钱——我们不会将客户数据出售给第三方用于广告或培训。此外，我们对用户数据进行去识别化和匿名化处理，仅在提供和增强我们的服务所需的时间内保留这些数据。

如果说隐私就是我们如何保护用户控制和访问其数据的权利，那么安全就是我们如何保护这些数据。我们坚定地致力于安全性，经过十四年的投资，我们将安全性视为我们产品生态系统核心的最重要的产品功能。

我们秉承注重安全的文化，坚持一流的政策和实践，例如所有 Grammarly Business 帐户的单点登录、第三方渗透测试，以及让我们的内部安全专家融入我们的产品和工程团队。这些保障措施使我们能够获得第三方证明和认证。当我们在产品中部署新的生成式人工智能功能时，我们将保持这些高标准。

责任：构建和改进人工智能系统，减少偏见并促进公平

加州大学伯克利分校教授雅各布·斯坦哈特 (Jacob Steinhardt) 领导的预测竞赛结果表明，机器学习能力的进步速度快于其在新的和意外数据集上可靠执行的能力。这意味着技术人员有责任实施让人工智能更安全的护栏。

我们负责任的人工智能团队每天都会通过构建高质量的数据集并采用策略来确保我们产品中的算法不会延续偏见或刻板印象，从而做到这一点。我们使用内部技术来防止 Grammarly的生成式 AI与敏感主题交互，从而降低安全问题的风险。

负责任的人工智能开发的一部分是认识到没有一个系统是完美的。这就是为什么我们为用户提供多种机制来报告我们产品中的问题，并制定严格的操作流程来快速、一致地解决问题并改进我们的模型。

用户控制：帮助个人和企业充分发挥潜力，同时尊重他们的自主权

随着人工智能驱动的通信辅助变得更加先进，人类的声音无法取代。沟通是非常个性化的，对我们来说至关重要的是，我们的客户始终保持控制，我们提供的技术可以帮助人们和企业发挥最大潜力。

我们精心设计了 Grammarly的生成式人工智能辅助，以提供可供考虑的选项和建议——最终总是让客户决定什么对他们来说是最好的。这并非偶然——尊重用户的自主权有助于确保我们的技术服务于增强用户的目的。借助 Grammarly的生成式 AI ，我们正在帮助人们节省日常写作时间，使他们能够将更多宝贵的精力用于设计伟大的想法、制定创意策略以及在整个组织中协作开展最有影响力的工作。

同理心：设身处地为客户着想，理解并回应他们的真实需求

我们认为，最大限度地减少新技术带来的意外后果的关键方法是专注于解决人们面临的具体挑战。我们不断寻求新技术来深化我们为客户提供的价值，这是将生成式人工智能集成到我们的产品中的动机之一。

例如，Grammarly的生成式人工智能辅助可以帮助人们克服“空白页”问题——84% 的 Grammarly 用户告诉我们他们需要支持。此外，我们从用户那里得知，他们收到的电子邮件数量很大，并且对快速有效的回复任务感到不知所措。为了解决这个痛点，我们创建了生成式人工智能功能，使人们能够以上下文相关的个性化方式快速回复电子邮件。

当我们在 Grammarly 的产品中引入新的用例时，这一意图将始终处于首位。

人工智能的未来正在增强

虽然我仅分享了 Grammarly 最近如何使用 TRUE 框架的一个示例，但我希望任何使用新技术开发产品的人都能复制这种方法或在这种方法中找到灵感。我相信人工智能的未来在于增强智能，SXSW 和整个行业关于将人置于产品决策中心的对话让我深受鼓舞。

我希望生活在一个利用人工智能让我们变得更好、帮助个人和团队发挥潜力并为企业、组织和行业带来巨大影响的世界。随着我们作为一个社会的适应和学习，像 TRUE 这样的框架可以帮助我们使未来成为现实。

在我担任 Grammarly 即将上任的首席执行官的新角色中，我们对扩大客户的承诺对我来说一如既往地重要，随着 Grammarly 进入生成式人工智能的新时代，我迫不及待地想继续继承这一传统。