对 SXSW 的思考：生成人工智能时代的行业责任和问责制框架

上个月，在宣布我们的新生成人工智能产品 GrammarlyGO 之后，我参加了在德克萨斯州奥斯汀举行的 SXSW 会议。 SXSW 围绕 AI 的能量是显而易见的，围绕负责任的 AI 进行对话的兴趣令人鼓舞。 在 The Grammarly AI Hub 的责任炉边谈话中，我传达了这种精神，这个话题是我在 SXSW 演讲“人工智能的未来：从人工到增强”的基础。

当我们开始向我们的用户和客户推出 GrammarlyGO 时，负责任地部署 AI 仍然是我们的首要任务。 我之前写过关于 Grammarly 增强智能方法的文章——人工智能只有在以增强和授权人们发挥潜能的方式应用时才会成功。 增强智能是我们产品开发理念的基础，并为 TRUE 框架提供信息，我在 SXSW 上分享了该框架，以展示 Grammarly 的产品团队如何处理我们利用的所有技术——包括生成人工智能。

像 TRUE 这样负责任的 AI 框架可以指导产品的开发，这些产品可以跨行业、技术和用例增强人们的能力。 当大规模部署这些框架时，我们可以创造一个个人和企业充分发挥潜力、建立更深层次的联系并推动成果的未来。 我相信以四项核心原则为基础的 TRUE 框架——信任、责任、用户控制和同理心——可以推动我们朝着这个未来的方向前进。

以下是我们如何应用 TRUE 框架来确保我们的生成 AI 部署履行我们的承诺，即在优先考虑他们的自主权、隐私和安全的同时增强我们的客户。

信任：将安全和隐私标准和实践放在首位

Grammarly 对隐私和安全的持久承诺引领我们的 TRUE 框架，也是我们商业模式的基础。 使我们的激励措施与客户的激励措施保持一致是建立信任的核心。 我们通过销售订阅来赚钱——我们不会将客户数据出售给第三方用于广告或培训。 此外，我们对用户数据进行去识别化和匿名化处理，仅在提供和增强我们的服务所需的时间内保留这些数据。

如果隐私是关于我们如何保护用户控制和访问其数据的权利，那么安全就是我们如何保护这些数据。 我们坚定地致力于安全——经过 14 年的投资，我们认为安全是我们产品生态系统核心的最重要的产品功能。

我们以注重安全的文化运营，坚持一流的政策和实践，例如所有 Grammarly Business 帐户的单点登录、第三方渗透测试，以及将我们的内部安全专家嵌入我们的产品和工程团队. 这些保障措施使我们能够获得第三方证明和认证。 当我们通过 GrammarlyGO 等新创新在我们的产品中部署生成 AI 时，我们将保持这些高标准。

责任：建立和改进减少偏见和促进公平的人工智能系统

加州大学伯克利分校教授雅各布·斯坦哈特 (Jacob Steinhardt) 领导的预测竞赛结果表明，机器学习能力的进步速度超过了它们可靠地处理新的和意想不到的数据集的能力。 这意味着技术人员有责任实施让 AI 更安全的防护措施。

我们的 Responsible AI 团队每天都通过构建高质量数据集和采用策略来确保我们产品中的算法不会延续偏见或刻板印象来做到这一点。 我们使用内部技术来防止 GrammarlyGO 与敏感话题互动，从而降低安全问题的风险。

负责任的人工智能开发的一部分是认识到没有系统是完美的。 这就是为什么我们为用户提供多种机制来报告我们产品中的问题，并制定了严格的操作流程来快速、一致地解决问题并改进我们的模型。

用户控制：帮助个人和企业充分发挥潜力，同时尊重他们的自主权

随着 AI 驱动的通信辅助变得更加先进，人类的声音无法替代。 沟通是非常私人的，对我们来说至关重要的是，我们的客户始终处于控制之中，我们提供的技术可以帮助人们和企业发挥最大潜力。

我们精心设计了 GrammarlyGO，以提供可供考虑的选项和建议——最终始终让客户决定什么是最适合他们的。 这并非偶然——尊重用户的自主权有助于确保我们的技术服务于增强用户的目的。 借助 GrammarlyGO，我们正在帮助人们节省日常写作时间，使他们能够将更多宝贵的精力用于构思大创意、制定创造性策略，并在整个组织中开展最具影响力的工作。

同理心：设身处地为客户着想，了解并回应他们的真正需求

我们认为，最大限度地减少新技术带来的意外后果的一个关键方法是专注于解决人们面临的具体挑战。 我们不断寻求新技术来深化我们为客户提供的价值，这是将生成人工智能集成到我们产品中的动机之一。

例如，GrammarlyGO 可以帮助人们克服“空白页”问题——84% 的 Grammarly 用户告诉我们他们需要支持。 此外，我们从用户那里得知，他们正在为收到的电子邮件数量而苦苦挣扎，并且被快速有效地响应任务压得喘不过气来。 为了应对这一痛点，我们在 GrammarlyGO 中创建了一项功能，使人们能够以与上下文相关的个性化方式快速回复电子邮件。

当我们在 Grammarly 的产品中引入新的用例时，这种意图将保持在最前沿。

人工智能的未来是增强的

虽然我只分享了 Grammarly 最近如何使用 TRUE 框架的一个例子，但我希望任何使用新技术开发产品的人都能复制这种方法或从中找到灵感。 我相信人工智能的未来在于增强智能——我对 SXSW 和整个行业关于将人置于产品决策中心的对话感到鼓舞。

我希望生活在一个我们使用 AI 使我们变得更好的世界，使个人和团队能够发挥他们的潜力并为企业、组织和行业带来巨大影响。 当我们作为一个社会适应和学习时，像 TRUE 这样的框架可以帮助我们使未来成为现实。

作为 Grammarly 即将上任的首席执行官，我对扩大客户的承诺对我来说一如既往地重要——随着 Grammarly 进入一个具有生成人工智能的新时代，我迫不及待地想继续发扬这一传统。