對 SXSW 的思考：生成人工智能時代的行業責任和問責制框架

上個月，在宣布我們的新生成人工智能產品 GrammarlyGO 之後，我參加了在德克薩斯州奧斯汀舉行的 SXSW 會議。 SXSW 圍繞 AI 的能量是顯而易見的，圍繞負責任的 AI 進行對話的興趣令人鼓舞。 在 The Grammarly AI Hub 的責任爐邊談話中，我傳達了這種精神，這個話題是我在 SXSW 演講“人工智能的未來：從人工到增強”的基礎。

當我們開始向我們的用戶和客戶推出 GrammarlyGO 時，負責任地部署 AI 仍然是我們的首要任務。 我之前寫過關於 Grammarly 增強智能方法的文章——人工智能只有在以增強和授權人們發揮潛能的方式應用時才會成功。 增強智能是我們產品開發理念的基礎，並為 TRUE 框架提供信息，我在 SXSW 上分享了該框架，以展示 Grammarly 的產品團隊如何處理我們利用的所有技術——包括生成人工智能。

像 TRUE 這樣負責任的 AI 框架可以指導產品的開發，這些產品可以跨行業、技術和用例增強人們的能力。 當大規模部署這些框架時，我們可以創造一個個人和企業充分發揮潛力、建立更深層次的聯繫並推動成果的未來。 我相信以四項核心原則為基礎的 TRUE 框架——信任、責任、用戶控制和同理心——可以推動我們朝著這個未來的方向發展。

以下是我們如何應用 TRUE 框架來確保我們的生成 AI 部署履行我們的承諾，即在優先考慮他們的自主權、隱私和安全的同時增強我們的客戶。

信任：將安全和隱私標準和實踐放在首位

Grammarly 對隱私和安全的持久承諾引領我們的 TRUE 框架，也是我們商業模式的基礎。 使我們的激勵措施與客戶的激勵措施保持一致是建立信任的核心。 我們通過銷售訂閱來賺錢——我們不會將客戶數據出售給第三方用於廣告或培訓。 此外，我們對用戶數據進行去識別化和匿名化處理，僅在提供和增強我們的服務所需的時間內保留這些數據。

如果隱私是關於我們如何保護用戶控制和訪問其數據的權利，那麼安全就是我們如何保護這些數據。 我們堅定地致力於安全——經過 14 年的投資，我們認為安全是我們產品生態系統核心的最重要的產品功能。

我們以注重安全的文化運營，堅持一流的政策和實踐，例如所有 Grammarly Business 帳戶的單點登錄、第三方滲透測試，以及將我們的內部安全專家嵌入我們的產品和工程團隊. 這些保障措施使我們能夠獲得第三方證明和認證。 當我們通過 GrammarlyGO 等新創新在我們的產品中部署生成 AI 時，我們將保持這些高標準。

責任：建立和改進減少偏見和促進公平的人工智能係統

加州大學伯克利分校教授雅各布·斯坦哈特 (Jacob Steinhardt) 領導的預測競賽結果表明，機器學習能力的進步速度超過了它們可靠地處理新的和意想不到的數據集的能力。 這意味著技術人員有責任實施讓 AI 更安全的防護措施。

我們的 Responsible AI 團隊每天都通過構建高質量數據集和採用策略來確保我們產品中的算法不會延續偏見或刻板印象來做到這一點。 我們使用內部技術來防止 GrammarlyGO 與敏感話題互動，從而降低安全問題的風險。

負責任的人工智能開發的一部分是認識到沒有系統是完美的。 這就是為什麼我們為用戶提供多種機制來報告我們產品中的問題，並製定了嚴格的操作流程來快速、一致地解決問題並改進我們的模型。

用戶控制：幫助個人和企業充分發揮潛力，同時尊重他們的自主權

隨著 AI 驅動的通信輔助變得更加先進，人類的聲音無法替代。 溝通是非常私人的，對我們來說至關重要的是，我們的客戶始終處於控制之中，我們提供的技術可以幫助人們和企業發揮最大潛力。

我們精心設計了 GrammarlyGO，以提供可供考慮的選項和建議——最終始終讓客戶決定什麼是最適合他們的。 這並非偶然——尊重用戶的自主權有助於確保我們的技術服務於增強用戶的目的。 借助 GrammarlyGO，我們正在幫助人們節省日常寫作時間，使他們能夠將更多寶貴的精力用於構思大創意、制定創造性策略，並在整個組織中開展最具影響力的工作。

同理心：設身處地為客戶著想，了解並回應他們的真正需求

我們認為，最大限度地減少新技術帶來的意外後果的一個關鍵方法是專注於解決人們面臨的具體挑戰。 我們不斷尋求新技術來深化我們為客戶提供的價值，這是將生成人工智能集成到我們產品中的動機之一。

例如，GrammarlyGO 可以幫助人們克服“空白頁”問題——84% 的 Grammarly 用戶告訴我們他們需要支持。 此外，我們從用戶那裡得知，他們正在為收到的電子郵件數量而苦苦掙扎，並且被快速有效地響應任務壓得喘不過氣來。 為了應對這一痛點，我們在 GrammarlyGO 中創建了一項功能，使人們能夠以與上下文相關的個性化方式快速回復電子郵件。

當我們在 Grammarly 的產品中引入新的用例時，這種意圖將保持在最前沿。

人工智能的未來是增強的

雖然我只分享了 Grammarly 最近如何使用 TRUE 框架的一個例子，但我希望任何使用新技術開發產品的人都能複制這種方法或從中找到靈感。 我相信人工智能的未來在於增強智能——我對 SXSW 和整個行業關於將人置於產品決策中心的對話感到鼓舞。

我希望生活在一個我們使用 AI 使我們變得更好的世界，使個人和團隊能夠發揮他們的潛力並為企業、組織和行業帶來巨大影響。 當我們作為一個社會適應和學習時，像 TRUE 這樣的框架可以幫助我們使未來成為現實。

作為 Grammarly 即將上任的首席執行官，我對擴大客戶的承諾對我來說一如既往地重要——隨著 Grammarly 進入一個具有生成人工智能的新時代，我迫不及待地想繼續發揚這一傳統。