生成式人工智慧時代的產業責任與問責框架

上個月，在宣布我們新的生成式人工智慧產品功能後，我參加了在德克薩斯州奧斯汀舉行的 SXSW 會議。 SXSW 上圍繞人工智慧的能量是顯而易見的，圍繞負責任的人工智慧進行對話的興趣也令人鼓舞。我在 The Grammarly AI Hub 舉行的一場關於責任的爐邊談話中傳達了這種精神，這個主題為我在 SXSW 上的演講「人工智慧的未來：從人工到增強」奠定了基礎。

當我們向使用者和客戶推出 Grammarly的生成式人工智慧協助時，負責任地部署人工智慧仍然是首要考慮的問題。我之前寫過 Grammarly 的增強智能方法，即人工智慧只有在以增強和幫助人們發揮潛力的方式應用時才能成功。增強智慧支撐著我們的產品開發理念，並為 TRUE 框架提供了信息，我在 SXSW 上分享了該框架，以展示 Grammarly 的產品團隊如何處理我們利用的所有技術（包括生成人工智慧）。

像 TRUE 這樣的負責任的人工智慧框架可以指導產品的開發，從而增強跨行業、技術和用例的人員能力。當這些框架得到大規模部署時，我們可以創造一個個人和企業充分發揮潛力、建立更深層的聯繫並推動成果的未來。我相信 TRUE 框架以四個核心原則為基礎——信任、責任、使用者控制和同理心——可以推動我們朝著未來的方向前進。

以下是我們如何應用 TRUE 框架來確保我們對生成式 AI 的部署履行我們增強客戶能力的承諾，同時優先考慮他們的自主性、隱私和安全性。

信任：將安全和隱私標準和實踐放在首位

Grammarly 對隱私和安全的堅定承諾引領了我們的 TRUE 框架，也是我們商業模式的基礎。將我們的激勵措施與客戶的激勵措施結合起來是建立信任的核心。我們透過銷售訂閱來賺錢——我們不會將客戶資料出售給第三方用於廣告或培訓。此外，我們將使用者資料去識別化和匿名化處理，僅在提供和增強我們的服務所需的時間內保留這些資料。

如果說隱私就是我們如何保護使用者控制和存取其資料的權利，那麼安全就是我們如何保護這些資料。我們堅定地致力於安全性，經過十四年的投資，我們將安全性視為我們產品生態系統核心的最重要的產品功能。

我們秉承注重安全的文化，堅持一流的政策和實踐，例如所有 Grammarly Business 帳戶的單一登入、第三方滲透測試，以及讓我們的內部安全專家融入我們的產品和工程團隊。這些保障措施使我們能夠獲得第三方證明和認證。當我們在產品中部署新的生成式人工智慧功能時，我們將保持這些高標準。

責任：建構和改進人工智慧系統，減少偏見並促進公平

加州大學柏克萊分校教授雅各布·斯坦哈特 (Jacob Steinhardt) 領導的預測競賽結果表明，機器學習能力的進步速度快於其在新的和意外數據集上可靠執行的能力。這意味著技術人員有責任實施讓人工智慧更安全的護欄。

我們負責任的人工智慧團隊每天都會透過建立高品質的數據集並採用策略來確保我們產品中的演算法不會延續偏見或刻板印象，從而做到這一點。我們使用內部技術來防止 Grammarly的生成式 AI與敏感主題交互，從而降低安全問題的風險。

負責任的人工智慧開發的一部分是認識到沒有一個系統是完美的。這就是為什麼我們為使用者提供多種機制來報告我們產品中的問題，並建立嚴格的操作流程來快速、一致地解決問題並改進我們的模型。

使用者控制：幫助個人和企業充分發揮潛力，同時尊重他們的自主權

隨著人工智慧驅動的通訊輔助變得更加先進，人類的聲音無法取代。溝通是非常個人化的，對我們來說至關重要的是，我們的客戶始終保持控制，我們提供的技術可以幫助人們和企業發揮最大潛力。

我們精心設計了 Grammarly的生成式人工智慧輔助，以提供可供考慮的選項和建議——最終總是讓客戶決定什麼對他們來說是最好的。這並非偶然——尊重用戶的自主權有助於確保我們的技術服務於增強用戶的目的。借助 Grammarly的生成式 AI ，我們正在幫助人們節省日常寫作時間，使他們能夠將更多寶貴的精力用於設計偉大的想法、制定創意策略以及在整個組織中協作開展最有影響力的工作。

同理心：設身處地為客戶著想，理解並回應他們的真實需求

我們認為，最大限度地減少新技術帶來的意外後果的關鍵方法是專注於解決人們面臨的具體挑戰。我們不斷尋求新技術來深化我們為客戶提供的價值，這是將生成式人工智慧整合到我們的產品中的動機之一。

例如，Grammarly的生成式人工智慧輔助可以幫助人們克服「空白頁」問題——84% 的 Grammarly 用戶告訴我們他們需要支援。此外，我們從用戶那裡得知，他們收到的電子郵件數量很大，並且對快速有效的回覆任務感到不知所措。為了解決這個痛點，我們創建了生成式人工智慧功能，使人們能夠以上下文相關的個人化方式快速回覆電子郵件。

當我們在 Grammarly 的產品中引入新的用例時，這一意圖將始終處於首位。

人工智慧的未來正在增強

雖然我只分享了 Grammarly 最近如何使用 TRUE 框架的一個範例，但我希望任何使用新技術開發產品的人都能複製這種方法或在這種方法中找到靈感。我相信人工智慧的未來在於增強智能，SXSW 和整個產業關於將人置於產品決策中心的對話讓我深受鼓舞。

我希望生活在一個利用人工智慧讓我們變得更好、幫助個人和團隊發揮潛力並為企業、組織和產業帶來巨大影響的世界。隨著我們作為一個社會的適應和學習，像 TRUE 這樣的框架可以幫助我們使未來成為現實。

在我擔任Grammarly 即將上任的執行長的新角色中，我們對擴大客戶的承諾對我來說一如既往地重要，隨著Grammarly 進入生成式人工智慧的新時代，我迫不及待地想繼續繼承這一傳統。