生成型 AI の時代における業界の責任と説明責任のフレームワーク

先月、新しい生成 AI 製品機能を発表した直後、私はテキサス州オースティンで開催された SXSW カンファレンスに出席しました。 SXSW では AI をめぐるエネルギーが明白で、責任ある AI に関する会話への意欲が刺激的でした。私はこの精神を、The Grammarly AI Hub での責任に関する炉端でのチャット中に伝え、このトピックが私の SXSW 講演「AI の未来: 人工から拡張へ」の基礎となりました。

Grammarlyの生成 AI 支援をユーザーや顧客に展開する際、AI の責任ある展開が最優先事項です。私は以前、拡張知能に対する Grammarly のアプローチについて書きました。AI は、人々が潜在能力を発揮できるように拡張し、力を与える方法で適用された場合にのみ成功するという考えです。拡張インテリジェンスは当社の製品開発哲学を支え、TRUE フレームワークに情報を与えます。このフレームワークは、生成 AI を含む、Grammarly の製品チームが当社が活用するすべてのテクノロジーにどのようにアプローチしているかを示すために SXSW で共有しました。

TRUE のような責任ある AI フレームワークは、業界、テクノロジー、ユースケース全体で人々を強化する製品の開発を導くことができます。これらのフレームワークが大規模に展開されれば、個人や企業が自らの可能性を最大限に発揮し、より深いつながりを築き、成果を推進できる未来を創造することができます。私は、信頼、責任、ユーザー管理、共感という 4 つの核となる原則に基づいた TRUE フレームワークが、私たちをこの未来の方向に導くことができると信じています。

ここでは、生成 AI の導入によってお客様の自律性、プライバシー、セキュリティを優先しながらお客様を強化するという約束を確実に履行するために、当社が TRUE フレームワークをどのように適用しているかを見ていきます。

信頼:セキュリティとプライバシーの基準と実践を第一に考えます

Grammarly のプライバシーとセキュリティに対する永続的な取り組みは、当社の TRUE フレームワークを導き、当社のビジネス モデルの基礎となっています。当社のインセンティブを顧客のインセンティブと一致させることが、信頼を構築する上で重要です。当社はサブスクリプションを販売することで収益を上げています。広告やトレーニングのために顧客データを第三者に販売することはありません。さらに、当社はユーザーデータを匿名化および匿名化し、当社のサービスの提供および強化に必要な期間のみデータを保管します。

プライバシーがユーザーのデータを制御およびアクセスする権利を保護する方法のすべてであるとすれば、セキュリティはそのデータをどのように保護するかがすべてです。当社はセキュリティに深く取り組んでおり、14 年間にわたる投資を通じて、セキュリティは当社の製品エコシステムの中心にある最も重要な製品機能であると考えています。

当社はセキュリティを重視する文化で運営しており、すべての Grammarly Business アカウントのシングル サインオン、サードパーティの侵入テスト、社内のセキュリティ専門家を製品チームとエンジニアリング チームに組み込むなど、クラス最高のポリシーと慣行を維持しています。 。これらの安全対策により、当社は第三者の証明書と認定を取得することができます。当社は、新しい生成 AI 機能を製品に導入する際に、これらの高い基準を維持しています。

責任: 偏見を軽減し、公平性を促進する AI システムを構築および改善する

カリフォルニア大学バークレー校のジェイコブ・スタインハート教授が主導する予測コンテストの結果は、機械学習の能力が、新しく予想外のデータセットで確実に実行できる能力よりも早く進歩していることを示唆している。これは、技術者には AI をより安全にするガードレールを実装する責任があることを意味します。

当社の Responsible AI チームは、高品質のデータセットを使用して構築し、当社製品のアルゴリズムが偏見や固定観念を永続させないようにする戦術を採用することで、これを毎日行っています。私たちは内部テクノロジーを使用して、Grammarlyの生成 AI が機密性の高いトピックと対話するのを防ぎ、安全性に関する懸念のリスクを軽減します。

責任ある AI 開発の一環として、完璧なシステムはないということを認識することが重要です。そのため、当社ではユーザーが製品の問題を報告できるように複数のメカニズムを提供し、問題に迅速かつ一貫して対処し、モデルを改善するための厳格な運用プロセスを導入しています。

ユーザーコントロール: 人々と企業が自主性を尊重しながら潜在能力を最大限に発揮できるよう支援します。

AI を活用したコミュニケーション支援がさらに進歩するにつれて、人間の音声に代わるものはなくなりました。コミュニケーションは非常に個人的なものであり、お客様が常にコントロールできるようにし、私たちが提供するテクノロジーが人々や企業が最大限の可能性を発揮できるよう支援することが私たちにとって極めて重要です。

私たちは Grammarlyの生成 AI 支援を慎重に設計し、検討すべきオプションや提案を提供します。常に最終的にはお客様の判断に委ねます。これは偶然ではありませんでした。ユーザーの自主性を尊重することで、当社のテクノロジーがユーザーを強化するという目的を確実に果たせるようになります。 Grammarlyの生成 AIを使用することで、人々が日常の執筆時間を節約し、貴重なエネルギーをより多くの大きなアイデアの考案、創造的な戦略の開発、組織全体での最も影響力のある仕事の共同作業に費やすことができるようにします。

共感: お客様の立場に立って真のニーズを理解し、それに対応する

新しいテクノロジーによる意図しない結果を最小限に抑える重要な方法は、人々が直面する特定の課題に対処することに重点を置くことであると私たちは信じています。当社は、お客様に提供する価値を高めるために常に新しいテクノロジーを模索しており、これが生成 AI を当社の製品に統合する動機の 1 つでした。

たとえば、Grammarlyの生成 AI 支援は、人々が「空白ページ」問題を克服するのに役立ちます。これは、Grammarly ユーザーの 84% がサポートを希望していると回答した問題です。さらに、ユーザーからは、受信する電子メールの量に苦労し、迅速かつ効率的に応答するというタスクに圧倒されているという声も聞きました。この問題点に対応して、人々が状況に応じてパーソナライズされた方法で電子メールに迅速に応答できるようにする生成 AI 機能を作成しました。

新しいユースケースを Grammarly の製品に導入する際にも、この意図は引き続き最前線にあります。

AI の未来が拡張される

Grammarly が最近 TRUE フレームワークを使用した例を 1 つだけ紹介しましたが、新しいテクノロジーを使用して製品を開発する人がこのアプローチを真似したり、インスピレーションを得たりすることを願っています。私は、AI の未来は拡張知能にあると確信しています。また、SXSW や業界全体で、人間を製品決定の中心に据え続けることについての会話に励まされています。

私は、AI を使用して私たちを向上させ、個人やチームが潜在能力を発揮し、ビジネス、組織、業界に大きな影響を与えることができる世界に住みたいと考えています。私たちが社会として適応し学習する際、TRUE のようなフレームワークは、その未来を現実にするのに役立ちます。

Grammarly の次期 CEO としての私の新しい役割において、顧客を拡大するという約束は私にとってこれまでと同様に重要です。そして、Grammarly が生成 AI によって新しい時代に入るにつれて、この伝統をさらに強化し続けるのが待ちきれません。