SXSW に関する考察: ジェネレーティブ AI 時代における業界の責任と説明責任のフレームワーク

先月、新しいジェネレーティブ AI 製品である GrammarlyGO を発表した直後に、私はテキサス州オースティンで開催された SXSW カンファレンスに出席しました。 SXSW での AI を取り巻くエネルギーは明白で、責任ある AI に関する会話への欲求は刺激的でした。 私は、The Grammarly AI Hub での責任についてのファイヤサイド チャットでこの精神を伝えました。このトピックは、私の SXSW 講演「AI の未来: 人工知能から拡張技術へ」の根拠となりました。

GrammarlyGO のユーザーと顧客への展開を開始するにあたり、AI の責任ある展開は依然として最優先事項です。 私は以前、Grammarly の拡張知能へのアプローチについて書いたことがあります。つまり、AI は、人々が潜在能力を発揮できるように拡張し、力を与えるような方法で適用された場合にのみ成功するという考えです。 拡張インテリジェンスは、当社の製品開発哲学を支え、TRUE フレームワークに情報を提供します。このフレームワークは、Grammarly の製品チームがジェネレーティブ AI を含む、私たちが活用するすべてのテクノロジーにどのようにアプローチするかを示すために SXSW で共有しました。

TRUE のような責任ある AI フレームワークは、さまざまな業界、テクノロジ、ユース ケースで人々を拡張する製品の開発を導くことができます。 これらのフレームワークが大規模に展開されると、個人や企業がその潜在能力を最大限に発揮し、より深いつながりを築き、結果を生み出す未来を作り出すことができます。 信頼、責任、ユーザー コントロール、共感という 4 つのコア原則に基づいた TRUE フレームワークは、私たちをこの未来の方向に導くことができると信じています。

ここでは、TRUE フレームワークをどのように適用して、ジェネレーティブ AI の展開が、お客様の自律性、プライバシー、セキュリティを優先しながらも、お客様を拡張するという約束を確実に実現する方法を見ていきます。

信頼:セキュリティとプライバシーの基準と慣行を最優先する

Grammarly のプライバシーとセキュリティに対する揺るぎないコミットメントは、TRUE の枠組みを導き、ビジネス モデルの基礎となっています。 私たちのインセンティブをお客様のインセンティブと一致させることは、信頼を築く上で重要です。 サブスクリプションを販売することで収益を得ています。広告やトレーニングのために顧客データを第三者に販売することはありません。 さらに、ユーザー データを匿名化して匿名化し、サービスの提供と強化に必要な期間のみ保持します。

プライバシーがユーザーのデータを制御およびアクセスする権利をどのように保護するかがすべてである場合、セキュリティはそのデータをどのように保護するかがすべてです。 私たちはセキュリティに深く取り組んでおり、14 年間の投資を経て、セキュリティは製品エコシステムの中心にある最も重要な製品機能であると考えています。

私たちは、すべてのGrammarly Businessアカウントのシングルサインオン、サードパーティの侵入テスト、社内のセキュリティ専門家を製品およびエンジニアリングチームに組み込むなど、クラス最高のポリシーと慣行を支持し、セキュリティに取りつかれている文化で運営しています. これらの保護手段により、サードパーティの証明と認証を取得できます。 GrammarlyGO などの新しいイノベーションを通じて製品にジェネレーティブ AI を導入しながら、これらの高い基準を維持しています。

責任: バイアスを減らし、公平性を促進する AI システムの構築と改善

カリフォルニア大学バークレー校の教授であるジェイコブ・スタインハートが率いる予測コンテストの結果は、機械学習の能力が、新しい予想外のデータセットで確実に実行する能力よりも急速に進歩していることを示唆しています。 これは、技術者が AI をより安全にするガードレールを実装する責任があることを意味します。

当社の責任ある AI チームは、高品質のデータセットを使用して構築し、製品のアルゴリズムが偏見やステレオタイプを永続させないようにする戦術を採用することで、これを毎日行っています。 内部技術を使用して、GrammarlyGO が機密性の高いトピックと対話するのを防ぎ、安全上の懸念のリスクを軽減します。

責任ある AI 開発の一部は、完璧なシステムは存在しないことを認識することです。 そのため、ユーザーが製品の問題を報告するための複数のメカニズムを提供し、問題に迅速かつ一貫して対処し、モデルを改善するための厳格な運用プロセスを実施しています。

ユーザーコントロール: 自律性を尊重しながら、人々や企業が潜在能力を最大限に発揮できるように支援する

AI を活用したコミュニケーション支援が高度になるにつれて、人間の声に代わるものはありません。 コミュニケーションは非常に個人的なものであり、お客様が常にコントロールできるようにすること、そして私たちが提供するテクノロジーが人々と企業の可能性を最大限に引き出すのに役立つことは、私たちにとって非常に重要です.

私たちは慎重に GrammarlyGO を設計し、検討のためのオプションと提案を提供しました。 これは偶然ではありません。ユーザーの自律性を尊重することで、ユーザーを拡張するという目的を 我々 のテクノロジが確実に果たすことができます。 GrammarlyGO を使用して、人々が毎日の執筆にかかる時間を節約し、大きなアイデアを考案し、創造的な戦略を開発し、組織全体で最も影響力のある仕事に協力して、貴重なエネルギーをより多く使えるようにします。

共感: お客様の立場に立って、お客様の本当のニーズを理解し、それに応える

私たちは、新しいテクノロジーによる意図しない結果を最小限に抑えるための重要な方法は、人々が直面する特定の課題への対処に集中することだと考えています。 私たちは、お客様に提供する価値を深めるために常に新しいテクノロジーを模索しており、これがジェネレーティブ AI を製品に統合する動機の 1 つでした。

たとえば、GrammarlyGO は、人々が「空白のページ」の問題を克服するのに役立ちます。Grammarly ユーザーの 84% が、サポートが必要だと答えています。 さらに、ユーザーからは、受信するメールの量に苦労しており、迅速かつ効率的に応答するタスクに圧倒されていると聞きました。 その問題点に対応するために、GrammarlyGO に機能を作成しました。これにより、人々は状況に応じてパーソナライズされた方法で電子メールに迅速に応答できるようになります。

Grammarly の製品に新しいユース ケースを導入するとき、この意図は最前線にあり続けます。

AI の未来は拡張される

Grammarly が最近 TRUE フレームワークをどのように利用したかの 1 つの例を紹介しましたが、新しいテクノロジを使用して製品を開発しているすべての人がこのアプローチを再現したり、インスピレーションを得たりすることを願っています。 私は、AI の未来は拡張知能にあると確信しています。また、SXSW や業界全体で人々を製品の意思決定の中心に据えておくことについての会話に励まされています。

私は、AI を使用して私たちをより良くし、個人やチームが潜在能力を発揮して、ビジネス、組織、業界に大きな影響を与えることができる世界に住みたいと思っています。 私たちが社会として適応し、学ぶとき、TRUE のようなフレームワークは、その未来を実現するのに役立ちます。

Grammarly の次期 CEO としての新しい役割において、顧客を拡大するという私たちの約束は、これまでと同様に重要です。Grammarly がジェネレーティブ AI で新しい時代に入るにつれて、この遺産をさらに発展させていくのが待ちきれません。