Grammarly では、責任ある AI には、人間の価値観に沿った方法で AI を構築および展開することがどのように含まれるかについて定期的に話しています。責任ある AI の実践では、ユーザーが製品の仕組みを理解し、それを制御できるようにすることで、権限をユーザーの手に直接渡すことを優先します。ユーザー主体性を促進する製品は、より良いビジネス成果にもつながります。最も洗練された形式の責任ある AI は、最終的にはユーザー エクスペリエンスを中心に置き、作成したテクノロジーが利益をもたらし害を軽減することを保証することです。

現時点では、AI および機械学習製品がユーザーの不安の原因となる可能性があります。人々は、AI が自分たちの仕事の将来に何を意味するかについて不安を感じています。人間中心の企業はこれらの懸念に対応し、製品とユーザー エクスペリエンスの両方の立場で人々と出会います。これを行うには、透明性と制御という 2 つのレバーを引く必要があります。これらの原則を組み合わせることで、ユーザーの主体性が生まれます。

透明性が信頼を築く方法

透明性は、AI システムとユーザー間の信頼の基盤です。透明性が適切に実行されると、データのキャプチャと保存からアルゴリズムによる意思決定に至るまで、AI ライフサイクル全体に光が当てられます。透明性によってツールの信頼性が確立されますが、ユーザーが理解できる方法で作成するのは難しい場合があります。

透明性の重要な側面の 1 つは、AI トレーニング データとその結果に含まれるリスクと固有のバイアスを認識することです。責任を持って AI を構築するには、これらのバイアスに意図的に対処し、その存在を公的に認めることが必要です。たとえば、Grammarly では、害と偏見を軽減するためにいくつかのアプローチを採用し、リスクと手法の両方をオープンに共有しています。

• 私たちは複数のモデルを組み合わせて、その構築の透明性を追求します。
• 偏見のある言葉がユーザーに届くのを防ぐためにフィルターをカスタム構築します。
• 当社では、新機能がリリースされる前に、その潜在的な害を評価する堅牢なリスク評価プロセスを実装しています。

ベンダーは、AI モデルの起源とその決定方法を伝える必要があります。これを成功させるには、システムはユーザーに必要な情報をわかりやすい言語と形式で提供する必要があります。これはいくつかの理由から難しい場合があります。まず、テクノロジーの性質上、AI モデルによって特定の決定が行われた理由を知る方法がないことがよくあります。第二に、AI リテラシーは国民の間で大きく異なります。これらの課題に対処し、このレベルの透明性を目指して努力しているベンダーを探してください。これにより、最終的にはユーザーがこれらのシステムを信頼し、自信を持って使用できるようになります。

透明性により、開発者やシステムの行動に対する責任を負うことができるため、説明責任も確保されます。 AI システムがどのように機能するかを理解することで、ユーザーは問題があれば簡単に報告できるようになります。これにより、継続的な改善への道筋や前例も生まれます。これらのプロセスをわかりやすくすることで、ユーザーは効果的に AI と対話できるようになり、より多くの情報に基づいた公平な結果が得られます。

ユーザーエージェンシーにおけるコントロールの役割

AI 製品が透明性を提供する方法を確立すると、ユーザーによる制御も可能になります。 AI レコメンデーションをいつどのように使用するかの決定から、自分のデータの制御に至るまで、ユーザー制御はさまざまな形で現れます。たとえば、Grammarly で提示される提案の数を考えてみましょう。ユーザーは提案の根拠について知らされ (透明性!)、これらの提案を受け入れるか拒否するかの完全な自主性 (コントロール!) を保持します。

データが AI イノベーションを推進する時代では、ユーザーは自分の個人データを常に管理する必要があります。 Responsible AI により、ユーザーは自分のデータをいつ、どのように、AI モデルのトレーニングや製品の最適化に使用するかどうかを決定できるようになります。 AI ツールは、ユーザーが自分の好みや価値観に沿った個人データを選択できるようにする必要があります。 Grammarly では、ユーザーは製品が動作する場所とデータの使用方法を制御できます。

責任ある AI を実現するには、透明性と制御を通じてユーザーの主体性を強化する必要があります。ユーザーが AI の使用について情報に基づいた意思決定を行えるようにすることで、最終的には AI の使用が安全になります。あらゆる AI システムと実装において、これらの原則は動的になります。ビジネスに AI ツールを検討するときは、反復し、フィードバックに対処し、改善を行っている企業を探してください。

AI エコシステムが進化するにつれて、人々はこの新たなテクノロジーに対する感情と闘い続けることになるでしょう。責任ある AI の実践と透明性と管理の原則は、企業が優れた製品を開発する上で役立ちます。人々は、ユーザーにとって正しく機能する製品を信頼するようになり、そうすることでさらに優れた製品とより良いビジネス成果につながるでしょう。