Un cadre pour la responsabilité et l’imputabilité de l’industrie à l’ère de l’IA générative

Le mois dernier, juste après l'annonce de nos nouvelles fonctionnalités d'IA générative, j'ai assisté à la conférence SXSW à Austin, au Texas. L’énergie autour de l’IA au SXSW était palpable et l’appétit pour les conversations autour de l’IA responsable était inspirant. J'ai canalisé cet esprit lors d'une discussion au coin du feu sur la responsabilité au Grammarly AI Hub, et le sujet a fondé mon discours SXSW, « L'avenir de l'IA : de l'artificiel à l'augmenté ».

Alors que nous déployons l'assistance générative d'IA de Grammarly à nos utilisateurs et clients, le déploiement responsable de l'IA reste une priorité. J'ai déjà écrit sur l'approche de Grammarly en matière d'intelligence augmentée : l'idée selon laquelle l'IA ne réussit que lorsqu'elle est appliquée de manière à augmenter et à permettre aux gens d'atteindre leur potentiel. L'intelligence augmentée sous-tend notre philosophie de développement de produits et éclaire le cadre TRUE, que j'ai partagé à SXSW pour démontrer comment l'équipe produit de Grammarly aborde toutes les technologies que nous exploitons, y compris l'IA générative.

Les cadres d'IA responsable comme TRUE peuvent guider le développement de produits qui améliorent les personnes dans tous les secteurs, technologies et cas d'utilisation. Lorsque ces cadres sont déployés à grande échelle, nous pouvons créer un avenir dans lequel les individus et les entreprises réalisent leur plein potentiel, établissent des liens plus profonds et génèrent des résultats. Je crois que le cadre TRUE, qui repose sur quatre principes fondamentaux : confiance, responsabilité, contrôle des utilisateurs et empathie, peut nous orienter dans la direction de cet avenir.

Voici un aperçu de la façon dont nous appliquons le cadre TRUE pour garantir que notre déploiement d'IA générative remplit notre promesse d'augmenter notre clientèle tout en donnant la priorité à leur autonomie, leur confidentialité et leur sécurité.

Confiance : donner la prioritéaux normes et pratiques en matière de sécurité et de confidentialité

L'engagement constant de Grammarly en faveur de la confidentialité et de la sécurité dirige notre VRAI cadre et constitue la base de notre modèle commercial. Aligner nos incitations sur celles de nos clients est essentiel pour instaurer la confiance. Nous gagnons de l'argent en vendant des abonnements. Nous ne vendons pas les données de nos clients à des tiers à des fins de publicité ou de formation. De plus, nous anonymisons et anonymisons les données des utilisateurs, en les conservant uniquement aussi longtemps qu'elles sont nécessaires pour fournir et améliorer notre service.

Si la confidentialité concerne la manière dont nous protégeons les droits des utilisateurs de contrôler et d'accéder à leurs données, la sécurité concerne la manière dont nous protégeons ces données. Nous sommes profondément attachés à la sécurité et, avec quatorze années d'investissement à notre actif, nous considérons la sécurité comme la caractéristique la plus importante de notre produit, au cœur de notre écosystème de produits.

Nous opérons avec une culture obsédée par la sécurité, respectant les meilleures politiques et pratiques telles que l'authentification unique pour tous les comptes Grammarly Business, les tests d'intrusion tiers et l'intégration de nos experts en sécurité internes dans nos équipes de produits et d'ingénierie. . Ces garanties nous permettent d'obtenir des attestations et certifications de tiers. Nous maintenons ces normes élevées à mesure que nous déployons de nouvelles fonctionnalités d'IA générative dans nos produits.

Responsabilité : Construire et améliorer des systèmes d'IA qui réduisent les préjugés et favorisent l'équité

Les résultats d'un concours de prévision dirigé par Jacob Steinhardt, professeur à l'Université de Californie à Berkeley, suggèrent que les capacités d'apprentissage automatique progressent plus rapidement que leur capacité à fonctionner de manière fiable avec des ensembles de données nouveaux et inattendus. Cela signifie que les technologues ont la responsabilité de mettre en œuvre des garde-fous qui rendent l’IA plus sûre.

Notre équipe d'IA responsable le fait quotidiennement en créant des ensembles de données de qualité et en employant des tactiques pour garantir que les algorithmes de nos produits ne perpétuent pas les préjugés ou les stéréotypes. Nous utilisons des technologies internes pour empêcher l'IA générative de Grammarly d'interagir avec des sujets sensibles, atténuant ainsi le risque de problèmes de sécurité.

Une partie du développement responsable de l’IA consiste à reconnaître qu’aucun système n’est parfait. C'est pourquoi nous proposons plusieurs mécanismes permettant aux utilisateurs de signaler les problèmes liés à nos produits et avons mis en place un processus opérationnel rigoureux pour résoudre les problèmes de manière rapide et cohérente et améliorer nos modèles.

Contrôle des utilisateurs : aider les personnes et les entreprises à atteindre leur plein potentiel tout en respectant leur autonomie

À mesure que l’assistance à la communication basée sur l’IA devient plus avancée, rien ne peut remplacer la voix humaine. La communication est incroyablement personnelle et il est essentiel pour nous que nos clients gardent toujours le contrôle et que la technologie que nous proposons aide les personnes et les entreprises à atteindre leur plein potentiel.

Nous avons soigneusement conçu l'assistance d'IA générative de Grammarly pour fournir des options et des suggestions à considérer, en nous en remettant toujours au client pour décider ce qui lui convient le mieux. Ce n’est pas un hasard : respecter l’autonomie de nos utilisateurs permet de garantir que notre technologie remplit son objectif de les augmenter. Avec l'IA générative de Grammarly, nous aidons les gens à gagner du temps sur leur écriture quotidienne, en leur permettant de consacrer davantage de leur précieuse énergie à concevoir de grandes idées, à développer des stratégies créatives et à collaborer sur les travaux les plus percutants au sein de leurs organisations.

Empathie : Se mettre à la place de nos clients pour comprendre et répondre à leurs besoins réels

Nous pensons qu’un moyen crucial de minimiser les conséquences inattendues des nouvelles technologies est de se concentrer sur les défis spécifiques auxquels les gens sont confrontés. Nous recherchons constamment de nouvelles technologies pour approfondir la valeur que nous offrons à nos clients, et c'est l'une des motivations pour intégrer l'IA générative dans nos produits.

Par exemple, l'assistance de l'IA générative de Grammarly peut aider les gens à surmonter le problème des « pages blanches », pour lequel 84 % des utilisateurs de Grammarly nous ont dit qu'ils souhaitaient de l'aide. De plus, nos utilisateurs nous ont dit qu'ils avaient du mal à gérer le volume d'e-mails qu'ils recevaient et qu'ils étaient submergés par la tâche de répondre rapidement et efficacement. En réponse à ce problème, nous avons créé des fonctionnalités d'IA générative qui permettent aux utilisateurs de répondre rapidement aux e-mails d'une manière personnalisée et contextuellement pertinente.

À mesure que nous introduisons de nouveaux cas d'utilisation dans les offres de produits Grammarly, cette intention restera au premier plan.

L’avenir de l’IA est augmenté

Bien que je n'aie partagé qu'un seul exemple de la façon dont Grammarly a récemment utilisé le framework TRUE, j'espère que toute personne développant des produits avec de nouvelles technologies reproduira ou trouvera l'inspiration dans cette approche. Je suis convaincu que l'avenir de l'IA réside dans l'intelligence augmentée et je suis encouragé par les conversations au SXSW et dans l'ensemble de l'industrie sur la nécessité de garder les personnes au centre des décisions relatives aux produits.

Je veux vivre dans un monde où nous utilisons l’IA pour nous rendre meilleurs, en permettant aux individus et aux équipes d’atteindre leur potentiel et d’avoir un impact important sur les entreprises, les organisations et les industries. À mesure que nous nous adaptons et apprenons en tant que société, des cadres comme TRUE peuvent nous aider à faire de cet avenir une réalité.

Dans mon nouveau rôle de nouveau PDG de Grammarly, notre promesse d'augmenter notre clientèle est plus importante que jamais pour moi - et j'ai hâte de continuer à bâtir sur cet héritage alors que Grammarly entre dans une nouvelle ère avec l'IA générative.