Réflexions sur SXSW : un cadre pour la responsabilité et la responsabilisation de l'industrie à l'ère de l'IA générative

Le mois dernier, juste après l'annonce de notre nouveau produit d'IA générative, GrammarlyGO, j'ai assisté à la conférence SXSW à Austin, au Texas. L'énergie autour de l'IA chez SXSW était palpable, et l'appétit pour les conversations autour de l'IA responsable était inspirant. J'ai canalisé cet esprit lors d'une conversation au coin du feu sur la responsabilité au Grammarly AI Hub, et le sujet a fondé ma conférence SXSW, "L'avenir de l'IA : de l'artificiel à l'augmenté".

Alors que nous commençons à déployer GrammarlyGO auprès de nos utilisateurs et clients, le déploiement responsable de l'IA reste une priorité. J'ai déjà écrit sur l'approche de Grammarly en matière d'intelligence augmentée - l'idée que l'IA ne réussit que lorsqu'elle est appliquée d'une manière qui augmente et permet aux gens d'atteindre leur potentiel. L'intelligence augmentée sous-tend notre philosophie de développement de produits et informe le cadre TRUE, que j'ai partagé à SXSW pour démontrer comment l'équipe produit de Grammarly aborde toutes les technologies que nous exploitons, y compris l'IA générative.

Des cadres d'IA responsables comme TRUE peuvent guider le développement de produits qui améliorent les personnes dans tous les secteurs, technologies et cas d'utilisation. Lorsque ces cadres sont déployés à grande échelle, nous pouvons créer un avenir où les individus et les entreprises réalisent leur plein potentiel, établissent des liens plus profonds et génèrent des résultats. Je crois que le cadre TRUE, qui repose sur quatre principes fondamentaux - Confiance, Responsabilité, Contrôle de l'utilisateur et Empathie - peut nous faire avancer vers cet avenir.

Voici un aperçu de la façon dont nous appliquons le cadre TRUE pour nous assurer que notre déploiement d'IA générative tient notre promesse d'augmenter nos clients tout en donnant la priorité à leur autonomie, leur confidentialité et leur sécurité.

Confiance : donner la prioritéaux normes et pratiques de sécurité et de confidentialité

L'engagement constant de Grammarly envers la confidentialité et la sécurité est à la base de notre cadre TRUE et constitue la base de notre modèle commercial. Aligner nos incitations sur celles de nos clients est essentiel pour instaurer la confiance. Nous gagnons de l'argent en vendant des abonnements. Nous ne vendons pas les données de nos clients à des tiers à des fins de publicité ou de formation. De plus, nous désidentifions et anonymisons les données des utilisateurs, en ne les conservant que le temps nécessaire pour fournir et améliorer notre service.

Si la confidentialité concerne la manière dont nous protégeons les droits des utilisateurs de contrôler et d'accéder à leurs données, la sécurité concerne la manière dont nous protégeons ces données. Nous sommes profondément attachés à la sécurité et avec 14 ans d'investissement à notre actif, nous considérons la sécurité comme la caractéristique la plus importante de nos produits au cœur de notre écosystème de produits.

Nous opérons avec une culture obsédée par la sécurité, en respectant les meilleures politiques et pratiques telles que l'authentification unique pour tous les comptes Grammarly Business, les tests de pénétration tiers et l'intégration de nos experts en sécurité internes avec nos équipes de produits et d'ingénierie. . Ces garanties nous permettent d'obtenir des attestations et des certifications de tiers. Nous maintenons ces normes élevées alors que nous déployons l'IA générative dans nos produits grâce à de nouvelles innovations comme GrammarlyGO.

Responsabilité : Créer et améliorer des systèmes d'IA qui réduisent les préjugés et favorisent l'équité

Les résultats d'un concours de prévisions dirigé par Jacob Steinhardt, professeur à l'Université de Californie à Berkeley, suggèrent que les capacités d'apprentissage automatique progressent plus rapidement que leur capacité à fonctionner de manière fiable avec des ensembles de données nouveaux et inattendus. Cela signifie que les technologues ont la responsabilité de mettre en place des garde-fous qui rendent l'IA plus sûre.

Notre équipe d'IA responsable le fait quotidiennement en construisant avec des ensembles de données de qualité et en employant des tactiques pour s'assurer que les algorithmes de nos produits ne perpétuent pas les préjugés ou les stéréotypes. Nous utilisons des technologies internes pour empêcher GrammarlyGO d'interagir avec des sujets sensibles, atténuant ainsi le risque de problèmes de sécurité.

Une partie du développement responsable de l'IA consiste à reconnaître qu'aucun système n'est parfait. C'est pourquoi nous fournissons plusieurs mécanismes permettant aux utilisateurs de signaler les problèmes de nos produits et avons mis en place un processus opérationnel rigoureux pour résoudre rapidement et systématiquement les problèmes et améliorer nos modèles.

User Control : Aider les personnes et les entreprises à atteindre leur plein potentiel tout en respectant leur autonomie

À mesure que l'assistance à la communication alimentée par l'IA devient plus avancée, rien ne remplace la voix humaine. La communication est incroyablement personnelle, et il est essentiel pour nous que nos clients gardent toujours le contrôle et que la technologie que nous fournissons aide les personnes et les entreprises à atteindre leur plein potentiel.

Nous avons soigneusement conçu GrammarlyGO pour fournir des options et des suggestions à prendre en considération, en laissant toujours au client le soin de décider ce qui lui convient le mieux. Ce n'était pas accidentel - le respect de l'autonomie de nos utilisateurs permet de s'assurer que notre technologie remplit son objectif de les augmenter. Avec GrammarlyGO, nous aidons les gens à gagner du temps sur leur écriture quotidienne, en leur permettant de consacrer plus de leur précieuse énergie à concevoir de grandes idées, à développer des stratégies créatives et à collaborer sur le travail le plus percutant au sein de leurs organisations.

Empathie : se mettre à la place de nos clients pour comprendre et répondre à leurs besoins réels

Nous croyons qu'un moyen crucial de minimiser les résultats imprévus des nouvelles technologies est de se concentrer sur la résolution des défis spécifiques auxquels les gens sont confrontés. Nous recherchons constamment de nouvelles technologies pour approfondir la valeur que nous offrons à nos clients, et c'était l'une des motivations pour intégrer l'IA générative dans nos produits.

Par exemple, GrammarlyGO peut aider les gens à surmonter le problème de la "page blanche" - quelque chose que 84 % des utilisateurs de Grammarly nous ont dit qu'ils souhaitaient obtenir de l'aide. De plus, nos utilisateurs nous ont dit qu'ils avaient du mal avec le volume d'e-mails qu'ils recevaient et qu'ils étaient dépassés par la tâche de répondre rapidement et efficacement. En réponse à ce problème, nous avons créé une fonctionnalité dans GrammarlyGO qui permet aux utilisateurs de répondre rapidement aux e-mails de manière contextuelle et personnalisée.

Alors que nous introduisons de nouveaux cas d'utilisation dans les offres de produits de Grammarly, cette intention restera au premier plan.

L'avenir de l'IA est augmenté

Bien que je n'ai partagé qu'un exemple de la façon dont Grammarly a récemment utilisé le cadre TRUE, j'espère que quiconque développe des produits avec de nouvelles technologies reproduira ou trouvera l'inspiration dans cette approche. Je suis convaincu que l'avenir de l'IA réside dans l'intelligence augmentée, et je suis encouragé par les conversations chez SXSW et dans l'ensemble de l'industrie sur le maintien des personnes au centre des décisions relatives aux produits.

Je veux vivre dans un monde où nous utilisons l'IA pour nous améliorer, en donnant aux individus et aux équipes les moyens d'atteindre leur potentiel et d'avoir un impact important sur les entreprises, les organisations et les industries. Alors que nous nous adaptons et apprenons en tant que société, des cadres comme TRUE peuvent nous aider à faire de cet avenir une réalité.

Dans mon nouveau rôle de nouveau PDG de Grammarly, notre promesse d'augmenter nos clients est plus importante que jamais pour moi, et j'ai hâte de continuer à bâtir sur cet héritage alors que Grammarly entre dans une nouvelle ère avec l'IA générative.