Chez Grammarly, nous parlons régulièrement de la façon dont l'IA responsable implique de construire et de déployer l'IA d'une manière qui correspond aux valeurs humaines. Les pratiques d’IA responsables donnent la priorité à la mise du pouvoir entre les mains de l’utilisateur en s’assurant qu’il comprend le fonctionnement d’un produit et qu’il a la capacité de le contrôler. Les produits qui favorisent l’action des utilisateurs conduisent également à de meilleurs résultats commerciaux. L’IA responsable, dans sa forme la plus distillée, consiste en fin de compte à centrer l’expérience utilisateur et à garantir que la technologie que vous créez offre des avantages et réduit les dommages.

À l’heure actuelle, les produits d’IA et d’apprentissage automatique peuvent être source d’anxiété pour les utilisateurs. Les gens sont nerveux quant à l’impact de l’IA sur l’avenir de leur travail. Une entreprise centrée sur l’humain est sensible à ces préoccupations, en allant à la rencontre des gens là où ils se trouvent, à la fois dans le produit et dans l’expérience utilisateur. Il y a deux leviers à actionner pour y parvenir : la transparence et le contrôle. Combinés, ces principes créent une agence utilisateur.

Comment la transparence renforce la confiance

La transparence est le fondement de la confiance entre les systèmes d’IA et les utilisateurs. Lorsqu’elle est bien exécutée, la transparence met en lumière l’ensemble du cycle de vie de l’IA, de la capture et du stockage des données à la prise de décision algorithmique. Bien que la transparence établisse la fiabilité et la fiabilité d'un outil, il peut être difficile de le créer d'une manière que les utilisateurs comprennent.

Un aspect important de la transparence consiste à reconnaître les risques et les biais inhérents aux données de formation à l’IA et à leurs résultats. Construire l’IA de manière responsable implique de s’attaquer intentionnellement à ces préjugés et de reconnaître publiquement leur existence. Par exemple, chez Grammarly, nous adoptons plusieurs approches pour réduire les préjudices et les préjugés, et nous partageons ouvertement à la fois les risques et nos méthodes :

• Nous combinons plusieurs modèles et recherchons la transparence dans leur construction.
• Nous créons des filtres sur mesure pour empêcher tout langage biaisé d'atteindre les utilisateurs.
• Nous mettons en œuvre un processus robuste d'évaluation des risques qui évalue les dommages potentiels des nouvelles fonctionnalités avant leur publication.

Les fournisseurs doivent communiquer les origines des modèles d’IA et la manière dont ils prennent des décisions. Pour y parvenir, le système doit fournir à l’utilisateur les informations dont il a besoin dans un langage et un format faciles à comprendre. Cela peut être difficile pour plusieurs raisons. Premièrement, en raison de la nature de la technologie, il est souvent impossible de savoir pourquoi une décision spécifique a été prise par un modèle d’IA. Deuxièmement, les connaissances en matière d’IA varient considérablement au sein du public. Recherchez des fournisseurs qui relèvent ces défis et s'efforcent d'atteindre ce niveau de transparence, qui aide finalement les utilisateurs à faire confiance à ces systèmes et à les utiliser en toute confiance.

La transparence garantit également la responsabilité car elle permet de tenir les développeurs et les systèmes responsables de leurs actions. En comprenant le fonctionnement d'un système d'IA, les utilisateurs peuvent alors facilement signaler tout problème. Cela crée également une voie et un précédent pour une amélioration continue. En démystifiant ces processus, les utilisateurs sont mieux placés pour interagir efficacement avec l’IA, ce qui conduit à des résultats plus éclairés et plus équitables.

Le rôle du contrôle dans l’agence utilisateur

Une fois qu’un produit d’IA a établi comment assurer la transparence, il peut également permettre le contrôle des utilisateurs. Qu'il s'agisse de décider quand et comment utiliser les recommandations de l'IA ou de contrôler ses données, le contrôle des utilisateurs se manifeste de différentes manières. Prenez, par exemple, le nombre de suggestions présentées dans Grammarly. Les utilisateurs sont informés du fondement d'une suggestion (transparence !) et conservent une totale autonomie pour accepter ou rejeter ces suggestions (contrôle !).

À une époque où les données alimentent l’innovation en matière d’IA, les utilisateurs doivent garder le contrôle de leurs données personnelles. L'IA responsable permet aux utilisateurs de décider quand, comment et si leurs données sont utilisées pour former un modèle d'IA ou optimiser un produit. Les outils d’IA devraient permettre aux utilisateurs de faire des choix concernant leurs données personnelles qui correspondent à leurs préférences et valeurs. Chez Grammarly, les utilisateurs contrôlent l'endroit où notre produit fonctionne et l'utilisation de leurs données.

Le cheminement vers une IA responsable nécessite d’améliorer l’action des utilisateurs grâce à la transparence et au contrôle. Permettre aux utilisateurs de prendre des décisions éclairées concernant l’utilisation de l’IA rend finalement son utilisation sûre. Pour chaque système et mise en œuvre d’IA, ces principes seront dynamiques. Lorsque vous envisagez des outils d'IA pour votre entreprise, recherchez des entreprises qui itèrent, répondent aux commentaires et apportent des améliorations.

À mesure que l’écosystème de l’IA évolue, les gens continueront à se débattre avec leurs sentiments à l’égard de cette technologie émergente. Des pratiques responsables en matière d’IA et les principes de transparence et de contrôle aideront les entreprises à créer des produits de pointe. Les gens en viendront à s’appuyer sur des produits qui conviennent à leurs utilisateurs et, ce faisant, ils conduiront à des produits encore meilleurs et à de meilleurs résultats commerciaux.