Na Grammarly, falamos regularmente sobre como a IA responsável envolve a construção e implantação de IA de uma forma que se alinhe aos valores humanos. As práticas responsáveis ​​de IA priorizam colocar o poder diretamente nas mãos do usuário, garantindo que ele entenda como um produto funciona e tenha a capacidade de controlá-lo. Produtos que promovem a agência do usuário também levam a melhores resultados de negócios. A IA responsável, na sua forma mais refinada, tem como objetivo centralizar a experiência do usuário e garantir que a tecnologia que você cria oferece benefícios e reduz os danos.

No momento, os produtos de IA e de aprendizado de máquina podem ser a fonte de ansiedade dos usuários. As pessoas estão nervosas com o que a IA significa para o futuro do seu trabalho. Uma empresa centrada no ser humano responde a essas preocupações, encontrando as pessoas onde elas estão, tanto no produto quanto na experiência do usuário. Existem duas alavancas para fazer isso: transparência e controle. Combinados, esses princípios criam a agência do usuário.

Como a transparência gera confiança

A transparência é a base da confiança entre os sistemas de IA e os usuários. Quando bem executada, a transparência esclarece todo o ciclo de vida da IA, desde a captura e armazenamento de dados até a tomada de decisões algorítmicas. Embora a transparência estabeleça a confiabilidade e a confiabilidade de uma ferramenta, pode ser um desafio criá-la de uma forma que os usuários entendam.

Um aspecto importante da transparência é reconhecer os riscos e os preconceitos inerentes aos dados de formação em IA e aos seus resultados. Construir a IA de forma responsável envolve abordar intencionalmente esses preconceitos e reconhecer publicamente a sua existência. Por exemplo, na Grammarly, adotamos várias abordagens para reduzir danos e preconceitos, e partilhamos abertamente tanto os riscos como os nossos métodos:

• Combinamos múltiplos modelos e primamos pela transparência na sua construção.
• Criamos filtros personalizados para evitar que linguagem tendenciosa chegue aos usuários.
• Implementamos um processo robusto de avaliação de risco que avalia o dano potencial de novos recursos antes de serem lançados.

Os fornecedores devem comunicar as origens dos modelos de IA e como tomam decisões. Para fazer isso com sucesso, o sistema deve fornecer ao usuário as informações necessárias em uma linguagem e formato fáceis de entender. Isso pode ser difícil por vários motivos. Primeiro, devido à natureza da tecnologia, muitas vezes não há forma de saber porque é que uma decisão específica foi tomada por um modelo de IA. Em segundo lugar, a alfabetização em IA varia amplamente entre o público. Procure fornecedores que enfrentem esses desafios e busquem esse nível de transparência, o que, em última análise, ajuda os usuários a confiar nesses sistemas e a usá-los com confiança.

A transparência também garante a responsabilização porque permite responsabilizar os desenvolvedores e os sistemas pelas suas ações. Ao compreender como funciona um sistema de IA, os usuários podem relatar facilmente quaisquer problemas. Isto também cria um caminho e um precedente para melhorias contínuas. Ao desmistificar estes processos, os utilizadores estão em melhor posição para interagir eficazmente com a IA, levando a resultados mais informados e equitativos.

O papel do controle na agência do usuário

Depois que um produto de IA estabelece como fornecer transparência, ele também pode permitir o controle do usuário. Desde decidir quando e como usar as recomendações de IA até ter controle sobre os próprios dados, o controle do usuário se manifesta de várias maneiras. Veja, por exemplo, quantas sugestões são apresentadas no Grammarly. Os usuários são informados sobre o fundamento de uma sugestão (transparência!) e têm total autonomia para aceitar ou rejeitar essas sugestões (controle!).

Numa época em que os dados impulsionam a inovação da IA, os utilizadores devem manter o controlo sobre os seus dados pessoais. A IA responsável permite que os usuários decidam quando, como e se seus dados estão sendo usados ​​para treinar um modelo de IA ou otimizar um produto. As ferramentas de IA devem permitir aos utilizadores fazer escolhas sobre os seus dados pessoais que se alinhem com as suas preferências e valores. Na Grammarly, os usuários têm controle sobre onde nosso produto funciona e o uso de seus dados.

A jornada em direção à IA responsável exige o aprimoramento da agência dos usuários por meio da transparência e do controle. Permitir que os usuários tomem decisões informadas sobre o uso da IA ​​torna o uso da IA ​​seguro. Para cada sistema e implementação de IA, estes princípios serão dinâmicos. Ao considerar ferramentas de IA para o seu negócio, procure empresas que estejam iterando, abordando feedback e fazendo melhorias.

À medida que o ecossistema de IA evolui, as pessoas continuarão a lidar com os seus sentimentos sobre esta tecnologia emergente. As práticas responsáveis ​​de IA e os princípios de transparência e controle ajudarão a orientar as empresas na criação de produtos líderes. As pessoas passarão a confiar nos produtos que atendem bem aos seus usuários e, ao fazê-lo, levarão a produtos ainda melhores e a melhores resultados de negócios.