Reflexões sobre SXSW: uma estrutura para responsabilidade e prestação de contas do setor na era da IA ​​generativa

No mês passado, logo após anunciar nosso novo produto de IA generativa, GrammarlyGO, participei da conferência SXSW em Austin, Texas. A energia em torno da IA ​​no SXSW era palpável e o apetite por conversas sobre IA responsável era inspirador. Canalizei esse espírito durante um bate-papo ao lado da lareira sobre responsabilidade no The Grammarly AI Hub, e o tópico fundamentou minha palestra no SXSW, “O futuro da IA: do artificial ao aumentado”.

À medida que começamos a distribuir o GrammarlyGO para nossos usuários e clientes, a implantação responsável da IA ​​continua sendo uma prioridade. Já escrevi sobre a abordagem da Grammarly para inteligência aumentada – a ideia de que a IA só é bem-sucedida quando aplicada de uma forma que aumenta e capacita as pessoas a atingirem seu potencial. A inteligência aumentada sustenta nossa filosofia de desenvolvimento de produtos e informa a estrutura TRUE, que compartilhei no SXSW para demonstrar como a equipe de produtos da Grammarly aborda todas as tecnologias que utilizamos, incluindo IA generativa.

Estruturas de IA responsáveis ​​como TRUE podem orientar o desenvolvimento de produtos que aumentam as pessoas em todos os setores, tecnologias e casos de uso. Quando essas estruturas são implantadas em escala, podemos criar um futuro em que indivíduos e empresas realizem todo o seu potencial, criem conexões mais profundas e gerem resultados. Acredito que a estrutura TRUE, que se baseia em quatro princípios básicos — Confiança, Responsabilidade, Controle do Usuário e Empatia — pode nos levar em direção a esse futuro.

Veja como estamos aplicando a estrutura TRUE para garantir que nossa implantação de IA generativa cumpra nossa promessa de aumentar nossos clientes, priorizando sua autonomia, privacidade e segurança.

Confiança: colocando os padrões e práticas de segurança e privacidadeem primeiro lugar

O compromisso permanente da Grammarly com a privacidade e a segurança lidera nossa estrutura TRUE e é a base de nosso modelo de negócios. Alinhar nossos incentivos com os de nossos clientes é fundamental para construir confiança. Ganhamos dinheiro vendendo assinaturas - não vendemos dados de clientes a terceiros para fins de publicidade ou treinamento. Além disso, desidentificamos e anonimizamos os dados do usuário, mantendo-os apenas pelo tempo necessário para fornecer e aprimorar nosso serviço.

Se a privacidade é sobre como protegemos os direitos do usuário para controlar e acessar seus dados, a segurança é sobre como protegemos esses dados. Estamos profundamente comprometidos com a segurança e, com 14 anos de investimento, consideramos a segurança como o recurso de produto mais importante no centro de nosso ecossistema de produtos.

Operamos com uma cultura obcecada por segurança, mantendo as melhores políticas e práticas da categoria, como logon único para todas as contas do Grammarly Business, testes de penetração de terceiros e incorporando nossos especialistas internos em segurança às nossas equipes de produto e engenharia . Essas salvaguardas nos permitem obter atestados e certificações de terceiros. Estamos mantendo esses altos padrões à medida que implantamos IA generativa em nossos produtos por meio de inovações como o GrammarlyGO.

Responsabilidade: Construir e melhorar sistemas de IA que reduzam o viés e promovam a justiça

Os resultados de uma competição de previsão liderada por Jacob Steinhardt, professor da Universidade da Califórnia, em Berkeley, sugerem que os recursos de aprendizado de máquina estão progredindo mais rapidamente do que sua capacidade de executar de forma confiável com conjuntos de dados novos e inesperados. Isso significa que os tecnólogos têm a responsabilidade de implementar proteções que tornem a IA mais segura.

Nossa equipe de IA responsável faz isso diariamente criando conjuntos de dados de qualidade e empregando táticas para garantir que os algoritmos em nossos produtos não perpetuem preconceitos ou estereótipos. Usamos tecnologias internas para evitar que o GrammarlyGO interaja com tópicos delicados, mitigando o risco de questões de segurança.

Parte do desenvolvimento responsável da IA ​​é reconhecer que nenhum sistema é perfeito. É por isso que fornecemos vários mecanismos para que os usuários relatem problemas em nossos produtos e implementamos um processo operacional rigoroso para resolver problemas de maneira rápida e consistente e melhorar nossos modelos.

User Control: Ajudar pessoas e empresas a alcançar todo o seu potencial respeitando sua autonomia

À medida que a assistência de comunicação baseada em IA se torna mais avançada, não há como substituir a voz humana. A comunicação é incrivelmente pessoal e é vital para nós que nossos clientes sempre permaneçam no controle e que a tecnologia que fornecemos ajude as pessoas e as empresas a atingirem seu maior potencial.

Projetamos cuidadosamente o GrammarlyGO para fornecer opções e sugestões para consideração - sempre deixando o cliente decidir o que é melhor para ele. Isso não foi acidental - respeitar a autonomia de nossos usuários ajuda a garantir que nossa tecnologia atenda ao propósito de aumentá-los. Com o GrammarlyGO, estamos ajudando as pessoas a economizar tempo em sua escrita diária, capacitando-as a gastar mais de sua valiosa energia criando grandes ideias, desenvolvendo estratégias criativas e colaborando no trabalho de maior impacto em suas organizações.

Empatia: Colocar-se no lugar dos nossos clientes para compreender e responder às suas reais necessidades

Acreditamos que uma maneira crucial de minimizar os resultados não intencionais da nova tecnologia é focar na abordagem dos desafios específicos que as pessoas enfrentam. Buscamos constantemente novas tecnologias para aprofundar o valor que entregamos aos nossos clientes, e essa foi uma motivação para integrar IA generativa em nossos produtos.

Por exemplo, o GrammarlyGO pode ajudar as pessoas a superar o problema da “página em branco” – algo que 84% dos usuários do Grammarly nos disseram que queriam suporte. Além disso, ouvimos de nossos usuários que eles estavam lutando com o volume de e-mails que recebiam e estavam sobrecarregados com a tarefa de responder com rapidez e eficiência. Em resposta a esse ponto problemático, criamos um recurso no GrammarlyGO que permite que as pessoas respondam rapidamente aos e-mails de maneira personalizada e contextualmente relevante.

À medida que introduzimos novos casos de uso nas ofertas de produtos da Grammarly, essa intenção permanecerá em primeiro plano.

O futuro da IA ​​é aumentado

Embora eu tenha compartilhado apenas um exemplo de como a Grammarly utilizou recentemente a estrutura TRUE, espero que qualquer pessoa que desenvolva produtos com novas tecnologias replique ou encontre inspiração nessa abordagem. Estou confiante de que o futuro da IA ​​está na inteligência aumentada – e estou encorajado pelas conversas no SXSW e em todo o setor sobre como manter as pessoas no centro das decisões do produto.

Quero viver em um mundo onde usamos IA para nos tornar melhores, capacitando indivíduos e equipes para atingir seu potencial e gerar grandes impactos para empresas, organizações e indústrias. À medida que nos adaptamos e aprendemos como sociedade, estruturas como TRUE podem nos ajudar a tornar esse futuro uma realidade.

Em minha nova função como novo CEO da Grammarly, nossa promessa de aumentar nossos clientes é tão importante para mim como sempre - e mal posso esperar para continuar construindo esse legado enquanto a Grammarly entra em uma nova era com IA generativa.