Riflessioni su SXSW: un quadro per la responsabilità e l'accountability del settore nell'era dell'IA generativa

Il mese scorso, sulla scia dell'annuncio del nostro nuovo prodotto di intelligenza artificiale generativa, GrammarlyGO, ho partecipato alla conferenza SXSW ad Austin, in Texas. L'energia attorno all'IA all'SXSW era palpabile e l'appetito per le conversazioni sull'IA responsabile è stato stimolante. Ho incanalato questo spirito durante una chiacchierata sulla responsabilità al The Grammarly AI Hub, e l'argomento ha fondato il mio discorso SXSW, "Il futuro dell'IA: dall'artificiale all'aumentato".

Mentre iniziamo a distribuire GrammarlyGO ai nostri utenti e clienti, l'implementazione responsabile dell'intelligenza artificiale rimane al primo posto. In precedenza ho scritto dell'approccio di Grammarly all'intelligenza aumentata: l'idea che l'IA ha successo solo se applicata in un modo che aumenta e consente alle persone di raggiungere il proprio potenziale. L'intelligenza aumentata è alla base della nostra filosofia di sviluppo del prodotto e informa il framework TRUE, che ho condiviso a SXSW per dimostrare come il team del prodotto di Grammarly si avvicina a tutte le tecnologie che sfruttiamo, inclusa l'IA generativa.

I framework IA responsabili come TRUE possono guidare lo sviluppo di prodotti che potenziano le persone in tutti i settori, le tecnologie e i casi d'uso. Quando questi framework vengono implementati su larga scala, possiamo creare un futuro in cui individui e aziende realizzino il loro pieno potenziale, creino connessioni più profonde e promuovano risultati. Credo che il VERO framework, che si basa su quattro principi fondamentali: fiducia, responsabilità, controllo dell'utente ed empatia, possa spostarci nella direzione di questo futuro.

Ecco uno sguardo a come stiamo applicando il framework TRUE per garantire che la nostra implementazione dell'IA generativa soddisfi la nostra promessa di aumentare i nostri clienti dando priorità alla loro autonomia, privacy e sicurezza.

Fiducia: mettere al primo postogli standard e le pratiche di sicurezza e privacy

L'impegno costante di Grammarly per la privacy e la sicurezza guida il nostro VERO framework ed è la base del nostro modello di business. Allineare i nostri incentivi con quelli dei nostri clienti è fondamentale per creare fiducia. Guadagniamo vendendo abbonamenti: non vendiamo i dati dei clienti a terzi per pubblicità o formazione. Inoltre, anonimizziamo e rendiamo anonimi i dati degli utenti, conservandoli solo per il tempo necessario a fornire e migliorare il nostro servizio.

Se la privacy riguarda il modo in cui proteggiamo i diritti degli utenti di controllare e accedere ai propri dati, la sicurezza riguarda il modo in cui proteggiamo tali dati. Siamo profondamente impegnati nella sicurezza e, con 14 anni di investimenti alle spalle, consideriamo la sicurezza come la nostra caratteristica di prodotto più importante al centro del nostro ecosistema di prodotti.

Operiamo con una cultura ossessionata dalla sicurezza, sostenendo politiche e pratiche best-in-class come Single Sign-On per tutti gli account Grammarly Business, test di penetrazione di terze parti e integrando i nostri esperti di sicurezza interni con i nostri team di prodotto e ingegneria . Queste tutele ci consentono di ottenere attestati e certificazioni di terze parti. Stiamo mantenendo questi standard elevati mentre implementiamo l'IA generativa nei nostri prodotti attraverso nuove innovazioni come GrammarlyGO.

Responsabilità: costruire e migliorare sistemi di intelligenza artificiale che riducano i pregiudizi e promuovano l'equità

I risultati di una competizione di previsione guidata da Jacob Steinhardt, professore all'Università della California, Berkeley, suggeriscono che le capacità di apprendimento automatico stanno progredendo più rapidamente della loro capacità di funzionare in modo affidabile con set di dati nuovi e inaspettati. Ciò significa che i tecnologi hanno la responsabilità di implementare guardrail che rendano l'IA più sicura.

Il nostro team Responsible AI lo fa ogni giorno creando set di dati di qualità e impiegando tattiche per garantire che gli algoritmi nei nostri prodotti non perpetuino pregiudizi o stereotipi. Utilizziamo tecnologie interne per impedire a GrammarlyGO di interagire con argomenti sensibili, mitigando il rischio di problemi di sicurezza.

Parte dello sviluppo responsabile dell'IA è riconoscere che nessun sistema è perfetto. Ecco perché forniamo agli utenti diversi meccanismi per segnalare problemi nei nostri prodotti e disponiamo di un rigoroso processo operativo per affrontare i problemi in modo rapido e coerente e migliorare i nostri modelli.

Controllo utente: aiutare le persone e le aziende a raggiungere il loro pieno potenziale rispettando la loro autonomia

Man mano che l'assistenza alla comunicazione basata sull'intelligenza artificiale diventa più avanzata, non è possibile sostituire la voce umana. La comunicazione è incredibilmente personale ed è fondamentale per noi che i nostri clienti mantengano sempre il controllo e che la tecnologia che forniamo aiuti le persone e le aziende a raggiungere il loro massimo potenziale.

Abbiamo progettato attentamente GrammarlyGO per fornire opzioni e suggerimenti da prendere in considerazione, rimettendo sempre in ultima analisi al cliente la decisione su ciò che è meglio per lui. Questo non è stato casuale: il rispetto dell'autonomia dei nostri utenti aiuta a garantire che la nostra tecnologia serva allo scopo di aumentarli. Con GrammarlyGO, stiamo aiutando le persone a risparmiare tempo nella scrittura quotidiana, consentendo loro di spendere più della loro preziosa energia ideando grandi idee, sviluppando strategie creative e collaborando al lavoro di maggior impatto all'interno delle loro organizzazioni.

Empatia: mettersi nei panni dei nostri clienti per capire e rispondere alle loro reali esigenze

Riteniamo che un modo cruciale per ridurre al minimo gli esiti indesiderati delle nuove tecnologie sia concentrarsi sull'affrontare le sfide specifiche che le persone devono affrontare. Cerchiamo costantemente nuove tecnologie per approfondire il valore che offriamo ai nostri clienti e questa è stata una delle motivazioni per integrare l'IA generativa nei nostri prodotti.

Ad esempio, GrammarlyGO può aiutare le persone a superare il problema della "pagina vuota", qualcosa per cui l'84% degli utenti di Grammarly ci ha detto di volere supporto. Inoltre, abbiamo sentito dai nostri utenti che stavano lottando con il volume di e-mail che ricevevano e che erano sopraffatti dal compito di rispondere in modo rapido ed efficiente. In risposta a quel punto dolente, abbiamo creato una funzionalità in GrammarlyGO che consente alle persone di rispondere rapidamente alle e-mail in modo contestualmente pertinente e personalizzato.

Man mano che introduciamo nuovi casi d'uso nell'offerta di prodotti di Grammarly, questa intenzione rimarrà in primo piano.

Il futuro dell'IA è aumentato

Mentre ho condiviso solo un esempio di come Grammarly ha recentemente utilizzato il framework TRUE, spero che chiunque sviluppi prodotti con nuove tecnologie replichi o trovi ispirazione in questo approccio. Sono fiducioso che il futuro dell'intelligenza artificiale risieda nell'intelligenza aumentata e sono incoraggiato dalle conversazioni all'SXSW e in tutto il settore sul mantenere le persone al centro delle decisioni sui prodotti.

Voglio vivere in un mondo in cui utilizziamo l'intelligenza artificiale per renderci migliori, consentendo a individui e team di raggiungere il loro potenziale e ottenere grandi impatti per aziende, organizzazioni e settori. Man mano che ci adattiamo e apprendiamo come società, strutture come TRUE possono aiutarci a trasformare quel futuro in realtà.

Nel mio nuovo ruolo di CEO entrante di Grammarly, la nostra promessa di aumentare i nostri clienti è più importante che mai per me e non vedo l'ora di continuare a costruire su questa eredità mentre Grammarly entra in una nuova era con l'IA generativa.