Un quadro per la responsabilità e l’affidabilità del settore nell’era dell’intelligenza artificiale generativa

Il mese scorso, subito dopo l'annuncio delle nostre nuove funzionalità dei prodotti di intelligenza artificiale generativa, ho partecipato alla conferenza SXSW ad Austin, in Texas. L'energia attorno all'intelligenza artificiale al SXSW era palpabile e l'appetito per le conversazioni sull'intelligenza artificiale responsabile era stimolante. Ho incanalato questo spirito durante una chiacchierata sulla responsabilità presso The Grammarly AI Hub e l'argomento ha dato origine al mio discorso al SXSW, "Il futuro dell'intelligenza artificiale: dall'artificiale all'aumentato".

Mentre implementiamo l'assistenza AI generativa di Grammarly ai nostri utenti e clienti, l'implementazione responsabile dell'IA rimane la nostra priorità. Ho già scritto in precedenza dell'approccio di Grammarly all'intelligenza aumentata: l'idea che l'intelligenza artificiale abbia successo solo se applicata in un modo che aumenta e consente alle persone di raggiungere il proprio potenziale. L'intelligenza aumentata è alla base della nostra filosofia di sviluppo prodotto e informa il framework TRUE, che ho condiviso al SXSW per dimostrare come il team di prodotto di Grammarly affronta tutte le tecnologie che sfruttiamo, inclusa l'intelligenza artificiale generativa.

Framework di intelligenza artificiale responsabile come TRUE possono guidare lo sviluppo di prodotti che migliorano le persone in tutti i settori, tecnologie e casi d’uso. Quando questi framework vengono implementati su larga scala, possiamo creare un futuro in cui individui e aziende realizzano il loro pieno potenziale, creano connessioni più profonde e ottengono risultati. Credo che il framework TRUE, che si fonda su quattro principi fondamentali: fiducia, responsabilità, controllo dell'utente ed empatia, possa guidarci nella direzione di questo futuro.

Ecco uno sguardo a come stiamo applicando il framework TRUE per garantire che la nostra implementazione dell'intelligenza artificiale generativa mantenga la nostra promessa di aumentare i nostri clienti dando priorità alla loro autonomia, privacy e sicurezza.

Fiducia: mettereal primo posto gli standard e le pratiche di sicurezza e privacy

L'impegno costante di Grammarly nei confronti della privacy e della sicurezza guida il nostro quadro VERO ed è la base del nostro modello di business. Allineare i nostri incentivi con quelli dei nostri clienti è fondamentale per creare fiducia. Guadagniamo vendendo abbonamenti: non vendiamo i dati dei clienti a terzi per pubblicità o formazione. Inoltre, anonimizziamo e rendiamo anonimi i dati degli utenti, conservandoli solo per il tempo necessario a fornire e migliorare il nostro servizio.

Se la privacy riguarda il modo in cui proteggiamo i diritti degli utenti di controllare e accedere ai propri dati, la sicurezza riguarda il modo in cui tuteliamo tali dati. Siamo profondamente impegnati nella sicurezza e, con quattordici anni di investimenti al nostro attivo, riteniamo che la sicurezza sia la caratteristica più importante del nostro prodotto, al centro del nostro ecosistema di prodotti.

Operiamo con una cultura ossessionata dalla sicurezza, sostenendo politiche e pratiche best-in-class come il single sign-on per tutti gli account Grammarly Business, test di penetrazione di terze parti e integrando i nostri esperti di sicurezza interni con i nostri team di prodotto e di ingegneria . Queste tutele ci consentono di ottenere attestati e certificazioni di terze parti. Manteniamo questi standard elevati implementando nuove funzionalità di intelligenza artificiale generativa nei nostri prodotti.

Responsabilità: costruire e migliorare sistemi di intelligenza artificiale che riducano i pregiudizi e promuovano l’equità

I risultati di un concorso di previsione condotto da Jacob Steinhardt, professore all’Università della California, Berkeley, suggeriscono che le capacità di apprendimento automatico stanno progredendo più rapidamente della loro capacità di funzionare in modo affidabile con set di dati nuovi e inaspettati. Ciò significa che gli esperti di tecnologia hanno la responsabilità di implementare barriere che rendano l’intelligenza artificiale più sicura.

Il nostro team di intelligenza artificiale responsabile lo fa quotidianamente costruendo set di dati di qualità e impiegando tattiche per garantire che gli algoritmi nei nostri prodotti non perpetuino pregiudizi o stereotipi. Utilizziamo tecnologie interne per impedire all'intelligenza artificiale generativa di Grammarly di interagire con argomenti sensibili, mitigando il rischio di problemi di sicurezza.

Parte dello sviluppo responsabile dell’IA è riconoscere che nessun sistema è perfetto. Ecco perché forniamo molteplici meccanismi che consentono agli utenti di segnalare problemi nei nostri prodotti e disponiamo di un rigoroso processo operativo per affrontare i problemi in modo rapido e coerente e migliorare i nostri modelli.

Controllo utente: aiutare le persone e le aziende a raggiungere il loro pieno potenziale nel rispetto della loro autonomia

Man mano che l’assistenza alla comunicazione basata sull’intelligenza artificiale diventa più avanzata, non è possibile sostituire la voce umana. La comunicazione è incredibilmente personale ed è fondamentale per noi che i nostri clienti mantengano sempre il controllo e che la tecnologia che forniamo aiuti le persone e le aziende a raggiungere il loro massimo potenziale.

Abbiamo progettato attentamente l'assistenza AI generativa di Grammarly per fornire opzioni e suggerimenti da prendere in considerazione, rimettendo sempre al cliente la decisione su cosa è meglio per lui. Ciò non è stato casuale: rispettare l'autonomia dei nostri utenti aiuta a garantire che la nostra tecnologia serva al suo scopo di migliorarli. Con l'intelligenza artificiale generativa di Grammarly, aiutiamo le persone a risparmiare tempo nella scrittura quotidiana, consentendo loro di spendere una parte maggiore della loro preziosa energia nell'ideazione di grandi idee, nello sviluppo di strategie creative e nella collaborazione sul lavoro di maggior impatto all'interno delle loro organizzazioni.

Empatia: mettersi nei panni dei nostri clienti per comprendere e rispondere ai loro reali bisogni

Riteniamo che un modo cruciale per ridurre al minimo gli effetti indesiderati delle nuove tecnologie sia concentrarsi sull’affrontare le sfide specifiche che le persone si trovano ad affrontare. Cerchiamo costantemente nuove tecnologie per aumentare il valore che offriamo ai nostri clienti e questa è stata una delle motivazioni per integrare l'intelligenza artificiale generativa nei nostri prodotti.

Ad esempio, l'assistenza AI generativa di Grammarly può aiutare le persone a superare il problema delle "pagine vuote", qualcosa per cui l'84% degli utenti di Grammarly ci ha detto di volere supporto. Inoltre, abbiamo sentito dai nostri utenti che stavano lottando con il volume di e-mail ricevute e che erano sopraffatti dal compito di rispondere in modo rapido ed efficiente. In risposta a questo punto critico, abbiamo creato funzionalità di intelligenza artificiale generativa che consentono alle persone di rispondere rapidamente alle e-mail in modo personalizzato e contestualmente pertinente.

Man mano che introduciamo nuovi casi d'uso nell'offerta di prodotti Grammarly, questa intenzione rimarrà in prima linea.

Il futuro dell’intelligenza artificiale è aumentato

Anche se ho condiviso solo un esempio di come Grammarly ha recentemente utilizzato il framework TRUE, spero che chiunque sviluppi prodotti con nuove tecnologie replichi o trovi ispirazione in questo approccio. Sono fiducioso che il futuro dell'intelligenza artificiale sia nell'intelligenza aumentata e sono incoraggiato dalle conversazioni al SXSW e in tutto il settore su come mantenere le persone al centro delle decisioni sui prodotti.

Voglio vivere in un mondo in cui utilizziamo l'intelligenza artificiale per migliorarci, consentendo a individui e team di raggiungere il proprio potenziale e ottenere grandi impatti per aziende, organizzazioni e industrie. Mentre ci adattiamo e impariamo come società, strutture come TRUE possono aiutarci a trasformare quel futuro in realtà.

Nel mio nuovo ruolo di CEO entrante di Grammarly, la nostra promessa di aumentare i nostri clienti è per me più importante che mai e non vedo l'ora di continuare a costruire su questa eredità mentre Grammarly entra in una nuova era con l'intelligenza artificiale generativa.