Un cadru pentru responsabilitatea și responsabilitatea industriei în era IA generativă

Luna trecută, în urma anunțării noilor noastre caracteristici generative de produs AI, am participat la conferința SXSW din Austin, Texas. Energia din jurul AI la SXSW a fost palpabilă, iar apetitul pentru conversații despre AI responsabil a fost inspirator. Am canalizat acest spirit în timpul unei conversații la șemineu despre responsabilitate la The Grammarly AI Hub, iar subiectul mi-a pus la bază discursul SXSW, „Viitorul AI: de la artificial la crescut”.

Pe măsură ce lansăm asistența IA generativă a Grammarly pentru utilizatorii și clienții noștri, implementarea responsabilă a AI rămâne în primul rând. Am scris anterior despre abordarea Grammarly a inteligenței augmentate - ideea că AI are succes numai atunci când este aplicată într-un mod care mărește și dă putere oamenilor să își atingă potențialul. Inteligența sporită stă la baza filozofiei noastre de dezvoltare a produselor și informează cadrul TRUE, pe care l-am împărtășit la SXSW pentru a demonstra modul în care echipa de produse Grammarly abordează toate tehnologiile pe care le folosim, inclusiv AI generativă.

Cadrele AI responsabile, cum ar fi TRUE, pot ghida dezvoltarea de produse care sporesc oamenii din industrii, tehnologii și cazuri de utilizare. Când aceste cadre sunt implementate la scară, putem crea un viitor în care indivizii și companiile își realizează întregul potențial, construiesc conexiuni mai profunde și generează rezultate. Cred că cadrul ADEVĂRAT, care se ancorează pe patru principii de bază – Încredere, Responsabilitate, Control al utilizatorului și Empatie – ne poate muta în direcția acestui viitor.

Iată o privire asupra modului în care aplicăm cadrul TRUE pentru a ne asigura că implementarea AI generativă îndeplinește promisiunea noastră de a ne spori clienții, acordând în același timp prioritate autonomiei, confidențialității și securității acestora.

Încredere: punempe primul loc standardele și practicile de securitate și confidențialitate

Angajamentul constant al Grammarly față de confidențialitate și securitate conduce cadrul nostru ADEVĂRAT și este baza modelului nostru de afaceri. Alinierea stimulentelor noastre cu cele ale clienților noștri este esențială pentru construirea încrederii. Câștigăm bani vânzând abonamente – nu vindem datele clienților unor terțe părți pentru publicitate sau instruire. În plus, de-identificăm și anonimizăm datele utilizatorilor, păstrându-le doar atâta timp cât este necesar pentru a furniza și îmbunătăți serviciul nostru.

Dacă confidențialitatea se referă la modul în care protejăm drepturile utilizatorilor de a controla și accesa datele lor, securitatea se referă la modul în care protejăm aceste date. Suntem profund angajați în securitate și, cu paisprezece ani de investiții la îndemână, ne gândim la securitate ca fiind cea mai importantă caracteristică a produsului în centrul ecosistemului nostru de produse.

Operăm cu o cultură obsedată de securitate, susținând politici și practici de cea mai bună calitate, cum ar fi conectarea unică pentru toate conturile Grammarly Business, testarea de penetrare terță parte și integrarea experților noștri interni în securitate cu echipele noastre de produse și inginerie . Aceste măsuri de protecție ne permit să obținem atestări și certificări de la terți. Menținem aceste standarde înalte pe măsură ce implementăm noi funcții AI generative în produsele noastre.

Responsabilitate: construirea și îmbunătățirea sistemelor AI care reduc părtinirea și promovează corectitudinea

Rezultatele unei competiții de prognoză condusă de Jacob Steinhardt, profesor la Universitatea din California, Berkeley, sugerează că capacitățile de învățare automată progresează mai repede decât capacitatea lor de a funcționa fiabil cu seturi de date noi și neașteptate. Aceasta înseamnă că tehnologii au responsabilitatea de a implementa balustrade care fac AI mai sigură.

Echipa noastră de IA responsabilă face acest lucru zilnic, construind seturi de date de calitate și folosind tactici pentru a se asigura că algoritmii din produsele noastre nu perpetuează părtiniri sau stereotipuri. Folosim tehnologii interne pentru a preveni interacțiunea AI generativă a lui Grammarly cu subiecte sensibile, atenuând riscul problemelor de siguranță.

O parte din dezvoltarea responsabilă a AI este recunoașterea faptului că niciun sistem nu este perfect. De aceea, oferim mai multe mecanisme pentru ca utilizatorii să raporteze problemele din produsele noastre și să avem un proces operațional riguros pentru a rezolva rapid și consecvent problemele și pentru a ne îmbunătăți modelele.

Controlul utilizatorului: Ajutați oamenii și companiile să-și atingă potențialul maxim, respectându-le în același timp autonomia

Pe măsură ce asistența de comunicare bazată pe inteligență artificială devine mai avansată, nu există nicio înlocuire a vocii umane. Comunicarea este incredibil de personală și este vital pentru noi ca clienții noștri să rămână mereu în control și ca tehnologia pe care o oferim să ajute oamenii și companiile să atingă cel mai înalt potențial.

Am proiectat cu atenție asistența AI generativă de la Grammarly pentru a oferi opțiuni și sugestii de luat în considerare – amânând întotdeauna clientul să decidă ce este mai bine pentru ei. Acest lucru nu a fost întâmplător – respectarea autonomiei utilizatorilor noștri ne ajută să ne asigurăm că tehnologia noastră își îndeplinește scopul de a le spori. Cu inteligența artificială generativă a lui Grammarly, îi ajutăm pe oameni să economisească timp în scrisul lor de zi cu zi, dându-i puterea să-și cheltuiască mai mult din energia lor valoroasă creând idei mari, dezvoltând strategii creative și colaborând la munca cea mai de impact din organizațiile lor.

Empatie: Mergem în pielea clienților noștri pentru a înțelege și a răspunde nevoilor lor reale

Credem că o modalitate esențială de a minimiza rezultatele neintenționate ale noii tehnologii este să se concentreze pe abordarea provocărilor specifice cu care se confruntă oamenii. Căutăm în mod constant noi tehnologii pentru a aprofunda valoarea pe care o oferim clienților noștri, iar aceasta a fost o motivație pentru integrarea AI generativă în produsele noastre.

De exemplu, asistența AI generativă a Grammarly poate ajuta oamenii să depășească problema „paginii goale” – ceva pentru care 84% dintre utilizatorii Grammarly ne-au spus că doresc asistență. În plus, am auzit de la utilizatorii noștri că se luptă cu volumul de e-mailuri primite și că au fost copleșiți de sarcina de a răspunde rapid și eficient. Ca răspuns la acest punct de durere, am creat funcții AI generative care le permit oamenilor să răspundă rapid la e-mailuri într-un mod personalizat, relevant din punct de vedere contextual.

Pe măsură ce introducem noi cazuri de utilizare în ofertele de produse Grammarly, această intenție va rămâne în prim-plan.

Viitorul AI este sporit

Deși am împărtășit doar un exemplu despre modul în care Grammarly a folosit recent cadrul TRUE, sper ca oricine care dezvoltă produse cu tehnologii noi să reproducă sau să găsească inspirație în această abordare. Sunt încrezător că viitorul AI este în inteligența augmentată și sunt încurajat de conversațiile de la SXSW și din întreaga industrie despre menținerea oamenilor în centrul deciziilor privind produsele.

Vreau să trăiesc într-o lume în care folosim inteligența artificială pentru a ne face mai buni, dând putere indivizilor și echipelor să își atingă potențialul și să genereze impacturi mari pentru afaceri, organizații și industrii. Pe măsură ce ne adaptăm și învățăm ca societate, cadre precum TRUE ne pot ajuta să transformăm acel viitor în realitate.

În noul meu rol de viitor CEO al Grammarly, promisiunea noastră de a ne spori clienții este la fel de importantă ca întotdeauna pentru mine – și abia aștept să continui să construiesc această moștenire, pe măsură ce Grammarly intră într-o nouă eră cu IA generativă.