Reflecții despre SXSW: un cadru pentru responsabilitatea și responsabilitatea industriei în era AI generativă

Luna trecută, în urma anunțării noului nostru produs AI generativ, GrammarlyGO, am participat la conferința SXSW din Austin, Texas. Energia din jurul AI la SXSW a fost palpabilă, iar apetitul pentru conversații despre AI responsabil a fost inspirator. Am canalizat acest spirit în timpul unei conversații la șemineu despre responsabilitate la The Grammarly AI Hub, iar subiectul mi-a pus la bază discursul SXSW, „Viitorul AI: de la artificial la crescut”.

Pe măsură ce începem să lansăm GrammarlyGO pentru utilizatorii și clienții noștri, implementarea responsabilă a inteligenței artificiale rămâne în primul rând. Am scris anterior despre abordarea Grammarly a inteligenței augmentate - ideea că AI are succes doar atunci când este aplicată într-un mod care mărește și dă putere oamenilor să-și atingă potențialul. Inteligența sporită stă la baza filozofiei noastre de dezvoltare a produselor și informează cadrul TRUE, pe care l-am împărtășit la SXSW pentru a demonstra modul în care echipa de produse Grammarly abordează toate tehnologiile pe care le folosim, inclusiv AI generativă.

Cadrele AI responsabile, cum ar fi TRUE, pot ghida dezvoltarea de produse care sporesc oamenii din industrii, tehnologii și cazuri de utilizare. Când aceste cadre sunt implementate la scară, putem crea un viitor în care indivizii și companiile își realizează întregul potențial, construiesc conexiuni mai profunde și generează rezultate. Cred că cadrul ADEVĂRAT, care se ancorează pe patru principii de bază – Încredere, Responsabilitate, Controlul utilizatorului și Empatie – ne poate muta în direcția acestui viitor.

Iată o privire asupra modului în care aplicăm cadrul TRUE pentru a ne asigura că implementarea AI generativă îndeplinește promisiunea noastră de a ne spori clienții, acordând în același timp prioritate autonomiei, confidențialității și securității acestora.

Încredere: punem pe primul locstandardele și practicile de securitate și confidențialitate

Angajamentul constant al Grammarly față de confidențialitate și securitate conduce cadrul nostru ADEVĂRAT și este baza modelului nostru de afaceri. Alinierea stimulentelor noastre cu cele ale clienților noștri este esențială pentru construirea încrederii. Câștigăm bani vânzând abonamente — nu vindem datele clienților terților pentru publicitate sau instruire. În plus, de-identificăm și anonimizăm datele utilizatorilor, păstrându-le doar atât timp cât este necesar pentru a furniza și îmbunătăți serviciul nostru.

Dacă confidențialitatea se referă la modul în care protejăm drepturile utilizatorilor de a controla și accesa datele lor, securitatea se referă la modul în care protejăm aceste date. Suntem profund angajați în securitate și, cu 14 ani de investiții în urmă, ne gândim la securitate ca fiind cea mai importantă caracteristică a produsului în centrul ecosistemului nostru de produse.

Operăm cu o cultură obsedată de securitate, susținând cele mai bune politici și practici, cum ar fi conectarea unică pentru toate conturile Grammarly Business, testarea de penetrare terță parte și încorporarea experților noștri interni în securitate cu echipele noastre de produse și inginerie. . Aceste garanții ne permit să obținem atestări și certificări de la terți. Menținem aceste standarde înalte pe măsură ce implementăm IA generativă în produsele noastre prin noi inovații precum GrammarlyGO.

Responsabilitate: construirea și îmbunătățirea sistemelor AI care reduc părtinirea și promovează corectitudinea

Rezultatele unei competiții de prognoză condusă de Jacob Steinhardt, profesor la Universitatea din California, Berkeley, sugerează că capacitățile de învățare automată progresează mai repede decât capacitatea lor de a funcționa fiabil cu seturi de date noi și neașteptate. Aceasta înseamnă că tehnologii au responsabilitatea de a implementa balustrade care fac AI mai sigură.

Echipa noastră de IA responsabilă face acest lucru zilnic, construind seturi de date de calitate și folosind tactici pentru a se asigura că algoritmii din produsele noastre nu perpetuează părtiniri sau stereotipuri. Folosim tehnologii interne pentru a preveni interacțiunea GrammarlyGO cu subiecte sensibile, atenuând riscul problemelor de siguranță.

O parte din dezvoltarea responsabilă a AI este recunoașterea faptului că niciun sistem nu este perfect. De aceea, oferim mai multe mecanisme pentru ca utilizatorii să raporteze probleme în produsele noastre și să avem un proces operațional riguros pentru a rezolva rapid și consecvent problemele și pentru a ne îmbunătăți modelele.

Controlul utilizatorului: Ajutând oamenii și companiile să-și atingă potențialul maxim, respectându-le în același timp autonomia

Pe măsură ce asistența de comunicare bazată pe inteligență artificială devine mai avansată, nu există nicio înlocuire a vocii umane. Comunicarea este incredibil de personală și este vital pentru noi ca clienții noștri să rămână mereu în control și ca tehnologia pe care o oferim să-i ajute pe oameni și companiile să își atingă cel mai înalt potențial.

Am proiectat cu atenție GrammarlyGO pentru a oferi opțiuni și sugestii pentru a fi luate în considerare — în cele din urmă, amânând întotdeauna clientul să decidă ce este mai bine pentru el. Acest lucru nu a fost întâmplător – respectarea autonomiei utilizatorilor noștri ne ajută să ne asigurăm că tehnologia noastră își servește scopul de a le spori. Cu GrammarlyGO, îi ajutăm pe oameni să economisească timp în scrisul lor de zi cu zi, dându-i puterea să-și cheltuiască mai mult din energia lor valoroasă creând idei mari, dezvoltând strategii creative și colaborând la munca cea mai de impact din organizațiile lor.

Empatie: Mergem în pielea clienților noștri pentru a înțelege și a răspunde nevoilor lor reale

Credem că o modalitate esențială de a minimiza rezultatele neintenționate ale noii tehnologii este să se concentreze pe abordarea provocărilor specifice cu care se confruntă oamenii. Căutăm în mod constant noi tehnologii pentru a aprofunda valoarea pe care o oferim clienților noștri, iar aceasta a fost o motivație pentru integrarea AI generativă în produsele noastre.

De exemplu, GrammarlyGO poate ajuta oamenii să depășească problema „paginii goale” – ceva cu care 84% dintre utilizatorii Grammarly ne-au spus că doresc asistență. În plus, am auzit de la utilizatorii noștri că se luptă cu volumul de e-mailuri primite și că au fost copleșiți de sarcina de a răspunde rapid și eficient. Ca răspuns la acest punct de durere, am creat o funcție în GrammarlyGO care le permite oamenilor să răspundă rapid la e-mailuri într-un mod personalizat relevant din punct de vedere contextual.

Pe măsură ce introducem noi cazuri de utilizare în ofertele de produse Grammarly, această intenție va rămâne în prim-plan.

Viitorul AI este sporit

Deși am împărtășit doar un exemplu despre modul în care Grammarly a utilizat recent cadrul TRUE, sper că oricine care dezvoltă produse cu tehnologii noi se va replica sau va găsi inspirație în această abordare. Sunt încrezător că viitorul AI este în inteligența augmentată și sunt încurajat de conversațiile de la SXSW și din întreaga industrie despre menținerea oamenilor în centrul deciziilor privind produsele.

Vreau să trăiesc într-o lume în care folosim inteligența artificială pentru a ne face mai buni, dând putere indivizilor și echipelor să își atingă potențialul și să genereze impacturi mari pentru afaceri, organizații și industrii. Pe măsură ce ne adaptăm și învățăm ca societate, cadre precum TRUE ne pot ajuta să transformăm acel viitor în realitate.

În noul meu rol de viitor CEO al Grammarly, promisiunea noastră de a ne spori clienții este la fel de importantă ca întotdeauna pentru mine – și abia aștept să continui să construiesc această moștenire, pe măsură ce Grammarly intră într-o nouă eră cu IA generativă.