Ramy odpowiedzialności i rozliczalności branży w dobie generatywnej sztucznej inteligencji

W zeszłym miesiącu, tuż po ogłoszeniu naszych nowych funkcji produktów związanych z generatywną sztuczną inteligencją, wziąłem udział w konferencji SXSW w Austin w Teksasie. Energia wokół sztucznej inteligencji na SXSW była wyczuwalna, a apetyt na rozmowy na temat odpowiedzialnej sztucznej inteligencji inspirujący. Przekazałem tego ducha podczas pogawędki przy kominku na temat odpowiedzialności w The Grammarly AI Hub, a temat ten stał się podstawą mojego wystąpienia na SXSW „Przyszłość sztucznej inteligencji: od sztucznej do rozszerzonej”.

Kiedy udostępniamy naszym użytkownikom i klientom generatywną pomoc w zakresie sztucznej inteligencji firmy Grammarly, najważniejsze jest odpowiedzialne wdrażanie sztucznej inteligencji. Pisałem już wcześniej o podejściu Grammarly do inteligencji rozszerzonej — idei, że sztuczna inteligencja odniesie sukces tylko wtedy, gdy zostanie zastosowana w sposób, który zwiększa i umożliwia ludziom wykorzystanie ich potencjału. Rozszerzona inteligencja stanowi podstawę naszej filozofii rozwoju produktów i stanowi podstawę TRUE Framework, którą udostępniłem na SXSW, aby zademonstrować, w jaki sposób zespół ds. produktów Grammarly podchodzi do wszystkich wykorzystywanych przez nas technologii – w tym generatywnej sztucznej inteligencji.

Odpowiedzialne ramy sztucznej inteligencji, takie jak TRUE, mogą kierować rozwojem produktów, które wspierają ludzi w różnych branżach, technologiach i przypadkach użycia. Jeśli te ramy zostaną wdrożone na dużą skalę, możemy stworzyć przyszłość, w której osoby fizyczne i firmy będą w pełni realizować swój potencjał, budować głębsze powiązania i osiągać wyniki. Wierzę, że PRAWDZIWE ramy, które opierają się na czterech podstawowych zasadach — zaufaniu, odpowiedzialności, kontroli użytkownika i empatii — mogą poprowadzić nas w kierunku przyszłości.

Oto, w jaki sposób stosujemy platformę TRUE, aby mieć pewność, że wdrożenie generatywnej sztucznej inteligencji spełni naszą obietnicę wzmocnienia naszych klientów, traktując jednocześnie priorytetowo ich autonomię, prywatność i bezpieczeństwo.

Zaufanie: stawianiestandardów i praktyk w zakresie bezpieczeństwa i prywatności na pierwszym miejscu

Niezmienne zaangażowanie firmy Grammarly w kwestie prywatności i bezpieczeństwa wyznacza nasze PRAWDZIWE ramy i stanowi podstawę naszego modelu biznesowego. Dostosowanie naszych zachęt do motywacji naszych klientów ma kluczowe znaczenie w budowaniu zaufania. Zarabiamy sprzedając subskrypcje – nie sprzedajemy danych klientów stronom trzecim w celach reklamowych lub szkoleniowych. Ponadto deidentyfikujemy i anonimizujemy dane użytkowników, przechowując je tylko tak długo, jak jest to konieczne do świadczenia i ulepszania naszych usług.

Jeśli prywatność polega na tym, jak chronimy prawa użytkowników do kontroli i dostępu do ich danych, bezpieczeństwo polega na tym, jak chronimy te dane. Jesteśmy głęboko zaangażowani w bezpieczeństwo — a dzięki czternastoletnim inwestycjom za sobą uważamy bezpieczeństwo za najważniejszą cechę produktu w sercu naszego ekosystemu produktów.

Działamy w oparciu o kulturę mającą obsesję na punkcie bezpieczeństwa, przestrzegając najlepszych w swojej klasie zasad i praktyk, takich jak jednokrotne logowanie do wszystkich kont Grammarly Business, testy penetracyjne przeprowadzane przez strony trzecie oraz włączanie naszych wewnętrznych ekspertów ds. bezpieczeństwa do naszych zespołów ds. produktów i inżynierów . Dzięki tym zabezpieczeniom możemy zdobywać atesty i certyfikaty stron trzecich. Utrzymujemy te wysokie standardy, wdrażając nowe funkcje generatywnej sztucznej inteligencji w naszych produktach.

Odpowiedzialność: Budowanie i ulepszanie systemów sztucznej inteligencji, które redukują uprzedzenia i promują uczciwość

Wyniki konkursu prognostycznego prowadzonego przez Jacoba Steinhardta, profesora na Uniwersytecie Kalifornijskim w Berkeley, sugerują, że możliwości uczenia maszynowego rozwijają się szybciej niż ich zdolność do niezawodnego działania z nowymi i nieoczekiwanymi zbiorami danych. Oznacza to, że technolodzy mają obowiązek wdrożyć bariery ochronne, dzięki którym sztuczna inteligencja będzie bezpieczniejsza.

Nasz zespół ds. odpowiedzialnej sztucznej inteligencji robi to codziennie, opierając się na wysokiej jakości zbiorach danych i stosując taktyki, aby mieć pewność, że algorytmy w naszych produktach nie utrwalają uprzedzeń ani stereotypów. Używamy wewnętrznych technologii, aby uniemożliwić generatywnej sztucznej inteligencji Grammarly interakcję z drażliwymi tematami, minimalizując ryzyko problemów związanych z bezpieczeństwem.

Częścią odpowiedzialnego rozwoju sztucznej inteligencji jest uznanie, że żaden system nie jest doskonały. Dlatego udostępniamy użytkownikom wiele mechanizmów zgłaszania problemów w naszych produktach oraz posiadamy rygorystyczny proces operacyjny umożliwiający szybkie i spójne rozwiązywanie problemów oraz ulepszanie naszych modeli.

Kontrola użytkownika: pomaganie ludziom i firmom w osiągnięciu pełnego potencjału przy jednoczesnym poszanowaniu ich autonomii

W miarę jak pomoc w komunikacji oparta na sztucznej inteligencji staje się coraz bardziej zaawansowana, nic nie zastąpi ludzkiego głosu. Komunikacja jest niezwykle osobista i jest dla nas niezwykle ważne, aby nasi klienci zawsze mieli kontrolę, a technologia, którą dostarczamy, pomagała ludziom i firmom w osiągnięciu ich najwyższego potencjału.

Starannie zaprojektowaliśmy generatywną pomoc AI firmy Grammarly, aby zapewnić opcje i sugestie do rozważenia – zawsze ostatecznie pozostawiając klientowi decyzję, co jest dla niego najlepsze. Nie było to przypadkowe — poszanowanie autonomii naszych użytkowników pomaga zapewnić, że nasza technologia spełni swój cel, jakim jest ich ulepszanie. Dzięki generatywnej sztucznej inteligencji Grammarly pomagamy ludziom oszczędzać czas na codziennym pisaniu, umożliwiając im wykorzystanie większej ilości cennej energii na opracowywanie wielkich pomysłów, opracowywanie kreatywnych strategii i współpracę przy najbardziej wpływowych pracach w ich organizacjach.

Empatia: Wejście w skórę naszych klientów, aby zrozumieć ich prawdziwe potrzeby i odpowiedzieć na nie

Wierzymy, że kluczowym sposobem na zminimalizowanie niezamierzonych skutków nowych technologii jest skupienie się na konkretnych wyzwaniach, przed którymi stoją ludzie. Nieustannie poszukujemy nowych technologii, aby pogłębiać wartość, jaką dostarczamy naszym klientom, i to była jedna z motywacji do zintegrowania generatywnej sztucznej inteligencji z naszymi produktami.

Na przykład generatywna pomoc AI Grammarly może pomóc ludziom przezwyciężyć problem „pustej strony” – coś, w czym 84% użytkowników Grammarly powiedziało nam, że potrzebuje pomocy. Dodatkowo dowiedzieliśmy się od naszych użytkowników, że borykali się z ilością otrzymywanych e-maili i byli przytłoczeni koniecznością szybkiego i sprawnego odpowiadania. W odpowiedzi na ten problem stworzyliśmy generatywne funkcje sztucznej inteligencji, które umożliwiają szybkie odpowiadanie na e-maile w kontekstowo dostosowany i spersonalizowany sposób.

Gdy będziemy wprowadzać nowe przypadki użycia do oferty produktów Grammarly, ten zamiar pozostanie na pierwszym planie.

Przyszłość sztucznej inteligencji jest wzmocniona

Chociaż podzieliłem się tylko jednym przykładem tego, jak Grammarly ostatnio wykorzystało framework TRUE, mam nadzieję, że każdy, kto opracowuje produkty przy użyciu nowych technologii, powieli to podejście lub znajdzie inspirację. Jestem pewien, że przyszłość sztucznej inteligencji leży w rozszerzonej inteligencji, a rozmowy prowadzone w SXSW i w całej branży na temat utrzymywania ludzi w centrum decyzji dotyczących produktu dodają mi otuchy.

Chcę żyć w świecie, w którym wykorzystujemy sztuczną inteligencję, aby czynić nas lepszymi, umożliwiając jednostkom i zespołom wykorzystanie ich potencjału i wywarcie dużego wpływu na firmy, organizacje i branże. W miarę jak dostosowujemy się i uczymy jako społeczeństwo, ramy takie jak TRUE mogą pomóc nam urzeczywistnić tę przyszłość.

W mojej nowej roli nowego dyrektora generalnego Grammarly nasza obietnica wzmocnienia naszych klientów jest dla mnie tak samo ważna jak zawsze — i nie mogę się doczekać, aby kontynuować budowanie na tym dziedzictwie, gdy Grammarly wkracza w nową erę z generatywną sztuczną inteligencją.