Refleksi SXSW: Kerangka Kerja untuk Tanggung Jawab dan Akuntabilitas Industri di Era AI Generatif

Bulan lalu, menjelang pengumuman produk AI generatif baru kami, GrammarlyGO, saya menghadiri konferensi SXSW di Austin, Texas. Energi seputar AI di SXSW sangat gamblang, dan keinginan untuk berdiskusi seputar AI yang bertanggung jawab sangat menginspirasi. Saya menyalurkan semangat ini selama obrolan api unggun tentang tanggung jawab di The Grammarly AI Hub, dan topik tersebut mendasari pembicaraan SXSW saya, "Masa Depan AI: Dari Buatan ke Augmented."

Saat kami mulai meluncurkan GrammarlyGO kepada pengguna dan pelanggan kami, penerapan AI yang bertanggung jawab tetap menjadi perhatian utama. Saya sebelumnya telah menulis tentang pendekatan Grammarly terhadap augmented intelligence—gagasan bahwa AI hanya berhasil jika diterapkan dengan cara yang menambah dan memberdayakan orang untuk mencapai potensi mereka. Augmented intelligence mendukung filosofi pengembangan produk kami dan menginformasikan kerangka kerja TRUE, yang saya bagikan di SXSW untuk menunjukkan bagaimana tim Produk Grammarly mendekati semua teknologi yang kami manfaatkan—termasuk AI generatif.

Kerangka kerja AI yang bertanggung jawab seperti TRUE dapat memandu pengembangan produk yang menambah orang di berbagai industri, teknologi, dan kasus penggunaan. Saat kerangka kerja ini diterapkan dalam skala besar, kita dapat menciptakan masa depan di mana individu dan bisnis mewujudkan potensi penuh mereka, membangun koneksi yang lebih dalam, dan mendorong hasil. Saya yakin kerangka kerja yang BENAR, yang bertumpu pada empat prinsip inti—Kepercayaan, Tanggung Jawab, Kontrol Pengguna, dan Empati—dapat membawa kita ke arah masa depan ini.

Berikut adalah tampilan bagaimana kami menerapkan kerangka kerja TRUE untuk memastikan penerapan AI generatif kami memenuhi janji kami untuk menambah pelanggan sambil memprioritaskan otonomi, privasi, dan keamanan mereka.

Kepercayaan: Mengutamakan standar dan praktik keamanan danprivasi

Komitmen patuh Grammarly terhadap privasi dan keamanan memimpin kerangka kerja BENAR kami dan merupakan dasar dari model bisnis kami. Menyelaraskan insentif kita dengan insentif pelanggan adalah inti dari membangun kepercayaan. Kami menghasilkan uang dengan menjual langganan—kami tidak menjual data pelanggan kepada pihak ketiga untuk iklan atau pelatihan. Selain itu, kami menghapus identitas dan menganonimkan data pengguna, hanya menyimpannya selama diperlukan untuk menyediakan dan meningkatkan layanan kami.

Jika privasi adalah tentang bagaimana kami melindungi hak pengguna untuk mengontrol dan mengakses data mereka, keamanan adalah tentang bagaimana kami melindungi data tersebut. Kami sangat berkomitmen terhadap keamanan—dan dengan investasi selama 14 tahun, kami menganggap keamanan sebagai fitur produk terpenting kami di jantung ekosistem produk kami.

Kami beroperasi dengan budaya yang terobsesi dengan keamanan, menjunjung tinggi kebijakan dan praktik terbaik di kelasnya seperti sistem masuk tunggal untuk semua akun Grammarly Business, pengujian penetrasi pihak ketiga, dan menyematkan pakar keamanan internal kami dengan tim Produk dan Teknik kami . Pengamanan ini memungkinkan kami memperoleh pengesahan dan sertifikasi pihak ketiga. Kami mempertahankan standar tinggi ini saat kami menerapkan AI generatif dalam produk kami melalui inovasi baru seperti GrammarlyGO.

Tanggung jawab: Membangun dan meningkatkan sistem AI yang mengurangi bias dan mendorong keadilan

Hasil kompetisi peramalan yang dipimpin oleh Jacob Steinhardt, seorang profesor di University of California, Berkeley, menunjukkan bahwa kapabilitas pembelajaran mesin berkembang lebih cepat daripada kemampuannya untuk bekerja secara andal dengan kumpulan data baru dan tak terduga. Artinya, teknolog memiliki tanggung jawab untuk mengimplementasikan pagar pembatas yang membuat AI lebih aman.

Tim AI yang Bertanggung Jawab kami melakukannya setiap hari dengan membangun kumpulan data berkualitas dan menggunakan taktik untuk memastikan algoritme dalam produk kami tidak melanggengkan bias atau stereotip. Kami menggunakan teknologi internal untuk mencegah GrammarlyGO berinteraksi dengan topik sensitif, mengurangi risiko masalah keamanan.

Bagian dari pengembangan AI yang bertanggung jawab adalah menyadari bahwa tidak ada sistem yang sempurna. Itulah sebabnya kami menyediakan beberapa mekanisme bagi pengguna untuk melaporkan masalah dalam produk kami dan menerapkan proses operasional yang ketat untuk mengatasi masalah secara cepat dan konsisten serta meningkatkan model kami.

Kontrol Pengguna: Membantu orang dan bisnis mencapai potensi penuh sambil menghormati otonomi mereka

Saat bantuan komunikasi bertenaga AI menjadi lebih maju, tidak ada yang bisa menggantikan suara manusia. Komunikasi sangat pribadi, dan sangat penting bagi kami agar pelanggan selalu memegang kendali dan teknologi yang kami sediakan membantu orang dan bisnis mencapai potensi tertinggi mereka.

Kami dengan hati-hati merancang GrammarlyGO untuk memberikan opsi dan saran untuk dipertimbangkan—pada akhirnya selalu tunduk kepada pelanggan untuk memutuskan apa yang terbaik bagi mereka. Ini bukan kebetulan—menghormati otonomi pengguna kami membantu memastikan bahwa teknologi kami memenuhi tujuannya untuk meningkatkan mereka. Dengan GrammarlyGO, kami membantu orang-orang menghemat waktu untuk menulis sehari-hari, memberdayakan mereka untuk menggunakan lebih banyak energi berharga mereka untuk merancang ide-ide besar, mengembangkan strategi kreatif, dan berkolaborasi dalam pekerjaan yang paling berdampak di seluruh organisasi mereka.

Empati: Berjalan di posisi pelanggan kami untuk memahami dan menanggapi kebutuhan nyata mereka

Kami percaya bahwa cara penting untuk meminimalkan hasil yang tidak diinginkan dari teknologi baru adalah dengan berfokus pada mengatasi tantangan spesifik yang dihadapi orang. Kami terus mencari teknologi baru untuk memperdalam nilai yang kami berikan kepada pelanggan kami, dan ini adalah salah satu motivasi untuk mengintegrasikan AI generatif ke dalam produk kami.

Misalnya, GrammarlyGO dapat membantu orang mengatasi masalah "halaman kosong"—sesuatu yang 84 persen pengguna Grammarly katakan kepada kami bahwa mereka membutuhkan dukungan. Selain itu, kami mendengar dari pengguna kami bahwa mereka kesulitan dengan volume email yang mereka terima dan kewalahan dengan tugas untuk merespons dengan cepat dan efisien. Menanggapi masalah tersebut, kami membuat fitur di GrammarlyGO yang memungkinkan orang merespons email dengan cepat dengan cara yang relevan dan dipersonalisasi secara kontekstual.

Saat kami memperkenalkan kasus penggunaan baru ke dalam penawaran produk Grammarly, niat ini akan tetap menjadi yang terdepan.

Masa depan AI ditambah

Meskipun saya hanya membagikan satu contoh bagaimana Grammarly baru-baru ini menggunakan kerangka kerja yang BENAR, saya berharap siapa pun yang mengembangkan produk dengan teknologi baru akan mereplikasi atau menemukan inspirasi dalam pendekatan ini. Saya yakin bahwa masa depan AI ada dalam augmented intelligence—dan saya terdorong oleh perbincangan di SXSW dan di seluruh industri tentang menempatkan orang sebagai pusat keputusan produk.

Saya ingin hidup di dunia di mana kita menggunakan AI untuk menjadikan kita lebih baik, memberdayakan individu dan tim untuk mencapai potensi mereka dan mendorong dampak besar bagi bisnis, organisasi, dan industri. Saat kita beradaptasi dan belajar sebagai masyarakat, kerangka kerja seperti TRUE dapat membantu kita mewujudkan masa depan tersebut.

Dalam peran baru saya sebagai CEO baru Grammarly, janji kami untuk menambah pelanggan sama pentingnya bagi saya seperti sebelumnya—dan saya tidak sabar untuk terus membangun warisan ini saat Grammarly memasuki era baru dengan AI generatif.