Kerangka Tanggung Jawab dan Akuntabilitas Industri di Era AI Generatif

Bulan lalu, setelah mengumumkan fitur produk AI generatif baru kami, saya menghadiri konferensi SXSW di Austin, Texas. Energi seputar AI di SXSW sangat jelas, dan minat untuk berdiskusi seputar AI yang bertanggung jawab sangat menginspirasi. Saya menyalurkan semangat ini selama obrolan api unggun tentang tanggung jawab di The Grammarly AI Hub, dan topik tersebut mendasari pembicaraan SXSW saya, “Masa Depan AI: Dari Buatan ke Augmented.”

Saat kami meluncurkan bantuan AI generatif Grammarly kepada pengguna dan pelanggan kami, penerapan AI yang bertanggung jawab tetap menjadi prioritas utama. Saya sebelumnya telah menulis tentang pendekatan Grammarly terhadap kecerdasan yang ditingkatkan—gagasan bahwa AI hanya berhasil jika diterapkan dengan cara yang dapat meningkatkan dan memberdayakan manusia untuk mencapai potensi mereka. Kecerdasan yang ditingkatkan mendasari filosofi pengembangan produk kami dan menginformasikan kerangka kerja TRUE, yang saya bagikan di SXSW untuk menunjukkan bagaimana tim Produk Grammarly mendekati semua teknologi yang kami manfaatkan—termasuk AI generatif.

Kerangka kerja AI yang bertanggung jawab seperti TRUE dapat memandu pengembangan produk yang bermanfaat bagi manusia di berbagai industri, teknologi, dan kasus penggunaan. Ketika kerangka kerja ini diterapkan dalam skala besar, kita dapat menciptakan masa depan di mana individu dan bisnis menyadari potensi penuh mereka, membangun koneksi yang lebih dalam, dan mendorong hasil. Saya yakin kerangka kerja yang BENAR, yang bertumpu pada empat prinsip inti—Kepercayaan, Tanggung Jawab, Kontrol Pengguna, dan Empati—dapat mengarahkan kita ke arah masa depan.

Berikut ini adalah cara kami menerapkan kerangka kerja TRUE untuk memastikan penerapan AI generatif yang kami lakukan memenuhi janji kami untuk meningkatkan jumlah pelanggan sekaligus memprioritaskan otonomi, privasi, dan keamanan mereka.

Kepercayaan: Mengutamakanstandar dan praktik keamanan dan privasi

Komitmen Grammarly terhadap privasi dan keamanan memimpin kerangka kerja kami yang BENAR dan merupakan dasar model bisnis kami. Menyelaraskan insentif kami dengan insentif pelanggan adalah inti dalam membangun kepercayaan. Kami menghasilkan uang dengan menjual langganan—kami tidak menjual data pelanggan kepada pihak ketiga untuk iklan atau pelatihan. Selain itu, kami melakukan de-identifikasi dan menganonimkan data pengguna, dan menyimpannya hanya selama diperlukan untuk menyediakan dan meningkatkan layanan kami.

Jika privasi adalah tentang cara kami melindungi hak pengguna untuk mengontrol dan mengakses data mereka, maka keamanan adalah tentang cara kami menjaga data tersebut. Kami sangat berkomitmen terhadap keamanan—dan dengan investasi selama empat belas tahun, kami menganggap keamanan sebagai fitur produk terpenting di jantung ekosistem produk kami.

Kami beroperasi dengan budaya yang terobsesi dengan keamanan, menjunjung tinggi kebijakan dan praktik terbaik di kelasnya seperti sistem masuk tunggal untuk semua akun Grammarly Business, pengujian penetrasi pihak ketiga, dan memasukkan pakar keamanan internal ke dalam tim Produk dan Teknik kami. . Perlindungan ini memungkinkan kami memperoleh pengesahan dan sertifikasi pihak ketiga. Kami mempertahankan standar tinggi ini saat kami menerapkan fitur AI generatif baru pada produk kami.

Tanggung Jawab: Membangun dan meningkatkan sistem AI yang mengurangi bias dan mendorong keadilan

Hasil kompetisi peramalan yang dipimpin oleh Jacob Steinhardt, seorang profesor di Universitas California, Berkeley, menunjukkan bahwa kemampuan pembelajaran mesin mengalami kemajuan lebih cepat daripada kemampuannya untuk bekerja secara andal dengan kumpulan data baru dan tidak terduga. Artinya, para ahli teknologi mempunyai tanggung jawab untuk menerapkan pagar pembatas yang membuat AI lebih aman.

Tim AI yang Bertanggung Jawab kami melakukan hal ini setiap hari dengan membangun kumpulan data berkualitas dan menerapkan taktik untuk memastikan algoritme dalam produk kami tidak melanggengkan bias atau stereotip. Kami menggunakan teknologi internal untuk mencegah AI generatif Grammarly berinteraksi dengan topik sensitif, sehingga mengurangi risiko masalah keamanan.

Bagian dari pengembangan AI yang bertanggung jawab adalah menyadari bahwa tidak ada sistem yang sempurna. Itu sebabnya kami menyediakan berbagai mekanisme bagi pengguna untuk melaporkan masalah pada produk kami dan menerapkan proses operasional yang ketat untuk mengatasi masalah dengan cepat dan konsisten serta menyempurnakan model kami.

Kontrol Pengguna: Membantu masyarakat dan bisnis mencapai potensi penuh mereka dengan tetap menghormati otonomi mereka

Seiring dengan semakin canggihnya bantuan komunikasi yang didukung AI, tidak ada yang bisa menggantikan suara manusia. Komunikasi sangatlah bersifat pribadi, dan penting bagi kami agar pelanggan selalu memegang kendali dan teknologi yang kami sediakan membantu masyarakat dan bisnis mencapai potensi tertinggi mereka.

Kami dengan cermat merancang bantuan AI generatif Grammarly untuk memberikan opsi dan saran untuk dipertimbangkan—pada akhirnya selalu bergantung pada pelanggan untuk memutuskan apa yang terbaik bagi mereka. Hal ini bukan suatu kebetulan—menghormati otonomi pengguna membantu memastikan bahwa teknologi kami memenuhi tujuannya untuk meningkatkan jumlah pengguna. Dengan AI generatif Grammarly , kami membantu orang menghemat waktu dalam menulis sehari-hari, memberdayakan mereka untuk menghabiskan lebih banyak energi berharga mereka untuk merancang ide-ide besar, mengembangkan strategi kreatif, dan berkolaborasi dalam pekerjaan yang paling berdampak di seluruh organisasi mereka.

Empati: Menjadi pelanggan kami untuk memahami dan menanggapi kebutuhan nyata mereka

Kami percaya bahwa cara penting untuk meminimalkan hasil yang tidak diinginkan dari teknologi baru adalah dengan fokus pada upaya mengatasi tantangan spesifik yang dihadapi masyarakat. Kami terus mencari teknologi baru untuk memperdalam nilai yang kami berikan kepada pelanggan, dan ini adalah salah satu motivasi untuk mengintegrasikan AI generatif ke dalam produk kami.

Misalnya, bantuan AI generatif Grammarly dapat membantu orang mengatasi masalah “halaman kosong”—sesuatu yang dikatakan oleh 84% pengguna Grammarly kepada kami bahwa mereka memerlukan dukungan. Selain itu, kami mendengar dari pengguna kami bahwa mereka kesulitan dengan volume email yang mereka terima dan kewalahan dengan tugas merespons dengan cepat dan efisien. Menanggapi permasalahan tersebut, kami menciptakan fitur AI generatif yang memungkinkan orang merespons email dengan cepat dengan cara yang relevan secara kontekstual dan dipersonalisasi.

Saat kami memperkenalkan kasus penggunaan baru ke dalam penawaran produk Grammarly, niat ini akan tetap menjadi yang terdepan.

Masa depan AI semakin besar

Meskipun saya hanya membagikan satu contoh bagaimana Grammarly baru-baru ini menggunakan kerangka kerja TRUE, saya berharap siapa pun yang mengembangkan produk dengan teknologi baru akan meniru atau menemukan inspirasi dalam pendekatan ini. Saya yakin bahwa masa depan AI terletak pada kecerdasan yang ditingkatkan—dan saya terdorong oleh diskusi di SXSW dan di seluruh industri tentang menjadikan manusia sebagai pusat pengambilan keputusan produk.

Saya ingin hidup di dunia di mana kita menggunakan AI untuk menjadikan kita lebih baik, memberdayakan individu dan tim untuk mencapai potensi mereka dan mendorong dampak besar bagi bisnis, organisasi, dan industri. Saat kita beradaptasi dan belajar sebagai masyarakat, kerangka kerja seperti TRUE dapat membantu kita mewujudkan masa depan tersebut.

Dalam peran baru saya sebagai CEO Grammarly yang akan datang, janji kami untuk menambah pelanggan tetap penting bagi saya—dan saya tidak sabar untuk terus mengembangkan warisan ini saat Grammarly memasuki era baru dengan AI generatif.