Evolusi AI yang Bertanggung Jawab: Transparansi dan Keagenan Pengguna

Generatif, agenik, otonom, adaptif—istilah-istilah ini mendefinisikan lanskap AI saat ini. Namun, AI yang bertanggung jawab—penerapan AI yang beretika dan aman yang memaksimalkan manfaat sekaligus meminimalkan dampak buruknya—juga harus menjadi bagian penting dalam diskusi ini. Seiring dengan semakin terintegrasinya teknologi AI ke dalam tenaga kerja, sistem, dan pengalaman pelanggan, tanggung jawab untuk menjaga standar etika tidak lagi sepenuhnya berada di pundak pengembang AI. Hal ini harus diperjuangkan oleh para pemimpin bisnis, yang akan memikul tanggung jawab yang lebih besar untuk memastikan bahwa AI yang mereka terapkan tidak hanya berfungsi namun juga selaras dengan nilai-nilai fundamental kemanusiaan.

AI yang bertanggung jawab bukanlah altruisme bisnis; itu strategi bisnis. Ketika AI semakin banyak melakukan tugas-tugas kompleks, mendorong pengambilan keputusan, dan berinteraksi langsung dengan pelanggan dan karyawan, nilai dan keamanan yang diberikannya, selain fungsinya, akan menentukan produktivitas karyawan dan kepuasan pelanggan.

Inovasi didorong oleh pemahaman dan pemberdayaan

AI yang bertanggung jawab mencakup kepatuhan, privasi, dan keamanan, serta mencakup penerapan sistem AI yang etis, aman, dan adil. Meskipun aspek-aspek ini lebih menantang untuk diukur dan diterapkan, aspek-aspek ini merupakan keharusan bisnis penting yang memengaruhi pengalaman karyawan, reputasi merek, dan hasil pelanggan.

Pada awal revolusi AI saat ini, Grammarly mengembangkan kerangka kerja AI yang bertanggung jawab untuk memandu penerapan yang etis . Kerangka kerja ini berpusat pada lima pilar inti: transparansi, keadilan dan keselamatan, keagenan pengguna, akuntabilitas, serta privasi dan keamanan. Pada tahun 2025, masing-masing pilar ini akan tetap menjadi pilar utama, namun ada dua pilar yang akan mengalami evolusi paling signifikan dan memerlukan perhatian lebih:transparansidankeagenan pengguna. Kedua pilar ini akan memiliki dampak terbesar pada cara orang menikmati AI dan akan menentukan perolehan atau hilangnya kepercayaan dalam pengalaman tersebut.

Transparansi: Membangun kepercayaan melalui pemahaman

Dalam bentuknya yang paling sederhana, transparansi berarti orang dapat mengenali konten yang dihasilkan AI, memahami keputusan yang didorong oleh AI, dan mengetahui kapan mereka berinteraksi dengan AI. Meskipun “buatan”, keluaran AI membawa maksud dari model yang mendukungnya. Transparansi memungkinkan pengguna untuk memahami maksud tersebut dan membuat keputusan yang tepat ketika terlibat dengan keluaran.

Hingga saat ini, pengembang AI bertanggung jawab atas transparansi, dengan upaya dari masyarakat untuk meminta pertanggungjawaban perusahaan seperti OpenAI, Google, dan Grammarly atas perilaku alat mereka . Namun, ketika model bahasa besar (LLM) dan aplikasi AI meresap ke dalam sistem bisnis, produk, layanan, dan alur kerja, akuntabilitas beralih ke perusahaan yang menerapkan alat-alat ini. Di mata pengguna, dunia usaha bertanggung jawab untuk bersikap transparan mengenai AI yang mereka terapkan dan dapat menimbulkan kerusakan reputasi ketika AI mereka menimbulkan dampak negatif. Di tahun mendatang, dengan adanya peraturan baru dan usulan seperti EU AI Act dan NIST AI Risk Management Framework , kita dapat memperkirakan bahwa dunia usaha juga akan memikul tanggung jawab hukum yang lebih besar.

Mencapai transparansi merupakan sebuah tantangan. Namun, pengguna tidak mencari kekhususan mutlak; mereka menginginkan koherensi dan pemahaman. Badan pengatur dan masyarakat mengharapkan dunia usaha memahami cara kerja alat AI mereka, termasuk risiko dan konsekuensinya, dan mengkomunikasikan wawasan ini dengan cara yang dapat dimengerti. Untuk membangun transparansi dalam praktik AI, para pemimpin bisnis dapat mengambil langkah-langkah berikut:

1. Jalankan inventaris model AI. Untuk memberikan informasi yang efektif kepada orang-orang tentang perilaku AI Anda, mulailah dengan memahami dasar AI Anda. Bekerja samalah dengan tim TI Anda untuk memetakan model AI yang digunakan di seluruh tumpukan teknologi Anda, baik pihak ketiga maupun internal, dan identifikasi fitur yang didorong serta data yang dijadikan referensi.
2. Kemampuan dan keterbatasan dokumen. Berikan informasi yang komprehensif––dan dapat dipahami––tentang fungsi, risiko, dan penggunaan AI Anda yang dimaksudkan atau dapat diterima. Ambil pendekatan berbasis risiko, dimulai dengan kasus penggunaan dengan dampak paling tinggi. Hal ini memastikan orang-orang memahami informasi paling penting sekaligus membantu tim keamanan Anda mengidentifikasi sumber potensi masalah.
3. Selidiki model bisnis vendor AI. Jika Anda menerapkan aplikasi LLM atau AI pihak ketiga, pahami motivasi di balik praktik vendor Anda. Misalnya, model berbasis langganan Grammarly diselaraskan dengan kualitas pengalaman pengguna, bukan iklan, sehingga memastikan keamanan dan menumbuhkan kepercayaan pengguna.

Dengan mengambil langkah-langkah ini, para pemimpin bisnis dapat menjadi pengelola AI yang bertanggung jawab, mendorong transparansi, membangun kepercayaan, dan menjunjung akuntabilitas saat mereka menavigasi lanskap teknologi AI canggih yang terus berkembang.

Agen pengguna: Meningkatkan kinerja melalui pemberdayaan

Agensi pengguna berarti memberi orang, termasuk pelanggan dan karyawan, kendali atas pengalaman mereka dengan AI. Sebagai pengambil keputusan utama, manusia mempunyai keahlian kontekstual dan harus memahami kemampuan serta keterbatasan AI untuk menerapkan keahlian tersebut secara efektif. Dalam bentuknya yang sekarang, alih-alih menggantikan penilaian manusia, AI harus memberdayakan manusia dengan meningkatkan keterampilan mereka dan memperbesar dampaknya. Ketika AI menjadi alat yang memungkinkan otonomi individu, AI memperkuat kekuatan manusia dan membangun kepercayaan terhadap penerapannya.

Memprioritaskan agen pengguna adalah bisnis yang etis dan cerdas. Bisnis membutuhkan karyawan dan pelanggan untuk diberdayakan sebagai sekutu AI dengan keterampilan untuk memandu kasus penggunaan AI yang kuat dan agen otonom –– tidak hanya untuk melindungi dari aktivitas jahat tetapi juga dari aktivitas yang tidak produktif. Demikian pula, AI dalam produk dan pengalaman pelanggan tidak selalu sempurna. Mendapatkan kepercayaan pelanggan mendorong mereka untuk melaporkan kesalahan, bug, dan perbaikan untuk membantu meningkatkan penawaran bisnis Anda.

Mendukung lembaga pengguna memerlukan pembekalan orang untuk menilai secara kritis keluaran AI dan kesesuaiannya untuk kasus penggunaan tertentu. Hal ini juga mencakup menyadarkan masyarakat akan pengaturan teknis dan kontrol yang dapat mereka terapkan untuk mengelola bagaimana AI berinteraksi dan kapan AI berinteraksi. Para pemimpin dapat mendorong keagenan pengguna dengan mengambil langkah-langkah berikut:

1. Memberikan pendidikan kepada pengguna. Untuk mendorong keterlibatan yang terinformasi, berikan panduan kepada pengguna dalam menafsirkan rekomendasi AI, memahami keterbatasannya, dan menentukan kapan pengawasan manusia sangat penting. Pendidikan ini harus tersedia di situs web Anda, dalam pelatihan karyawan, disediakan oleh tim yang berhadapan dengan pelanggan, dan mungkin di produk Anda tempat pengguna berinteraksi dengan AI.
2. Tetapkan kontrol dan pengaturan TI yang mudah. Berdayakan pengguna dengan memberi mereka kendali atas pengaturan AI, seperti preferensi untuk rekomendasi yang dipersonalisasi, opsi berbagi data, dan ambang batas pengambilan keputusan. Pengaturan transparan memperkuat otonomi dan memungkinkan pengguna menyesuaikan AI dengan kebutuhan mereka.
3. Membangun kebijakan yang memperkuat otonomi pengguna. Memastikan bahwa aplikasi AI melengkapi, bukan menggantikan, keahlian manusia dengan menetapkan pedoman seputar penggunaannya di bidang-bidang berisiko tinggi. Kebijakan harus mendorong pengguna untuk memandang AI sebagai alat yang mendukung, bukan mengesampingkan, keahlian mereka.

Menerapkan langkah-langkah ini dapat membantu para pemimpin bisnis memastikan bahwa AI menghormati dan meningkatkan keagenan manusia. Hal ini akan menumbuhkan dinamika kolaboratif di mana pengguna merasa diberdayakan, mendapat informasi, dan mengendalikan pengalaman AI mereka.

Ke depan: AI yang bertanggung jawab sebagai keunggulan bisnis

Seiring dengan kemajuan AI dan semakin tertanamnya dalam operasi bisnis, peran para pemimpin bisnis dalam mempromosikan AI yang bertanggung jawab menjadi semakin penting dibandingkan sebelumnya. Transparansi dan keagenan pengguna bukan hanya merupakan keharusan etis namun juga keunggulan strategis yang memposisikan perusahaan untuk memimpin dalam lanskap yang semakin ditentukan oleh AI. Dengan menerapkan pilar-pilar ini, para pemimpin bisnis—khususnya di bidang keamanan dan TI—dapat memastikan bahwa aplikasi AI selaras dengan nilai-nilai organisasi dan harapan pengguna, sehingga menciptakan sistem yang tepercaya dan efektif.