في Grammarly، نتحدث بانتظام عن كيفية قيام الذكاء الاصطناعي المسؤول ببناء ونشر الذكاء الاصطناعي بطريقة تتوافق مع القيم الإنسانية. تعطي ممارسات الذكاء الاصطناعي المسؤولة الأولوية لوضع السلطة بشكل مباشر في أيدي المستخدم من خلال التأكد من فهمهم لكيفية عمل المنتج ولديهم القدرة على التحكم فيه. تؤدي المنتجات التي تعزز وكالة المستخدم أيضًا إلى نتائج أعمال أفضل. إن الذكاء الاصطناعي المسؤول، في صورته الأكثر وضوحًا، يدور في نهاية المطاف حول تركيز تجربة المستخدم والتأكد من أن التكنولوجيا التي تنشئها تحقق الفوائد وتقلل الضرر.

في الوقت الحالي، يمكن أن تكون منتجات الذكاء الاصطناعي والتعلم الآلي مصدرًا لقلق المستخدم. يشعر الناس بالتوتر بشأن ما يعنيه الذكاء الاصطناعي لمستقبل عملهم. تستجيب الشركة التي تركز على الإنسان لهذه المخاوف، وتلتقي بالأشخاص أينما كانوا في المنتج وفي تجربة المستخدم. هناك رافعتان يجب سحبهما للقيام بذلك: الشفافية والتحكم. مجتمعة، تخلق هذه المبادئ وكالة المستخدم.

كيف تبني الشفافية الثقة؟

الشفافية هي أساس الثقة بين أنظمة الذكاء الاصطناعي والمستخدمين. عند تنفيذها بشكل جيد، تسلط الشفافية الضوء على دورة حياة الذكاء الاصطناعي بأكملها، بدءًا من التقاط البيانات وتخزينها وحتى اتخاذ القرارات الخوارزمية. على الرغم من أن الشفافية تحدد مدى موثوقية الأداة ومصداقيتها، إلا أنه قد يكون من الصعب إنشاء الأداة بطريقة يفهمها المستخدمون.

أحد الجوانب المهمة للشفافية هو إدراك المخاطر والتحيزات الكامنة في بيانات التدريب على الذكاء الاصطناعي ونتائجها. إن بناء الذكاء الاصطناعي بشكل مسؤول ينطوي على معالجة هذه التحيزات بشكل مقصود والاعتراف العلني بوجودها. على سبيل المثال، في Grammarly، نعتمد عدة أساليب لتقليل الضرر والتحيز، ونشارك بشكل علني المخاطر وأساليبنا:

• نحن نجمع بين نماذج متعددة ونسعى جاهدين لتحقيق الشفافية في بنائها.
• نقوم بتصميم مرشحات مخصصة لمنع اللغة المتحيزة من الوصول إلى المستخدمين.
• نحن ننفذ عملية قوية لتقييم المخاطر، والتي تعمل على تقييم الضرر المحتمل للميزات الجديدة قبل إصدارها.

يجب على البائعين إيصال أصول نماذج الذكاء الاصطناعي وكيفية اتخاذهم للقرارات. للقيام بذلك بنجاح، يجب على النظام أن يوفر للمستخدم المعلومات التي يحتاجها بلغة وتنسيق سهل الفهم. قد يكون هذا صعبًا لعدة أسباب. أولاً، نظرًا لطبيعة التكنولوجيا، غالبًا لا توجد طريقة لمعرفة سبب اتخاذ قرار محدد بواسطة نموذج الذكاء الاصطناعي. ثانيًا، تتباين المعرفة بالذكاء الاصطناعي بشكل كبير بين عامة الناس. ابحث عن البائعين الذين يتغلبون على هذه التحديات ويسعون جاهدين لتحقيق هذا المستوى من الشفافية، مما يساعد المستخدمين في النهاية على الثقة في هذه الأنظمة واستخدامها بثقة.

كما تضمن الشفافية المساءلة لأنها تجعل من الممكن تحميل المطورين والأنظمة المسؤولية عن أفعالهم. ومن خلال فهم كيفية عمل نظام الذكاء الاصطناعي، يمكن للمستخدمين الإبلاغ عن أي مشكلات بسهولة. وهذا أيضًا يخلق مسارًا وسابقة للتحسين المستمر. ومن خلال إزالة الغموض عن هذه العمليات، يصبح المستخدمون في وضع أفضل للتفاعل مع الذكاء الاصطناعي بشكل فعال، مما يؤدي إلى نتائج أكثر استنارة وإنصافًا.

دور الرقابة في وكالة المستخدم

بمجرد أن يحدد منتج الذكاء الاصطناعي كيفية توفير الشفافية، يمكنه أيضًا تمكين التحكم في المستخدم. بدءًا من تحديد متى وكيف يتم استخدام توصيات الذكاء الاصطناعي وحتى التحكم في بيانات الشخص، يتجلى تحكم المستخدم بطرق مختلفة. لنأخذ على سبيل المثال عدد الاقتراحات المقدمة في Grammarly. يتم إعلام المستخدمين بأساس الاقتراح (الشفافية!) ويحتفظون بالاستقلالية الكاملة لقبول هذه الاقتراحات أو رفضها (التحكم!).

في عصر تُعزز فيه البيانات ابتكارات الذكاء الاصطناعي، يجب على المستخدمين الاحتفاظ بالسيطرة على بياناتهم الشخصية. يمكّن الذكاء الاصطناعي المسؤول المستخدمين من تحديد متى وكيف وما إذا كان سيتم استخدام بياناتهم لتدريب نموذج الذكاء الاصطناعي أو تحسين المنتج. يجب أن تمكن أدوات الذكاء الاصطناعي المستخدمين من اتخاذ خيارات بشأن بياناتهم الشخصية التي تتوافق مع تفضيلاتهم وقيمهم. في Grammarly، يتمتع المستخدمون بالتحكم في مكان عمل منتجنا واستخدام بياناتهم.

تتطلب الرحلة نحو الذكاء الاصطناعي المسؤول تعزيز وكالة المستخدم من خلال الشفافية والتحكم. إن تمكين المستخدمين من اتخاذ قرارات مستنيرة بشأن استخدام الذكاء الاصطناعي يجعل استخدام الذكاء الاصطناعي آمنًا في نهاية المطاف. بالنسبة لكل نظام للذكاء الاصطناعي وتنفيذه، ستكون هذه المبادئ ديناميكية. عند التفكير في أدوات الذكاء الاصطناعي لشركتك، ابحث عن الشركات التي تقوم بالتكرار ومعالجة التعليقات وإجراء التحسينات.

مع تطور النظام البيئي للذكاء الاصطناعي، سيستمر الناس في التعامل مع مشاعرهم تجاه هذه التكنولوجيا الناشئة. ستساعد ممارسات الذكاء الاصطناعي المسؤولة ومبادئ الشفافية والرقابة في توجيه الشركات نحو إنشاء منتجات رائدة. سيعتمد الناس على المنتجات التي تحقق نتائج جيدة لمستخدميهم، ومن خلال القيام بذلك، سيؤديون إلى منتجات أفضل ونتائج أعمال أفضل.