تأملات في SXSW: إطار لمسؤولية الصناعة والمساءلة في عصر الذكاء الاصطناعي التوليدي

في الشهر الماضي ، في أعقاب الإعلان عن منتجنا الجديد للذكاء الاصطناعي ، GrammarlyGO ، حضرت مؤتمر SXSW في أوستن ، تكساس. كانت الطاقة حول الذكاء الاصطناعي في SXSW ملموسة ، وكانت الرغبة في المحادثات حول الذكاء الاصطناعي المسؤول ملهمة. لقد وجهت هذه الروح خلال محادثة حول المسؤولية في The Grammarly AI Hub ، وأسس الموضوع حديثي SXSW ، "مستقبل الذكاء الاصطناعي: من الاصطناعي إلى المعزز."

مع بدء طرح GrammarlyGO لمستخدمينا وعملائنا ، يظل النشر المسؤول للذكاء الاصطناعي في قمة اهتماماتنا. لقد كتبت سابقًا عن نهج Grammarly للذكاء المعزز - فكرة أن الذكاء الاصطناعي لا ينجح إلا عند تطبيقه بطريقة تقوي الناس وتمكنهم من الوصول إلى إمكاناتهم. يدعم الذكاء المعزز فلسفتنا في تطوير المنتجات ويوجه إطار عمل TRUE ، الذي شاركته في SXSW لتوضيح كيفية تعامل فريق Grammarly's Product مع جميع التقنيات التي نستخدمها - بما في ذلك الذكاء الاصطناعي التوليدي.

يمكن لأطر الذكاء الاصطناعي المسؤولة مثل TRUE أن توجه تطوير المنتجات التي تعزز الأشخاص عبر الصناعات والتقنيات وحالات الاستخدام. عندما يتم نشر هذه الأطر على نطاق واسع ، يمكننا إنشاء مستقبل يدرك فيه الأفراد والشركات إمكاناتهم الكاملة ، وبناء روابط أعمق ، وتحقيق النتائج. أعتقد أن إطار عمل TRUE ، الذي يرتكز على أربعة مبادئ أساسية - الثقة والمسؤولية والتحكم في المستخدم والتعاطف - يمكن أن يحركنا في اتجاه هذا المستقبل.

فيما يلي نظرة على كيفية تطبيقنا لإطار عمل TRUE لضمان أن يفي نشرنا للذكاء الاصطناعي التوليدي بوعدنا بزيادة عملائنا مع إعطاء الأولوية لاستقلاليتهم وخصوصيتهم وأمانهم.

الثقة: وضع معايير وممارسات الأمان والخصوصيةأولاً

إن التزام Grammarly الثابت بالخصوصية والأمان يقود إطار عمل TRUE وهو أساس نموذج أعمالنا. تعد مواءمة حوافزنا مع حوافز عملائنا أمرًا أساسيًا لبناء الثقة. نحن نجني المال عن طريق بيع الاشتراكات - نحن لا نبيع بيانات العملاء لأطراف ثالثة للإعلان أو التدريب. بالإضافة إلى ذلك ، نقوم بإلغاء تحديد بيانات المستخدم وإخفاء هويتها ، مع الاحتفاظ بها فقط طالما كانت ضرورية لتقديم خدماتنا وتحسينها.

إذا كانت الخصوصية تدور حول كيفية حماية حقوق المستخدم في التحكم في بياناتهم والوصول إليها ، فإن الأمان يدور حول كيفية حماية هذه البيانات. نحن ملتزمون بشدة بالأمن - ومع 14 عامًا من الاستثمار تحت حزامنا ، نعتقد أن الأمان هو أهم ميزة لمنتجاتنا في قلب النظام البيئي لمنتجاتنا.

نحن نعمل بثقافة مهووسة بالأمان ، مع دعم السياسات والممارسات الأفضل في فئتها ، مثل تسجيل الدخول الفردي لجميع حسابات Grammarly Business ، واختبار الاختراق من طرف ثالث ، وتضمين خبراء الأمن الداخليين لدينا مع فرق الإنتاج والهندسة لدينا . تمكننا هذه الضمانات من الحصول على شهادات وشهادات من جهات خارجية. نحافظ على هذه المعايير العالية بينما ننشر الذكاء الاصطناعي التوليدي في منتجاتنا من خلال ابتكارات جديدة مثل GrammarlyGO.

المسؤولية: بناء وتحسين أنظمة الذكاء الاصطناعي التي تحد من التحيز وتعزز العدالة

تشير نتائج مسابقة التنبؤ التي قادها جاكوب شتاينهاردت ، الأستاذ في جامعة كاليفورنيا ، بيركلي ، إلى أن قدرات التعلم الآلي تتقدم بسرعة أكبر من قدرتها على الأداء الموثوق به مع مجموعات البيانات الجديدة وغير المتوقعة. هذا يعني أن التقنيين يتحملون مسؤولية تنفيذ حواجز الحماية التي تجعل الذكاء الاصطناعي أكثر أمانًا.

يقوم فريق الذكاء الاصطناعي المسؤول لدينا بهذا الأمر يوميًا من خلال البناء باستخدام مجموعات بيانات عالية الجودة واستخدام التكتيكات لضمان ألا تديم الخوارزميات في منتجاتنا التحيز أو الصور النمطية. نحن نستخدم التقنيات الداخلية لمنع GrammarlyGO من التفاعل مع الموضوعات الحساسة ، والتخفيف من مخاطر مخاوف السلامة.

جزء من التطوير المسؤول للذكاء الاصطناعي هو إدراك أنه لا يوجد نظام مثالي. لهذا السبب نقدم آليات متعددة للمستخدمين للإبلاغ عن المشكلات في منتجاتنا ولدينا عملية تشغيلية صارمة لمعالجة المشكلات بسرعة وثبات وتحسين نماذجنا.

التحكم في المستخدم: مساعدة الأشخاص والشركات للوصول إلى إمكاناتهم الكاملة مع احترام استقلاليتهم

نظرًا لأن مساعدة الاتصال التي تعمل بالذكاء الاصطناعي أصبحت أكثر تقدمًا ، فلا يوجد بديل لصوت الإنسان. الاتصال شخصي بشكل لا يصدق ، ومن الضروري بالنسبة لنا أن يظل عملاؤنا دائمًا في وضع التحكم وأن التكنولوجيا التي نقدمها تساعد الأشخاص والشركات على الوصول إلى أعلى إمكاناتهم.

لقد صممنا GrammarlyGO بعناية لتوفير الخيارات والاقتراحات التي يجب مراعاتها — ودائمًا ما نرجئ للعميل في النهاية تحديد الأفضل بالنسبة لهم. لم يكن ذلك من قبيل الصدفة - فاحترام استقلالية مستخدمينا يساعد في ضمان أن تقنيتنا تخدم غرضها المتمثل في زيادتها. مع GrammarlyGO ، نساعد الأشخاص على توفير الوقت في كتاباتهم اليومية ، وتمكينهم من إنفاق المزيد من طاقتهم القيمة في ابتكار أفكار كبيرة ، وتطوير استراتيجيات إبداعية ، والتعاون في العمل الأكثر تأثيرًا عبر مؤسساتهم.

التعاطف: السير في مكان عملائنا لفهم احتياجاتهم الحقيقية والاستجابة لها

نعتقد أن الطريقة الحاسمة لتقليل النتائج غير المقصودة من التكنولوجيا الجديدة هي التركيز على معالجة التحديات المحددة التي يواجهها الأشخاص. نحن نبحث باستمرار عن تقنيات جديدة لتعميق القيمة التي نقدمها لعملائنا ، وكان هذا أحد الدوافع لدمج الذكاء الاصطناعي التوليدي في منتجاتنا.

على سبيل المثال ، يمكن أن يساعد GrammarlyGO الأشخاص في التغلب على مشكلة "الصفحة الفارغة" - وهو شيء أخبرنا 84 بالمائة من مستخدمي Grammarly أنهم يريدون الدعم به. بالإضافة إلى ذلك ، سمعنا من مستخدمينا أنهم كانوا يعانون من حجم رسائل البريد الإلكتروني التي تلقوها وأنهم غارقون في مهمة الاستجابة بسرعة وكفاءة. استجابةً لنقطة الألم هذه ، أنشأنا ميزة في GrammarlyGO تمكن الأشخاص من الاستجابة بسرعة لرسائل البريد الإلكتروني بطريقة ذات صلة بالسياق وشخصية.

نظرًا لأننا نقدم حالات استخدام جديدة في عروض منتجات Grammarly ، ستظل هذه النية في المقدمة.

يتم تعزيز مستقبل الذكاء الاصطناعي

بينما قمت بمشاركة مثال واحد فقط حول كيفية استخدام Grammarly مؤخرًا لإطار عمل TRUE ، آمل أن يقوم أي شخص يطور منتجات بتقنيات جديدة بتكرار هذا النهج أو إيجاد الإلهام فيه. أنا واثق من أن مستقبل الذكاء الاصطناعي يكمن في الذكاء المعزز - وتشجعني المحادثات في SXSW وعبر الصناعة حول إبقاء الناس في قلب قرارات المنتج.

أريد أن أعيش في عالم نستخدم فيه الذكاء الاصطناعي لجعلنا أفضل ، وتمكين الأفراد والفرق للوصول إلى إمكاناتهم وإحداث تأثيرات كبيرة للشركات والمؤسسات والصناعات. بينما نتكيف ونتعلم كمجتمع ، يمكن أن تساعدنا أطر مثل TRUE في جعل هذا المستقبل حقيقة.

في منصبي الجديد كرئيس تنفيذي جديد لشركة Grammarly ، يعد وعدنا بزيادة عملائنا مهمًا بالنسبة لي أكثر من أي وقت مضى - ولا أطيق الانتظار لمواصلة البناء على هذا الإرث حيث تدخل Grammarly حقبة جديدة مع الذكاء الاصطناعي التوليدي.