Размышления о SXSW: основа отраслевой ответственности и подотчетности в эпоху генеративного ИИ

В прошлом месяце, сразу после анонса нашего нового генеративного ИИ-продукта GrammarlyGO, я посетил конференцию SXSW в Остине, штат Техас. Энергия вокруг ИИ на SXSW была ощутима, а аппетит к разговорам об ответственном ИИ вдохновлял. Я передал этот дух во время беседы у камина об ответственности в The Grammarly AI Hub, и эта тема легла в основу моего выступления на SXSW «Будущее ИИ: от искусственного к дополненному».

Когда мы начинаем внедрять GrammarlyGO для наших пользователей и клиентов, ответственное развертывание ИИ остается на первом месте. Ранее я писал о подходе Grammarly к расширенному интеллекту — идее о том, что ИИ успешен только в том случае, если применяется таким образом, который расширяет возможности людей и позволяет им раскрыть свой потенциал. Расширенный интеллект лежит в основе нашей философии разработки продуктов и формирует структуру TRUE, которой я поделился на SXSW, чтобы продемонстрировать, как команда разработчиков Grammarly подходит ко всем технологиям, которые мы используем, включая генеративный ИИ.

Ответственные платформы искусственного интеллекта, такие как TRUE, могут направлять разработку продуктов, расширяющих возможности людей в различных отраслях, технологиях и вариантах использования. При масштабном развертывании этих платформ мы можем создать будущее, в котором отдельные лица и компании полностью реализуют свой потенциал, выстраивают более тесные связи и добиваются результатов. Я считаю, что структура TRUE, основанная на четырех основных принципах — доверие, ответственность, контроль пользователей и сочувствие, — может продвинуть нас в направлении этого будущего.

Вот взгляд на то, как мы применяем структуру TRUE, чтобы гарантировать, что наше развертывание генеративного ИИ выполняет наше обещание увеличить наших клиентов, уделяя приоритетное внимание их автономии, конфиденциальности и безопасности.

Доверие: стандарты и практики безопасности и конфиденциальностина первом месте

Неизменная приверженность Grammarly конфиденциальности и безопасности лежит в основе нашей концепции TRUE и является основой нашей бизнес-модели. Согласование наших стимулов с стимулами наших клиентов является основой для укрепления доверия. Мы зарабатываем на продаже подписок — мы не продаем данные о клиентах третьим лицам для рекламы или обучения. Кроме того, мы деидентифицируем и анонимизируем пользовательские данные, сохраняя их только до тех пор, пока это необходимо для предоставления и улучшения наших услуг.

Если конфиденциальность — это то, как мы защищаем права пользователей на контроль и доступ к их данным, то безопасность — это то, как мы защищаем эти данные. Мы глубоко привержены безопасности, и, имея за плечами 14 лет инвестиций, мы думаем о безопасности как о самой важной функции нашего продукта, лежащей в основе нашей продуктовой экосистемы.

Мы работаем с культурой, ориентированной на безопасность, придерживаясь лучших в своем классе политик и практик, таких как единый вход для всех учетных записей Grammarly Business, стороннее тестирование на проникновение и включение наших внутренних экспертов по безопасности в наши группы по продуктам и инженерам. . Эти меры безопасности позволяют нам получать сторонние аттестации и сертификаты. Мы поддерживаем эти высокие стандарты, внедряя генеративный ИИ в наши продукты с помощью новых инноваций, таких как GrammarlyGO.

Обязанности: создание и совершенствование систем искусственного интеллекта, которые уменьшают предвзятость и способствуют справедливости.

Результаты конкурса прогнозистов под руководством Джейкоба Стейнхардта, профессора Калифорнийского университета в Беркли, показывают, что возможности машинного обучения развиваются быстрее, чем их способность надежно работать с новыми и неожиданными наборами данных. Это означает, что технологи несут ответственность за внедрение ограждений, которые делают ИИ более безопасным.

Наша ответственная команда искусственного интеллекта делает это ежедневно, используя качественные наборы данных и применяя тактику, чтобы гарантировать, что алгоритмы в наших продуктах не увековечивают предвзятость или стереотипы. Мы используем внутренние технологии, чтобы предотвратить взаимодействие GrammarlyGO с конфиденциальными темами, снижая риск проблем с безопасностью.

Частью ответственной разработки ИИ является признание того, что ни одна система не идеальна. Вот почему мы предоставляем пользователям несколько механизмов для сообщения о проблемах в наших продуктах и ​​применяем строгий рабочий процесс для быстрого и последовательного решения проблем и улучшения наших моделей.

Пользовательский контроль: помощь людям и компаниям в полной мере раскрыть свой потенциал, уважая их автономию.

По мере того, как коммуникационная помощь на основе ИИ становится все более продвинутой, ничто не заменит человеческий голос. Общение очень личное, и для нас жизненно важно, чтобы наши клиенты всегда оставались под контролем и чтобы технологии, которые мы предоставляем, помогали людям и компаниям достигать своего максимального потенциала.

Мы тщательно разработали GrammarlyGO, чтобы предоставить варианты и предложения для рассмотрения, всегда в конечном итоге полагаясь на клиента, чтобы решить, что лучше для него. Это было не случайно — уважение автономии наших пользователей помогает гарантировать, что наша технология служит своей цели — дополнять их. С GrammarlyGO мы помогаем людям экономить время на повседневную письменную работу, давая им возможность тратить больше своей ценной энергии на разработку больших идей, разработку творческих стратегий и совместную работу над наиболее эффективной работой в их организациях.

Эмпатия: ходить на месте наших клиентов, чтобы понять их реальные потребности и реагировать на них

Мы считаем, что решающий способ свести к минимуму непредвиденные последствия новых технологий — сосредоточиться на решении конкретных проблем, с которыми сталкиваются люди. Мы постоянно ищем новые технологии, чтобы повысить ценность, которую мы предоставляем нашим клиентам, и это было одним из мотивов для интеграции генеративного ИИ в наши продукты.

Например, GrammarlyGO может помочь людям решить проблему «пустой страницы» — 84% пользователей Grammarly сказали нам, что им нужна поддержка. Кроме того, мы слышали от наших пользователей, что они боролись с объемом получаемых электронных писем и были перегружены задачей быстрого и эффективного ответа. В ответ на эту боль мы создали функцию в GrammarlyGO, которая позволяет людям быстро отвечать на электронные письма контекстно-зависимым и персонализированным способом.

По мере того, как мы внедряем новые варианты использования в предложения продуктов Grammarly, это намерение останется в центре внимания.

Будущее ИИ дополнено

Хотя я привел только один пример того, как Grammarly недавно использовал структуру TRUE, я надеюсь, что любой, кто разрабатывает продукты с новыми технологиями, воспользуется этим подходом или найдет для него вдохновение. Я уверен, что будущее ИИ за расширенным интеллектом, и меня воодушевляют разговоры на SXSW и во всей отрасли о том, чтобы люди находились в центре внимания при принятии решений о продуктах.

Я хочу жить в мире, где мы используем ИИ, чтобы сделать нас лучше, дать возможность отдельным лицам и командам раскрыть свой потенциал и оказать большое влияние на предприятия, организации и отрасли. По мере того как мы адаптируемся и учимся как общество, такие структуры, как TRUE, могут помочь нам сделать это будущее реальностью.

В моей новой роли нового генерального директора Grammarly наше обещание увеличить количество наших клиентов важно для меня как никогда, и я не могу дождаться продолжения развития этого наследия, поскольку Grammarly вступает в новую эру с генеративным искусственным интеллектом.