Основы отраслевой ответственности и подотчетности в эпоху генеративного искусственного интеллекта

В прошлом месяце, сразу после анонса наших новых функций продуктов генеративного искусственного интеллекта, я посетил конференцию SXSW в Остине, штат Техас. Энергия вокруг ИИ на SXSW была ощутимой, а желание поговорить об ответственном ИИ было вдохновляющим. Я выразил этот дух во время беседы у камина об ответственности в Grammarly AI Hub, и эта тема легла в основу моего выступления на SXSW «Будущее искусственного интеллекта: от искусственного к дополненному».

Поскольку мы внедряем генеративную помощь Grammarly в области искусственного интеллекта для наших пользователей и клиентов, ответственное развертывание искусственного интеллекта остается в центре внимания. Ранее я писал о подходе Grammarly к расширенному интеллекту — идее о том, что ИИ успешен только тогда, когда он применяется таким образом, что расширяет возможности людей и дает им возможность реализовать свой потенциал. Дополненный интеллект лежит в основе нашей философии разработки продуктов и информирует структуру TRUE, которой я поделился на SXSW, чтобы продемонстрировать, как команда продуктов Grammarly подходит ко всем технологиям, которые мы используем, включая генеративный искусственный интеллект.

Ответственные структуры искусственного интеллекта, такие как TRUE, могут направлять разработку продуктов, которые расширяют возможности людей в разных отраслях, технологиях и сценариях использования. Когда эти структуры будут развернуты в большом масштабе, мы сможем создать будущее, в котором отдельные лица и предприятия полностью реализуют свой потенциал, создают более глубокие связи и добиваются результатов. Я верю, что структура TRUE, основанная на четырех основных принципах — доверии, ответственности, контроле пользователей и эмпатии — может продвинуть нас в направлении этого будущего.

Вот взгляд на то, как мы применяем структуру TRUE, чтобы гарантировать, что наше развертывание генеративного искусственного интеллекта выполняет наше обещание по расширению возможностей наших клиентов, уделяя при этом приоритетное внимание их автономности, конфиденциальности и безопасности.

Доверие:стандарты и практика безопасности и конфиденциальности на первом месте

Неизменная приверженность Grammarly обеспечению конфиденциальности и безопасности лежит в основе нашей структуры TRUE и является основой нашей бизнес-модели. Согласование наших стимулов с стимулами наших клиентов имеет решающее значение для укрепления доверия. Мы зарабатываем на продаже подписок — мы не продаем данные клиентов третьим лицам для рекламы или обучения. Кроме того, мы деидентифицируем и анонимизируем пользовательские данные, сохраняя их только до тех пор, пока они необходимы для предоставления и улучшения наших услуг.

Если конфиденциальность — это то, как мы защищаем права пользователей на контроль и доступ к их данным, то безопасность — это то, как мы защищаем эти данные. Мы глубоко привержены безопасности — и, имея за плечами четырнадцать лет инвестиций, мы считаем безопасность нашей самой важной особенностью продукта, лежащей в основе нашей продуктовой экосистемы.

Мы работаем с культурой, ориентированной на безопасность, придерживаясь лучших в своем классе политик и практик, таких как единый вход для всех учетных записей Grammarly Business, стороннее тестирование на проникновение и включение наших собственных экспертов по безопасности в наши команды по продуктам и инженерам. . Эти гарантии позволяют нам получать аттестации и сертификаты третьих сторон. Мы поддерживаем эти высокие стандарты, внедряя в наши продукты новые функции генеративного искусственного интеллекта.

Обязанности: Создание и улучшение систем искусственного интеллекта, которые уменьшают предвзятость и способствуют справедливости.

Результаты конкурса прогнозистов, проведенного Джейкобом Стейнхардтом, профессором Калифорнийского университета в Беркли, показывают, что возможности машинного обучения развиваются быстрее, чем их способность надежно работать с новыми и неожиданными наборами данных. Это означает, что технологи несут ответственность за внедрение защитных мер, которые сделают ИИ более безопасным.

Наша команда ответственного ИИ делает это ежедневно, создавая качественные наборы данных и применяя тактики, гарантирующие, что алгоритмы в наших продуктах не увековечивают предвзятость или стереотипы. Мы используем внутренние технологии, чтобы предотвратить взаимодействие генеративного искусственного интеллекта Grammarly с деликатными темами, снижая риск проблем с безопасностью.

Частью ответственной разработки ИИ является признание того, что ни одна система не идеальна. Вот почему мы предоставляем пользователям несколько механизмов для сообщения о проблемах в наших продуктах и ​​используем строгий рабочий процесс для быстрого и последовательного решения проблем и улучшения наших моделей.

Пользовательский контроль: помощь людям и предприятиям в полной мере реализовать свой потенциал, соблюдая при этом их автономию.

Поскольку коммуникационная помощь на основе искусственного интеллекта становится все более совершенной, ничто не заменит человеческий голос. Общение невероятно личное, и для нас очень важно, чтобы наши клиенты всегда оставались под контролем и чтобы технологии, которые мы предоставляем, помогали людям и предприятиям максимально раскрыть свой потенциал.

Мы тщательно разработали генеративную помощь искусственного интеллекта Grammarly, чтобы предоставлять варианты и предложения для рассмотрения, всегда в конечном итоге предоставляя клиенту возможность решить, что для него лучше. Это не было случайностью: уважение к автономии наших пользователей помогает гарантировать, что наша технология будет служить своей цели — дополнять их. С помощью генеративного искусственного интеллекта Grammarly мы помогаем людям экономить время на ежедневном письме, давая им возможность тратить больше своей ценной энергии на разработку больших идей, разработку творческих стратегий и совместную работу над наиболее эффективной работой в своих организациях.

Эмпатия: стоять на месте наших клиентов, чтобы понимать их реальные потребности и реагировать на них.

Мы считаем, что решающий способ свести к минимуму непредвиденные последствия новых технологий — это сосредоточиться на решении конкретных проблем, с которыми сталкиваются люди. Мы постоянно ищем новые технологии, чтобы повысить ценность, которую мы приносим нашим клиентам, и это стало одной из причин для интеграции генеративного искусственного интеллекта в наши продукты.

Например, генеративная поддержка искусственного интеллекта Grammarly может помочь людям преодолеть проблему «пустой страницы» — 84% пользователей Grammarly сказали нам, что им нужна поддержка. Кроме того, мы слышали от наших пользователей, что они испытывают трудности с объемом получаемых электронных писем и не могут быстро и эффективно реагировать на них. В ответ на эту проблему мы создали генеративные функции искусственного интеллекта, которые позволяют людям быстро отвечать на электронные письма контекстуально соответствующим и персонализированным способом.

По мере того, как мы внедряем новые варианты использования в предложения продуктов Grammarly, это намерение будет оставаться на переднем плане.

Будущее искусственного интеллекта дополнено

Хотя я поделился лишь одним примером того, как Grammarly недавно использовала структуру TRUE, я надеюсь, что любой, кто разрабатывает продукты с использованием новых технологий, воспользуется этим подходом или найдет вдохновение. Я уверен, что будущее искусственного интеллекта — за расширенным интеллектом, и меня воодушевляют разговоры на SXSW и во всей отрасли о том, чтобы люди оставались в центре решений по продукту.

Я хочу жить в мире, где мы используем ИИ, чтобы становиться лучше, давая возможность отдельным людям и командам реализовать свой потенциал и оказывать большое влияние на бизнес, организации и отрасли. По мере того, как мы адаптируемся и учимся как общество, такие структуры, как TRUE, могут помочь нам сделать это будущее реальностью.

В моей новой роли нового генерального директора Grammarly наше обещание расширять число наших клиентов так же важно для меня, как и прежде, и мне не терпится продолжить развитие этого наследия, поскольку Grammarly вступает в новую эру с генеративным искусственным интеллектом.