От обнаружения ИИ к авторству: как грамматика способствует ответственному использованию ИИ

В то время, когда инструменты коммуникации на основе искусственного интеллекта становятся все более распространенными, Grammarly продолжает углублять свой опыт в оценке оригинальности текста и ответственном использовании искусственного интеллекта. Мы запускаем функции оригинальности, которые сочетают в себе обнаружение плагиата, автоматическое цитирование и форматирование стиля цитирования с недавно разработанным обнаружением искусственного интеллекта. Эти возможности удовлетворяют растущую потребность в прозрачности и подотчетности в контексте контента, создаваемого ИИ.

Более прозрачный подход к обнаружению ИИ

По мере роста использования ИИ на рабочих местах и ​​в академических учреждениях растет необходимость проводить различие между ИИ и контентом, созданным человеком. Это особенно актуально в образовательных учреждениях, где сохранение честности студенческой работы имеет первостепенное значение. На рынке существуют решения для обнаружения ИИ, но им не хватает прозрачности для автора.

Детекторы искусственного интеллекта — это новая и неточная технология. Когда детектор ИИ однозначно определяет, содержит ли анализируемый контент ИИ, он не действует ответственно. Ни один детектор искусственного интеллекта не может однозначно определить, использовался ли искусственный интеллект для создания текста. Точность этих инструментов может варьироваться в зависимости от используемых алгоритмов и анализируемого текста.

К сожалению, детекторы искусственного интеллекта обычно не раскрывают своих ограничений и часто используются только во время проверки контента, а не раньше. В результате авторы обычно остаются в неведении относительно того, почему их контент был помечен на наличие искусственного интеллекта.

Grammarly делает все по-другому.

Обнаружение искусственного интеллекта Grammarly показывает пользователям, какая часть их текста, если таковая имеется, была сгенерирована искусственным интеллектом, и мы предоставляем рекомендации по интерпретации результатов. Этот процент может не отвечать на вопрос «почему» текст помечен. Однако это позволяет автору правильно указывать источники, переписывать контент и снижать риск ошибочного обвинения в плагиате ИИ. Этот подход аналогичен нашим возможностям обнаружения плагиата, которые помогают авторам выявлять и проверять потенциальный плагиат, обеспечивая оригинальность и подлинность их работ.

Как работает обнаружение Grammarly AI

Мы добавляем обнаружение ИИ к нашим функциям оригинальности в рамках нашего стремления к ответственному использованию ИИ. Мы уделяем приоритетное внимание предоставлению нашим пользователям, особенно студентам, как можно более прозрачной информации, даже несмотря на то, что технология имеет свои ограничения.

Когда Grammarly проверяет документ на наличие текста, сгенерированного ИИ, он делит его на более мелкие разделы и проверяет каждый раздел на наличие языковых шаблонов, типичных для ИИ. Затем Grammarly вычисляет процентную оценку объема контента, который в документе создается искусственным интеллектом.

Существует несколько причин, по которым текст может быть помечен на наличие ИИ, даже если инструменты генеративного ИИ не использовались. Например, текст может демонстрировать шаблоны, структуры или характеристики типичного контента, создаваемого ИИ, такие как повторяющиеся фразы или нетрадиционная грамматика. Кроме того, было обнаружено, что детекторы искусственного интеллекта предвзято относятся к писателям, не являющимся носителями английского языка.

Мы добавляем обнаружение ИИ к нашим существующим функциям академической честности, таким как возможность ссылаться на генеративное использование ИИ, чтобы еще больше расширить возможности наших пользователей. Мы хотим побудить их принимать обоснованные решения относительно контента, который они создают и включают в свои статьи, правильно цитировать источники и ответственно использовать ИИ. Обнаружение ИИ должно быть частью целостного подхода к оценке оригинальности письма.

За пределами обнаружения: целостный набор возможностей оригинальности Grammarly

Grammarly поощряет целостный подход к академической честности и ответственное использование ИИ. Если учащиеся предлагают Grammarly составить текст во время черновика, рекомендации ИИ перенаправляют их на ссылку на политику академической честности своего учреждения и предлагают использовать генеративный ИИ в качестве инструмента мозгового штурма. Мы также предлагаем курс «ИИ для студентов», который поможет студентам в любом плане Grammarly ответственно использовать генеративный искусственный интеллект, будь то Grammarly или другой инструмент.

Когда черновик завершен, Grammarly позволяет учащимся легко цитировать свои источники. Студенты могут генерировать правильно отформатированные цитаты и указывать на использование генеративного ИИ, одним щелчком мыши подсказывая «Подтвердить использование грамматического ИИ». Перед отправкой задания учащиеся могут проверить свое письмо на плагиат по миллиардам веб-страниц и статей, а также теперь иметь возможность проверить наличие текста, сгенерированного ИИ.

Помимо этих возможностей оригинальности, Grammarly объявила о предстоящем выпуске Grammarly Authorship. Авторство позволяет пользователям автоматически классифицировать весь текст, добавленный к их письменному заданию. Он генерирует подробный отчет с подробным описанием происхождения контента — напечатанного человеком, созданного искусственным интеллектом, отредактированного с помощью традиционной проверки грамматики или полученного из внешних источников. Эта функция дополняет обнаружение ИИ, предоставляя авторам подробную и объективную информацию о вероятном составе их текста.

Авторство способствует более продуктивному общению между студентами и преподавателями относительно процесса письма студента. Это смягчает некоторые наиболее враждебные взаимоотношения между профессорами и студентами, которые наблюдались на рынке образования с момента появления инструментов искусственного интеллекта. Авторство будет доступно в виде бета-версии в Google Docs для всех клиентов Grammarly, начиная с сентября 2024 года.

Внедрение Grammarly функции обнаружения искусственного интеллекта и авторства означает нашу приверженность предоставлению пользователям комплексных инструментов для поддержки академической честности. Эти усилия необходимы для того, чтобы технологии дополняли человеческие усилия, не умаляя ценности оригинальной работы, а также способствовали ответственному использованию ИИ в классе и на рабочем месте.