De la detección de IA a la autoría: cómo Grammarly potencia el uso responsable de la IA

En un momento en el que las herramientas de comunicación basadas en IA son cada vez más frecuentes, Grammarly continúa profundizando nuestra experiencia en la evaluación de la originalidad del texto y el uso responsable de la IA. Estamos lanzando funciones de originalidad que combinan la detección de plagio, las citas automáticas y el formato de estilo de cita con la detección de IA recientemente desarrollada. Estas capacidades abordan la creciente necesidad de transparencia y responsabilidad en el contexto del contenido generado por IA.

Un enfoque más transparente para la detección de IA

A medida que aumenta el uso de la IA en el lugar de trabajo y en los entornos académicos, existe una creciente necesidad de distinguir entre la IA y el contenido generado por humanos. Esto es particularmente relevante en entornos educativos, donde mantener la integridad del trabajo de los estudiantes es primordial. Existen soluciones de detección de IA en el mercado, pero carecen de transparencia para el escritor.

Los detectores de IA son una tecnología emergente e inexacta. Cuando un detector de IA indica definitivamente si el contenido analizado contiene IA, no está actuando de forma responsable. Ningún detector de IA puede determinar de manera concluyente si se utilizó IA para producir texto. La precisión de estas herramientas puede variar según los algoritmos utilizados y el texto analizado.

Desafortunadamente, los detectores de IA no suelen ser transparentes acerca de sus limitaciones y, a menudo, se implementan sólo durante la revisión del contenido, no antes. Como resultado, los escritores generalmente no saben por qué su contenido ha sido marcado por la presencia de IA.

Grammarly hace las cosas de manera diferente.

La detección de IA de Grammarly muestra a los usuarios qué parte de su texto, si corresponde, parece haber sido generada por IA, y brindamos orientación sobre cómo interpretar los resultados. Es posible que este porcentaje no responda "por qué" se ha marcado el texto. Sin embargo, permite al escritor atribuir fuentes adecuadamente, reescribir contenido y mitigar el riesgo de ser acusado incorrectamente de plagio de IA. Este enfoque es similar a nuestras capacidades de detección de plagio, que ayudan a los escritores a identificar y revisar posibles plagios, garantizando la originalidad y autenticidad de su trabajo.

Cómo funciona la detección de IA gramatical

Estamos agregando detección de IA a nuestras funciones de originalidad como parte de nuestro compromiso con el uso responsable de la IA. Estamos dando prioridad a brindar a nuestros usuarios, especialmente a los estudiantes, la mayor cantidad de información transparente posible, a pesar de que la tecnología tiene limitaciones inherentes.

Cuando Grammarly revisa un documento en busca de texto generado por IA, lo divide en secciones más pequeñas y examina cada sección en busca de patrones de lenguaje típicos de la IA. Luego, Grammarly proporciona una puntuación porcentual para la cantidad de contenido que parece haber sido generado por IA en un documento.

Hay varias razones por las que se podría marcar un texto por la presencia de IA, incluso cuando no se hayan utilizado herramientas de IA generativa. Por ejemplo, un texto puede exhibir patrones, estructuras o características de contenido típico generado por IA, como frases repetitivas o gramática no convencional. Además, se ha descubierto que los detectores de IA están sesgados en contra de los escritores no nativos en inglés.

Estamos agregando detección de IA a nuestras funciones de integridad académica existentes, como la capacidad de citar el uso de IA generativa, para empoderar aún más a nuestros usuarios. Queremos alentarlos a tomar decisiones informadas sobre el contenido que crean e incorporan en sus escritos, citar fuentes apropiadamente y usar la IA de manera responsable. La detección de IA debería ser parte de un enfoque holístico para evaluar la originalidad de la escritura.

Más allá de la detección: el conjunto holístico de capacidades de originalidad de Grammarly

Grammarly fomenta un enfoque holístico de la integridad académica y el uso responsable de la IA. Si los estudiantes solicitan a Grammarly que redacte un texto durante la redacción, las pautas de IA los redireccionan para que hagan referencia a las políticas de integridad académica de su institución y sugieren el uso de IA generativa como herramienta de lluvia de ideas. También ofrecemos un curso de IA para estudiantes, que guía a los estudiantes sobre cualquier plan de Grammarly para utilizar la IA generativa de manera responsable, ya sea Grammarly u otra herramienta.

Cuando se completa la redacción, Grammarly facilita que los estudiantes citen sus fuentes. Los estudiantes pueden generar citas con el formato adecuado y citar su uso de la IA generativa mediante las indicaciones con un solo clic "Reconocer el uso de la IA de la generación gramatical". Antes de enviar una tarea, los estudiantes pueden verificar su escritura en busca de plagio en miles de millones de páginas web y artículos, además de ahora poder verificar la presencia de texto generado por IA.

Además de estas capacidades de originalidad, Grammarly anunció el próximo lanzamiento de Grammarly Authorship. La autoría permite a los usuarios categorizar automáticamente todo el texto agregado a su tarea de escritura. Genera un informe completo que detalla el origen del contenido: escrito por humanos, generado por IA, editado con revisión gramatical tradicional o de origen externo. Esta función complementa la detección de IA y proporciona a los escritores información detallada y objetiva sobre la composición probable de su texto.

La autoría facilita conversaciones más productivas entre estudiantes y profesores sobre el proceso de escritura de un estudiante. Esto mitiga algunos de los intercambios más conflictivos entre profesores y estudiantes que el mercado educativo ha visto desde la llegada de las herramientas de inteligencia artificial. La autoría estará disponible como versión beta en Google Docs para todos los clientes de Grammarly a partir de septiembre de 2024.

La introducción de la detección y autoría de IA por parte de Grammarly significa nuestra dedicación a brindar a los usuarios herramientas holísticas para respaldar la integridad académica. Estos esfuerzos son esenciales para garantizar que la tecnología aumente el esfuerzo humano sin disminuir el valor del trabajo original, fomentando el uso responsable de la IA en el aula y el lugar de trabajo.