Un marco para la responsabilidad y la rendición de cuentas de la industria en la era de la IA generativa

El mes pasado, inmediatamente después de anunciar las nuevas características de nuestro producto de IA generativa, asistí a la conferencia SXSW en Austin, Texas. La energía en torno a la IA en SXSW fue palpable y el apetito por conversaciones sobre IA responsable fue inspirador. Canalicé este espíritu durante una charla informal sobre responsabilidad en The Grammarly AI Hub, y el tema basó mi charla SXSW, "El futuro de la IA: de artificial a aumentada".

A medida que implementamos la asistencia de IA generativa de Grammarly para nuestros usuarios y clientes, la implementación responsable de la IA sigue siendo una prioridad. Anteriormente escribí sobre el enfoque de Grammarly hacia la inteligencia aumentada: la idea de que la IA solo tiene éxito cuando se aplica de una manera que aumenta y capacita a las personas para alcanzar su potencial. La inteligencia aumentada sustenta nuestra filosofía de desarrollo de productos e informa el marco TRUE, que compartí en SXSW para demostrar cómo el equipo de Producto de Grammarly aborda todas las tecnologías que aprovechamos, incluida la IA generativa.

Los marcos de IA responsables como TRUE pueden guiar el desarrollo de productos que mejoren a las personas en todas las industrias, tecnologías y casos de uso. Cuando estos marcos se implementan a escala, podemos crear un futuro en el que las personas y las empresas desarrollen todo su potencial, establezcan conexiones más profundas e impulsen resultados. Creo que el marco TRUE, que se basa en cuatro principios básicos: confianza, responsabilidad, control del usuario y empatía, puede llevarnos en la dirección de este futuro.

A continuación, presentamos un vistazo a cómo estamos aplicando el marco TRUE para garantizar que nuestra implementación de IA generativa cumpla nuestra promesa de aumentar a nuestros clientes y al mismo tiempo priorizar su autonomía, privacidad y seguridad.

Confianza:anteponer las normas y prácticas de seguridad y privacidad

El compromiso permanente de Grammarly con la privacidad y la seguridad lidera nuestro marco VERDADERO y es la base de nuestro modelo de negocio. Alinear nuestros incentivos con los de nuestros clientes es fundamental para generar confianza. Ganamos dinero vendiendo suscripciones; no vendemos datos de clientes a terceros para publicidad o capacitación. Además, desidentificamos y anonimizamos los datos de los usuarios, manteniéndolos solo durante el tiempo que sea necesario para brindar y mejorar nuestro servicio.

Si la privacidad se trata de cómo protegemos los derechos de los usuarios para controlar y acceder a sus datos, la seguridad se trata de cómo salvaguardamos esos datos. Estamos profundamente comprometidos con la seguridad y, con catorce años de inversión a nuestras espaldas, consideramos la seguridad como la característica más importante de nuestro producto, en el corazón de nuestro ecosistema de productos.

Operamos con una cultura obsesionada con la seguridad, defendiendo las mejores políticas y prácticas de su clase, como el inicio de sesión único para todas las cuentas de Grammarly Business, pruebas de penetración de terceros e integrando a nuestros expertos en seguridad internos con nuestros equipos de Producto e Ingeniería. . Estas salvaguardas nos permiten obtener atestaciones y certificaciones de terceros. Mantenemos estos altos estándares a medida que implementamos nuevas funciones de IA generativa en nuestros productos.

Responsabilidad: construir y mejorar sistemas de inteligencia artificial que reduzcan los prejuicios y promuevan la equidad.

Los resultados de un concurso de pronóstico dirigido por Jacob Steinhardt, profesor de la Universidad de California, Berkeley, sugieren que las capacidades de aprendizaje automático están progresando más rápidamente que su capacidad para funcionar de manera confiable con conjuntos de datos nuevos e inesperados. Esto significa que los tecnólogos tienen la responsabilidad de implementar medidas de seguridad que hagan que la IA sea más segura.

Nuestro equipo de IA responsable hace esto diariamente construyendo con conjuntos de datos de calidad y empleando tácticas para garantizar que los algoritmos de nuestros productos no perpetúen prejuicios o estereotipos. Utilizamos tecnologías internas para evitar que la IA generativa de Grammarly interactúe con temas delicados, mitigando el riesgo de problemas de seguridad.

Parte del desarrollo responsable de la IA es reconocer que ningún sistema es perfecto. Es por eso que proporcionamos múltiples mecanismos para que los usuarios informen problemas en nuestros productos y contamos con un proceso operativo riguroso para abordar los problemas de manera rápida y consistente y mejorar nuestros modelos.

Control de usuario: ayudar a las personas y a las empresas a alcanzar su máximo potencial respetando su autonomía

A medida que la asistencia de comunicación impulsada por IA se vuelve más avanzada, no hay forma de reemplazar la voz humana. La comunicación es increíblemente personal y es vital para nosotros que nuestros clientes siempre mantengan el control y que la tecnología que brindamos ayude a las personas y las empresas a alcanzar su máximo potencial.

Diseñamos cuidadosamente la asistencia de IA generativa de Grammarly para brindar opciones y sugerencias para su consideración y, en última instancia, siempre dejando que el cliente decida qué es lo mejor para él. Esto no fue accidental: respetar la autonomía de nuestros usuarios ayuda a garantizar que nuestra tecnología cumpla su propósito de aumentarlos. Con la IA generativa de Grammarly, ayudamos a las personas a ahorrar tiempo en su escritura diaria, permitiéndoles gastar más de su valiosa energía en idear grandes ideas, desarrollar estrategias creativas y colaborar en el trabajo de mayor impacto en sus organizaciones.

Empatía: Ponernos en el lugar de nuestros clientes para comprender y responder a sus necesidades reales

Creemos que una forma crucial de minimizar los resultados no deseados de las nuevas tecnologías es centrarse en abordar los desafíos específicos que enfrentan las personas. Buscamos constantemente nuevas tecnologías para profundizar el valor que ofrecemos a nuestros clientes, y esta fue una de las motivaciones para integrar la IA generativa en nuestros productos.

Por ejemplo, la asistencia de IA generativa de Grammarly puede ayudar a las personas a superar el problema de la "página en blanco", algo con lo que el 84% de los usuarios de Grammarly nos dijeron que querían ayuda. Además, nuestros usuarios nos contaron que tenían problemas con el volumen de correos electrónicos que recibían y que se sentían abrumados por la tarea de responder de manera rápida y eficiente. En respuesta a ese problema, creamos funciones de IA generativa que permiten a las personas responder rápidamente a los correos electrónicos de una manera personalizada y contextualmente relevante.

A medida que introducimos nuevos casos de uso en las ofertas de productos de Grammarly, esta intención permanecerá en primer plano.

El futuro de la IA está aumentado

Si bien he compartido solo un ejemplo de cómo Grammarly utilizó recientemente el marco TRUE, espero que cualquiera que desarrolle productos con nuevas tecnologías replique o encuentre inspiración en este enfoque. Confío en que el futuro de la IA está en la inteligencia aumentada, y me alientan las conversaciones en SXSW y en toda la industria sobre mantener a las personas en el centro de las decisiones sobre productos.

Quiero vivir en un mundo en el que utilicemos la IA para mejorar, empoderando a las personas y a los equipos para que alcancen su potencial e impulsen grandes impactos para las empresas, las organizaciones y las industrias. A medida que nos adaptamos y aprendemos como sociedad, marcos como TRUE pueden ayudarnos a hacer realidad ese futuro.

En mi nuevo rol como director ejecutivo entrante de Grammarly, nuestra promesa de aumentar nuestros clientes es tan importante para mí como siempre, y no puedo esperar a seguir construyendo sobre este legado a medida que Grammarly ingresa a una nueva era con IA generativa.