Reflexiones sobre SXSW: un marco para la responsabilidad y rendición de cuentas de la industria en la era de la IA generativa

El mes pasado, justo después de anunciar nuestro nuevo producto de IA generativa, GrammarlyGO, asistí a la conferencia SXSW en Austin, Texas. La energía en torno a la IA en SXSW fue palpable y el apetito por las conversaciones sobre la IA responsable fue inspirador. Canalicé este espíritu durante una charla junto a la chimenea sobre la responsabilidad en The Grammarly AI Hub, y el tema basó mi charla SXSW, "El futuro de la IA: de artificial a aumentada".

A medida que comenzamos a implementar GrammarlyGO para nuestros usuarios y clientes, la implementación responsable de la IA sigue siendo una prioridad. Anteriormente escribí sobre el enfoque de Grammarly para la inteligencia aumentada: la idea de que la IA solo tiene éxito cuando se aplica de una manera que aumenta y empodera a las personas para alcanzar su potencial. La inteligencia aumentada sustenta nuestra filosofía de desarrollo de productos e informa el marco TRUE, que compartí en SXSW para demostrar cómo el equipo de productos de Grammarly aborda todas las tecnologías que aprovechamos, incluida la IA generativa.

Los marcos de trabajo de IA responsables como TRUE pueden guiar el desarrollo de productos que mejoren a las personas en todas las industrias, tecnologías y casos de uso. Cuando estos marcos se implementan a escala, podemos crear un futuro en el que las personas y las empresas desarrollen todo su potencial, creen conexiones más profundas e impulsen los resultados. Creo que el marco VERDADERO, que se basa en cuatro principios básicos: confianza, responsabilidad, control del usuario y empatía, puede llevarnos en la dirección de este futuro.

He aquí un vistazo a cómo estamos aplicando el marco TRUE para garantizar que nuestra implementación de IA generativa cumpla nuestra promesa de aumentar a nuestros clientes al tiempo que priorizamos su autonomía, privacidad y seguridad.

Confianza: anteponer lasnormas y prácticas de seguridad y privacidad

El compromiso permanente de Grammarly con la privacidad y la seguridad lidera nuestro marco VERDADERO y es la base de nuestro modelo comercial. Alinear nuestros incentivos con los de nuestros clientes es fundamental para generar confianza. Ganamos dinero vendiendo suscripciones; no vendemos datos de clientes a terceros para publicidad o capacitación. Además, anonimizamos y anonimizamos los datos de los usuarios, conservándolos solo durante el tiempo que sea necesario para proporcionar y mejorar nuestro servicio.

Si la privacidad se trata de cómo protegemos los derechos de los usuarios para controlar y acceder a sus datos, la seguridad se trata de cómo salvaguardamos esos datos. Estamos profundamente comprometidos con la seguridad, y con 14 años de inversión en nuestro haber, pensamos en la seguridad como la característica más importante de nuestro producto en el corazón de nuestro ecosistema de productos.

Operamos con una cultura obsesionada con la seguridad, defendiendo las mejores políticas y prácticas de su clase, como el inicio de sesión único para todas las cuentas de Grammarly Business, pruebas de penetración de terceros e integrando a nuestros expertos en seguridad internos con nuestros equipos de productos e ingeniería. . Estas medidas de seguridad nos permiten obtener atestaciones y certificaciones de terceros. Mantenemos estos altos estándares a medida que implementamos IA generativa en nuestros productos a través de nuevas innovaciones como GrammarlyGO.

Responsabilidad: Construir y mejorar sistemas de IA que reduzcan el sesgo y promuevan la equidad

Los resultados de una competencia de pronóstico dirigida por Jacob Steinhardt, profesor de la Universidad de California, Berkeley, sugieren que las capacidades de aprendizaje automático están progresando más rápidamente que su capacidad para funcionar de manera confiable con conjuntos de datos nuevos e inesperados. Esto significa que los tecnólogos tienen la responsabilidad de implementar barandillas que hagan que la IA sea más segura.

Nuestro equipo de IA responsable hace esto a diario mediante la creación de conjuntos de datos de calidad y el empleo de tácticas para garantizar que los algoritmos de nuestros productos no perpetúen prejuicios ni estereotipos. Usamos tecnologías internas para evitar que GrammarlyGO interactúe con temas sensibles, mitigando el riesgo de problemas de seguridad.

Parte del desarrollo responsable de IA es reconocer que ningún sistema es perfecto. Es por eso que proporcionamos múltiples mecanismos para que los usuarios informen problemas en nuestros productos y contamos con un proceso operativo riguroso para abordar los problemas de manera rápida y consistente y mejorar nuestros modelos.

Control de usuarios: ayudar a las personas y las empresas a alcanzar su máximo potencial respetando su autonomía

A medida que la asistencia de comunicación impulsada por IA se vuelve más avanzada, no hay forma de reemplazar la voz humana. La comunicación es increíblemente personal, y es vital para nosotros que nuestros clientes siempre mantengan el control y que la tecnología que brindamos ayude a las personas y las empresas a alcanzar su máximo potencial.

Diseñamos GrammarlyGO cuidadosamente para brindar opciones y sugerencias para su consideración, siempre delegando en última instancia al cliente para decidir qué es lo mejor para él. Esto no fue accidental: respetar la autonomía de nuestros usuarios ayuda a garantizar que nuestra tecnología cumpla su propósito de aumentarlos. Con GrammarlyGO, estamos ayudando a las personas a ahorrar tiempo en su escritura diaria, permitiéndoles gastar más de su valiosa energía ideando grandes ideas, desarrollando estrategias creativas y colaborando en el trabajo más impactante en sus organizaciones.

Empatía: Ponerse en el lugar de nuestros clientes para comprender y responder a sus necesidades reales

Creemos que una forma crucial de minimizar los resultados no deseados de las nuevas tecnologías es enfocarse en abordar los desafíos específicos que enfrentan las personas. Buscamos constantemente nuevas tecnologías para profundizar el valor que ofrecemos a nuestros clientes, y esta fue una de las motivaciones para integrar la IA generativa en nuestros productos.

Por ejemplo, GrammarlyGO puede ayudar a las personas a superar el problema de la "página en blanco", algo con lo que el 84 por ciento de los usuarios de Grammarly nos dijeron que querían ayuda. Además, escuchamos de nuestros usuarios que estaban luchando con el volumen de correos electrónicos que recibían y estaban abrumados por la tarea de responder de manera rápida y eficiente. En respuesta a ese problema, creamos una función en GrammarlyGO que permite a las personas responder rápidamente a los correos electrónicos de una manera personalizada y contextualmente relevante.

A medida que introduzcamos nuevos casos de uso en las ofertas de productos de Grammarly, esta intención permanecerá a la vanguardia.

El futuro de la IA está aumentado

Si bien he compartido solo un ejemplo de cómo Grammarly utilizó recientemente el marco TRUE, espero que cualquier persona que desarrolle productos con nuevas tecnologías replique o encuentre inspiración en este enfoque. Estoy seguro de que el futuro de la IA está en la inteligencia aumentada, y me alientan las conversaciones en SXSW y en toda la industria sobre mantener a las personas en el centro de las decisiones de productos.

Quiero vivir en un mundo en el que usemos la IA para mejorar, empoderar a las personas y los equipos para que alcancen su potencial y generen grandes impactos para las empresas, las organizaciones y las industrias. A medida que nos adaptamos y aprendemos como sociedad, marcos como TRUE pueden ayudarnos a hacer realidad ese futuro.

En mi nuevo cargo como director ejecutivo entrante de Grammarly, nuestra promesa de aumentar el número de clientes es tan importante para mí como siempre, y no veo la hora de continuar construyendo sobre este legado a medida que Grammarly ingresa a una nueva era con IA generativa.