생성 AI 시대의 산업적 책임과 의무를 위한 프레임워크

지난달에는 새로운 생성 AI 제품 기능을 발표한 직후 텍사스 오스틴에서 열린 SXSW 컨퍼런스에 참석했습니다. SXSW에서 AI를 둘러싼 에너지는 뚜렷했고 책임감 있는 AI에 대한 대화에 대한 열망은 고무적이었습니다. 나는 The Grammarly AI Hub에서 책임에 관한 노변담화에서 이 정신을 전달했고, 이 주제는 SXSW 강연인 "AI의 미래: 인공에서 증강까지"의 기반이 되었습니다.

Grammarly 의 생성적 AI 지원을 사용자와 고객에게 출시함에 따라 책임 있는 AI 배포가 최우선 과제로 남아 있습니다. 저는 이전에 증강 지능에 대한 Grammarly의 접근 방식에 대해 글을 쓴 적이 있습니다. 즉, AI는 사람들이 잠재력을 발휘할 수 있도록 강화하고 역량을 부여하는 방식으로 적용될 때만 성공할 수 있다는 생각입니다. 증강 지능은 우리의 제품 개발 철학을 뒷받침하고 제가 SXSW에서 공유한 TRUE 프레임워크에 정보를 제공하여 Grammarly의 제품 팀이 생성 AI를 포함하여 우리가 활용하는 모든 기술에 어떻게 접근하는지 보여줍니다.

TRUE와 같은 책임 있는 AI 프레임워크는 산업, 기술 및 사용 사례 전반에 걸쳐 사람들을 강화하는 제품 개발을 안내할 수 있습니다. 이러한 프레임워크가 대규모로 배포되면 개인과 기업이 잠재력을 최대한 실현하고 더 깊은 연결을 구축하며 결과를 이끌어내는 미래를 만들 수 있습니다. 저는 신뢰, 책임, 사용자 제어, 공감이라는 네 가지 핵심 원칙을 기반으로 하는 TRUE 프레임워크가 우리를 미래의 방향으로 이끌 수 있다고 믿습니다.

다음은 생성 AI 배포를 통해 고객의 자율성, 개인 정보 보호 및 보안을 우선시하면서 고객을 강화하겠다는 약속을 이행하기 위해 TRUE 프레임워크를 적용하는 방법을 살펴보겠습니다.

신뢰:보안 및 개인 정보 보호 표준과 관행을최우선으로생각

개인 정보 보호 및 보안에 대한 Grammarly의 지속적인 노력은 당사의 TRUE 프레임워크를 이끌고 비즈니스 모델의 기초입니다. 우리의 인센티브를 고객의 인센티브와 일치시키는 것이 신뢰 구축의 핵심입니다. 우리는 구독 판매를 통해 수익을 창출합니다. 광고나 교육을 위해 고객 데이터를 제3자에게 판매하지 않습니다. 또한 당사는 사용자 데이터를 비식별화하고 익명화하여 서비스 제공 및 향상에 필요한 기간 동안만 데이터를 보관합니다.

개인 정보 보호가 데이터를 제어하고 액세스할 수 있는 사용자 권리를 보호하는 방법에 관한 것이라면 보안은 해당 데이터를 보호하는 방법에 관한 것입니다. 우리는 보안에 전념하고 있으며 14년 동안의 투자를 통해 보안을 제품 생태계의 중심에 있는 가장 중요한 제품 기능으로 생각합니다.

우리는 보안에 중점을 두는 문화를 바탕으로 모든 Grammarly Business 계정에 대한 Single Sign-On, 제3자 침투 테스트, 제품 및 엔지니어링 팀에 사내 보안 전문가를 배치하는 등 동급 최고의 정책과 관행을 유지합니다. . 이러한 보호 장치를 통해 당사는 제3자 증명 및 인증을 획득할 수 있습니다. 우리는 제품에 새로운 생성 AI 기능을 배포하면서 이러한 높은 표준을 유지하고 있습니다.

책임: 편견을 줄이고 공정성을 촉진하는 AI 시스템을 구축하고 개선합니다.

버클리 캘리포니아 대학교 교수인 Jacob Steinhardt가 주도한 예측 경쟁의 결과는 머신 러닝 능력이 새롭고 예상치 못한 데이터 세트를 안정적으로 수행하는 능력보다 더 빠르게 발전하고 있음을 시사합니다. 이는 기술자가 AI를 더욱 안전하게 만드는 가드레일을 구현할 책임이 있음을 의미합니다.

우리의 책임 있는 AI 팀은 품질 데이터 세트를 구축하고 제품의 알고리즘이 편견이나 고정관념을 영속시키지 않도록 하는 전술을 사용하여 이를 매일 수행합니다. 우리는 내부 기술을 사용하여 Grammarly 의 생성 AI가 민감한 주제와 상호 작용하는 것을 방지하여 안전 문제의 위험을 완화합니다.

책임감 있는 AI 개발의 일부는 시스템이 완벽하지 않다는 것을 인식하는 것입니다. 그렇기 때문에 우리는 사용자가 제품의 문제를 보고할 수 있는 다양한 메커니즘을 제공하고, 문제를 신속하고 일관되게 해결하고 모델을 개선하기 위해 엄격한 운영 프로세스를 갖추고 있습니다.

사용자 제어: 사람과 기업이 자율성을 존중하면서 잠재력을 최대한 발휘할 수 있도록 지원합니다.

AI 기반 의사소통 지원이 더욱 발전함에 따라 인간의 목소리를 대체할 수는 없습니다. 의사소통은 매우 개인적이며 고객이 항상 통제권을 유지하고 우리가 제공하는 기술이 사람과 기업이 최고의 잠재력을 발휘하도록 돕는 것이 우리에게 매우 중요합니다.

우리는 고려해야 할 옵션과 제안을 제공하기 위해 Grammarly 의 생성적 AI 지원을 신중하게 설계했으며, 궁극적으로 고객에게 가장 적합한 것이 무엇인지 결정하는 것은 항상 고객의 몫입니다. 이는 우연이 아닙니다. 사용자의 자율성을 존중하면 우리 기술이 사용자 자율성을 강화하는 목적을 달성하는 데 도움이 됩니다. Grammarly 의 생성적 AI를 통해 우리는 사람들이 일상적인 글쓰기에 소요되는 시간을 절약하고 그들이 귀중한 에너지를 더 많이 사용하여 큰 아이디어를 고안하고 창의적인 전략을 개발하며 조직 전체에서 가장 영향력 있는 작업에 공동 작업할 수 있도록 지원합니다.

공감: 고객의 입장에서 생각하여 고객의 실제 요구 사항을 이해하고 대응합니다.

우리는 신기술로 인한 의도하지 않은 결과를 최소화하는 중요한 방법은 사람들이 직면한 특정 문제를 해결하는 데 집중하는 것이라고 믿습니다. 우리는 고객에게 제공하는 가치를 심화하기 위해 끊임없이 새로운 기술을 추구하며, 이것이 생성 AI를 우리 제품에 통합하게 된 동기 중 하나였습니다.

예를 들어 Grammarly 의 생성 AI 지원은 사람들이 "빈 페이지" 문제를 극복하는 데 도움이 될 수 있습니다. Grammarly 사용자의 84%가 지원을 원한다고 말했습니다. 또한, 우리는 사용자들이 받은 이메일의 양으로 인해 어려움을 겪고 있으며 신속하고 효율적으로 응답해야 하는 작업에 압도당하고 있다는 소식을 들었습니다. 이러한 문제점에 대응하여 우리는 사람들이 상황에 맞게 적절하고 개인화된 방식으로 이메일에 신속하게 응답할 수 있도록 하는 생성적 AI 기능을 만들었습니다.

Grammarly의 제품 제공에 새로운 사용 사례를 도입함에 따라 이러한 의도는 최우선적으로 유지될 것입니다.

AI의 미래는 강화된다

저는 Grammarly가 최근에 TRUE 프레임워크를 어떻게 사용했는지에 대한 한 가지 예를 공유했지만, 새로운 기술로 제품을 개발하는 모든 사람이 이 접근 방식을 복제하거나 영감을 얻을 수 있기를 바랍니다. 저는 AI의 미래가 증강 지능에 있다고 확신합니다. 그리고 사람을 제품 결정의 중심에 두는 것에 대한 SXSW와 업계 전반의 대화를 통해 용기를 얻었습니다.

저는 AI를 사용하여 더 나은 삶을 만들고, 개인과 팀이 잠재력을 발휘하고 기업, 조직, 산업에 큰 영향을 미칠 수 있도록 지원하는 세상에 살고 싶습니다. 우리가 사회로서 적응하고 학습함에 따라 TRUE와 같은 프레임워크는 미래를 현실로 만드는 데 도움이 될 수 있습니다.

Grammarly의 차기 CEO라는 새로운 역할에서 고객을 늘리겠다는 약속은 나에게 그 어느 때보다 중요합니다. Grammarly가 생성 AI를 통해 새로운 시대로 진입함에 따라 저는 이 유산을 계속 구축하고 싶습니다.