SXSW에 대한 성찰: 생성적 AI 시대의 산업 책임 및 책임을 위한 프레임워크

지난 달, 새로운 제너레이티브 AI 제품인 GrammarlyGO를 발표한 직후 저는 텍사스 오스틴에서 열린 SXSW 컨퍼런스에 참석했습니다. SXSW에서 AI에 대한 에너지는 눈에 띄었고 책임 있는 AI에 대한 대화에 대한 욕구는 고무적이었습니다. 저는 The Grammarly AI Hub에서 책임에 대한 노변담화를 하는 동안 이 정신을 전달했으며, 이 주제는 제 SXSW 강연인 "AI의 미래: 인공에서 증강으로"의 근거가 되었습니다.

GrammarlyGO를 사용자와 고객에게 배포하기 시작하면서 책임 있는 AI 배포가 최우선 과제로 남아 있습니다. 저는 이전에 증강 지능에 대한 Grammarly의 접근 방식에 대해 쓴 적이 있습니다. AI는 사람들이 잠재력을 발휘할 수 있도록 증강하고 권한을 부여하는 방식으로 적용될 때만 성공한다는 생각입니다. 증강 지능은 우리의 제품 개발 철학을 뒷받침하고 TRUE 프레임워크를 알려줍니다. 저는 SXSW에서 Grammarly의 제품 팀이 생성 AI를 포함하여 우리가 활용하는 모든 기술에 접근하는 방법을 보여주기 위해 공유했습니다.

TRUE와 같은 책임 있는 AI 프레임워크는 산업, 기술 및 사용 사례 전반에서 사람을 보강하는 제품 개발을 안내할 수 있습니다. 이러한 프레임워크를 대규모로 배포하면 개인과 기업이 잠재력을 최대한 실현하고 더 깊은 연결을 구축하며 결과를 도출하는 미래를 만들 수 있습니다. 저는 신뢰, 책임, 사용자 제어, 공감이라는 네 가지 핵심 원칙을 기반으로 하는 TRUE 프레임워크가 우리를 이러한 미래의 방향으로 이끌 수 있다고 믿습니다.

다음은 제너레이티브 AI의 배포가 고객의 자율성, 개인 정보 보호 및 보안을 우선시하면서 고객을 강화하겠다는 약속을 이행하도록 TRUE 프레임워크를 적용하는 방법을 보여줍니다.

신뢰: 보안 및 개인 정보 보호 표준과 관행을최우선으로

개인 정보 보호 및 보안에 대한 Grammarly의 지속적인 노력은 우리의 TRUE 프레임워크를 이끌고 우리 비즈니스 모델의 기초입니다. 우리의 인센티브를 고객의 인센티브와 일치시키는 것이 신뢰 구축의 핵심입니다. 구독 판매를 통해 수익을 창출합니다. 광고 또는 교육을 위해 제3자에게 고객 데이터를 판매하지 않습니다. 또한 사용자 데이터를 비식별화하고 익명화하여 서비스를 제공하고 개선하는 데 필요한 기간 동안만 보관합니다.

프라이버시가 데이터를 제어하고 액세스할 수 있는 사용자 권한을 보호하는 방법에 관한 것이라면 보안은 해당 데이터를 보호하는 방법에 관한 것입니다. 우리는 보안에 심혈을 기울이고 있으며 14년 간의 투자를 통해 보안을 제품 생태계의 중심에 있는 가장 중요한 제품 기능으로 생각합니다.

우리는 모든 Grammarly Business 계정에 대한 싱글 사인온, 제3자 침투 테스트, 사내 보안 전문가를 제품 및 엔지니어링 팀에 포함시키는 것과 같은 동급 최고의 정책 및 관행을 유지하면서 보안에 집착하는 문화로 운영합니다. . 이러한 보호 장치를 통해 당사는 제3자 증명 및 인증을 획득할 수 있습니다. 우리는 GrammarlyGO와 같은 새로운 혁신을 통해 제품에 생성 AI를 배포하면서 이러한 높은 표준을 유지하고 있습니다.

책임: 편견을 줄이고 공정성을 촉진하는 AI 시스템 구축 및 개선

University of California, Berkeley의 교수인 Jacob Steinhardt가 주도한 예측 경쟁의 결과는 기계 학습 기능이 새롭고 예상치 못한 데이터 세트로 안정적으로 수행하는 능력보다 더 빠르게 발전하고 있음을 시사합니다. 이는 기술자가 AI를 더 안전하게 만드는 가드레일을 구현할 책임이 있음을 의미합니다.

Responsible AI 팀은 품질 데이터 세트를 구축하고 제품의 알고리즘이 편견이나 고정관념을 영속화하지 않도록 전술을 사용하여 매일 이 작업을 수행합니다. 우리는 내부 기술을 사용하여 GrammarlyGO가 민감한 주제와 상호 작용하는 것을 방지하여 안전 문제의 위험을 완화합니다.

책임 있는 AI 개발의 일부는 시스템이 완벽하지 않다는 것을 인식하는 것입니다. 그렇기 때문에 사용자가 제품의 문제를 보고할 수 있는 여러 메커니즘을 제공하고 빠르고 일관되게 문제를 해결하고 모델을 개선하기 위한 엄격한 운영 프로세스를 갖추고 있습니다.

사용자 제어: 사람과 기업이 자율성을 존중하면서 잠재력을 최대한 발휘하도록 돕습니다.

AI 기반 커뮤니케이션 지원이 더욱 발전함에 따라 사람의 목소리를 대체할 수 없습니다. 의사소통은 매우 개인적이며 고객이 항상 통제권을 유지하고 우리가 제공하는 기술이 사람과 기업이 최고의 잠재력을 발휘하도록 돕는 것이 우리에게 매우 중요합니다.

우리는 GrammarlyGO를 신중하게 설계하여 고려해야 할 옵션과 제안을 제공합니다. 궁극적으로 고객에게 가장 적합한 것이 무엇인지 결정하는 것은 항상 고객의 몫입니다. 이는 우연이 아니었습니다. 사용자의 자율성을 존중하면 기술이 사용자를 강화하는 목적을 달성하는 데 도움이 됩니다. GrammarlyGO를 통해 우리는 사람들이 일상적인 글쓰기에 드는 시간을 절약할 수 있도록 돕고, 그들이 귀중한 에너지를 큰 아이디어를 고안하고, 창의적인 전략을 개발하고, 조직 전체에서 가장 영향력 있는 작업에 협력할 수 있도록 합니다.

공감: 고객의 실제 요구 사항을 이해하고 응답하기 위해 고객의 입장에서 걷기

우리는 새로운 기술의 의도하지 않은 결과를 최소화하는 중요한 방법은 사람들이 직면한 특정 문제를 해결하는 데 집중하는 것이라고 믿습니다. 우리는 고객에게 제공하는 가치를 심화하기 위해 지속적으로 새로운 기술을 찾고 있으며, 이것이 제너레이티브 AI를 제품에 통합하게 된 동기 중 하나였습니다.

예를 들어 GrammarlyGO는 사람들이 "빈 페이지" 문제를 극복하도록 도울 수 있습니다. Grammarly 사용자의 84%가 지원을 원한다고 말했습니다. 또한 사용자로부터 받은 이메일의 양 때문에 어려움을 겪고 있으며 신속하고 효율적으로 응답하는 작업에 압도당했다는 소식을 들었습니다. 이러한 문제에 대응하여 우리는 GrammarlyGO에서 사람들이 상황에 맞는 맞춤형 방식으로 이메일에 신속하게 응답할 수 있는 기능을 만들었습니다.

Grammarly의 제품 제공에 새로운 사용 사례를 도입함에 따라 이러한 의도는 계속해서 최전선에 남을 것입니다.

AI의 미래는 증강된다

Grammarly가 최근에 TRUE 프레임워크를 활용한 방법에 대한 한 가지 예를 공유했지만, 새로운 기술로 제품을 개발하는 모든 사람이 이 접근 방식을 복제하거나 영감을 얻을 수 있기를 바랍니다. 저는 AI의 미래가 증강 지능에 있다고 확신합니다. 그리고 제품 결정의 중심에 사람을 두는 것에 대한 SXSW 및 업계 전반의 대화에 고무되었습니다.

저는 AI를 사용하여 우리를 개선하고 개인과 팀이 잠재력을 발휘하고 비즈니스, 조직 및 산업에 큰 영향을 미칠 수 있는 세상에 살고 싶습니다. 우리가 사회로서 적응하고 배우는 동안 TRUE와 같은 프레임워크는 우리가 그 미래를 현실로 만드는 데 도움이 될 수 있습니다.

Grammarly의 차기 CEO로서의 새로운 역할에서 고객을 확대하겠다는 우리의 약속은 그 어느 때보다 중요합니다. Grammarly가 생성 AI로 새로운 시대에 들어서면서 이 유산을 계속해서 구축하고 싶습니다.