Überlegungen zu SXSW: Ein Rahmenwerk für die Verantwortung und Rechenschaftspflicht der Industrie im Zeitalter der generativen KI

Letzten Monat, kurz nach der Ankündigung unseres neuen generativen KI-Produkts GrammarlyGO, nahm ich an der SXSW-Konferenz in Austin, Texas, teil. Die Energie rund um KI bei SXSW war spürbar und der Appetit auf Gespräche über verantwortungsvolle KI war inspirierend. Ich habe diesen Geist während eines Kamingesprächs über Verantwortung im The Grammarly AI Hub kanalisiert, und das Thema bildete die Grundlage für meinen SXSW-Vortrag „The Future of AI: From Artificial to Augmented“.

Während wir mit der Einführung von GrammarlyGO für unsere Benutzer und Kunden beginnen, bleibt der verantwortungsbewusste Einsatz von KI an erster Stelle. Ich habe bereits über Grammarlys Herangehensweise an Augmented Intelligence geschrieben – die Idee, dass KI nur dann erfolgreich ist, wenn sie auf eine Weise angewendet wird, die Menschen erweitert und befähigt, ihr Potenzial auszuschöpfen. Augmented Intelligence untermauert unsere Produktentwicklungsphilosophie und informiert das TRUE-Framework, das ich auf der SXSW geteilt habe, um zu demonstrieren, wie das Produktteam von Grammarly alle Technologien angeht, die wir nutzen – einschließlich der generativen KI.

Verantwortliche KI-Frameworks wie TRUE können die Entwicklung von Produkten leiten, die Menschen über Branchen, Technologien und Anwendungsfälle hinweg erweitern. Wenn diese Frameworks in großem Umfang bereitgestellt werden, können wir eine Zukunft schaffen, in der Einzelpersonen und Unternehmen ihr volles Potenzial ausschöpfen, tiefere Verbindungen aufbauen und Ergebnisse vorantreiben. Ich glaube, dass das TRUE-Framework, das auf vier Kernprinzipien verankert ist – Vertrauen, Verantwortung, Benutzerkontrolle und Empathie – uns in Richtung dieser Zukunft führen kann.

Hier ist ein Blick darauf, wie wir das TRUE-Framework anwenden, um sicherzustellen, dass unser Einsatz von generativer KI unser Versprechen erfüllt, unsere Kunden zu erweitern und gleichzeitig ihre Autonomie, Privatsphäre und Sicherheit zu priorisieren.

Vertrauen: Sicherheits- und Datenschutzstandards und -praktikenan erste Stelle setzen

Das beständige Engagement von Grammarly für Datenschutz und Sicherheit leitet unser TRUE-Framework und ist die Grundlage unseres Geschäftsmodells. Die Abstimmung unserer Anreize mit denen unserer Kunden ist der Kern des Vertrauensaufbaus. Wir verdienen Geld durch den Verkauf von Abonnements – wir verkaufen keine Kundendaten an Dritte für Werbung oder Schulungen. Darüber hinaus anonymisieren und anonymisieren wir Benutzerdaten und bewahren sie nur so lange auf, wie dies für die Bereitstellung und Verbesserung unseres Dienstes erforderlich ist.

Wenn es beim Datenschutz darum geht, wie wir die Rechte der Benutzer zur Kontrolle und zum Zugriff auf ihre Daten schützen, dreht sich bei der Sicherheit alles darum, wie wir diese Daten schützen. Wir fühlen uns der Sicherheit zutiefst verpflichtet – und mit 14 Jahren Investitionen sehen wir Sicherheit als unser wichtigstes Produktmerkmal im Herzen unseres Produktökosystems.

Wir arbeiten mit einer sicherheitsorientierten Kultur, indem wir erstklassige Richtlinien und Praktiken wie Single Sign-On für alle Grammarly Business-Konten, Penetrationstests von Drittanbietern und die Einbettung unserer internen Sicherheitsexperten in unsere Produkt- und Entwicklungsteams einhalten . Diese Sicherheitsvorkehrungen ermöglichen es uns, Bestätigungen und Zertifizierungen Dritter zu erhalten. Wir halten diese hohen Standards aufrecht, während wir durch neue Innovationen wie GrammarlyGO generative KI in unseren Produkten einsetzen.

Verantwortung: Aufbau und Verbesserung von KI-Systemen, die Vorurteile reduzieren und Fairness fördern

Die Ergebnisse eines Prognosewettbewerbs unter der Leitung von Jacob Steinhardt, Professor an der University of California, Berkeley, deuten darauf hin, dass die Fähigkeiten des maschinellen Lernens schneller voranschreiten als ihre Fähigkeit, mit neuen und unerwarteten Datensätzen zuverlässig zu arbeiten. Das bedeutet, dass Technologen in der Verantwortung stehen, Leitplanken zu implementieren, die KI sicherer machen.

Unser Responsible AI-Team tut dies täglich, indem es hochwertige Datensätze erstellt und Taktiken anwendet, um sicherzustellen, dass die Algorithmen in unseren Produkten keine Vorurteile oder Stereotypen aufrechterhalten. Wir verwenden interne Technologien, um zu verhindern, dass GrammarlyGO mit sensiblen Themen interagiert, wodurch das Risiko von Sicherheitsbedenken verringert wird.

Ein Teil der verantwortungsvollen KI-Entwicklung ist die Erkenntnis, dass kein System perfekt ist. Aus diesem Grund stellen wir Benutzern mehrere Mechanismen zur Verfügung, um Probleme in unseren Produkten zu melden, und verfügen über einen strengen Betriebsprozess, um Probleme schnell und konsequent anzugehen und unsere Modelle zu verbessern.

Benutzerkontrolle: Menschen und Unternehmen dabei helfen, ihr volles Potenzial auszuschöpfen und gleichzeitig ihre Autonomie zu respektieren

Da die KI-gestützte Kommunikationsunterstützung immer fortschrittlicher wird, gibt es keinen Ersatz für die menschliche Stimme. Kommunikation ist unglaublich persönlich, und es ist uns wichtig, dass unsere Kunden immer die Kontrolle behalten und dass die von uns bereitgestellte Technologie Menschen und Unternehmen hilft, ihr höchstes Potenzial auszuschöpfen.

Wir haben GrammarlyGO sorgfältig entworfen, um Optionen und Vorschläge zur Überlegung bereitzustellen – wobei wir letztendlich immer dem Kunden überlassen, zu entscheiden, was für ihn am besten ist. Dies war kein Zufall – die Autonomie unserer Benutzer zu respektieren hilft sicherzustellen, dass unsere Technologie ihren Zweck erfüllt, sie zu erweitern. Mit GrammarlyGO helfen wir Menschen, beim täglichen Schreiben Zeit zu sparen, und geben ihnen die Möglichkeit, mehr ihrer wertvollen Energie darauf zu verwenden, große Ideen zu entwickeln, kreative Strategien zu entwickeln und an der wirkungsvollsten Arbeit in ihren Organisationen zusammenzuarbeiten.

Empathie: In die Schuhe unserer Kunden schlüpfen, um ihre wahren Bedürfnisse zu verstehen und darauf einzugehen

Wir glauben, dass ein entscheidender Weg zur Minimierung unbeabsichtigter Folgen neuer Technologien darin besteht, sich auf die spezifischen Herausforderungen zu konzentrieren, mit denen Menschen konfrontiert sind. Wir sind ständig auf der Suche nach neuen Technologien, um den Wert, den wir unseren Kunden bieten, zu vertiefen, und dies war eine Motivation für die Integration generativer KI in unsere Produkte.

Zum Beispiel kann GrammarlyGO Menschen helfen, das Problem der „leeren Seite“ zu überwinden – etwas, bei dem 84 Prozent der Grammarly-Benutzer uns gesagt haben, dass sie Unterstützung wünschen. Darüber hinaus haben wir von unseren Benutzern gehört, dass sie mit der Menge der E-Mails zu kämpfen hatten, die sie erhielten, und von der Aufgabe, schnell und effizient zu antworten, überfordert waren. Als Antwort auf diesen Schmerzpunkt haben wir in GrammarlyGO eine Funktion entwickelt, die es Menschen ermöglicht, schnell auf E-Mails auf kontextbezogene und personalisierte Weise zu antworten.

Wenn wir neue Anwendungsfälle in das Produktangebot von Grammarly einführen, wird diese Absicht weiterhin im Vordergrund stehen.

Die Zukunft der KI wird erweitert

Obwohl ich nur ein Beispiel dafür gegeben habe, wie Grammarly kürzlich das TRUE-Framework verwendet hat, hoffe ich, dass jeder, der Produkte mit neuen Technologien entwickelt, diesen Ansatz repliziert oder sich von ihm inspirieren lässt. Ich bin zuversichtlich, dass die Zukunft der KI in der erweiterten Intelligenz liegt – und ich bin ermutigt von den Gesprächen bei SXSW und in der gesamten Branche darüber, den Menschen in den Mittelpunkt von Produktentscheidungen zu stellen.

Ich möchte in einer Welt leben, in der wir KI nutzen, um uns zu verbessern, Einzelpersonen und Teams zu befähigen, ihr Potenzial auszuschöpfen und große Auswirkungen auf Unternehmen, Organisationen und Branchen zu erzielen. Während wir uns als Gesellschaft anpassen und lernen, können Frameworks wie TRUE uns helfen, diese Zukunft Wirklichkeit werden zu lassen.

In meiner neuen Rolle als neuer CEO von Grammarly ist mir unser Versprechen, unsere Kunden zu erweitern, so wichtig wie eh und je – und ich kann es kaum erwarten, weiter auf diesem Erbe aufzubauen, wenn Grammarly mit generativer KI in eine neue Ära eintritt.