Ein Rahmen für die Verantwortung und Rechenschaftspflicht der Industrie im Zeitalter der generativen KI

Letzten Monat, kurz nach der Ankündigung unserer neuen generativen KI-Produktfunktionen, nahm ich an der SXSW-Konferenz in Austin, Texas, teil. Die Energie rund um KI bei SXSW war spürbar und der Appetit auf Gespräche über verantwortungsvolle KI war inspirierend. Ich habe diesen Geist während eines Kamingesprächs zum Thema Verantwortung im Grammarly AI Hub zum Ausdruck gebracht, und das Thema bildete die Grundlage für meinen SXSW-Vortrag „Die Zukunft der KI: Von künstlich zu erweitert“.

Während wir unseren Benutzern und Kunden die generative KI-Unterstützung von Grammarly zur Verfügung stellen, bleibt der verantwortungsvolle Einsatz von KI oberste Priorität. Ich habe zuvor über Grammarlys Ansatz zur erweiterten Intelligenz geschrieben – die Idee, dass KI nur dann erfolgreich ist, wenn sie auf eine Weise eingesetzt wird, die Menschen erweitert und befähigt, ihr Potenzial auszuschöpfen. Augmented Intelligence untermauert unsere Produktentwicklungsphilosophie und bildet die Grundlage für das TRUE-Framework, das ich bei SXSW vorgestellt habe, um zu zeigen, wie das Produktteam von Grammarly alle von uns genutzten Technologien angeht – einschließlich generativer KI.

Verantwortungsvolle KI-Frameworks wie TRUE können die Entwicklung von Produkten leiten, die Menschen in allen Branchen, Technologien und Anwendungsfällen unterstützen. Wenn diese Frameworks in großem Maßstab eingesetzt werden, können wir eine Zukunft schaffen, in der Einzelpersonen und Unternehmen ihr volles Potenzial ausschöpfen, tiefere Verbindungen aufbauen und Ergebnisse erzielen. Ich glaube, dass das TRUE-Framework, das auf vier Grundprinzipien basiert – Vertrauen, Verantwortung, Benutzerkontrolle und Empathie – uns in die Richtung dieser Zukunft führen kann.

Hier sehen Sie, wie wir das TRUE-Framework anwenden, um sicherzustellen, dass unser Einsatz generativer KI unser Versprechen erfüllt, unsere Kunden zu unterstützen und gleichzeitig ihre Autonomie, Privatsphäre und Sicherheit in den Vordergrund zu stellen.

Vertrauen:Sicherheit und Datenschutzstandards und -praktiken stehen an erster Stelle

Das ständige Engagement von Grammarly für Datenschutz und Sicherheit leitet unser TRUE-Framework und ist die Grundlage unseres Geschäftsmodells. Für den Aufbau von Vertrauen ist es von zentraler Bedeutung, unsere Anreize mit denen unserer Kunden in Einklang zu bringen. Wir verdienen Geld mit dem Verkauf von Abonnements – wir verkaufen Kundendaten nicht zu Werbe- oder Schulungszwecken an Dritte. Darüber hinaus anonymisieren und anonymisieren wir Benutzerdaten und bewahren sie nur so lange auf, wie es für die Bereitstellung und Verbesserung unseres Dienstes erforderlich ist.

Wenn es beim Datenschutz darum geht, wie wir die Rechte der Benutzer zur Kontrolle und zum Zugriff auf ihre Daten schützen, geht es bei der Sicherheit darum, wie wir diese Daten schützen. Wir fühlen uns der Sicherheit zutiefst verpflichtet – und mit vierzehnjähriger Investition betrachten wir Sicherheit als unser wichtigstes Produktmerkmal im Herzen unseres Produktökosystems.

Wir arbeiten mit einer sicherheitsorientierten Kultur und halten uns an erstklassige Richtlinien und Praktiken wie Single Sign-On für alle Grammarly Business-Konten, Penetrationstests von Drittanbietern und die Einbindung unserer internen Sicherheitsexperten in unsere Produkt- und Technikteams . Diese Sicherheitsvorkehrungen ermöglichen es uns, Bescheinigungen und Zertifizierungen Dritter zu erhalten. Wir halten diese hohen Standards aufrecht, indem wir neue generative KI-Funktionen in unseren Produkten einsetzen.

Verantwortung: Aufbau und Verbesserung von KI-Systemen, die Voreingenommenheit reduzieren und Gerechtigkeit fördern

Die Ergebnisse eines Prognosewettbewerbs unter der Leitung von Jacob Steinhardt, Professor an der University of California in Berkeley, legen nahe, dass sich die Fähigkeiten des maschinellen Lernens schneller weiterentwickeln als ihre Fähigkeit, mit neuen und unerwarteten Datensätzen zuverlässig zu arbeiten. Das bedeutet, dass Technologen dafür verantwortlich sind, Leitplanken zu implementieren, die die KI sicherer machen.

Unser verantwortliches KI-Team tut dies täglich, indem es hochwertige Datensätze erstellt und Taktiken anwendet, um sicherzustellen, dass die Algorithmen in unseren Produkten keine Voreingenommenheit oder Stereotypen aufrechterhalten. Wir nutzen interne Technologien, um zu verhindern, dass die generative KI von Grammarly mit sensiblen Themen interagiert, und mindern so das Risiko von Sicherheitsbedenken.

Zu einer verantwortungsvollen KI-Entwicklung gehört die Erkenntnis, dass kein System perfekt ist. Aus diesem Grund bieten wir Benutzern mehrere Mechanismen zum Melden von Problemen in unseren Produkten und verfügen über einen strengen betrieblichen Prozess, um Probleme schnell und konsequent anzugehen und unsere Modelle zu verbessern.

Benutzerkontrolle: Wir helfen Menschen und Unternehmen, ihr volles Potenzial auszuschöpfen und gleichzeitig ihre Autonomie zu respektieren

Da die KI-gestützte Kommunikationsunterstützung immer fortschrittlicher wird, gibt es keinen Ersatz mehr für die menschliche Stimme. Kommunikation ist unglaublich persönlich und es ist uns wichtig, dass unsere Kunden stets die Kontrolle behalten und dass die von uns bereitgestellte Technologie Menschen und Unternehmen dabei hilft, ihr höchstes Potenzial auszuschöpfen.

Wir haben die generative KI-Unterstützung von Grammarly sorgfältig entwickelt, um Optionen und Vorschläge zur Überlegung bereitzustellen – und letztendlich immer dem Kunden die Entscheidung überlassen, was für ihn am besten ist. Dies war kein Zufall – der Respekt vor der Autonomie unserer Benutzer trägt dazu bei, dass unsere Technologie ihren Zweck erfüllt, sie zu verbessern. Mit der generativen KI von Grammarly helfen wir Menschen, beim täglichen Schreiben Zeit zu sparen, und befähigen sie, mehr von ihrer wertvollen Energie in die Ausarbeitung großer Ideen, die Entwicklung kreativer Strategien und die Zusammenarbeit an der wirkungsvollsten Arbeit in ihrem Unternehmen zu investieren.

Empathie: Wir schlüpfen in die Lage unserer Kunden, um ihre wahren Bedürfnisse zu verstehen und darauf zu reagieren

Wir glauben, dass ein entscheidender Weg zur Minimierung unbeabsichtigter Folgen neuer Technologien darin besteht, sich auf die Bewältigung der spezifischen Herausforderungen zu konzentrieren, mit denen Menschen konfrontiert sind. Wir sind ständig auf der Suche nach neuen Technologien, um den Mehrwert, den wir unseren Kunden bieten, zu steigern. Dies war einer der Beweggründe für die Integration generativer KI in unsere Produkte.

Beispielsweise kann die generative KI-Unterstützung von Grammarly Menschen dabei helfen, das Problem der „leeren Seiten“ zu überwinden – etwas, bei dem 84 % der Grammarly-Benutzer uns sagten, dass sie Unterstützung wünschen. Darüber hinaus haben wir von unseren Benutzern gehört, dass sie mit der Menge an E-Mails, die sie erhielten, zu kämpfen hatten und von der Aufgabe, schnell und effizient zu antworten, überfordert waren. Als Reaktion auf dieses Problem haben wir generative KI-Funktionen entwickelt, die es Menschen ermöglichen, schnell und kontextrelevant und personalisiert auf E-Mails zu reagieren.

Bei der Einführung neuer Anwendungsfälle in die Produktangebote von Grammarly wird diese Absicht weiterhin im Vordergrund stehen.

Die Zukunft der KI ist erweitert

Obwohl ich nur ein Beispiel dafür gegeben habe, wie Grammarly kürzlich das TRUE-Framework verwendet hat, hoffe ich, dass jeder, der Produkte mit neuen Technologien entwickelt, diesen Ansatz nachahmt oder sich von ihm inspirieren lässt. Ich bin zuversichtlich, dass die Zukunft der KI in der erweiterten Intelligenz liegt – und ich fühle mich durch die Diskussionen bei SXSW und in der gesamten Branche ermutigt, den Menschen in den Mittelpunkt von Produktentscheidungen zu stellen.

Ich möchte in einer Welt leben, in der wir KI nutzen, um uns zu verbessern, indem wir Einzelpersonen und Teams befähigen, ihr Potenzial auszuschöpfen und große Auswirkungen auf Unternehmen, Organisationen und Branchen zu erzielen. Während wir uns als Gesellschaft anpassen und lernen, können Rahmenwerke wie TRUE uns dabei helfen, diese Zukunft Wirklichkeit werden zu lassen.

In meiner neuen Rolle als neuer CEO von Grammarly ist mir unser Versprechen, unsere Kunden zu fördern, so wichtig wie eh und je – und ich kann es kaum erwarten, dieses Erbe weiter auszubauen, während Grammarly mit generativer KI in eine neue Ära eintritt.