Klassifizierung im maschinellen Lernen: Was es ist und wie es funktioniert

Die Klassifizierung ist ein Kernkonzept der Datenanalyse und des maschinellen Lernens (ML). Dieser Leitfaden untersucht, was Klassifizierung ist und wie sie funktioniert, erklärt den Unterschied zwischen Klassifizierung und Regression und behandelt Aufgabentypen, Algorithmen, Anwendungen, Vorteile und Herausforderungen.

Inhaltsverzeichnis

• Was ist Klassifizierung?
• Klassifizierung vs. Regression
• Arten von Klassifizierungsaufgaben in ML
• Algorithmen zur Klassifizierungsanalyse
• Anwendungen der Klassifizierung
• Vorteile der Klassifizierung
• Nachteile der Klassifizierung

Was ist Klassifizierung beim maschinellen Lernen?

Die Klassifizierung ist eine überwachte Lerntechnik beim maschinellen Lernen, die die Kategorie (auch Klasse genannt) neuer Datenpunkte basierend auf Eingabemerkmalen vorhersagt. Klassifizierungsalgorithmen verwenden beschriftete Daten, bei denen die richtige Kategorie bekannt ist, um zu lernen, wie Features bestimmten Kategorien zugeordnet werden. Dieser Vorgang wird auch als Kategorisierung oder kategoriale Klassifizierung bezeichnet.

Um eine Klassifizierung durchzuführen, arbeiten Algorithmen in zwei Schlüsselphasen. Während der Trainingsphase lernt der Algorithmus die Beziehung zwischen Eingabedaten und ihren entsprechenden Bezeichnungen oder Kategorien. Nach dem Training tritt das Modell in die Inferenzphase ein, in der es die erlernten Muster verwendet, um neue, unsichtbare Daten in realen Anwendungen zu klassifizieren. Die Effektivität der Klassifizierung hängt weitgehend davon ab, wie diese Phasen gehandhabt werden und von der Qualität der vorverarbeiteten Daten, die während des Trainings verfügbar sind.

Es ist wichtig zu verstehen, wie Klassifizierungsalgorithmen diese Phasen verwalten. Ein wesentlicher Unterschied besteht darin, wie sie das Lernen angehen. Dies führt uns zu zwei unterschiedlichen Strategien, denen Klassifizierungsalgorithmen folgen können: Lazy Learning und Eager Learning.

Faule Lernende vs. eifrige Lernende

Klassifizierungsalgorithmen wenden typischerweise eine von zwei Lernstrategien an: Lazy Learning oder Eager Learning. Diese Ansätze unterscheiden sich grundlegend darin, wie und wann das Modell erstellt wird, was sich auf die Flexibilität, Effizienz und Anwendungsfälle des Algorithmus auswirkt. Während beide darauf abzielen, Daten zu klassifizieren, tun sie dies mit gegensätzlichen Methoden, die für unterschiedliche Arten von Aufgaben und Umgebungen geeignet sind.

Lassen Sie uns die Vorgehensweise fauler und eifriger Lernender untersuchen, um die Stärken und Schwächen jedes Ansatzes besser zu verstehen.

Faule Lernende

Lazy-Learning-Algorithmen, auch als instanzbasierte oder speicherbasierte Lernende bekannt, speichern die Trainingsdaten und verzögern das eigentliche Lernen, bis eine Abfrage klassifiziert werden muss. Wenn einer dieser Algorithmen in Betrieb genommen wird, vergleicht er neue Datenpunkte mithilfe eines Ähnlichkeitsmaßes mit den gespeicherten Instanzen. Die Qualität und Quantität der verfügbaren Daten hat erheblichen Einfluss auf die Genauigkeit des Algorithmus, wobei der Zugriff auf größere Datensätze typischerweise deren Leistung verbessert. Faule Lernende priorisieren häufig aktuelle Daten, was alsAktualitätsbiasbezeichnet wird. Da sie in Echtzeit lernen, können sie bei der Beantwortung von Anfragen langsamer und rechenintensiver sein.

Faule Lernende zeichnen sich in dynamischen Umgebungen aus, in denen Entscheidungen in Echtzeit von entscheidender Bedeutung sind und sich die Daten ständig weiterentwickeln. Diese Algorithmen eignen sich gut für Aufgaben, bei denen ständig neue Informationen einströmen und zwischen den Klassifizierungsaufgaben keine Zeit für umfangreiche Trainingszyklen bleibt.

Begeisterte Lernende

Im Gegensatz dazu verarbeiten Eager-Learning-Algorithmen alle Trainingsdaten im Voraus und erstellen ein Modell, bevor Klassifizierungsaufgaben ausgeführt werden. Diese Vorab-Lernphase ist in der Regel ressourcenintensiver und komplexer und ermöglicht es dem Algorithmus, tiefere Zusammenhänge in den Daten aufzudecken. Nach dem Training benötigen eifrige Lernende keinen Zugriff auf die ursprünglichen Trainingsdaten, was sie während der Vorhersagephase äußerst effizient macht. Sie können Daten schnell klassifizieren und große Mengen an Abfragen mit minimalem Rechenaufwand bearbeiten.

Allerdings sind lernwillige Lernende weniger flexibel bei der Anpassung an neue Echtzeitdaten. Ihr ressourcenintensiver Trainingsprozess begrenzt die Datenmenge, die sie verarbeiten können, was es schwierig macht, neue Informationen zu integrieren, ohne das gesamte Modell neu zu trainieren.

Später in diesem Beitrag werden wir sehen, wie träge und eifrige Algorithmen gleichzeitig für die Gesichtserkennung verwendet werden können.

Klassifizierung vs. Regression: Was ist der Unterschied?

Nachdem wir nun untersucht haben, wie die Klassifizierung funktioniert, ist es wichtig, sie von einer anderen wichtigen überwachten Lerntechnik zu unterscheiden: der Regression.

Sowohl Klassifizierung als auch Regression werden verwendet, um Vorhersagen auf der Grundlage beschrifteter Daten aus der Trainingsphase zu treffen. Sie unterscheiden sich jedoch in der Art der Vorhersagen, die sie generieren.

Klassifizierungsalgorithmensagen diskrete, kategoriale Ergebnisse voraus. In einem E-Mail-Klassifizierungssystem kann eine E-Mail beispielsweise als „Spam“ oder „Ham“ gekennzeichnet werden (wobei sich „Ham“ auf Nicht-Spam-E-Mails bezieht). In ähnlicher Weise könnte ein Wetterklassifizierungsmodell als Antwort auf die Frage „Wird es morgen regnen?“ „Ja“, „Nein“ oder „Vielleicht“ vorhersagen.

Regressionsalgorithmenhingegen sagen kontinuierliche Werte voraus. Anstatt Daten Kategorien zuzuordnen, schätzen Regressionsmodelle numerische Ergebnisse. Beispielsweise könnte in einem E-Mail-System ein Regressionsmodell die Wahrscheinlichkeit (z. B. 70 %) vorhersagen, dass es sich bei einer E-Mail um Spam handelt. Für ein Wettervorhersagemodell könnte es die erwartete Niederschlagsmenge vorhersagen, beispielsweise 2 Zoll Regen.

Obwohl Klassifizierung und Regression unterschiedlichen Zwecken dienen, werden sie manchmal zusammen verwendet. Beispielsweise könnte die Regression Wahrscheinlichkeiten schätzen, die in ein Klassifizierungssystem einfließen, und so die Genauigkeit und Granularität von Vorhersagen verbessern.

Arten von Klassifizierungsaufgaben in ML

Die Klassifizierungsaufgaben variieren und sind jeweils auf bestimmte Datentypen und Herausforderungen zugeschnitten. Abhängig von der Komplexität Ihrer Aufgabe und der Art der Kategorien können Sie unterschiedliche Methoden anwenden: binäre, Multiklassen-, Multilabel- oder unausgeglichene Klassifizierung. Lassen Sie uns im Folgenden näher auf jeden Ansatz eingehen.

Binäre Klassifizierung

Die binäre Klassifizierung ist eine grundlegende Aufgabe, die Daten in zwei Kategorien sortiert, beispielsweise wahr/falsch oder ja/nein. Es wird umfassend erforscht und in Bereichen wie Betrugserkennung, Stimmungsanalyse, medizinische Diagnose und Spam-Filterung eingesetzt. Während sich die binäre Klassifizierung mit zwei Klassen befasst, kann eine komplexere Kategorisierung durch Aufteilen des Problems in mehrere binäre Aufgaben bewältigt werden. Um beispielsweise Daten in „Äpfel“, „Orangen“, „Bananen“ und „Sonstige“ zu klassifizieren, könnten separate binäre Klassifikatoren verwendet werden, um die Antworten „Ist es ein Apfel?“, „Ist es eine Orange?“ und „Ist es ein Apfel?“ zu beantworten. Ist es eine Banane?“

Klassifizierung mehrerer Klassen

Die Multiklassenklassifizierung, auch Multinomialklassifizierung genannt, ist für Aufgaben konzipiert, bei denen Daten in drei oder mehr Kategorien klassifiziert werden. Im Gegensatz zu Modellen, die das Problem in mehrere binäre Klassifizierungsaufgaben zerlegen, sind Mehrklassenalgorithmen darauf ausgelegt, solche Szenarien effizienter zu bewältigen. Diese Algorithmen sind in der Regel komplexer, erfordern größere Datensätze und sind ressourcenintensiver in der Einrichtung als binäre Systeme, bieten aber nach der Implementierung oft eine bessere Leistung.

Multilabel-Klassifizierung

Die Multilabel-Klassifizierung, auch bekannt als Multi-Output-Klassifizierung, weist einem bestimmten Datenelement mehr als ein Label zu. Sie wird oft mit der Klassifizierung mehrerer Klassen verwechselt, bei der jeder Instanz nur eine Bezeichnung aus mehreren Kategorien zugewiesen wird.

Um den Unterschied zu verdeutlichen: Ein binärer Klassifizierungsalgorithmus könnte Bilder in zwei Kategorien sortieren – Bilder mit Früchten und Bilder ohne Früchte. Ein Mehrklassensystem könnte die Fruchtbilder dann in bestimmte Kategorien wie Bananen, Äpfel oder Orangen einteilen. Die Multilabel-Klassifizierung hingegen würde die Zuweisung mehrerer Labels zu einem einzelnen Bild ermöglichen. Beispielsweise könnte ein einzelnes Bild sowohl als „Frucht“ als auch als „Banane“ klassifiziert werden und die Frucht könnte auch als „reif“ oder „nicht reif“ gekennzeichnet werden. Dies ermöglicht es dem System, mehrere unabhängige Merkmale gleichzeitig zu berücksichtigen, wie zum Beispiel („keine Frucht“, „keine Banane“, „nichts ist reif“), („Frucht“, „Banane“, „reif“ oder („Frucht, „Banane“, „nichts ist reif“).

Unausgewogene Klassifizierung

Häufig spiegeln die für das Training verfügbaren Daten nicht die tatsächliche Datenverteilung wider. Beispielsweise könnte ein Algorithmus während des Trainings nur Zugriff auf die Daten von 100 Benutzern haben, wobei 50 % von ihnen einen Kauf tätigen (während in Wirklichkeit nur 10 % der Benutzer einen Kauf tätigen). Unausgeglichene Klassifizierungsalgorithmen lösen dieses Problem während des Lernens, indem sie Techniken der Überabtastung (Wiederverwendung einiger Teile der Trainingsdaten) und der Unterabtastung (Unterverwendung einiger Teile der Trainingsdaten) verwenden. Dadurch lernt der Lernalgorithmus, dass eine Teilmenge der Daten in der Realität viel häufiger oder seltener vorkommt als in den Trainingsdaten. Bei diesen Techniken handelt es sich in der Regel um eine Art Trainingsoptimierung, da sie es dem System ermöglichen, aus deutlich weniger Daten zu lernen, als es sonst für das Lernen erforderlich wäre.

Manchmal ist es schwierig oder zeitaufwändig, genügend Daten zu sammeln, um die Realität widerzuspiegeln, und diese Art der Optimierung kann dazu führen, dass Modelle schneller trainiert werden können. In anderen Fällen ist die Datenmenge so groß, dass das Training der Klassifizierungsalgorithmen zu lange dauert und unausgeglichene Algorithmen es trotzdem ermöglichen, sie zu trainieren.

Algorithmen zur Klassifizierungsanalyse

Klassifizierungsalgorithmen sind gut erforscht und es hat sich nicht herausgestellt, dass eine einzelne Klassifizierungsform universell für alle Situationen geeignet ist. Daher gibt es große Toolkits bekannter Klassifizierungsalgorithmen. Im Folgenden beschreiben wir einige der häufigsten.

Lineare Prädiktoren

Lineare Prädiktoren beziehen sich auf Algorithmen, die Ergebnisse basierend auf linearen Kombinationen von Eingabemerkmalen vorhersagen. Diese Methoden werden häufig bei Klassifizierungsaufgaben eingesetzt, da sie unkompliziert und effektiv sind.

Logistische Regression

Die logistische Regression ist einer der am häufigsten verwendeten linearen Prädiktoren, insbesondere bei der binären Klassifizierung. Es berechnet die Wahrscheinlichkeit eines Ergebnisses basierend auf beobachteten Variablen mithilfe einer logistischen (oder Sigmoid-)Funktion. Die Klasse mit der höchsten Wahrscheinlichkeit wird als vorhergesagtes Ergebnis ausgewählt, sofern sie einen Konfidenzschwellenwert überschreitet. Wenn kein Ergebnis diesen Schwellenwert erreicht, kann das Ergebnis als „unsicher“ oder „unentschlossen“ markiert werden.

Lineare Regression

Die lineare Regression wird normalerweise für Regressionsanwendungsfälle verwendet und gibt kontinuierliche Werte aus. Werte können jedoch für die Klassifizierung umfunktioniert werden, indem Filter oder Karten hinzugefügt werden, um ihre Ausgaben in Klassen umzuwandeln. Wenn Sie beispielsweise bereits ein lineares Regressionsmodell trainiert haben, das Regenmengenvorhersagen ausgibt, kann dasselbe Modell durch willkürliches Festlegen eines Schwellenwerts zu einem binären Klassifikator „Regentag“/„Nicht-Regentag“ werden. Standardmäßig wird beim Konvertieren von Modellen in binäre Klassifikatoren nur das Vorzeichen des Regressionsergebnisses verwendet (0 und positive Zahlen werden der Antwort „Ja“ oder „+1“ zugeordnet, negative Zahlen der Antwort „Nein“ oder „-). 1“). Karten können jedoch komplexer und auf den Anwendungsfall abgestimmt sein. Beispielsweise könnten Sie entscheiden, dass jede Vorhersage über fünf ml Regen als „Regentag“ betrachtet wird und alles, was darunter liegt, das Gegenteil vorhersagt.

Diskriminanzanalyse

Die lineare Diskriminanzanalyse (LDA) ist ein weiterer wichtiger linearer Prädiktor für die Klassifizierung. LDA funktioniert, indem es lineare Kombinationen von Merkmalen findet, die verschiedene Klassen am besten trennen. Dabei wird davon ausgegangen, dass die Beobachtungen unabhängig und normalverteilt sind. Während LDA häufig zur Dimensionsreduktion eingesetzt wird, ist es auch ein leistungsstarkes Klassifizierungstool, das Beobachtungen mithilfe von Diskriminanzfunktionen Klassen zuordnet – Funktionen, die die Unterschiede zwischen Klassen messen.

Bayesianische Klassifikation

Bayesianische Klassifizierungsalgorithmen verwenden den Satz von Bayes, um die A-posteriori-Wahrscheinlichkeit jeder Klasse anhand der beobachteten Daten zu berechnen. Diese Algorithmen gehen von bestimmten statistischen Eigenschaften der Daten aus und ihre Leistung hängt davon ab, wie gut diese Annahmen zutreffen. Naive Bayes geht beispielsweise davon aus, dass Merkmale angesichts der Klasse bedingt unabhängig sind.

k-NN-Klassifizierung

Der k-Nearest Neighbor (k-NN)-Algorithmus ist eine weitere weit verbreitete Klassifizierungsmethode. Obwohl es sowohl auf Regressions- als auch auf Klassifizierungsaufgaben angewendet werden kann, wird es am häufigsten für die Klassifizierung verwendet. Der Algorithmus weist einem neuen Datenpunkt eine Klasse zu, basierend auf den Klassen seiner k nächsten Nachbarn (wobei k eine Variable ist), und verwendet eine Abstandsberechnung, um die Nähe zu bestimmen. Der k-NN-Algorithmus ist einfach, effizient und effektiv, wenn die Daten eine lokale Struktur aufweisen. Seine Leistung hängt von der Auswahl einer geeigneten Distanzmetrik und der Sicherstellung ab, dass die Daten lokale Muster aufweisen, die bei der Klassifizierung hilfreich sein können

Entscheidungsbäume und Zufallswälder

Entscheidungsbäume sind ein beliebter Algorithmus für Klassifizierungsaufgaben. Sie funktionieren, indem sie die Daten rekursiv auf Grundlage von Merkmalswerten aufteilen, um eine Entscheidung darüber zu treffen, zu welcher Klasse eine bestimmte Beobachtung gehört. Allerdings tendieren Entscheidungsbäume dazu, die Trainingsdaten zu stark anzupassen, was zu Rauschen und hoher Varianz führt. Diese Überanpassung führt zu einer schlechten Generalisierung auf neue Daten.

Um eine Überanpassung abzumildern, werden zufällige Wälder als Ensemble-Methode verwendet. Ein Zufallswald trainiert mehrere Entscheidungsbäume parallel auf zufälligen Teilmengen der Daten, und jeder Baum trifft seine eigene Vorhersage. Die endgültige Vorhersage erfolgt durch die Aggregation der Vorhersagen aller Bäume, typischerweise durch Mehrheitsentscheidung. Dieser Prozess, der als „Bagging“ (ein verkürztes Wort für Bootstrap-Aggregation) bekannt ist, verringert die Varianz und verbessert die Fähigkeit des Modells, auf unsichtbare Daten zu verallgemeinern. Zufällige Wälder können Bias und Varianz wirksam ausgleichen, was sie zu einem robusten Standardalgorithmus für Klassifizierungsaufgaben macht.

Anwendungen der Klassifizierung

Klassifizierungsalgorithmen werden in verschiedenen Bereichen häufig verwendet, um reale Probleme durch Kategorisierung von Daten in vordefinierte Gruppen zu lösen. Im Folgenden sind einige gängige Anwendungen der Klassifizierung aufgeführt, darunter Gesichtserkennung, Dokumentenklassifizierung und Vorhersage des Kundenverhaltens.

Gesichtserkennung

Gesichtserkennungssysteme gleichen ein Gesicht in einem Video oder Foto in Echtzeit mit einer Datenbank bekannter Gesichter ab. Sie werden häufig zur Authentifizierung verwendet.

Ein Telefon-Entsperrsystem würde beispielsweise zunächst ein Gesichtserkennungssystem verwenden, das alle paar Sekunden Bilder mit niedriger Auflösung von der auf das Gesicht gerichteten Kamera aufnimmt und dann ableitet, ob sich ein Gesicht im Bild befindet. Das Gesichtserkennungssystem könnte ein gut trainierter, eifriger binärer Klassifikator sein, der die Frage „Ist ein Gesicht vorhanden oder nicht?“ beantwortet.

Ein fauler Klassifikator würde dem eifrigen „Gibt es ein Gesicht?“ folgen. Klassifikator. Es würde alle Fotos und Selfies des Telefonbesitzers verwenden, um eine separate binäre Klassifizierungsaufgabe zu implementieren und die Frage zu beantworten: „Gehört dieses Gesicht einer Person, die das Telefon entsperren darf?“ Wenn die Antwort „Ja“ lautet, wird das Telefon entsperrt. Wenn die Antwort Nein lautet, wird dies nicht der Fall sein.

Dokumentenklassifizierung

Die Klassifizierung von Dokumenten ist ein entscheidender Bestandteil moderner Datenverwaltungsstrategien. ML-basierte Klassifikatoren katalogisieren und klassifizieren eine große Anzahl gespeicherter Dokumente und unterstützen so Indexierungs- und Suchbemühungen, die die Dokumente und ihre Inhalte nützlicher machen.

Die Dokumentenklassifizierungsarbeit beginnt mit der Vorverarbeitung der Dokumente. Ihre Inhalte werden analysiert und in numerische Darstellungen umgewandelt (da Zahlen leichter zu verarbeiten sind). Wichtige Dokumentmerkmale wie mathematische Gleichungen, eingebettete Bilder und die Sprache des Dokuments werden aus den Dokumenten extrahiert und hervorgehoben, damit die ML-Algorithmen sie lernen können. Darauf folgen weitere ähnliche Verarbeitungsaufgaben im gleichen Sinne.

Eine Teilmenge der Dokumente wird dann von Menschen manuell klassifiziert, um einen Trainingsdatensatz für Klassifizierungssysteme zu erstellen. Nach dem Training katalogisiert und klassifiziert ein Klassifikator alle eingehenden Dokumente schnell und in großem Umfang. Wenn Klassifizierungsfehler festgestellt werden, können manuelle Korrekturen in die Schulungsmaterialien für das ML-System eingefügt werden. Von Zeit zu Zeit kann das Klassifikatormodell mit den hinzugefügten Korrekturen neu trainiert werden und seine Leistung wird verbessert.

Vorhersage des Kundenverhaltens

Online-Handel und E-Commerce-Shops sammeln feingranulare und detaillierte Informationen über das Verhalten ihrer Kunden. Diese Informationen können zur Kategorisierung neuer Kunden und zur Beantwortung von Fragen wie „Wird dieser neue Kunde wahrscheinlich einen Kauf tätigen?“ verwendet werden. und „Wird das Anbieten eines Rabatts von 25 % das Kaufverhalten dieses Kunden beeinflussen?“

Der Klassifikator wird anhand von Daten früherer Kunden und deren eventuellem Verhalten trainiert, beispielsweise ob sie einen Kauf getätigt haben. Wenn neue Kunden mit der Plattform interagieren, kann das Modell vorhersagen, ob und wann sie einen Kauf tätigen werden. Es kann auch eine Was-wäre-wenn-Analyse durchführen, um Fragen zu beantworten wie „Wenn ich diesem Benutzer einen Rabatt von 25 % anbiete, wird er dann einen Kauf tätigen?“

Vorteile der Klassifizierung

Die Klassifizierung bietet im Bereich des maschinellen Lernens mehrere Vorteile und ist daher ein weit verbreiteter Ansatz zur Lösung von Datenkategorisierungsproblemen. Im Folgenden untersuchen wir einige der wichtigsten Vorteile der Klassifizierung, einschließlich ihrer Reife, Flexibilität und Fähigkeit, eine für Menschen lesbare Ausgabe bereitzustellen.

Gut studiert und verstanden

Die Klassifizierung ist eines der am besten untersuchten und verstandenen Probleme im Bereich des maschinellen Lernens. Daher stehen für Klassifizierungsaufgaben viele ausgereifte Toolkits zur Verfügung, die es Benutzern ermöglichen, Kompromisse zwischen Geschwindigkeit, Effizienz, Ressourcennutzung und Datenqualitätsanforderungen abzuwägen.

Zur Bewertung der Leistung eines Klassifikators stehen Standardtechniken wie Genauigkeits-, Präzisions-, Rückruf- und Verwirrungsmatrizen zur Verfügung. Mit diesen Tools kann es relativ einfach sein, das am besten geeignete Klassifizierungssystem für ein bestimmtes Problem auszuwählen, seine Leistung zu bewerten und es im Laufe der Zeit zu verbessern.

Stellen Sie eine für Menschen lesbare Ausgabe bereit

Klassifikatoren ermöglichen häufig einen Kompromiss zwischen Vorhersagekraft und menschlicher Lesbarkeit. Einfachere, besser interpretierbare Modelle wie Entscheidungsbäume oder logistische Regression können optimiert werden, um ihr Verhalten leichter verständlich zu machen. Mithilfe dieser interpretierbaren Modelle können Dateneigenschaften untersucht werden, sodass menschliche Benutzer Einblicke in die Daten gewinnen können. Solche Erkenntnisse können dann als Leitfaden für die Entwicklung komplexerer und genauerer Modelle für maschinelles Lernen dienen.

Nachteile der Klassifizierung

Obwohl die Klassifizierung ein leistungsstarkes Werkzeug beim maschinellen Lernen ist, bringt sie bestimmte Herausforderungen und Einschränkungen mit sich. Im Folgenden diskutieren wir einige der wichtigsten Nachteile der Klassifizierung, darunter Überanpassung, Unteranpassung und die Notwendigkeit einer umfassenden Vorverarbeitung der Trainingsdaten.

Überanpassung

Beim Training von Klassifizierungsmodellen ist es wichtig, den Trainingsprozess zu optimieren, um die Wahrscheinlichkeit einer Überanpassung des Modells an seine Daten zu verringern. Überanpassung ist ein Problem, bei dem ein Modell einige oder alle seiner Quelldaten speichert, anstatt ein abstraktes Verständnis der Beziehungen in den Daten zu entwickeln. Ein Modell, das die Trainingsdaten überangepasst hat, funktioniert gut, wenn es neue Daten sieht, die den Daten, auf denen es trainiert wurde, sehr ähnlich sind, aber im Allgemeinen funktioniert es möglicherweise nicht so gut.

Unteranpassung

Die Leistung von Klassifizierungssystemen hängt davon ab, dass ausreichende Mengen an Trainingsdaten verfügbar sind und dass sie auf Probleme angewendet werden, die für die ausgewählten Klassifizierungsalgorithmen gut funktionieren. Wenn nicht genügend Trainingsdaten verfügbar sind oder ein bestimmter Klassifizierungsalgorithmus nicht über die richtigen Tools zur korrekten Interpretation der Daten verfügt, lernt das trainierte Modell möglicherweise nie, gute Vorhersagen zu treffen. Dieses Phänomen wird als „Unteranpassung“ bezeichnet. Es stehen viele Techniken zur Verfügung, um eine Unteranpassung zu verringern, und ihre korrekte Anwendung ist nicht immer einfach.

Vorverarbeitung von Trainingsdaten

Viele Klassifizierungssysteme stellen relativ strenge Anforderungen an die Datenstruktur und -formatierung. Ihre Leistung hängt oft eng damit zusammen, wie gut die Daten verarbeitet wurden, bevor sie ihnen ausgesetzt oder darauf trainiert wurden. Daher können Klassifizierungssysteme starr und unflexibel sein und strenge Grenzen dafür haben, für welche Probleme und Datenkontexte sie am besten geeignet sind.