Induction and Fuzzification of Classification Rules

Vorschau

Inhaltsverzeichnis, Datei (47 KB)
Leseprobe, Datei (110 KB)

Die Fähigkeit neue Dinge zu erlernen ist eine der Haupteigenschaften in-
telligenten Verhaltens. Dies ermöglicht uns Menschen Muster zu erkennen
und gemäß diesen zu verallgemeinern. Wir lernen das Fahrradfahren, das
Klavierspielen, eine Fremdsprache zu beherrschen und vieles mehr. Sobald
aber der Umfang der Informationen überhand nimmt, sind wir nicht mehr in
der Lage die Muster zu finden. An dieser Stelle kommen Computer ins Spiel.
Sie sind vielleicht noch nicht in der Lage die oben genannten Beispiele zu
erlernen, aber dafür können sie mit vielen Zahlen umgehen. Tatsächlich gibt
es spezielle Lernaufgaben, die ein Computer sehr effektiv handhaben kann.
Die Disziplin, in der solche intelligente Algorithmen gesucht werden, heißt
‚Maschinelles Lernen‘. Eine anspruchsvolle Aufgabe aus diesem Bereich ist
das überwachte Lernproblem des Klassifizierens: Hierbei soll aus zu unter-
schiedlichen Klassen zugeordneten Beispielen ein generalisierendes Schema
abgeleitet werden, mit dem die Klassifikation neuer Beispiele möglich wird.
Da diese Aufgabenstellung sehr allgemein gehalten ist, kann jedes entsprech-
ende Problem mit einem Klassifikationsalgorithmus gelöst werden, beispiel-
sweise das Diagnostizieren einer Krankheit, das Vorhersagen ob Schulden
nicht beglichen werden oder die Erkennung handgeschriebener Ziffern. Für
diese Art von Vorhersage wurden verschiedene Algorithmen entworfen.
Ein klassischer Ansatz, dieses Problem zu lösen, ist der Einsatz von Klassi-
fikationsregeln. Diese bestehen aus zwei Teilen: Der Antezedens als kondi-
tionellem Ausdruck und der Konsequenz als Klassenzuweisung. Während für
eine konventionelle Klassifikationsregel die Antezedens aus Bedingungen an
die Attribute besteht, enthält die Antezedens einer unscharfen Fuzzy-Klas-
sifikationsregel linguistisch interpretierbare Fuzzy-Mengen. Letztere werden
mit Hilfe von fuzzy-logischen Operatoren verknüpft. Der Kern der regel-
basierten Ansätze ist das verständliche Schlussfolgern. Dies ist eine un-
schätzbare Eigenschaft, wenn ein menschlicher Experte der Vorhersage ver-
trauen muss. Er kann einschreiten, wenn die Schlüsse nicht sinnvoll sind. Dies
gilt ganz besonders für die linguistischen Fuzzy-Regelklassifizierer, welche als
besonders interpretierbar und verständlich gelten. Die Entwicklung von kon-
ventionellen und unscharfen Regellernern verlief bisher jedoch unabhängig
voneinander. Während die Unterscheidungsfähigkeit im Fokus für die konven-
tionellen stand, war die Interpretierbarkeit die bedeutendste Design-Maxime
für die linguistischen Ansätze.
iv
Der Zweck dieser Dissertation ist das Vereinen der wissenschaftlichen Felder
des konventionellen und unscharfen Regellernens. Um dieses Ziel zu erre-
ichen, wird das beste beider Felder in drei neuen Algorithmen kombiniert.
Zwei davon — der FURIA- und der FR3-Algorithmus — kombinieren neue
Fuzzy-Methoden mit einer erweiterten Variante des ursprünglichen RIPPER-
Regellerners. Der dritte, der HELLFIRE-Algorithmus, ist ein neuer linguis-
tischer Fuzzy-Regellerner. Er lernt die Regeln mit Hilfe eines neuen Dis-
kretisierungssystems und Grenzaufweichungsverfahrens.
Der FURIA-Algorithmus ist in der Lage, gut klassifizierende Fuzzy-Regel-
sätze effizient zu lernen. Die Hauptbeiträge von FURIA sind (A) eine neue
datengetriebene Technik um Regelgrenzen aufzuweichen, was zu besseren
Entscheidungen in Grenzregionen führt und (B) eine neue effiziente Meth-
ode, die Regeln zu dehnen, wenn die zu klassifizierende Instanz von keiner
Regel überdeckt wird. Der FR3-Klassifizierer baut auf FURIA auf, aber
hat die Fähigkeit, verschiedene Arten von Unsicherheiten zu unterscheiden.
Für jede zu klassifizierende Instanz erzeugt er anhand der Überdeckungs-
grade eine Fuzzy-Präferenzstruktur, die zwischen Konflikt und Ignoranz —
als Ausprägungen von Unsicherheit — unterscheiden kann. Als Ergänzung
zu diesen Verfahren erzeugt der HELLFIRE-Algorithmus linguistische Fuzzy-
Regel-Modelle. Dies geschieht anhand einer innovativen Strategie, die sowohl
eine Diskretisierung als auch Regeln gleichzeitig lernt. Das Produkt sind kon-
ventionelle, rasterbasierte Regeln, die mit einem Verfahren — ähnlich denen
von FURIA und FR3 — fuzzyfiziert gemacht werden. Der Hintergrund aller
drei Fuzzyfizierungsstrategien ist es Regelüberlappungsgrade zu bestimmen,
die mit der Sicherheit der Regel übereinstimmen.
Die neuen Fuzzifieriungstechniken verbessern die Vorhersagegüte der bisher
konventionellen Klassifizierer. Dies liegt an den weichen Regelgrenzen, die
flexibler und zuverlässiger sind. Alle drei Algorithmen sind — in Bezug
auf Klassifikationsgüte und Rangordnungsgüte — ähnlich oder überlegen
zu modernen konventionellen und unscharfen Regellernern. Das Ergebnis
ist beachtenswert: Konventionelle Regellerntechniken und Fuzzy-Methoden
bilden eine fruchtbare Kombination. Obwohl diese Methoden sowohl in der
Fuzzy- und der Machine-Learning-Gemeinde seit Jahren untersucht werden,
ist dies die erste fundierte Untersuchung einer Vereinigung beider Felder.