Κατασκευή μοντέλων data mining με γενικευμένα νευρωνικά δίκτυα παλινδρόμησης GRNN σε βάσεις δεδομένων Oracle

Abstract

Το θέμα της πτυχιακής εργασίας είναι: “ Κατασκευή μοντέλων Data Mining με Γενικευμένα Νευρωνικά Δίκτυα Παλινδρόμησης GRNN σε βάσεις δεδομένων Oracle ” Data Mining είναι η τεχνική ανακάλυψης γνώσης από δεδομένα που χρησιμοποιεί δένδρα αποφάσεων, παλινδρόμηση, λογικούς κανόνες, νευρωνικά δίκτυα, στατιστικές μεθόδους διάκρισης ή κοντινότερους γείτονες ή τεχνικές Bayes για να κατατάξει τα δεδομένα σε προκαθορισμένες κλάσεις. Η ανάλυση παλινδρόμησης είναι ένα στατιστικό εργαλείο για τη διερεύνηση των σχέσεων μεταξύ των μεταβλητών. Χρησιμοποιεί πολλές διαφορετικές τεχνικές, συμπεριλαμβανομένων των Νευρωνικών Δικτύων. Το General Regression Neural Network (GRNN) εκτελεί γενικές και μη γραμμικές παλινδρομήσεις και εκτίμηση εξόδου συνεχούς συνάρτησης. Υλοποιεί τον εκτιμητή παλινδρόμησης Nadaraya-Watson και βασίζεται στους μη παραμετρικούς στατιστικούς εκτιμητές πυκνότητας Parzen kenels. Μπορεί να εκτελέσει διεργασίες παλινδρόμησης και να κατασκευάσει ένα μοντέλο παλινδρόμησης για έρευνα της συσχέτισης μεταξύ μιας εξαρτώμενης μεταβλητής και μιας ή περισσοτέρων ανεξάρτητων μεταβλητών. Η αρχιτεκτονική του GRNN αποτελείται από 4 επίπεδα. Το πρώτο επίπεδο είναι το επίπεδο εισόδου. Αποτελείται από τόσους νευρώνες όσους και τα διανύσματα εισόδου. Το δεύτερο επίπεδο είναι το επίπεδο προτύπων. Σε αυτό το επίπεδο περιέχονται όλα τα δείγματα εκπαίδευσης. Στο τρίτο επίπεδο, που ονομάζεται επίπεδο άθροισης, περιέχεται ο παρονομαστής και ο αριθμητής του εκτιμητή Nadaraya-Watson, Το τέταρτο επίπεδο είναι η έξοδος διαιρείται ο αριθμητής με τον παρονομαστή. Το GRNN μπορεί να λύσει οποιοδήποτε πρόβλημα που μπορεί να λυθεί από ένα στατιστικό μοντέλο παλινδρόμησης χωρίς να πρέπει να ταιριάξει τα δεδομένα εκπαίδευσης σε ένα συγκεκριμένο τύπο παραμετρικού μοντέλου που δίνεται εκ των προτέρων. Κατά την εκπαίδευση του δικτύου GRNN πρέπει να βρεθεί η άγνωστη παράμετρος σίγμα. Η επιλογή της παραμέτρου αυτής είναι πολύ σημαντική. Για την επιλογή της χρησιμοποιούνται cross-validation και Holdout μέθοδοι. Η παράμετρος πλάτους σίγμα καθορίζει το παράθυρο Parzen όπου με την χρήση του παραθύρου Parzen μπορεί να εκτιμηθεί η επιφάνεια regression. Στην πτυχιακή υλοποιήθηκε το Generalized Regression Nevral Network σε περιβάλλον Borland C++ Builder και επιτρέπει την κατασκευή και μελέτη διαφόρων μοντέλων data mining από Oracle Server. Επίσης υλοποιήθηκε μία μέθοδος εύρεσης βέλτιστων παραμέτρων πλάτους διακύμανσης σ των συναρτήσεων του νευρωνικού δικτύου.