5.4 Λανθάνοντα

‘But, what about the big picture?’

Όποιες κι αν ήταν οι τεχνικές επιλογές του μελετητή έως αυτή τη στιγμή, η μέθοδος ποσοτικής ανάλυσης που αναπτύχθηκε είναι γεγονός ότι χαρακτηρίζεται από μία σημαντική έλλειψη: έχει εξετάσει το κάθε κείμενο μεμονωμένα. Εάν ανήκει ή δεν ανήκει σε μία ταξινομική κλάση, εάν περιέχει ή δεν περιέχει αυτό που αναζητάται.

Ωστόσο, η ταξινόμηση ενός μεμονωμένου κειμένου και η παρουσία ή η απουσία ενός συγκεκριμένου όρου σε αυτό δεν αποδεικνύουν ότι το κείμενο φέρει το επιθυμητό σημασιολογικό φορτίο.

Το ζήτημα της σημασιολογικής συνάφειας προκύπτει από τα φαινόμενα συνωνυμίας και πολυσημίας του λόγου· ταυτόσημες έννοιες αποδίδονται με διαφορετικές λέξεις, ενώ ίδιες λέξεις χρησιμοποιούνται με διαφορετικές έννοιες. Το κλειδί και στις δύο περιπτώσεις βρίσκεται στα συμφραζόμενα.

Η σημασιολογική συνάφεια απαιτεί ένα ευρύ δείγμα γραπτού λόγου για να ερευνηθεί ποσοτικά. Επομένως, απαιτεί μία μέθοδο ανάλυσης σε επίπεδο συλλογής. Η πιθανοτική λανθάνουσα σημασιολογική ανάλυση (Probabilistic Latent Semantic Analysis) εξετάζει μία συλλογή ως ένα ενιαίο σύνολο, καταγράφοντας κοινούς όρους μεταξύ των κειμένων και υπολογίζοντας τιμές ομοιότητας (similarityvalues) μεταξύ όρων και κειμένων. Όσο περισσότερους όρους μοιράζονται δύο κείμενα, τόσο πιο σημασιολογικά συναφή θεωρούνται.

Το σημασιολογικό κέρδος από την εφαρμογή της μεθόδου PLSA γίνεται ευκολότερα κατανοητό με το παρακάτω παράδειγμα:

‘Ταξινομούμε μία συλλογή επιστολών των Marx και Engels. Εάν στα κείμενα των επιστολών αυτών οι λέξεις «προλετάριοι», «τάξη» και «Διεθνής» εμφανίζονται μαζί σε αρκετά δείγματα κειμένων (πάνω από κάποια τιμή-όριο), η μέθοδος θα τα ορίσει ως σημασιολογικά συναφή. Έτσι, μία αναζήτηση που θα περιέχει τις λέξεις-κλειδιά «τάξη Διεθνής» θα επιστρέψει τα κείμενα που περιέχουν τις λέξεις αυτές, αλλά και κείμενα που περιέχουν μόνο τη λέξη «προλετάριοι». Παρόλο που η μηχανή αναζήτησης δεν γνωρίζει ότι οι «προλετάριοι» ανήκουν στην «τάξη» των μισθωτών εργατών τους οποίους επιχείρησαν να οργανώσουν οι συγγραφείς στη Διεθνή Ένωση Εργατών, γνωστή και ως Πρώτη «Διεθνής», χάρη στην εξέταση ενός σημαντικού αριθμού κειμένων αναγνωρίζει ότι οι τρεις αυτές λέξεις σχετίζονται.’

Η μέθοδος PLSA διαμορφώνει έναν πίνακα (matrix) σύμφωνα με τη συχνότητα εμφάνισης όρων στα έγγραφα μιας συλλογής και κατασκευάζει μία σημασιολογική αναπαράσταση (semanticrepresentation) της συλλογής, όπου στενά συσχετιζόμενοι όροι w και έγγραφα d τοποθετούνται σε κοντινή απόσταση μεταξύ τους, ανάλογα με την υπό συνθήκη πιθανότητα συν-εμφάνισής τους (conditionalco-occurrenceprobability) σε κάθε λανθάνουσα κατηγορία c:

Οι εσωτερικές λειτουργίες της μεθόδου PLSA γίνονται ευκολότερα κατανοητές επιστρέφοντας στο προηγούμενο παράδειγμα:

‘Ταξινομούμε μία συλλογή πέντε εγγράφων επιφανών μαρξιστών,με αρίθμηση από το D1 ως το D5 και τους εξής τίτλους:’ ‘D1:the working class movement in America’ ‘D2:the struggle continues’ ‘D3:the May 4th movement ’ ‘D4:the struggle against which enemies within the working class movement helped bolshevism develop, gain strength, and become steeled’ ‘D5:the labour movement and the national struggle ’ ‘Η προεπεξεργασία των εγγράφων περιλαμβάνει την αφαίρεση των τετριμμένων λέξεων (stop-words) και την αναγνώριση των ριζών των λέξεων (stemming). Η τελική λίστα των όρων με βάση το συνολικό βάρος (global weight) των όρων στο σύνολο των εγγράφων είναι:’ ‘T1:work (ing)’ ‘T2:move (ment)’ ‘T3:class’ ‘T4:bolshevism’ ‘T5:struggle’ ‘T6:strength’ ‘Έχοντας καταλήξει στη τελική λίστα των όρων που εξάγονται από τα έγγραφα, διαμορφώνεται ένας πίνακας Α, σύμφωνα με τη συχνότητα εμφάνισης των όρων σε κάθε έγγραφο:’ ‘Η πρώτη σειρά του πίνακα υποδηλώνει ότι ο όρος T1 περιέχεται στα έγγραφα D1 και D4. Η τιμή 1 υποδηλώνει την εμφάνιση του όρου σε κάποιο έγγραφο, ενώ η τιμή 0 υποδηλώνει τη μη εμφάνιση. Το επόμενο βήμα αφορά στη βελτίωση του πίνακα με τον ορισμό μίας τιμής βάρους (term weight value) για τον κάθε όρο που κάνει τουλάχιστον μία εμφάνιση σε έγγραφο, δηλαδή για όλες τις τιμές 1 του πίνακα Α. Ο πίνακας διαμορφώνεται αντικαθιστώντας τις τιμές εμφάνισης των όρων με τα βάρη τους:’ ‘Αν υποθέσουμε ότι η κατασκευή του πίνακα και της σημασιολογικής αναπαράστασης σταματούσε εδώ, το μέτρο ομοιότητας (similarity measure) μίας ερώτησης με τη λέξη-κλειδί «working» -η οποία γράφεται με τη μορφή διανύσματος q = (1 0 0 0 0 0), όπου η τιμή 1 αντιπροσωπεύει τον όρο «working» από τη λίστα των 6 όρων η οποία αποτελεί έναν 6-διάστατο διανυσματικό χώρο- με τα πέντε διανύσματα των εγγράφων του πίνακα, επιστρέφει τα έγγραφα με το βαθμό σχετικότητας ως προς την ερώτηση: 0.6113, 0, 0, 0.3978, και 0. Το πρώτο έγγραφο (D1) επιστρέφεται ως πιο σχετικό με την ερώτηση. Το τέταρτο έγγραφο (D4), που στην πραγματικότητα γίνεται αντιληπτό ότι σχετίζεται με την ερώτηση, δεν επιστρέφεται ως πολύ σχετικό.

Για να αντιμετωπιστεί το παραπάνω πρόβλημα, το βήμα-κλειδί στην τεχνική PLSA είναι η αποσύνθεση (decomposition) του πίνακα Α με την εφαρμογή ενός στατιστικού Μοντέλου Λανθανόντων Μεταβλητών (LatentVariableModel). Η παραγοντοποίηση LVM κατακερματίζει τον πίνακα σε τρεις μικρότερους πίνακες, τροποποιεί τον έναν από αυτούς με στόχο τη διατήρηση των υψηλότερων ιδιαζουσών τιμών και την ταυτόχρονη αποβολή των χαμηλότερων και, στη συνέχεια, ανασυνθέτει τους τρεις πίνακες σε ένα πίνακα ιδίων διαστάσεων με τον αρχικό:’ ‘Το αποτέλεσμα της παραγοντοποίησης είναι η πλήρης έκλειψη των μηδενικών τιμών από τον πίνακα, ώστε κάθε έγγραφο να εμφανίζει τιμές ομοιότητας (similarity values) για κάθε όρο, αλλά και η απουσία αρνητικών τιμών, σε αντίθεση με το μοντέλο LSA όπου αυτές υποδηλώνουν τη μεγάλη σημασιολογική απόσταση μεταξύ ενός όρου και ενός εγγράφου.
Επαναλαμβάνοντας την προηγούμενη ερώτηση με τη λέξη-κλειδί «working», το μέτρο ομοιότητας με τα πέντε διανύσματα των εγγράφων, επιστρέφει τα έγγραφα με το βαθμό σχετικότητας ως προς την ερώτηση: 0.4889, 0.0002, 0.0311, 0.4791, και 0.0003. Τα δύο έγγραφα D1 και D4 έχουν πλέον σχεδόν εξίσου το μεγαλύτερο βαθμό σχετικότητας, όπως άλλωστε αναμενόταν με μία απλή ανάγνωση των εγγράφων.’