Τι σημαίνει, τελικά, “τυχαίο”;

Ας ρίξουμε μια πιο προσεκτική ματιά στο ζήτημα της τάξης και της αταξίας. Στο παράδειγμα της ανακατεμένης τράπουλας, δεν φαίνεται να υπάρχει αμφιβολία πως η εντροπία της ολοκαίνουριας τράπουλας, στην οποία όλα τα φύλλα είναι διατεταγμένα κατά χρώμα και αύξουσα σειρά, ήταν χαμηλή, και ότι μια τράπουλα που ανακατεύεται τυχαία, έχει υψηλότερη εντροπία. Τι γίνεται, όμως, αν η τράπουλα αποτελείται από δύο μόνο φύλλα; Εφόσον τώρα τα φύλλα μπορούν να διαταχθούν με δύο μόνο τρόπους, δεν έχει νόημα να διακρίνουμε ανάμεσα σε μια λιγότερο και μια περισσότερο εύτακτη διάταξη. Αν έχουμε τρία φύλλα- ας πούμε, τα δύο, τρία και τέσσερα κούπα; Ίσως νομίζετε πως η ακολουθία “δύο, τρία, τέσσερα” είναι πιο εύτακτη, πιο καλά τακτοποιημένη, και συνεπώς χαμηλότερης εντροπίας από την ακολουθία “τέσσερα, δύο, τρία”. Εξάλλου, στην πρώτη περίπτωση τα φύλλα διατάσσονται κατά αύξουσα σειρά. Τι θα συνέβαινε, όμως, αν και τα τρία φύλλα ήταν δυάρια – κούπα, καρό και μπαστούνι; Υπάρχει τώρα κάποια διάταξη πιο εύτακτη από τις άλλες; Η μόνη διαφορά τώρα είναι πως τα φύλλα ορίζονται με βάση το χρώμα και όχι την αξία τους. Ο τρόπος με τον οποίο επισημαίνουμε τα φύλλα δεν μπορεί να σχετίζεται με την εντροπία της τράπουλας, σωστά; Η ακολουθία «δύο κούπα, δύο καρό, δύο μπαστούνι» δεν έχει περισσότερη, ούτε λιγότερη εντροπία από την ακολουθία «δύο καρό, δύο κούπα, δύο μπαστούνι».

Απ’ ό,τι φαίνεται, ο ορισμός της εντροπίας ως μέτρου της αταξίας είναι κάπως ελλιπής, επειδή ο ορισμός μας για την αταξία είναι πολύ στενός. Σε μερικές περιπτώσεις είναι προφανές τι εννοούμε, σε άλλες, όμως, όχι. Επιτρέψτε μου να προχωρήσω το επιχείρημα λίγο παραπέρα. Ας δούμε ένα πραγματικά «κακό» κόλπο με την τράπουλα, που δείχνει πιο καθαρά τι εννοώ. Παίρνω μια τράπουλα που τα φύλλα της είναι διατεταγμένα με τάξη, τα ανακατεύω, σας τα δείχνω, και βλέπετε πως είναι καλά ανακατεμένα. Κοιτάξτε εδώ τώρα, σας λέω, και ανακατεύω ακόμη μια φορά την τράπουλα. Ισχυρίζομαι, όμως, τώρα, ότι έχω δώσει στα φύλλα μια πολύ ξεχωριστή διάταξη. Ο ισχυρισμός, αν μη τι άλλο, ξαφνιάζει, αφού το δεύτερο ανακάτεμα έδειχνε παρόμοιο με το αρχικό. Γυρίζω ανάποδα την τράπουλα και την απλώνω ομοιόμορφα στο τραπέζι. Έκπληκτοι, αλλά και με μια απογοήτευση που δεν μπορείτε να κρύψετε, διαπιστώνετε ότι τα φύλλα δείχνουν απλώς το ίδιο ανακατεμένα με πριν. Ε, όχι και «ξεχωριστή διάταξη» αυτή, θα ισχυριστείτε.

Και όμως, είναι. Βλέπετε, θα στοιχημάτιζα οποιοδήποτε πόσο ότι δεν μπορείτε να πάρετε μια άλλη τράπουλα, να την ανακατέψετε και να δημιουργήσετε ακριβώς την ίδια διάταξη με τη δική μου. Οι πιθανότητες να το πετύχετε είναι, φυσικά, εξίσου απειροελάχιστες με την πιθανότητα να ανακατέψετε πάλι την τράπουλα και να καταλήξετε σε μια απολύτως τακτική διάταξη των φύλλων. Και αυτή η πιθανότητα είναι μία στα εκατό εκατομμύρια τρισεκατομμυρίων τρισεκατομμύρια τρισεκατομμυρίων τρισεκατομμύρια τρισεκατομμυρίων τρισεκατομμύρια (1:10^80). Βασικά, μην μπείτε στον κόπο να το δοκιμάσετε. Άρα, κάτω από αυτό το πρίσμα, βλέπουμε πως η τυχαία διάταξη της τράπουλάς μου είναι το ίδιο «ξεχωριστή» με μια άθικτη, μη ανακατεμένη τράπουλα. Τι γίνεται, λοιπόν, τώρα με την εντροπία; Απ’ ό,τι φαίνεται, δεν μπορούμε να ισχυριστούμε ότι η εντροπία έχει αυξηθεί, αν καταλήξουμε σε μια διάταξη το ίδιο απίθανη με την αρχική, όσο τυχαία ανακατεμένα κι αν φαίνονται τα φύλλα της.

Για να είμαι ειλικρινής, εδώ προσπαθώ να σας ξεγελάσω. Φυσικά και μια τράπουλα με φύλλα διατεταγμένα κατά χρώμα και αύξουσα σειρά είναι πιο ξεχωριστή από τη δική μου «ξεχωριστή», τυχαία διάταξη των ανακατεμένων φύλλων. Συνεπώς, η εντροπία είναι μάλλον ένα μέτρο της τυχαιότητας, παρά της αταξίας. Μπορεί να μοιάζει σαν να παίζουμε με τις λέξεις, αλλά στην πραγματικότητα, αυτός είναι ο τρόπος για να καταλήξουμε σε έναν πιο αυστηρό ορισμό της εντροπίας. Τεχνικά, για τη μέτρηση των διαφόρων επιπέδων του «ξεχωριστού» χρησιμοποιούμε τον όρο «αλγοριθμική τυχαιότητα».

Στην επιστήμη των υπολογιστών, ο όρος «αλγόριθμος» δηλώνει μια ακολουθία εντολών σε ένα υπολογιστικό πρόγραμμα, και η αλγοριθμική τυχαιότητα ορίζεται ως το μήκος του μικρότερου προγράμματος που μπορεί να συνταχθεί σε υπολογιστή για να αναπαραχθεί μια δεδομένη διάταξη των φύλλων (ή, μια ακολουθία αριθμών). Έτσι, στην περίπτωση της τράπουλας με τα τρία φύλλα, είναι ξεκάθαρο ότι για να προκόψει η διάταξη «δύο, τρία, τέσσερα» απαιτείται η εντολή «βάλε τα στη σειρά από το μικρότερο στο μεγαλύτερο», ενώ για τη διάταξη «τέσσερα, δύο, τρία» θα μπορούσε να δοθεί η εντολή «ξεκίνα με τον μεγαλύτερο αριθμό, έπειτα συνέχισε κατά αύξουσα σειρά», η οποία θα μπορούσε κάλλιστα να επαναδιατυπωθεί ως εξής: «ξεκίνα με το τέσσερα, συνέχισε με το δύο, συνέχισε με το τρία». Σε κάθε περίπτωση, οι δύο τελευταίες εντολές χαρακτηρίζονται από ελαφρώς υψηλότερη αλγοριθμική τυχαιότητα από την πρώτη, επομένως, η διάταξη «τέσσερα, δύο, τρία» έχει ελαφρώς υψηλότερη εντροπία από τη διάταξη «δύο, τρία, τέσσερα».

Τα πράγματα είναι πολύ πιο ξεκάθαρα στην περίπτωση μιας κανονικής τράπουλας, με 52 φύλλα. Μπορούμε εύκολα να δώσουμε οδηγίες σε έναν υπολογιστή για την αναπαραγωγή της πλέον εύτακτης τράπουλας: «Ξεκίνα με τις κούπες και βάλε τα φύλλα κατά αύξουσα σειρά, οι άσοι πρώτα, μετά κάνε το ίδιο για τα καρό, τα σπαθιά και τα μπαστούνια». Πώς, όμως, θα προγραμματίζαμε τον υπολογιστή για να αναπαραγάγει τη δική μου, ξεχωριστή διάταξη φύλλων; Στην περίπτωση αυτή, δεν υπάρχει σύντομος δρόμος και ίσως χρειαστεί να παραθέσουμε αναλυτικά τις οδηγίες, βήμα προς βήμα: «ξεκίνα με τον ρήγα σπαθί, συνέχισε με το δύο καρό, με το επτά κούπα [και ούτω καθεξής]». Αν η τράπουλα δεν ανακατεύτηκε στον μεγαλύτερο δυνατό βαθμό, ίσως υπάρχουν μικρές ακολουθίες μη ανακατεμένων φύλλων, όπου έχει διατηρηθεί η αρχική τάξη, και οι οποίες μειώνουν ελαφρώς το μήκος του προγράμματος -για παράδειγμα, αν τα δύο, τρία, τέσσερα, πέντε και έξι μπαστούνι παραμένουν στη σειρά, είναι ευκολότερο να δώσουμε στον υπολογιστή την εντολή «ξεκίνα με το δύο μπαστούνι και βάλε κατά αύξουσα σειρά τα επόμενα τέσσερα φύλλα με το ίδιο σύμβολο», παρά να δηλώσουμε ξεχωριστά τα τέσσερα φύλλα.

Όλα αυτά σχετικά με το μήκος ενός προγράμματος, μάλλον δεν σας λένε πολλά. Μάλιστα, μπορούμε ν’ απαλλαγούμε από αυτόν τον τρόπο ορισμού της αλγοριθμικής τυχαιότητας. Εφόσον ο εγκέφαλός μας- όπως ο εγκέφαλος του δαίμονα του Μάξουελ- είναι, σε πολύ βασικό επίπεδο, ένας υπολογιστής που εκτελεί εντολές, έχουμε τη δυνατότητα να αντικαταστήσουμε την ιδέα του υπολογιστικού προγράμματος με την ικανότητα απομνημόνευσης. Αν σας έδειχνα μια σειρά από τυχαία ανακατεμένα τραπουλόχαρτα και σας ζητούσα να τα διατάζετε κατά σύμβολο και κατά αύξουσα σειρά, θα το κάνατε εύκολα. (Σημειώστε ότι σας δίνω τη δυνατότητα να γυρίσετε τα φύλλα και να τα διατάξετε στη σειρά, παρά να στηριχτείτε στο τυφλό, τυχαίο ανακάτεμα). Αν, όμως, σας ζητήσω να διατάξετε τα φύλλα με την ίδια σειρά που έχουν στη δική μου «ξεχωριστή» διάταξη, την οποία πέτυχα ανακατεύοντας την τράπουλα τυχαία, θα είναι σχεδόν αδύνατον να απομνημονεύσετε τη σειρά τους.

Βασικά, χρειάζεστε τώρα πολύ περισσότερη πληροφορία από πριν. Και όσο περισσότερη πληροφορία διαθέτετε για ένα σύστημα, τόσο περισσότερο θα μπορείτε να το οργανώσετε και να χαμηλώσετε την εντροπία του.