Η μεγάλη απάτη της “Τεχνητής Νοημοσύνης”

Εισαγωγική σημείωση: Ο όρος “Τεχνητή Νοημοσύνη” (ΤΝ ή AI από το αγγλικό Artificial Intelligence) είναι παραπλανητικός, διότι υποβάλλει την ιδέα ύπαρξης νου εκεί που δεν υπάρχει. Αυτό πραγματεύεται το παρόν κείμενο. Παρ’ όλα αυτά, για λόγους συνεννόησης, θα συνεχίσω να τον χρησιμοποιώ, βάζοντάς τον σε εισαγωγικά.

—

Η “Τεχνητή Νοημοσύνη” παρουσιάζεται σήμερα ως το νέο όριο της σκέψης. Ως μια τομή που ανατρέπει την ιστορία της τεχνικής και του ανθρώπινου νου. Οι ιδιωτικές εταιρείες – κολοσσοί που την προωθούν, τα μέσα που την υμνούν και οι πολιτικοί/τεχνοκράτες που την επικαλούνται, την πλασάρουν ως κάτι περισσότερο από αυτό που είναι. Δηλαδή άλλο ένα – πιο σύνθετο – εργαλείο για τη διευκόλυνση της ανθρώπινης καθημερινότητας. Την εμφανίζουν ως κάτι – δυνητικά τουλάχιστον – ισοδύναμο της νοημοσύνης, ως έναν δεύτερο νου που γεννήθηκε στον χώρο των μηχανών. Βεβαίως, η ίδια η λέξη “Νοημοσύνη” δεν είναι αθώα εδώ. Θέτει εκ προοιμίου την ιδέα ότι έχουμε στα χέρια μας κάτι ανάλογο με τον άνθρωπο, έναν φορέα σκέψης ικανό να αναπαράγει τις διαδικασίες του εγκεφάλου. Έτσι, η γλώσσα επιστρατεύεται για να καλλιεργήσει μια ψευδαίσθηση: ότι η μηχανή δεν είναι πλέον μηχανή, αλλά υποκείμενο.

Ο όρος “Νευρωνικό” που χρησιμοποιείται για να περιγράψει τα δίκτυα πάνω στα οποία στηρίζεται η “Τεχνητή Νοημοσύνη” (Νευρωνικά Δίκτυα) είναι κεντρικός σε αυτήν την παρανόηση. Η ονομασία συνδέει τα τεχνικά δίκτυα με το βιολογικό υπόστρωμα του ανθρώπινου νου, σαν να πρόκειται για συγγενείς οντότητες. Όμως η σχέση είναι επιφανειακή και παραπλανητική.

Ένα “Νευρωνικό Δίκτυο” στην πραγματικότητα δεν είναι ούτε νευρωνικό ούτε δίκτυο με τη βιολογική έννοια. Στη βιολογία, δίκτυο σημαίνει ένα σύστημα από ζωντανά κύτταρα (π.χ. νευρώνες) που συνδέονται οργανικά μεταξύ τους. Οι νευρώνες είναι κύτταρα του εγκεφάλου που έχουν δενδρίτες (δέχονται σήματα), νευράξονες (μεταδίδουν σήματα) και συνάψεις (σημεία επικοινωνίας με άλλους νευρώνες). Αυτές οι συνδέσεις είναι δυναμικές: αλλάζουν, δυναμώνουν ή αποδυναμώνονται, δημιουργούνται ή καταστρέφονται, ανάλογα με την εμπειρία και τη δραστηριότητα του οργανισμού. Από την άλλη το αποκαλούμενο “Νευρωνικό Δίκτυο” στην ουσία είναι ένα μαθηματικό σύστημα από πολλούς απλούς κόμβους που κάνουν στοιχειώδεις υπολογισμούς. Δηλαδή παίρνουν αριθμούς στην είσοδο, τους πολλαπλασιάζουν με συντελεστές (τα λεγόμενα βάρη) και βγάζουν ένα αποτέλεσμα. Όταν το δίκτυο εκπαιδεύεται, αυτό που συμβαίνει είναι μια αργή και επαναλαμβανόμενη ρύθμιση αυτών των αριθμών, έτσι ώστε να μειώνεται το λάθος στις προβλέψεις του.

Πολύ χονδρικά, φανταστείτε ότι δείχνουμε στο δίκτυο χιλιάδες εικόνες από γάτες και σκύλους. Στην αρχή μαντεύει τυχαία και λέει για παράδειγμα “γάτα” εκεί που είναι σκύλος. Τότε υπολογίζεται το λάθος και οι αριθμοί αλλάζουν λίγο. Στην επόμενη εικόνα πάλι κάνει λάθος, ξαναδιορθώνεται, και αυτό συνεχίζεται ξανά και ξανά. Μετά από αμέτρητες τέτοιες διορθώσεις, οι αριθμοί έχουν πάρει τέτοιες τιμές ώστε το δίκτυο να δίνει σωστή απάντηση τις περισσότερες φορές. Δεν υπάρχει κατανόηση από την μηχανή του τι είναι γάτα ή σκύλος. Υπάρχει μόνο μια διαδικασία βελτιστοποίησης που βρίσκει στατιστικά μοτίβα στα δεδομένα. Όταν λέμε λοιπόν ότι το δίκτυο “μαθαίνει”, μιλάμε μεταφορικά. Στην πραγματικότητα απλώς ρυθμίζει παραμέτρους για να μειώνει το σφάλμα. Είναι απλώς ένας μηχανισμός βελτιστοποίησης που ψάχνει στατιστικές συσχετίσεις στα δεδομένα που του έχουν εισαχθεί.

Από την άλλη μεριά, η ανθρώπινη σκέψη δεν εξαντλείται στην πρόβλεψη ούτε στη μείωση του σφάλματος. Ο ανθρώπινος εγκέφαλος δεν λειτουργεί ως μηχανή που υπολογίζει πιθανότητες για το επόμενο ερέθισμα ή την επόμενη λέξη σε μια πρόταση. Η ουσία της νόησης βρίσκεται αλλού: στο φαντασιακό. Με τον όρο αυτόν δεν εννοούμε απλώς τη φαντασία, δηλαδή την ικανότητα να πλάθουμε εικόνες ή παραμύθια, ούτε μια απλή λειτουργία αντανάκλασης της πραγματικότητας, σαν καθρέφτισμα. Αντίθετα, τον χρησιμοποιούμε με την έννοια που του έδωσε ο Κορνήλιος Καστοριάδης. Δηλαδή τη ριζική δύναμη παραγωγής μορφών και σημασιών εκ του μηδενός. Την ατομική και συλλογική αυτή ανθρώπινη ικανότητα να δημιουργούνται κατηγορίες που δεν υπήρχαν, να συγκροτούνται κόσμοι που δεν προϋπήρχαν, να θεσμίζονται αξίες, ιδέες και νοήματα που δεν μπορούν να αναχθούν σε συνδυασμούς ήδη δεδομένων στοιχείων. Χωρίς αυτή τη δημιουργική δύναμη, δεν θα υπήρχε ούτε ιστορία, ούτε κοινωνία, ούτε πολιτισμός, ούτε φυσικά computers και “Τεχνητή Νοημοσύνη”.

Τα τεχνικά δίκτυα που αποκαλούμε “νευρωνικά” στερούνται αυτής της διάστασης του φαντασιακού που περιγράψαμε παραπάνω. Η λειτουργία τους είναι καθαρά στατιστική. Εκπαιδεύονται, όπως είδαμε, πάνω σε τεράστιες ποσότητες δεδομένων και η έξοδός τους είναι πάντοτε ανασύνθεση αυτών των δεδομένων. Η ποίηση που παράγουν, οι εικόνες που συνθέτουν, οι προτάσεις που διατυπώνουν κ.λπ., δεν αποτελούν γνήσια δημιουργία, αλλά μια αρκετά περίπλοκη μίμηση. Το νέο που εμφανίζεται εκεί δεν είναι ποτέ ριζικά νέο, είναι απλώς συνδυασμός του ήδη γνωστού. Η ρήξη, η τομή, η εμφάνιση του ανύπαρκτου, η θεμελιώδης διάσταση της ανθρώπινης δημιουργίας απουσιάζει εντελώς. Επομένως η φαινομενική ομοιότητα ανάμεσα στα δύο δεν είναι ουσιαστική, αλλά ρητορική. Η μεταφορά λειτουργεί περισσότερο για να παράγει κύρος και δέος παρά για να αποκαλύψει την αλήθεια.

Οι συνδηλώσεις της λέξης “νοημοσύνη” είναι, φυσικά, καθοριστικές. Στην ανθρώπινη ιστορία, νοημοσύνη σήμαινε πάντα κάτι ευρύτερο από την ικανότητα του υπολογισμού. Σήμαινε κατανόηση του νοήματος, κρίση, αυτοσυνείδηση, ελευθερία. Το να μεταφέρουμε τον όρο στη μηχανή σημαίνει ότι αλλοιώνουμε τη σημασία του. Παρόλο που η “Τεχνητή Νοημοσύνη” δεν διαθέτει νοημοσύνη, αλλά υπολογιστική ισχύ, η χρήση της λέξης καλλιεργεί την αυταπάτη ότι μιλάμε για κάτι ανάλογο με την ανθρώπινη σκέψη. Πρόκειται για σκόπιμη παρανόηση που υπηρετεί τεχνολογικά και εμπορικά συμφέροντα καθώς οι συνέπειες αυτής της παρανόησης πέρα από επιστημονικές / τεχνολογικές, είναι και κοινωνικές και πολιτικές.

Οι ίδιες οι εταιρείες έχουν κίνητρο να παρουσιάζουν τα συστήματα ως δήθεν “νοήμονα”, “ανθρώπινα”, και “δημιουργικά” γιατί αυτό παράγει εντυπωσιασμό, φέρνει επενδύσεις και τραβάει την προσοχή των μέσων. Η υπερβολή στο marketing είναι στρατηγική επιλογή όπως πάντα. Και έτσι γεννιέται η μεγάλη απάτη της “Τεχνητής Νοημοσύνης”. Γιατί όταν λες “σύστημα πρόβλεψης με βάση στατιστικά μοτίβα”, κανείς δεν ενθουσιάζεται. Όταν όμως λες “Τεχνητή Νοημοσύνη που σκέφτεται σαν άνθρωπος”, ή “Νευρωνικά Δίκτυα”, δημιουργείς αφήγηση με αξία στην αγορά.

Το ίδιο συμβαίνει και πολιτικά: αν πείσεις ότι οι μηχανές “σκέφτονται”, τότε μπορείς πιο εύκολα να εκχωρήσεις αποφάσεις σε αυτές. Από αξιολόγηση βιογραφικών μέχρι απονομές δανείων ή ακόμα και δικαστικές διαδικασίες. Εκεί η παρανόηση αποκτά τρομακτικές διαστάσεις, γιατί αλλάζει τον τρόπο που οργανώνεται η ίδια η εξουσία. Με άλλα λόγια, η συνέχεια αυτής της σκέψης πάει ακόμη πιο βαθιά: δεν είναι μόνο θέμα τεχνολογίας, είναι θέμα πολιτικής φιλοσοφίας. Αν χάσουμε τη συνείδηση του φαντασιακού μας, τότε το αφήγημα της “ΤΝ” γίνεται αμέσως εργαλείο ελέγχου.

Οφείλουμε λοιπόν να αντισταθούμε, καθώς όσο περισσότερο συνηθίζουμε να ταυτίζουμε την ανθρώπινη σκέψη με υπολογιστική διαδικασία, τόσο περισσότερο κινδυνεύουμε να χάσουμε την επίγνωση της αυτονομίας μας. Διότι αυτονομία δεν σημαίνει απλώς επιλογή ανάμεσα σε έτοιμες εναλλακτικές, σημαίνει δημιουργία νέων μορφών επιλογής, νέων σημασιών, νέων θεσμών. Αν θεωρήσουμε ότι η σκέψη = πρόβλεψη, ή  ότι σκέψη =  επιλογή από το δοσμένο, τότε παραιτούμαστε από την ιδέα της ριζικής δημιουργίας. Και όταν μια κοινωνία παραιτείται από αυτήν την ιδέα, παραιτείται από τη δύναμη να θεσμίζει τον εαυτό της.

Εξάλλου, η ίδια η ιστορία των κοινωνιών αποδεικνύει ότι το καθοριστικό στοιχείο δεν είναι η τεχνική, αλλά οι φαντασιακές σημασίες που οι ίδιες δημιουργούν. Η δημοκρατία, η ισότητα, η επιστήμη, η δικαιοσύνη δεν είναι προϊόντα αλγορίθμων, αλλά ριζικές δημιουργίες που γεννήθηκαν από το φαντασιακό των ανθρώπων. Η τεχνική έρχεται πάντοτε εκ των υστέρων να υπηρετήσει αυτές τις σημασίες και η “Τεχνητή Νοημοσύνη” δεν αποτελεί εξαίρεση. Είναι ένα εργαλείο που αποκτά νόημα μόνο μέσα στο πλαίσιο που του δίνει η κοινωνία. Όσο την αποκαλούμε “νοημοσύνη”, της αποδίδουμε μιαν αυθυπαρξία που δεν διαθέτει, μιαν υπόσταση που ανήκει στην κοινωνική φαντασία και όχι στη μηχανική της φύση.

Η κριτική αυτή δεν αποσκοπεί στην απαξίωση της τεχνικής. Τα δίκτυα αυτά είναι προϊόν δεκαετιών μαθηματικής και επιστημονικής δουλειάς, και η χρησιμότητά τους είναι τεράστια. Αλλά δεν πρέπει να ξεχνάμε ότι εργαλείο σημαίνει ταυτοχρόνως και όριο. Και το όριο εδώ είναι σαφές: χωρίς το φαντασιακό, δεν υπάρχει δημιουργία, υπάρχει μόνο ανακύκλωση. Αν το αναγνωρίσουμε, μπορούμε να χρησιμοποιήσουμε την “Τεχνητή Νοημοσύνη” με νηφαλιότητα, χωρίς αυταπάτες και χωρίς να της αποδίδουμε ιδιότητες που δεν διαθέτει.

Κλείνοντας, να σημειώσω κάτι ακόμη. Η συζήτηση για την “Τεχνητή Νοημοσύνη” είναι στην πραγματικότητα συζήτηση για το τι σημαίνει ανθρώπινη σκέψη. Αν αποδεχθούμε άκριτα ότι νοημοσύνη = πρόβλεψη, τότε έχουμε ήδη χάσει το πιο ουσιώδες: τη δύναμη της δημιουργίας. Αντίθετα, αν επιμείνουμε στη διάκριση, μπορούμε να κατανοήσουμε καλύτερα τόσο τον άνθρωπο όσο και τη μηχανή. Ο άνθρωπος δημιουργεί νόημα εκ του μηδενός (ex nihilo), η μηχανή απλώς ταξινομεί δεδομένα.

Και εδώ όταν λέμε ex nihilo, δεν εννοούμε ότι ξεκινάμε από το απόλυτο κενό. Εννοούμε ότι το ανθρώπινο υποκείμενο έχει τη δύναμη να παράγει σημασίες που δεν είναι προδιαγεγραμμένες στα υλικά δεδομένα του κόσμου. Τα άτομα άνθρακα και του οξυγόνου υπήρχαν από πριν, αλλά τίποτα μέσα τους δεν περιείχε, παραδείγματος χάριν, την έννοια “δημοκρατία” ή την έννοια “στρατόπεδο συγκέντρωσης”. Αυτές οι έννοιες – τόσο οι απελευθερωτικές όσο και οι καταστροφικές – γεννήθηκαν από την ανθρώπινη φαντασία, από τη δυνατότητα να δημιουργούμε νέες κατηγορίες και θεσμούς που δεν επιβάλλονται από τη βιολογία ή την υλική αναγκαιότητα. Η μηχανή, αντίθετα, δεν μπορεί να σπάσει το πλαίσιο που της δίνουμε. Συνδυάζει και βελτιστοποιεί δεδομένα, αλλά δεν μπορεί να επινοήσει νέο ορίζοντα. Εκεί ακριβώς βρίσκεται η διαφορά: ο άνθρωπος δημιουργεί το ίδιο το πλαίσιο του νοήματος, τη στιγμή που η μηχανή παραμένει εγκλωβισμένη σε αυτό που της έχει ήδη δοθεί.

Η “Τεχνητή Νοημοσύνη” είναι λοιπόν αναμφίβολα ένα χρήσιμο εργαλείο, αλλά δεν είναι νοημοσύνη. Αν το αναγνωρίσουμε αυτό, μπορούμε να αποφύγουμε την αυταπάτη που μας παγιδεύει στη γλώσσα. Και μόνο τότε θα μπορέσουμε να σκεφτούμε νηφάλια την τεχνική, χωρίς να παρασυρόμαστε από τις ίδιες μας τις φαντασιώσεις.

Δες ακόμα: Τεχνολογία και χειραφέτηση: Μια κριτική προσέγγιση