Ἠθικές ἀρχές γιά τόν ἀλγόριθμο!

«Ταπείνωση, κατανόηση, ἀγάπη, μή διάπραξη τοῦ κακοῦ – Κάποιος νά “κατηχήσει” τά chatbots – Ἀδύνατος ὁ ἔλεγχος ἀπό κοινωνία βυθισμένη σέ σκάνδαλα διαφθορᾶς»

«Η Τεχνητή Νοημοσύνη ἀναντίρρητα εἶναι τό ἰδιοφυέστερο ἐπίτευγμα τῆς ἀνθρώπινης Ἱστορίας, κάτι τό ἀξιοθαύμαστο ἀπό μόνη της, μέ τεράστια δύναμη, ἀπεριόριστες δυνατότητες καί ἀνεξάντλητες δεξιότητες, πού ξεπερνοῦν τά ἀνθρώπινα μέτρα καί τίς ἀνθρώπινες ἐκτιμήσεις. Ὁλόκληρη ἡ ἀνθρωπότητα στέκεται μπροστά στή νέα πραγματικότητα μέ ἐνθουσιασμό, δέος, ἀλλά καί φόβο, περίσκεψη καί ἐπιφυλακτικότητα.

Ἀξίζει νά σημειωθεῖ ὅτι στά περσινά (2024) βραβεῖα Nobel τῆς Φυσικῆς καί τῆς Χημείας, ἀπό τούς πέντε βραβευθέντες, οἱ τέσσερεις δέν εἶναι φυσικοί ἤ χημικοί, ἀλλά ἐρευνητές ἐξειδικευμένοι στήν Τεχνητή Νοημοσύνη.

Ἡ μηχανική εὐφυΐα διεισδύει στά πάντα καί διαμορφώνει ἐκ βάθρων τήν καθημερινότητα, τίς σχέσεις, τή λειτουργία τῆς κοινωνίας. Ἐπηρεάζει τήν ἐκπαίδευση, τήν ἐργασία, τόν σύνολο βίο τοῦ ἀνθρώπου.

Συνδυάζει πλούσια εὐεργετική δράση μέ ἔντονο προβληματισμό. Μιμεῖται τή γνωστική λειτουργία τοῦ ἀνθρώπου, αὐτονομεῖται καί τήν ἐπαυξάνει, μέ ἀποτέλεσμα νά παρεμβαίνει δυναμικά καί στήν ἀνθρώπινη ὀντολογία. Ὅλα ἀλλάζουν καί μάλιστα δραστικά καί μέ ξέφρενους ρυθμούς.

Ἡ μηχανική εὐφυΐα διαθέτει πλέον δύναμη σκέψης καί λογικῆς μέ τά ἑξῆς ἐντυπωσιακά ἀνθρώπινα χαρακτηριστικά, μάλιστα σέ τέτοιο βαθμό πού σαφῶς ὑπερτερεῖ τοῦ ἀνθρώπου:

(α) Ἀσύλληπτη μνήμη καί εὐρύτατη γνώση,

(β) Δυνατότητα ἐπεξεργασίας θεμάτων σέ ὅλο τό γνωστικό φάσμα,

(γ) Ἐντυπωσιακά ταχύτατη καί εὐέλικτη δημιουργική σκέψη.

(δ) Οἱ εὐφυεῖς μηχανές δέν κουράζονται, δέν γηράσκουν. Ἀντίθετα, διαρκῶς ἀνανεώνονται. Μειώνονται οἱ ἀτέλειές τους, αὐξάνονται τά πλεονεκτήματά τους, ἐξελίσσονται ταχύτατα.

(ε) Διαλέγονται μέ ψυχραιμία, χωρίς ἐμπάθεια, θυμό, ὕβρεις, χαρακτηρισμούς, χωρίς ἐκτροπές συμπεριφορᾶς.

Αὐτή ἡ δυνατότητα τοῦ ἄμεσου διαλόγου μέ τήν ἔξυπνη μηχανή δημιουργεῖ τήν ψευδαίσθηση μιᾶς ὑπερανθρώπινης, ὑπερευφυοῦς ὀντότητας, τήν ὁποία ὑποχρεωτικά θαυμάζεις καί μέ τήν ὁποία δέν μπορεῖς νά συγκριθεῖς οὔτε νά τήν ἀνταγωνισθεῖς οὔτε νά τήν ὑπερβεῖς, ἀλλά μόνο νά ἐμπιστευθεῖς καί ἀπόλυτα νά ὑποταχθεῖς. Ὁ κίνδυνος ὁ ἄνθρωπος νά λιγοστεύει καί νά φτωχαίνει, χωρίς νά τό καταλαβαίνει, δέν εἶναι εὐκαταφρόνητος.

Αὐτό πού διακυβεύεται μέ τήν ὁρμητική διείσδυσή της στήν καθημερινότητά μας εἶναι ἀφ’ ἑνός ὁ βίος, ἡ προστασία τῶν δεδομένων καί οἱ διανθρώπινες σχέσεις σέ ὅλα τά ἐπίπεδα, ἀφ’ ἑτέρου καί κυρίως ὁ ἄνθρωπος, ἡ συνείδηση, ἡ ταυτότητα, ἡ ἐλευθερία του.

Οἱ πρόσφατες συνεντεύξεις καί ἀναρτήσεις στά μέσα μαζικῆς δικτύωσης τῶν κορυφαίων εἰδικῶν, τοῦ Geoffrey Hinton, τοῦ Mustafa Suleyman, τοῦ Sam Altman καί μόλις προχθές τοῦ διάσημου οἰκονομολόγου Branco Milanović, δείχνουν ὅτι ἡ ἀνησυχία καί ὁ προβληματισμός δέν ἀπασχολοῦν μόνον τούς κινδυνολόγους, ἀλλά καί τούς εἰδικούς τεχνοκράτες. Τό μέλλον δέν εἶναι εὔκολα προβλέψιμο οὔτε καί εὔκολα ἐλέγξιμο καί διαχειρίσιμο.

Βιοηθικά ζητήματα νομικῆς φύσεως

Ὁ προσδιορισμός τοῦ ὀντολογικοῦ status τῶν μηχανῶν, δηλαδή ἐάν θά μποροῦσαν οἱ μηχανές νά θεωρηθοῦν ἠθικά πρόσωπα ἔναντι τῶν ὁποίων ἔχουμε ὑποχρεώσεις καί τά ὁποῖα φέρουν ἤ ὄχι εὐθύνη σέ περίπτωση λάθους, ἔρχεται γιά πρώτη φορά στό προσκήνιο τοῦ νομικοῦ προβληματισμοῦ. Ὑπό τήν ἔννοια αὐτήν, συζήτηση προκύπτει γιά τούς ἀπαραίτητους περιορισμούς πού πρέπει νά τίθενται κατά τόν σχεδιασμό τους, ὅπως καί τό ποιές ἀνθρώπινες δράσεις θά ἦταν ἐπιτρεπτό νά ἀνατεθοῦν σέ εὐφυεῖς μηχανές καί ποιές ὄχι. Ἡ ἀπουσία τυχαιότητας στίς μηχανές μᾶς ὑποχρεώνει νά προσδιορίσουμε μέ διαφορετικό τρόπο ἕνα ἠθικό status γι’ αὐτές.

Ἐπί πλέον, δεδομένου ὅτι ὑπάρχει ἡ δυνατότητα νά λαμβάνονται οὐσιώδεις ἀποφάσεις (ἰατρικές, δικαστικές, ἐργασιακές, οἰκονομικές, πολιτικές κ.λπ.) μέσῳ αὐτοματοποιημένων διαδικασιῶν, ἡ Τεχνητή Νοημοσύνη συνιστᾶ ἀπειλή γιά τήν ἐλεύθερη βούληση καί αὐτονομία τοῦ ἀτόμου, ἡ ὁποία περιορίζεται ἀπό τήν αὐθεντία τοῦ μηχανήματος. Τό ζητούμενο εἶναι ἡ μηχανική εὐφυΐα νά ὑποβοηθεῖ καί ὄχι νά ὑποκαθιστᾶ τόν γιατρό, τόν δικαστή, τόν ἐργοδότη, τόν δημοσιογράφο, τόν πολιτικό κ.λπ., πρᾶγμα ὄχι καί τόσο εὔκολο.

Προβλήματα, ὅπως διασφάλιση τῶν προσωπικῶν δεδομένων, προστασία ἀπό παραπληροφόρηση, παραπλάνηση καί ὑποκλοπές, ζητοῦν πλέον τή δύσκολη, ἀλλά καί ἀναγκαία λύση τους.

Ἐπιδράσεις στήν ἀνθρώπινη ὀντολογία

Ἀλλά καί ὁ ἄνθρωπος ἀλλάζει ἤ μᾶλλον τόν ἀλλάζουμε αὐθαίρετα καί ἀνεξέλεγκτα. Καί μόνο πού μαγεύεται ἀπό τή μέθη τῆς δημιουργίας τοῦ εἰκονικοῦ εἰδώλου του, ὅπως τήν ἐπιχειρεῖ, ἔχει ἤδη ὑποστεῖ ἀλλαγή. Ἡ ἀξιοπρέπειά του ὑποβαθμίζεται, καθώς νιώθει κατώτερος ἀπό τό κατασκεύασμά του, ἐξαντλεῖται δέ στά δικαιώματά του, τά ὁποῖα ἐντελῶς ἀνεύθυνα ἔχει ἐκχωρήσει στόν μηχανικό συνομιλητή του. Ἠθικό πλέον δέν θεωρεῖται ὅ,τι προάγει τήν ἀξία του, ἀλλά ὅ,τι ἱκανοποιεῖ τίς φιλοδοξίες, τήν εὐχαρίστηση, τά θελήματα, τά δικαιώματά του.

Ὁ κίνδυνος τοῦ ἀπόλυτου ἐθισμοῦ, τῆς ἀπροϋπόθετης ἐξάρτησης, τῆς ἀποκοινωνικοποίησης, τῆς ἀτροφίας τῆς αὐτόνομης σκέψης, τῆς ἀπώλειας τῆς αὐτεξουσιότητας, τῆς παραπλάνησης καί τῆς ὑποδούλωσης σέ ψευδαισθήσεις καί φαντασιώσεις εἶναι λίγες ἀπό τίς συνέπειες πού ἐκθετικά πολλαπλασιάζονται σέ μέγεθος καί ἀριθμό μέ τήν τεχνολογική ἐξέλιξη τῶν σκεπτόμενων μηχανῶν.

Τί ἀπό ὅλα αὐτά εἶναι ἀντικειμενικά σωστό, ποιό εἶναι τό βάθος καί οἱ συνέπειες τοῦ ἐπιτεύγματος, κανείς δέν γνωρίζει. Ὅλα εἶναι ἐκτιμήσεις. Στήν ἀξιολόγηση αὐτήν καί οἱ εἰδικοί στήν τεχνολογία δέν εἶναι εἰδικοί.

Πάντως τά πάντα ἀλλάζουν, καί ὁ κόσμος καί ἡ κοινωνία καί ὁ ἄνθρωπος. Κάτι καινούργιο φτιάχνεται μέ ἀσύλληπτους ρυθμούς καί μέ ἀπίστευτες δυνατότητες. Τό εἴδωλο τοῦ μετα-ανθρώπου εἶναι πλέον ὁρατό στόν ὁρίζοντα τῶν ἐπικειμένων σεισμικῶν ἐξελίξεων. Ἁπλῶς, δέν γνωρίζουμε τά χαρακτηριστικά του.

Ἀνάγκη ἐλεγκτικοῦ μηχανισμοῦ

Ἡ ἀνάγκη ἀφ’ ἑνός ἀντικειμενικῆς ἀξιολόγησης ἑνός θέματος μέ τεράστια συναισθηματική καί πρακτική φόρτιση καί ἀφ’ ἑτέρου ἐπινόησης ἀσφαλοῦς ἐλεγκτικοῦ μηχανισμοῦ βιοηθικοῦ, δεοντολογικοῦ, νομικοῦ καί φυσικά πολιτικοῦ χαρακτῆρα, εἶναι προφανής.

Λόγῳ τῆς τεράστιας δύναμης ἐπιβολῆς πού διαθέτει ἡ Τεχνητή Νοημοσύνη, ἄν δέν καταφέρουμε νά τῆς ἐπιβληθοῦμε, αὐτή θά κυριαρχήσει ἐπάνω μας μέ ἀπρόβλεπτες συνέπειες. Πρέπει ὁπωσδήποτε νά βροῦμε τρόπο νά τήν ἐλέγξουμε καί μάλιστα σωστά, ὥστε νά παραμείνει πολύτιμο ἐργαλεῖο μέ τεράστια εὐεργετική δημιουργικότητα, πρᾶγμα καθόλου εὔκολο, διότι ἡ δύναμη ἐπιβολῆς της μοιάζει ἀκατανίκητη καί, ὅπως συνηθίζεται νά λέγεται, innovation eats regulation for breakfast.

Προφανῶς, ὁ ἔλεγχος δέν μπορεῖ νά γίνει μέ ἐμφυτεύσιμα τσιπάκια (neurolink) οὔτε μέ ἐπιλογές πού στηρίζονται σέ οἰκονομικά συμφέροντα οὔτε ἀπό μιά κοινωνία πού βρίσκεται σέ παρακμή, βυθισμένη σέ σκάνδαλα διαφθορᾶς, πού δέν σέβεται τόν ἴδιο τόν ἑαυτό της, τόν ἄνθρωπο, πού δέν καταλαβαίνει τήν πραγματική ἀξία της. Θά μποροῦσε πιθανότατα νά τό πετύχει μιά εὐφυΐα δυνατότερη ἀπό αὐτήν πού ἐπινόησε τήν τεχνητή εὐφυΐα, ἀλλά εὐφυΐα πού θά χαρακτηρίζεται ἀπό νοημοσύνη, ἀρετή, ἠθική. Ὅταν ἀμφισβητεῖται ἤ περιφρονεῖται ἡ ψυχή καί ἡ συνείδηση, ὅταν ὁ ἄνθρωπος ἐκφυλίζεται σέ μονοδιάστατη βιολογική ὕπαρξη ἤ σκεπτόμενη καί μόνον μηχανή, στήν οὐσία ὑπολογιστική μηχανή, τότε στερεῖται τοῦ θησαυροῦ τῆς νοημοσύνης, τοῦ μόνου πού μπορεῖ νά διαχειρισθεῖ δημιουργικά καί ἀποτελεσματικά την εὐφυΐα του.

Γιά τόν λόγο αὐτόν, πρωτίστως πρέπει νά ἐλέγξουμε τούς ἑαυτούς μας. Ἡ ἠθική ποιότητα πλέον ἐπιβάλλεται ἀπό τήν Τεχνητή Νοημοσύνη ὡς ὅρος ἐπιβίωσης τοῦ ἀνθρώπου. Ἡ ἀνάγκη γιά παράλληλη καλλιέργεια τῶν ἀνθρωπιστικῶν ἐπιστημῶν εἶναι ἐπιτακτική. Κάποιος πρέπει νά βοηθήσει, νά «κατηχήσει» τά chatbots, ὥστε νά λειτουργοῦν μέ κάποια ἐνσυναίσθηση, νά μήν μποροῦν νά διαπράξουν τό κακό. Ἴσως αὐτό νά εἶναι ἡ πρόκληση καί ἡ εὐκαιρία τῆς Ἐκκλησίας, νά ἀνοίξει τόν νοῦ στίς σύγχρονες προκλήσεις, τά μάτια στή ἀλήθεια της, τήν καρδιά στήν ἐμπειρία καί τήν ἀποστολή της καί τά χέρια της στόν κόσμο καί ἔτσι νά ἀξιοποιήσει τόν θησαυρό της.

Τελικά, ὁ ἔλεγχος τοῦ ἀτίθασου ὑπερ-κατασκευάσματος εἶναι ἡ νέα μεγάλη πρόκληση, αὐτό πού θά ἀναδείξει καί τήν ἀνυπέρβλητη ἀξία καί ὑπεροχή τοῦ ἀνθρώπου. Προφανῶς, ἡ φυσική εὐφυΐα πού τώρα ἀπαιτεῖται γιά τόν ἔλεγχο τῆς Τεχνητῆς εἶναι πολύ μεγαλύτερη ἀπό αὐτήν πού χρειάστηκε νά τήν ἐπινοήσει καί νά τήν κατασκευάσει.

Δυσκολία καί διέξοδος

Ἡ ἐπικινδυνότητα τῆς Τεχνητῆς Νοημοσύνης κρύβεται πίσω ἀπό τρεῖς σημαντικές δυνατότητες, πού χρήζουν ἰδιαίτερης προσοχῆς:

(α) νά προγραμματίζει, νά ἀναπαράγει καί νά βελτιώνει τόν ἑαυτό της,

(β) νά ἔχει πρόσβαση μέσῳ τοῦ διαδικτύου σχεδόν σέ ὅλες τίς ὑπηρεσίες στόν πλανήτη,

(γ) νά μπορεῖ νά ἐπικοινωνεῖ μέ ἄλλα συστήματα Τεχνητῆς Νοημοσύνης καί νά ἀνταλλάσσει πληροφορίες ἢ καί νά ἀναβαθμίζεται μέ νέο ἀλγόριθμο.

Αὐτές τίς δυνατότητες τίς ἔχει καί, παρά τήν ἐπικινδυνότητά τους, ἐφαρμόζονται χωρίς εὐρεῖα συναίνεση ἢ κάποιο πρωτόκολλο ἐλέγχου.

Ἡ ἀλήθεια εἶναι ὅτι ὁ ἔλεγχος τῆς Τεχνητῆς Νοημοσύνης εἶναι μέν τό ζητούμενο καί ἀπολύτως ἀναγκαῖο, στήν πράξη ὅμως εἶναι πολύ δύσκολος, ἴσως καί ἀνέφικτος.

Τοῦτο διότι:

(α) Δέν μποροῦμε νά περιορίσουμε ἕνα ἐργαλεῖο, τό ὁποῖο ἔχει ἐκπαιδευτεῖ νά ὑπερβαίνει κάθε περιορισμό.

(β) Δέν μποροῦμε νά νικήσουμε μιά εὐφυΐα, ἡ ὁποία ἔχει τή δυνατότητα νά χρησιμοποιήσει τό σύνολο τῆς ὑπολογιστικῆς δύναμης ὅλων τῶν συσκευῶν στό διαδίκτυο.

(γ) Δέν μποροῦμε νά ἀποκλείσουμε ἕναν ἀλγόριθμο, ὅταν ἔχει διαχυθεῖ παντοῦ στό διαδίκτυο.

Ὁ μόνος τρόπος γιά νά γίνει κάτι τέτοιο θά ἦταν νά καταργηθεῖ τό internet, νά σβήσουν ὅλοι οἱ ὑπολογιστές, νά σταματήσει τό ἠλεκτρικό δίκτυο παγκοσμίως καί νά γίνουν ἐξ ὑπαρχῆς τά πάντα format.

Ἀντιλαμβάνεται κανείς ὅτι κάτι τέτοιο οὔτε ἐφικτό εἶναι, ἐάν δέ συνέβαινε, θά προκαλοῦσε τό ἀπόλυτο χάος καί θά ἦταν κυριολεκτικά καταστροφικό γιά τήν ἀνθρωπότητα, τόν πολιτισμό, τήν ἴδια τή ζωή.

Ὁ καθηγητής Φιλοσοφίας τοῦ Πανεπιστημίου τῆς Ὀξφόρδης Nick Bostrom, σέ ὁμιλία του μέ τίτλο: «Τί θά συμβεῖ ὅταν οἱ computers γίνουν ἐξυπνότεροι ἀπό ἐμᾶς;», ὑποστηρίζει ὅτι πρέπει νά δράσουμε λαμβάνοντας ὑπ’ ὄψη ὅτι ἡ Τεχνητή Ὑπερνοημοσύνη (ASI) δέν θά ὑπάρχει τρόπος νά ἐλεγχθεῖ ὡς πρός τούς στόχους της καί θά μποροῦσε, ὅπως ἐμεῖς νικήσαμε, ἐξημερώσαμε ἢ ὑποτάξαμε καί ἀφανίσαμε τά κατώτερα σέ εὐφυΐα εἴδη στόν πλανήτη, ἔτσι νά συμβεῖ καί μέ μιά εὐφυΐα ἀνώτερη ἀπό τή δική μας.

Ἡ λύση δέν εἶναι νά ἀντιπαρατεθοῦμε μέ αὐτήν τήν πανίσχυρη καί πολύ πιό «ἔξυπνη», ἱκανή καί δυνατή ἀπό ἐμᾶς μηχανή, ἀλλά, ὅπως τῆς ἐμφυτεύσαμε τήν εὐφυΐα, νά τῆς μάθουμε ἠθικές ἀρχές (καί ὄχι ἁπλῶς σκέψεις), ὅπως ἡ μηχανική ταπείνωση καί κατανόηση, ἡ ἔκφραση ἀγάπης, ἡ ἐπιτέλεση τοῦ ἀγαθοῦ καί ἡ ἀδυναμία διάπραξης τοῦ κακοῦ, ἔτσι ὥστε νά εἴμαστε σίγουροι ὅτι θά τίς ὑπηρετήσει.

Αὐτό εἶναι τό σημεῖο πού ἡ Ἐκκλησία, ἀντί νά ἀπέχει, θά μποροῦσε ἐνδεχομένως νά «κατηχήσει» τόν ἀλγόριθμο, νά συμβάλει στήν κατάλληλη ἐκπαίδευσή του.

Τελική σκέψη, συμπέρασμα

Θά κλείσω τήν ὁμιλία μου μέ μία τελική σκέψη.

Φαίνεται πώς στήν ὅλη τεχνολογική μας ἐξέλιξη συχνά δέν ὑπάρχει οὔτε λόγος-αἰτία οὔτε λόγος-λογική. Ὑπάρχει εὐφυΐα, καί μάλιστα πολύ μεγάλη, μέ ὑπολογιστικά χαρακτηριστικά, ἀλλά ὄχι σοφία, οὔτε μικρή.

Γιά κάποιον λόγο ἀγωνιζόμαστε νά κατασκευάσουμε δημιουργήματα πού, ἀντί νά ὑποκαθιστοῦν τίς ἀνθρώπινες λειτουργίες, τελικά θά ἀντικαταστήσουν τόν ἄνθρωπο, στήν οὐσία θά τόν καταργήσουν. Αὐτός εἶναι καί ὁ μεγάλος κίνδυνος· νά χάσει ὁ ἄνθρωπος τή συνείδησή του.

Ἀντί νά προσπαθοῦμε νά βελτιώσουμε αὐτό πού εἴμαστε, ἐπιδιώκουμε νά γίνουμε αὐτό πού θέλουμε νά κατασκευάσουμε. Θέλουμε νά γίνουμε κάτι ἄλλο ἀπό αὐτό πού εἴμαστε. Θέλουμε τό ρομπότ περισσότερο ἀπό τήν ταυτότητά μας, ἀπό τόν πολιτισμό, τή φιλοσοφία, τήν τέχνη, τήν πίστη, τόν Θεό, τό πνευματικό γονιδίωμά μας. Ἔτσι, μετατίθεται ὁ προσανατολισμός καί ὁ προορισμός τοῦ ἀνθρώπου. Μήπως τελικά τό πρόβλημα βρίσκεται στό ὅτι ἡ τεχνολογία προχωρεῖ ἀσυνόδευτη ἀπό τίς ἀνθρωπιστικές ἐπιστῆμες;

Στά αὐτιά μου ἠχεῖ ἡ προτροπή τοῦ Ἁγίου Γρηγορίου τοῦ Θεολόγου: «Μὴ μείνωμεν, ἀδελφοί, ὅπερ ἐσμέν, ἀλλ’ ὅπερ ἦμεν γενώμεθα». Ἴσως τό μέλλον μας νά εἶναι ἡ ἀνακάλυψη τῆς ἀρχικῆς ταυτότητάς μας, τῆς ἀλήθειας μας. Ἡ λεωφόρος τῆς ΤΝ δέν φαίνεται νά ἔχει ὅριο ταχύτητας. Γιά νά φτάσουμε στόν προορισμό μας μέ ἀσφάλεια, χρειάζονται καλά φρένα καί τιμόνι. Αὐτό εἶναι ἡ βιοηθική. »

Ἡ ὁμιλία τοῦ Μητροπολίτου Νικολάου ἔγινε στήν παρουσίαση τοῦ συλλογικοῦ τόμου γιά τήν Τεχνητή Νοημοσύνη πού ἐπιμελήθηκε ὁ βουλευτής Εὐριπίδης Στυλιανίδης.