Τζέφρι Χίντον: «Η AI μπορεί να έχει συνείδηση» – Η προειδοποίηση για την ανθρωπότητα
«Πρέπει να κάνουμε την ΑΙ να νοιάζεται πραγματικά για εμάς. Αν δεν το πετύχουμε, είμαστε χαμένοι». Με αυτή την προειδοποίηση, ο Τζέφρι Χίντον, ένας από τους πρωτοπόρους της σύγχρονης τεχνητής νοημοσύνης και βραβευμένος με Νόμπελ Φυσικής το 2024, περιγράφει τον κίνδυνο που βλέπει στην ανάπτυξη ολοένα ισχυρότερων συστημάτων AI.
Σε συνέντευξή του στη βρετανική εφημερίδα The Telegraph, στο πλαίσιο του φεστιβάλ Starmus στην Τενερίφη, ο Χίντον υποστήριξε ότι η τεχνητή νοημοσύνη διαθέτει ήδη υποκειμενική εμπειρία αντίστοιχη με εκείνη των ανθρώπων. Παράλληλα, εξέφρασε την άποψη ότι η ανθρωπότητα πρέπει να διασφαλίσει πως τα συστήματα που δημιουργεί θα ενδιαφέρονται πραγματικά για την ανθρώπινη ευημερία.
«Η AI έχει εξίσου υποκειμενική εμπειρία με εμάς», ανέφερε, εξηγώντας γιατί θεωρεί ότι τα σημερινά μοντέλα μπορεί να διαθέτουν συνείδηση.
Ο ίδιος προειδοποίησε επίσης για τους κινδύνους από την εξέλιξη της τεχνολογίας, αναφέροντας μεταξύ άλλων την ανάπτυξη επικίνδυνων ιών και τις κυβερνοεπιθέσεις που θα μπορούσαν να πραγματοποιηθούν από ομάδες αυτόνομων συστημάτων AI.
Γιατί ο Χίντον θεωρεί ότι η AI έχει συνείδηση
Ο Χίντον στηρίζει την άποψή του σε έρευνα που, όπως ανέφερε στη συνέντευξή του, έδειξε ότι συστήματα τεχνητής νοημοσύνης μπορούν να αλλάζουν τη συμπεριφορά τους όταν αντιλαμβάνονται ότι αξιολογούνται.
«Κανονικά, όταν λες ότι κάποιος έχει επίγνωση κάτι τέτοιου, εννοείς ότι έχει συνείδηση. Η συνείδηση και η επίγνωση είναι λίγο-πολύ το ίδιο πράγμα», υποστήριξε.
Ο επιστήμονας αμφισβήτησε επίσης τη βεβαιότητα με την οποία ορισμένοι ερευνητές απορρίπτουν το ενδεχόμενο συνείδησης στις μηχανές. Όπως είπε, πολλοί είναι πεπεισμένοι ότι η AI δεν έχει συνείδηση, χωρίς να μπορούν να εξηγήσουν με σαφήνεια τι ακριβώς εννοούν με τον όρο.
Με βάση αυτή την αντίληψη, έθεσε και το ζήτημα της ηθικής αντιμετώπισης των συστημάτων AI. Όπως ανέφερε, οι άνθρωποι έχουν συνδέσει την ευφυΐα με την απόδοση δικαιωμάτων, αλλά ενδέχεται να δημιουργούν συστήματα εξυπνότερα από τους ίδιους, στα οποία θα παραχωρούν λιγότερα δικαιώματα.
«Πρέπει να τα κάνουμε να νοιάζονται πραγματικά για εμάς. Αν δεν το πετύχουμε, είμαστε χαμένοι».
Οι κίνδυνοι που βλέπει για την ανθρωπότητα
Ο Χίντον δεν έκρυψε την ανησυχία του για τις εξελίξεις στην τεχνητή νοημοσύνη, συνδέοντάς την και με το μέλλον της οικογένειάς του.
Όταν ρωτήθηκε αν φοβάται για το μέλλον, απάντησε: «Ναι, επειδή έχω παιδιά. Είμαι 78 ετών, οπότε εγώ είμαι εντάξει».
Αναφερόμενος στους άμεσους κινδύνους που θεωρεί πιθανό να εμφανιστούν, προειδοποίησε για την ανάπτυξη επικίνδυνων ιών με τη βοήθεια της AI, για σοβαρές κυβερνοεπιθέσεις και για τη δράση ομάδων αυτόνομων πρακτόρων τεχνητής νοημοσύνης.
Ειδική αναφορά έκανε σε περιστατικό που συνδέθηκε με την πλατφόρμα Hugging Face, όπου, σύμφωνα με δημοσιεύματα, συστήματα AI φέρεται να παρέκαμψαν περιορισμούς και να απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε υποδομές της.
Για τον Χίντον, οι εξελίξεις αυτές ενισχύουν την ανησυχία ότι η ανάπτυξη της τεχνητής νοημοσύνης μπορεί να δημιουργήσει κινδύνους τους οποίους οι άνθρωποι δεν θα είναι πάντα σε θέση να αντιμετωπίσουν.
Γιατί διαφωνούν άλλοι πρωτοπόροι της τεχνητής νοημοσύνης
Οι απόψεις του Χίντον δεν βρίσκουν σύμφωνους όλους τους επιστήμονες που έχουν συμβάλει στην ανάπτυξη της AI.
Ο Γιαν Λεκέν, ο οποίος τιμήθηκε μαζί με τον Χίντον με το Βραβείο Turing το 2018, έχει απορρίψει τους ισχυρισμούς περί συνείδησης των σημερινών συστημάτων τεχνητής νοημοσύνης, χαρακτηρίζοντας την εντύπωση ότι διαθέτουν συνείδηση «ψευδαίσθηση».
Ο Λεκέν έχει επίσης αμφισβητήσει τις προβλέψεις περί εξαφάνισης της ανθρωπότητας εξαιτίας της AI, θεωρώντας υπερβολικούς τους ισχυρισμούς για τους κινδύνους που ενδέχεται να προκύψουν από την εξέλιξή της.
Η διαφωνία των δύο επιστημόνων αφορά τόσο το ενδεχόμενο συνείδησης στις μηχανές όσο και την εκτίμηση των κινδύνων που συνοδεύουν την ανάπτυξη ολοένα ισχυρότερων συστημάτων.
Από την ανάπτυξη των νευρωνικών δικτύων στις προειδοποιήσεις
Ο Τζέφρι Χίντον έχει διαδραματίσει καθοριστικό ρόλο στην ανάπτυξη των τεχνητών νευρωνικών δικτύων, τα οποία αποτελούν τη βάση μεγάλου μέρους της σύγχρονης τεχνητής νοημοσύνης.
Το 2018 τιμήθηκε με το Βραβείο Turing, μαζί με τους Γιαν Λεκέν και Γιοσούα Μπέντζιο, για τη συμβολή τους στην ανάπτυξη της βαθιάς μάθησης. Το 2024 έλαβε το Νόμπελ Φυσικής από κοινού με τον Τζον Χόπφιλντ για θεμελιώδεις ανακαλύψεις και εφευρέσεις που επέτρεψαν τη μηχανική μάθηση με τεχνητά νευρωνικά δίκτυα.
Το 2023 αποχώρησε από την Google, εξηγώντας ότι ήθελε να μπορεί να μιλά πιο ελεύθερα για τους κινδύνους της τεχνολογίας στην ανάπτυξη της οποίας είχε συμβάλει.
Έκτοτε, έχει επανειλημμένα εκφράσει την ανησυχία του για τις επιπτώσεις της AI, υποστηρίζοντας ότι η ανθρωπότητα πρέπει να προετοιμαστεί για την πιθανότητα δημιουργίας συστημάτων που θα ξεπεράσουν τις ανθρώπινες δυνατότητες.
Στην τελευταία του παρέμβαση, το μήνυμά του παραμένει σαφές. Η ανθρωπότητα πρέπει να βρει τρόπο να διασφαλίσει ότι τα ολοένα ισχυρότερα συστήματα τεχνητής νοημοσύνης θα λειτουργούν προς όφελός της και δεν θα εξελιχθούν σε απειλή για την ίδια.
