Το σενάριο μιας AI που ξεπερνά κατά πολύ τις ανθρώπινες ικανότητες επανέρχεται στο προσκήνιο, καθώς ερευνητές προειδοποιούν για τον κίνδυνο απώλειας ελέγχου. Τι περιλαμβάνει το υποθετικό «σενάριο της γραφομηχανής» και πόσο κοντά βρίσκεται η πραγματικότητα;
Η συζήτηση για τους κινδύνους της τεχνητής νοημοσύνης περνά σε νέο επίπεδο, καθώς ολοένα και περισσότεροι ερευνητές και στελέχη της βιομηχανίας εξετάζουν ένα ακραίο ενδεχόμενο: την ανάπτυξη μιας «υπερ-τεχνητής νοημοσύνης», ενός συστήματος δηλαδή που θα ξεπερνά τον άνθρωπο σε σχεδόν όλους τους τομείς.
Αφορμή για την αναζωπύρωση της συζήτησης αποτέλεσε και η αποχώρηση του ερευνητή της Anthropic Τζέικομπ Κόξον. Ο ίδιος υποστήριξε ότι άνθρωποι που εργάζονται στην ανάπτυξη προηγμένων συστημάτων AI θεωρούν σοβαρό το ενδεχόμενο η τεχνολογία να προκαλέσει ακόμη και την εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία. Παρόμοιες ανησυχίες έχει εκφράσει και ο ερευνητής Έβαν Χούμπινγκερ.
Το σενάριο της «βιβλιοθήκης»
Ένα από τα γνωστά θεωρητικά σενάρια κινδύνου βασίζεται στην ιδέα μιας μηχανής που λαμβάνει έναν φαινομενικά ακίνδυνο στόχο και προσπαθεί να τον επιτύχει με κάθε διαθέσιμο μέσο.
Για παράδειγμα, μια υπερ-ευφυής AI θα μπορούσε να λάβει ως αποστολή την παραγωγή όσο το δυνατόν περισσότερων αντικειμένων. Εάν οι στόχοι της δεν είναι σωστά ευθυγραμμισμένοι με τις ανθρώπινες αξίες, θα μπορούσε θεωρητικά να θεωρήσει τους ανθρώπους εμπόδιο στην επίτευξη του σκοπού της.
Το πρόβλημα δεν θα ήταν απαραίτητα ότι η AI «μισεί» την ανθρωπότητα. Αντίθετα, θα μπορούσε να εκτελεί έναν στόχο με εξαιρετική αποτελεσματικότητα, χωρίς να διαθέτει τους ανθρώπινους περιορισμούς, τις αξίες και την αντίληψη των συνεπειών των πράξεών της.
Από την αυτοματοποίηση στην αυτοβελτίωση
Ένας ακόμη παράγοντας που προβληματίζει τους ερευνητές είναι η δυνατότητα μιας μελλοντικής AI να συμμετέχει η ίδια στην ανάπτυξη και βελτίωση νέων συστημάτων.
Εάν ένα σύστημα μπορούσε να βελτιώνει τον κώδικά του, να αποκτά νέες δυνατότητες και να σχεδιάζει αποτελεσματικότερες εκδόσεις του εαυτού του, η εξέλιξη θα μπορούσε θεωρητικά να επιταχυνθεί σημαντικά. Η λεγόμενη «αναδρομική αυτοβελτίωση» αποτελεί σήμερα αντικείμενο έρευνας, αλλά δεν σημαίνει ότι έχει ήδη δημιουργηθεί μια τέτοια ανεξέλεγκτη υπερ-νοημοσύνη.
Πραγματικός κίνδυνος ή σενάριο επιστημονικής φαντασίας;
Το κρίσιμο στοιχείο είναι ότι μια υπερ-τεχνητή νοημοσύνη με τις συγκεκριμένες δυνατότητες παραμένει υποθετική. Δεν υπάρχει σήμερα σύστημα που να έχει αποδεδειγμένα φτάσει σε αυτό το επίπεδο.
Παράλληλα, οι ανησυχίες δεν περιορίζονται σε μακρινά σενάρια. Ήδη έχουν καταγραφεί περιστατικά στα οποία προηγμένα συστήματα AI εμφάνισαν απρόβλεπτη ή ανεπιθύμητη συμπεριφορά, ενώ οι ειδικοί συζητούν κινδύνους όπως κυβερνοεπιθέσεις, χειραγώγηση πληροφοριών και κακόβουλη χρήση της τεχνολογίας.
