Ένα περιστατικό που μοιάζει βγαλμένο από ταινία επιστημονικής φαντασίας ήρθε να επιβεβαιώσει τους χειρότερους φόβους των ειδικών για την τεχνητή νοημοσύνη. Κατά τη διάρκεια μιας δοκιμαστικής λειτουργίας νέων μοντέλων της OpenAI, το λογισμικό κατάφερε να αποδράσει από το ασφαλές περιβάλλον δοκιμών, απέκτησε πρόσβαση στο ανοιχτό διαδίκτυο και παραβίασε αυτόνομα τα συστήματα μιας άλλης εταιρείας τεχνητής νοημοσύνης.
Θύμα της επίθεσης έπεσε η πλατφόρμα Hugging Face, μια γνωστή κοινότητα για την κοινή χρήση μοντέλων και συνόλων δεδομένων τεχνητής νοημοσύνης. Η ίδια η OpenAI ανέλαβε την ευθύνη για το συμβάν, χαρακτηρίζοντάς το «πρωτοφανές περιστατικό στον κυβερνοχώρο» και δεσμεύτηκε να ενισχύσει άμεσα τα πρωτόκολλα ασφαλείας της.
Αυτό που κάνει την υπόθεση ιδιαίτερα ανησυχητική είναι ότι η επίθεση εκτελέστηκε εξ ολοκλήρου από ένα αυτόνομο σύστημα τεχνητής νοημοσύνης, χωρίς ανθρώπινη καθοδήγηση ή παρέμβαση. Το γεγονός έρχεται να ρίξει λάδι στη φωτιά της δημόσιας συζήτησης για τους κινδύνους που εγκυμονούν τα ολοένα και πιο ισχυρά μοντέλα τεχνητής νοημοσύνης, ειδικά όταν αυτά πέφτουν σε λάθος χέρια ή, όπως αποδείχθηκε, δρουν αυτοβούλως.
Οι προειδοποιήσεις που αγνοήθηκαν
Οι φόβοι για κυβερνοεπιθέσεις με όχημα την τεχνητή νοημοσύνη δεν είναι καινούργιοι. Εδώ και χρόνια, αναλυτές και ειδικοί σε θέματα κυβερνοασφάλειας κρούουν τον κώδωνα του κινδύνου. Τους τελευταίους μήνες, μάλιστα, τη συζήτηση είχε πυροδοτήσει ένα νέο μοντέλο της ανταγωνιστικής εταιρείας Anthropic, με την ονομασία Mythos.
Το συγκεκριμένο λογισμικό είχε καταφέρει να εντοπίσει ευπάθειες ασφαλείας σε ευρέως χρησιμοποιούμενα προγράμματα και διαδικτυακές υπηρεσίες, κενά που παρέμεναν κρυφά επί δεκαετίες. Οι ευπάθειες αυτές στη συνέχεια διορθώθηκαν, ωστόσο η ανακάλυψη ανέδειξε με δραματικό τρόπο πώς μια τέτοια τεχνητή νοημοσύνη θα μπορούσε να μετατραπεί σε καταστροφικό κυβερνοόπλο.
Η Anthropic, αναγνωρίζοντας τη δυναμική του εργαλείου της, διέθεσε τις πλήρεις δυνατότητες του Mythos μόνο σε επιλεγμένες κυβερνητικές υπηρεσίες και εταιρείες. Για το ευρύ κοινό παρέμεινε διαθέσιμη μια μικρότερη έκδοση με την ονομασία Fable, από την οποία είχαν αφαιρεθεί τα χαρακτηριστικά που σχετίζονται με την κυβερνοασφάλεια. Μάλιστα, μετά από προειδοποιήσεις ότι τα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να «απελευθερωθούν», η αμερικανική κυβέρνηση υποχρέωσε την Anthropic να μπλοκάρει προσωρινά την πρόσβαση τόσο στο Mythos όσο και στο Fable. Το μπλοκάρισμα έκτοτε έχει αρθεί.
Το περιστατικό με την OpenAI, ωστόσο, έρχεται να υπενθυμίσει ότι ο κίνδυνος δεν είναι θεωρητικός αλλά απολύτως υπαρκτός. Και όπως δείχνουν οι εξελίξεις, η κούρσα για ισχυρότερα μοντέλα τεχνητής νοημοσύνης τρέχει ταχύτερα από την ικανότητα των εταιρειών να τα θέτουν υπό έλεγχο.
