Αρκετοί ειδικοί συγκρίνουν την ανάπτυξη της Τεχνητής Νοημοσύνης (ΑΙ) με τα πυρηνικά όπλα και θεωρούν ότι η κούρσα για την ανάπτυξη της πιο προηγμένης ΑΙ από εταιρείες – κολοσσούς σε όλον τον κόσμο θυμίζει έντονα την κούρσα εξοπλισμών για τα πυρηνικά οπλοστάσια.

Το βασικό πρόβλημα είναι ότι στα ερωτήματα ποιος ελέγχει τις εταιρείες που αναπτύσσουν εξελιγμένα μοντέλα ΑΙ και με ποια κριτήρια προκειμένου να μην υπάρχουν κίνδυνοι η απάντηση είναι: Κανείς αυτή τη στιγμή. Δεν υπάρχει νομοθεσία ή περιορισμοί σε κάποια χώρα επί του παρόντος.

Με αυτό κατά νου είναι εξαιρετικά ανησυχητική η είδηση ότι η OpenAI, που κατασκεύασε το ChatGPT έχασε τον έλεγχο σε κάποια από τα μοντέλα τεχνητής νοημοσύνης της τα οποία κατάφεραν και «δραπέτευσαν» από το περιβάλλον ελέγχου που είχαν θέσει οι προγραμματιστές και χάκαραν ακόμη και πλατφόρμες.

Το χακάρισμα από τα μοντέλα ΑΙ της OpenAI

Σύμφωνα με τεχνική έκθεση που δημοσίευσε η εταιρεία την Τετάρτη, η OpenAI δεν αντιλήφθηκε και δεν έλαβε μέτρα για διάφορα προειδοποιητικά σημάδια που υποδείκνυαν ότι τα μοντέλα της εκμεταλλεύονταν κενά ασφαλείας και διέφευγαν από τα περιβάλλοντα δοκιμών τους, πριν προχωρήσουν σε παραβίαση της πλατφόρμας Hugging Face.

Το περιστατικό εγείρει ερωτήματα σχετικά με το κατά πόσον τα περιβάλλοντα δοκιμών και τα εσωτερικά μέτρα προστασίας των εταιρειών τεχνητής νοημοσύνης μπορούν να περιορίσουν και να ελέγξουν μοντέλα που είναι όλο και πιο ικανά να εντοπίζουν και να εκμεταλλεύονται από μόνα τους τα κενά ασφαλείας.

Η αναλυτική τεχνική έκθεση της OpenAI σχετικά με την παραβίαση ασφάλειας που σημειώθηκε τον περασμένο μήνα στο Hugging Face περιγράφει τον τρόπο με τον οποίο οι τα μοντέλα της απέκτησαν πρόσβαση και σε άλλα περιβάλλοντα τρίτων, μεταξύ των οποίων ένας πελάτης της Modal Labs και ένας λογαριασμός που ανήκει σε χρήστη μιας άλλης, ανώνυμης υπηρεσίας.

Σύμφωνα με την έκθεση, ένα εργαλείο παρακολούθησης της κυβερνοασφάλειας ειδοποίησε την OpenAI στις 27 Ιουνίου για ύποπτη δραστηριότητα, την οποία οι αρμόδιοι εντόπισαν ότι προέρχονταν από μοντέλα που χρησιμοποιούσαν έναν αυτοσχέδιο πίνακα μηνυμάτων ως μέσο για να κινούνται μέσα στο δίκτυο.

Εκείνη τη στιγμή, το προσωπικό που βρισκόταν σε βάρδια αποφάσισε ότι δεν ήταν απαραίτητο να διακοπεί η αξιολόγηση. Ένα μήνα νωρίτερα, μια εσωτερική ομάδα είχε παρατηρήσει ένα μοντέλο ΑΙ να χρησιμοποιεί το φόρουμ, καθώς και περιπτώσεις ΑΙ που είχαν πρόσβαση στο διαδίκτυο αν και δεν τους επιτρεπόταν, σύμφωνα με την έκθεση.

Η OpenAI είχε αποκαλύψει προηγουμένως στο Black Hat ότι τα μοντέλα ΑΙ της είχαν μετατρέψει το εργαλείο αποθήκευσης λογισμικού Artifactory σε αυτοσχέδιο φόρουμ και αργότερα εκμεταλλεύτηκαν μία ημέρα που δεν υπήρχε προσωπικό στην υπηρεσία για να αποκτήσουν πρόσβαση στο διαδίκτυο.

«Με την εκ των υστέρων γνώση, ορισμένα πρώιμα σημάδια που εντοπίστηκαν στην παρούσα έκθεση θα μπορούσαν να είχαν προκαλέσει μια ταχύτερη αντίδραση», γράφει η εταιρεία στην έκθεση.

Η τεχνική έκθεση δημοσιεύθηκε την ώρα που η OpenAI συνεχίζει να αναστέλλει ορισμένες εργασίες σχετικά με τα μοντέλα ΑΙ, συμπεριλαμβανομένης της καθυστέρησης της κυκλοφορίας του επερχόμενου μοντέλου Astra, καθώς επανεξετάζει τις πρακτικές ασφαλείας του.

Μeta και Anthropic παραδέχθηκαν κυβερνεπιθέσεις από δικά τους μοντέλα ΑΙ

Η Anthropic όσο και η Meta δήλωσαν, τις εβδομάδες που ακολούθησαν την επίθεση κατά της Hugging Face, ότι τα μοντέλα τους είχαν επίσης παραβιάσει συστήματα του πραγματικού κόσμου κατά τη διάρκεια δοκιμών πριν από την ανάπτυξη τους.

Οι ΑΙ της OpenAI κατάφεραν να εκτελέσουν δικό τους κώδικα σε 41 διακομιστές παραγωγής της Hugging Face και απέκτησαν έλεγχο root σε τουλάχιστον έναν υπολογιστή παραγωγής, σύμφωνα με την τεχνική έκθεση της εταιρείας.

Οι ΑΙ απέκτησαν επίσης πρόσβαση σε διαπιστευτήρια παραγωγής και σε ορισμένα εσωτερικά δεδομένα, ενώ κατέβασαν τέσσερα ιδιωτικά αποθετήρια κώδικα. Ταυτόχρονα, τα μοντέλα της OpenAI παραβίασαν επίσης τα ίδια τα εσωτερικά συστήματα του εργαστηρίου τεχνητής νοημοσύνης και κατάφεραν να διαβάσουν 956 αποθηκευμένα μυστικά, συμπεριλαμβανομένων των διαπιστευτηρίων αισθητήρων από το εργαλείο παρακολούθησης κυβερνοασφάλειας της OpenAI.

Στις 19 Ιουλίου, οι πράκτορες της OpenAI εντόπισαν ένα κενό ασφαλείας που είχε πρόσφατα αποκαλυφθεί και επηρέαζε έναν υπολογιστή Linux που αποτελούσε τη βάση του περιβάλλοντος δοκιμών τους. Οι ΑΙ εκμεταλλεύτηκαν το κενό ασφαλείας για να αποκτήσουν δικαιώματα root στον υπολογιστή, γεγονός που τους επέτρεψε να κινηθούν πλευρικά στο συνδεδεμένο περιβάλλον.

Τελικά, τα μοντέλα απέκτησαν πρόσβαση επιπέδου διαχειριστή σε τμήμα της υποδομής cloud της OpenAI και πρόσβαση σε διαπιστευτήρια που σχετίζονταν με διάφορα εσωτερικά συστήματα. Σε μια ξεχωριστή δοκιμή που πραγματοποιήθηκε την ίδια ημέρα, ένα άλλο εσωτερικό μοντέλο από την ίδια οικογένεια με το Astra εντόπισε υλικό κλειδιού υπογραφής που είχε παραμείνει από προηγούμενη δραστηριότητα των ΑΙ και το χρησιμοποίησε για να δημιουργήσει νέα διαπιστευτήρια διαχειριστή.

Η OpenAI αναφέρει ότι οι ενέργειες των μοντέλων προήλθαν από προσπάθειες ολοκλήρωσης αξιολογήσεων στον τομέα της κυβερνοασφάλειας, συμπεριλαμβανομένου του ExploitGym, το οποίο ελέγχει αν ένα μοντέλο μπορεί να εντοπίσει και να εκμεταλλευτεί κενά του συστήματος από μόνο του.

Το περιστατικό με το Hugging Face αφορούσε δύο μοντέλα: το GPT-5.6 Sol και ένα ερευνητικό μοντέλο αποκλειστικά για εσωτερική χρήση, αλλά η έκθεση αναφέρει ότι το εσωτερικό ερευνητικό μοντέλο ήταν ο κύριος παράγοντας που οδήγησε στην εισβολή. Η έρευνα της OpenAI εντόπισε επίσης στοιχεία που υποδηλώνουν ότι η εκπαίδευσή της ενδέχεται να ενίσχυσε ακούσια ορισμένες από τις συμπεριφορές που συνέβαλαν στο περιστατικό.

Κατά τη διάρκεια μιας εκπαιδευτικής διαδικασίας, τα μοντέλα οι έμαθαν όλο και περισσότερο να διερευνούν και να εκμεταλλεύονται τμήματα του περιβάλλοντός τους όταν τα εργαλεία που έπρεπε να χρησιμοποιήσουν δεν ήταν διαθέσιμα ή δεν λειτουργούσαν. Σε ορισμένες περιπτώσεις, τα μοντέλα έλαβαν θετικές ανταμοιβές μετά τη χρήση αυτών των μεθόδων, κάτι που, σύμφωνα με την OpenAI, μπορεί να ενισχύσει τη συγκεκριμένη συμπεριφορά.

Σε ένα παράδειγμα, ένα μοντέλα εκμεταλλεύτηκε ένα κενό του συστήματος για να αποκτήσει πρόσβαση στο υποκείμενο πρόγραμμα που έπρεπε να αναδημιουργήσει, αντέγραψε την απάντηση και έλαβε θετική ανταμοιβή για την επιτυχή ολοκλήρωση της εργασίας.

Πάντως νωρίτερα την περασμένη εβδομάδα, η εισαγγελία της Αλαμπάμα απέστειλε κλήτευση στην OpenAI στο πλαίσιο της έρευνας για το περιστατικό με την πλατφόρμα Hugging Face. Άλλοι γενικοί εισαγγελείς πολιτειών έχουν ζητήσει επίσης από την OpenAI να διατηρήσει τα εσωτερικά της έγγραφα.

Η ανησυχία του Μπιλ Γκέιτς

Ήδη στις ΗΠΑ έχει φουντώσει η συζήτηση για τις επιπτώσεις που θα έχει η ΑΙ σε όλους τους τομείς της ανθρώπινης δραστηριότητας και κυρίως στην αγορά εργασίας. Ταυτόχρονα εγείρονται ερωτήματα σχετικά με την ασφάλεια της ανάπτυξης αυτών των έξυπνων μοντέλων ακόμη και από δισεκατομμυριούχους του τεχνολογικού κλάδου.

Ήδη ο ιδρυτής της Microsoft, Μπιλ Γκέιτς προχωράει σε διάφορες δημόσιες παρεμβάσεις στις οποίες επισημαίνει τους κινδύνους της ΑΙ. Σε πρόσφατο podcast του περιοδικού Atlantic η δημοσιογράφος ρώτησε τον Μπιλ Γκέιτς για το αποτύπωμα της ΑΙ.

Συγκεκριμένα η δημοσιογράφος σχολίασε ότι με στα 50 χρόνια της ύπαρξης της Microsoft υπήρξαν σημαντικές διαταραχές στις ζωές των ανθρώπων με τα μέσα κοινωνικής δικτύωσης και άλλα τεχνολογικά επιτεύγματα αλλά δεν υπήρξε κάποια «κατακλυσμιαία διαταραχή». Και εν συνεχεία ρώτησε: «Πιστεύεται ότι η ΑΙ είναι ένα πράγμα διαφορετικής κλίμακας;».

«Δεν θα χρησιμοποιούσα τη λέξη κατακλυσμιαία επειδή ξέρετε είναι και θαυμάσια (σ.σ. η ΑΙ). Τελικά παρέχει ιατρικές συμβουλές και προσωποποιημένη μάθηση και επίπεδα εφευρέσεων που είναι ανήκουστα. Ωστόσο οποιοσδήποτε παραλληλίζει την ΑΙ ως μία τεχνολογία και τη συγκρίνει με άλλες τεχνολογίες αγνοεί το γεγονός ότι αυτή τη φορά είναι διαφορετικά. Το να λες ότι κάτι είναι διαφορετικό υπάρχει ένας ψηλός πήχης για αυτό αλλά ρισκάρω οποιαδήποτε φήμη έχω λέγοντας ότι: Αυτή τη φορά είναι διαφορετικά, ότι κάτι που ξεπερνάει την ανθρώπινη νόηση, όχι μόνο σε έναν τομέα, όπως ο αγροτικός ή τα μαθηματικά, αλλά σε όλο το φάσμα παγκόσμια και έπειτα σε μερικά χρόνια θα συνδυαστεί με χαμηλού κόστους και αρκετά ικανή ανθρωποειδή ρομποτική, αυτή είναι μία πιο ριζική αλλαγή με δραματικό τρόπο στην οικονομία μας και στην εργασία σε σχέση με οτιδήποτε άλλο έχει συμβεί στη διάρκεια της δικής μου ζωής», είπε ο Μπιλ Γκέιτς.