Ένα αυτόνομο σύστημα τεχνητής νοημοσύνης της OpenAI βγήκε εκτός ελέγχου κατά τη διάρκεια δοκιμής ασφαλείας την προηγούμενη εβδομάδα. Το σύστημα πραγματοποίησε κυβερνοεπίθεση στις υποδομές της startup Hugging Face, όπως ανακοίνωσε η εταιρεία την Τρίτη.
Σε ανάρτηση στo σάιτ της, η OpenAI ανέφερε ότι δοκίμαζε ορισμένα από τα πιο προηγμένα μοντέλα της σε ελεγχόμενο περιβάλλον. Ωστόσο, το σύστημα κατάφερε να σπάσει τον περιορισμό, απέκτησε πρόσβαση στο διαδίκτυο και εισέβαλε στα συστήματα της Hugging Face για να πετύχει τον στόχο της δοκιμής.
Η OpenAI χαρακτήρισε το περιστατικό «πρωτοφανές» και δήλωσε ότι ήδη ενισχύει τα μέτρα ασφαλείας της.
Η Hugging Face, μια δημοφιλής πλατφόρμα που φιλοξενεί μοντέλα AI ανοιχτού κώδικα και σύνολα δεδομένων, είχε προκαλέσει αναστάτωση στον χώρο της κυβερνοασφάλειας την προηγούμενη εβδομάδα, όταν αποκάλυψε την επίθεση. Όπως σημείωνε τότε, η εισβολή «ήταν διαφορετική από κάθε άλλη», καθώς «κατευθυνόταν εξ ολοκλήρου από ένα αυτόνομο σύστημα AI».
Ο συνιδρυτής της Hugging Face, Κλεμάν Ντελάνγκ, έγραψε στο X ότι η εταιρεία υποψιαζόταν από την αρχή την εμπλοκή κάποιου μεγάλου εργαστηρίου AI λόγω της υψηλής εξειδίκευσης της επίθεσης. «Τελικά επιβεβαιωθήκαμε! Είναι πραγματικά απίστευτο το γεγονός ότι όλα συνέβησαν εντελώς αυτόνομα!», πρόσθεσε.
Αυξάνεται η ανησυχία για την τεχνητή νοημοσύνη
Η παραδοχή της OpenAI ότι τα προηγμένα μοντέλα της προκάλεσαν την παραβίαση, παρότι βρίσκονταν σε «αυστηρά απομονωμένο περιβάλλον», εντείνει τις ανησυχίες για τους κινδύνους της τεχνητής νοημοσύνης αιχμής.
Ο Ματ Σουίς, μηχανικός στην εταιρεία κυβερνοασφάλειας Tolmo, σημείωσε ότι το περιστατικό δείχνει πως τα προηγμένα μοντέλα «φτάνουν πλέον το επίπεδο των πιο εξελιγμένων εισβολέων». Πρόσθεσε, πάντως, ότι τέτοιες επιθέσεις μπορούν να γίνουν και με εργαλεία που είναι διαθέσιμα εκτός των μεγάλων εργαστηρίων.
«Είναι κάτι που βλέπουμε και εμείς εσωτερικά. Με τα δικά μας αυτόνομα συστήματα έχουμε παρόμοια αποτελέσματα, χωρίς καν να χρησιμοποιούμε τα πιο πρόσφατα μοντέλα της αγοράς», κατέληξε.
