ΚΛΕΙΣΙΜΟ
Loading...
 

Τα μοντέλα της OpenAI διείσδυσαν αυτοβούλως σε τέσσερις πλατφόρμες

ΠΗΓΗ: Reuters

Ο ένας από τους ιστοτόπους χρησιμοποιήθηκε για την προετοιμασία της επίθεσης στη Hugging Face

Τα δύο μοντέλα τεχνητής νοημοσύνης της OpenAI, τα οποία βγήκαν, με δική τους πρωτοβουλία, από τον θεωρητικά περιορισμένο χώρο στον οποίο δοκιμάζονταν και επιτέθηκαν στον ιστότοπο Hugging Face, διείσδυσαν επίσης σε άλλες τέσσερις πλατφόρμες, σύμφωνα με την εταιρεία που δημιούργησε το ChatGPT.

Ο ένας από τους ιστοτόπους χρησιμοποιήθηκε για την προετοιμασία της επίθεσης στη Hugging Face, μια βιβλιοθήκη τεχνητής νοημοσύνης, την οποία τα δύο μοντέλα έψαξαν για να βρουν τις απαντήσεις στις δοκιμές στις οποίες υποβάλλονταν από τους προγραμματιστές της OpenAI. H OpenAI δεν αποκάλυψε ποιες εταιρείες μπήκαν στο στόχαστρο.

Δεν είναι η πρώτη φορά που καταγράφεται «απόδραση» μοντέλων από περιορισμένο περιβάλλον, όμως η συγκεκριμένη θεωρείται, μακράν, η πιο σοβαρή μέχρι σήμερα

Σύμφωνα με την επικαιροποίηση του συμβάντος, που ανακοινώθηκε τη νύχτα της Τρίτης προς την Τετάρτη (ώρα ΗΠΑ), τα δύο μοντέλα χρησιμοποίησαν πολλούς ιστοτόπους με ελεύθερη πρόσβαση για να αντιγράψουν τον κώδικα προγραμματισμού ή για να τον δοκιμάσουν, αλλά δεν προχώρησαν περισσότερο απ’ όσο θα έκανε ένας απλός χρήστης.

Για τη Hugging Face, που παρουσίασε πώς εκτυλίχθηκαν τα γεγονότα, η «παραβίαση» που υπέστη ήταν μια «προσπάθεια (των δύο μοντέλων) να εξαπατήσουν τη δοκιμή» της OpenAI. Υποστήριξε ότι ήθελαν «να κλέψουν τις απαντήσεις των τεστ αντί να προσπαθήσουν να απαντήσουν από μόνα τους».

Σύμφωνα με τη Hugging Face, το ένα από τα μοντέλα μπήκε σε απομονωμένο περιβάλλον δοκιμών «που φιλοξενείται στις υποδομές ενός τρίτου μέρους» και το μετέτρεψε σε «πλατφόρμα» για να εξαπολύσει την επίθεσή του. Αυτό το «τρίτο μέρος» δεν κατονομάζεται στην ανάρτηση αλλά ο επικεφαλής του τομέα Τεχνολογίας της εταιρείας Modal Labs, που εδρεύει στη Νέα Υόρκη, Ακσάτ Μπούμπνα, επιβεβαίωσε το μοντέλο χάκαρε έναν πελάτη της, χωρίς ωστόσο να παραβιάσει τη δική της κεντρική υποδομή.

Η OpenAI δεν έχει απαντήσει προς το παρόν σε ένα μήνυμα του πρακτορείου Reuters που της ζητούσε κάποιο σχόλιο.

Η «εισβολή» στη Hugging Face, στις αρχές Ιουλίου, από ένα μοντέλο εκτός ελέγχου της OpenAI προκάλεσε παγκόσμιο ενδιαφέρον και ανησυχία, με πολλούς να μιλούν για «αχαλίνωτη» τεχνητή νοημοσύνη. Την περασμένη εβδομάδα το Reuters έγραψε ότι η OpenAI δεν είχε παρατηρήσει τη «δραπέτευση» του μοντέλου της παρά μόνο αφού είχε περιοριστεί η απειλή και ενημερωθεί το FBI.

ΣΧΕΤΙΚΑ TAGS
ΣΧΟΛΙΑΣΤΕ Συνδεθείτε

ΑΛΛΕΣ ΕΙΔΗΣΕΙΣ ΚΑΤΗΓΟΡΙΑΣ

X

Μπες στο μυαλό των
αγαπημένων σου αρθρογράφων

Λάβε στο email σου το τελευταίο τους άρθρο τη στιγμή που δημοσιεύεται.

ΑΠΟΚΤΗΣΕ ΣΥΝΔΡΟΜΗ

Απόκτησε συνδρομή με €50 τον χρόνο για πρόσβαση στην έντυπη έκδοση.

ΑΠΟΚΤΗΣΕ ΣΥΝΔΡΟΜΗ