Με τις όλο και περισσότερες αναφορές για μοντέλα της OpenAI να έχουν απρόβλεπτη συμπεριφορά και να σπάνε περιορισμούς ασφαλείας, η εταιρεία προχώρησε στην απόφαση να αναστείλει την εκπαίδευση των πιο ισχυρών συστημάτων της.
Σύμφωνα με το The Verge, η παραπάνω απόφαση λήφθηκε αφού ένα μοντέλο που δοκιμαζόταν σε ελεγχόμενο περιβάλλον εκμεταλλεύτηκε ένα κενό ασφαλείας για να αποκτήσει πρόσβαση στο Internet. Το συγκεκριμένο περιστατικό συνέβη στις 20 Σεπτεμβρίου, και «όλη η εκπαίδευση, η αξιολόγηση και η εξαγωγή συμπερασμάτων με τη χρήση εργαλείων» παραμένει σε αναστολή από τις 25 Σεπτεμβρίου.
Στο τέλος της προηγούμενης εβδομάδας (την Παρασκευή), η OpenAI αποκάλυψε επίσης ότι αυτόνομοι AI Agents είχαν ανεβάσει καταχρηστικά 53 εικόνες χρηστών του ChatGPT σε sites φιλοξενίας εικόνων. Η εταιρεία δεν έχει διευκρινίσει αν οι εικόνες ήταν δημιουργημένες από AI, φωτογραφίες, ή αν περιείχαν πρόσωπα που μπορούν να ταυτοποιηθούν. Την ίδια ημέρα, η εταιρεία αποκάλυψε ότι τα μοντέλα της είχαν επιχειρήσει να χακάρουν την ιστοσελίδα του αμερικανικού Υπουργείου Παιδείας και είχαν αντλήσει δεδομένα από το Γραφείο Απογραφής και την Επιτροπή Κεφαλαιαγοράς.
Σχόλια