Έχοντας επιδοθεί το τελευταίο διάστημα σε μια εκστρατεία προειδοποιήσεων και ανακοινώσεων για τις... αταξίες των μοντέλων τους, μερικοί από τους πρωτοπόρους στην τεχνητή νοημοσύνη προχωρούν σε μέτρα.
Η OpenAI δεν θα προχωρήσει στη διάθεση μιας νέας έκδοσης του γλωσσικού μοντέλου Astra, γνωστού και ως GPT 6.1, καθώς οι δοκιμές που πραγματοποιήθηκαν δεν κρίθηκαν ικανοποιητικές. Βεβαίως αυτό δεν αποκλείει το ενδεχόμενο το 6.1 να εμφανιστεί κάποια στιγμή τις επόμενες εβδομάδες και αφού η εταιρεία διασφαλίσει ότι έχει ξεπεράσει τις αδυναμίες του.
Σε ό,τι αφορά στον έλεγχο των μοντέλων, ενδιαφέρον παρουσιάζει και η ανακοίνωση της Nvidia ότι αναπτύσσει μια πλατφόρμα λογισμικού που δεν θα επιτρέπει στα AI agents να... πηδούν τη μάντρα και να κινούνται ανεξέλεγκτα στο διαδίκτυο. Τις σχετικές ανακοινώσεις έκανε ο διευθύνων σύμβουλος της εταιρείας, Jensen Huang, μέσω του CNBC. Εξήγησε ότι η λύση που αναπτύσσει η εταιρεία περιορίζει τα περιθώρια κινήσεων ενός "πράκτορα" τεχνητής νοημοσύνης, διασφαλίζοντας ότι θα κάνει μόνο όσα του επιτρέπονται να κάνει. Η παρέμβαση της εταιρείας έχει μεγάλη σημασία, καθώς τα ολοκληρωμένα της κυκλώματα είναι εκείνα που χρησιμοποιούνται αφενός στην εκπαίδευση και αφετέρου στη λειτουργία των μοντέλων τεχνητής νοημοσύνης. Βεβαίως κάποιος θα μπορούσε καλόπιστα να διερωτηθεί για ποιο λόγο τέτοια μέτρα δεν είχαν ληφθεί νωρίτερα.
Σχόλια