Σε δημόσια έκκληση προς την παγκόσμια τεχνολογική κοινότητα προχώρησε η Anthropic, ζητώντας ουσιαστικά από τα ανταγωνιστικά εργαστήρια ανάπτυξης μοντέλων ΑΙ να συμφωνήσουν όλοι μαζί σε μια συντονισμένη παύση της ανάπτυξης νέων μοντέλων.
Η δημιουργός εταιρεία του δημοφιλούς μοντέλου Claude προειδοποιεί ότι η ανθρωπότητα κινδυνεύει σύντομα να χάσει τον έλεγχο, καθώς η τεχνολογία πλησιάζει στο οριακό σημείο της «αναδρομικής αυτο-βελτίωσης»: στο σημείο δηλαδή που τα ίδια τα συστήματα AI θα μπορούν να αναβαθμίζουν τον εαυτό τους χωρίς καμία ανθρώπινη παρέμβαση ταχύτερα από όσο μπορεί η κοινωνία να διαχειριστεί τους κινδύνους.
Σύμφωνα με κείμενο που συνυπογράφουν ο συνιδρυτής της Anthropic, Jack Clark, και η επικεφαλής του Anthropic Institute, Marina Favaro, η ικανότητα των συστημάτων AI να εκτελούν αυτόνομα εργασίες διπλασιάζεται περίπου κάθε τέσσερις μήνες.
«Αν τα συστήματα γίνουν ικανά να κατασκευάζουν πλήρως τους δικούς τους διαδόχους, οι τρόποι με τους οποίους τα ασφαλίζουμε, τα παρακολουθούμε και διαμορφώνουμε τη συμπεριφορά τους αποκτούν πολύ μεγαλύτερη κρισιμότητα», αναφέρει η εταιρεία.
Αν και οι Clark και Favaro διευκρινίζουν ότι η αναδρομική αυτο-βελτίωση δεν είναι αναπόφευκτη ούτε έχει επιτευχθεί ακόμα, υπογραμμίζουν ότι «θα μπορούσε να έρθει πολύ νωρίτερα από ό,τι είναι προετοιμασμένοι οι περισσότεροι θεσμοί».
Η ανησυχία της Anthropic δεν είναι θεωρητική. Η δυναμική των νέων μοντέλων έγινε εμφανής πολύ πρόσφατα με το μοντέλο Mythos της Anthropic, το οποίο η ίδια η εταιρεία έθεσε σε καραντίνα, εξαιτίας της πρωτοφανούς ικανότητάς του να εντοπίζει ευπάθειες σε υφιστάμενους κώδικες.
Η έκκληση της Anthropic έρχεται σε μια περίοδο όπου η θεσμική θωράκιση απέναντι στην AI κινείται με εξαιρετικά αργούς ρυθμούς, ιδιαίτερα στις ΗΠΑ. Πρόσφατο εκτελεστικό διάταγμα της κυβέρνησης Trump μετέφερε την ευθύνη αποκλειστικά στις ίδιες τις εταιρείες, καλώντας τες να υποβάλλουν εθελοντικά τα πιο προηγμένα μοντέλα για έλεγχο από το κράτος πριν από τη δημόσια κυκλοφορία τους.
Η Anthropic ξεκαθαρίζει ότι μια μονομερής ή κακά συντονισμένη επιβράδυνση θα μπορούσε να φέρει τα αντίθετα αποτελέσματα, αφήνοντας το πεδίο ελεύθερο σε λιγότερο προσεκτικούς παίκτες να πάρουν τα ηνία της τεχνολογίας.
Για να είναι αποτελεσματικό ένα τέτοιο βήμα, απαιτείται καθολική συμφωνία και δέσμευση από το σύνολο των μεγάλων εταιρειών που βρίσκονται στην πρώτη γραμμή ανάπτυξης ΑΙ μοντέλων, σαφείς κανόνες και κριτήρια για το τι θα ενεργοποιεί και τι θα λήγει αυτή την παύση και ανεξάρτητη εποπτεία από ένα κοινά αποδεκτό φορέα που θα ελέγχει την τήρηση των συμφωνηθέντων.
Σχόλια