Μια από τις πλέον ηχηρές προειδοποιήσεις για το μέλλον της τεχνητής νοημοσύνης διατύπωσε η Anthropic, η εταιρεία πίσω από το μοντέλο Claude, υποστηρίζοντας ότι η ανθρωπότητα ενδέχεται να βρεθεί αντιμέτωπη με απώλεια ελέγχου των συστημάτων AI εάν συνεχιστεί ο σημερινός ρυθμός εξέλιξης.
Σύμφωνα με νέα ανάρτηση της εταιρείας, το Claude γράφει πλέον πάνω από το 80% του δικού του κώδικα, έναντι ποσοστού μικρότερου του 10% στις αρχές του 2025. Η Anthropic εκτιμά ότι η ποιότητα του κώδικα που παράγεται από το μοντέλο βρίσκεται ήδη περίπου στο ίδιο επίπεδο με αυτή των ανθρώπινων προγραμματιστών, ενώ μέσα στον επόμενο χρόνο ενδέχεται να τους ξεπεράσει.
Η εξέλιξη αυτή, όπως προειδοποιούν στελέχη της εταιρείας, ανοίγει τον δρόμο για αυτό που αποκαλείται «αναδρομική αυτοβελτίωση» (recursive self-improvement), δηλαδή την ικανότητα ενός συστήματος τεχνητής νοημοσύνης να σχεδιάζει και να αναπτύσσει μόνο του την επόμενη, ισχυρότερη εκδοχή του.
Σε κοινό άρθρο τους, οι Marina Favaro και Jack Clark της Anthropic αναφέρουν ότι η τρέχουσα πορεία ανάπτυξης δείχνει προς ένα μέλλον όπου τα συστήματα AI θα μπορούν να αναλαμβάνουν πλήρως τον σχεδιασμό και την κατασκευή των διαδόχων τους.
Όπως σημειώνουν, μια τέτοια τεχνολογική μετάβαση θα μπορούσε να φέρει σημαντικά οφέλη σε τομείς όπως η επιστήμη, η ιατρική και η έρευνα, επιταχύνοντας δραματικά την καινοτομία.
Την ίδια στιγμή, όμως, προειδοποιούν ότι η πλήρης αυτοβελτίωση ενός συστήματος χωρίς ανθρώπινη παρέμβαση ενδέχεται να αυξήσει σημαντικά τον κίνδυνο απώλειας ανθρώπινου ελέγχου πάνω στις μελλοντικές γενιές τεχνητής νοημοσύνης.
Η Anthropic υπογραμμίζει ότι μέχρι πρόσφατα κάθε σημαντική πρόοδος στην τεχνητή νοημοσύνη εξαρτιόταν αποκλειστικά από ανθρώπινους μηχανικούς και ερευνητές.
Σήμερα, όμως, η εταιρεία αναθέτει ολοένα και περισσότερες εργασίες ανάπτυξης στα ίδια τα συστήματα AI, επιδιώκοντας να επιταχύνει την εξέλιξή τους.
Αυτή η μετατόπιση, σύμφωνα με την εταιρεία, οδηγεί σταδιακά σε ένα μοντέλο όπου η τεχνητή νοημοσύνη θα μπορεί να βελτιώνει τις δυνατότητές της με όλο και μικρότερη ανθρώπινη συμμετοχή.
Η Anthropic υποστηρίζει ότι μια προσωρινή επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης θα μπορούσε να αποδειχθεί χρήσιμη, προκειμένου να δοθεί περισσότερος χρόνος σε κυβερνήσεις, ρυθμιστικές αρχές και ερευνητές να προετοιμαστούν για τις συνέπειες αυτών των τεχνολογιών.
Ωστόσο, αναγνωρίζει ότι κάτι τέτοιο είναι εξαιρετικά δύσκολο να εφαρμοστεί στην πράξη.
Όπως επισημαίνει, μια ουσιαστική παύση ή επιβράδυνση θα απαιτούσε συμφωνία μεταξύ των κορυφαίων εργαστηρίων AI παγκοσμίως, καθώς και μηχανισμούς επαλήθευσης ότι όλοι τηρούν τους ίδιους κανόνες.
Η εταιρεία παραλληλίζει την κατάσταση με διεθνείς συμφωνίες ελέγχου άλλων σύνθετων τεχνολογιών, σημειώνοντας όμως ότι η δημιουργία αντίστοιχων πλαισίων συνεργασίας χρειάστηκε δεκαετίες — χρόνο που, όπως εκτιμά, η τεχνητή νοημοσύνη ίσως να μην αφήσει διαθέσιμο.
Δεν είναι η πρώτη φορά που διατυπώνονται εκκλήσεις για επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης.
Το 2023 χιλιάδες ερευνητές, επιχειρηματίες και στελέχη του κλάδου είχαν υπογράψει ανοιχτή επιστολή με αίτημα εξάμηνο μορατόριουμ στην εκπαίδευση των ισχυρότερων μοντέλων AI, μετά την εκρηκτική επιτυχία του ChatGPT.
Η πρωτοβουλία δεν οδήγησε τελικά σε κάποια παγκόσμια συμφωνία, όμως η νέα παρέμβαση της Anthropic δείχνει ότι οι ανησυχίες γύρω από τον έλεγχο των μελλοντικών συστημάτων τεχνητής νοημοσύνης όχι μόνο παραμένουν, αλλά εντείνονται όσο τα ίδια τα μοντέλα αναλαμβάνουν ολοένα μεγαλύτερο ρόλο στην ανάπτυξή τους.
Περισσότερες ειδήσεις
Θες να χρησιμοποιήσεις το Claude ΑΙ; Ίσως χρειαστεί να… σκανάρεις το πρόσωπό σου
Claude Mythos: Το AI που είναι τόσο ισχυρό που… δεν επιτρέπεται να το χρησιμοποιήσεις
Πόσο πιθανό είναι τελικά να μας αντικαταστήσει η τεχνητή νοημοσύνη;
