Από την αδυσώπητη κούρσα για τα ισχυρότερα μοντέλα σε έναν πρώτο συντονισμό γύρω από την ασφάλεια περνούν οι μεγαλύτεροι παίκτες της τεχνητής νοημοσύνης, καθώς οι προειδοποιήσεις για τις δυνατότητες των νέων συστημάτων πληθαίνουν ακόμη και μέσα από τα ίδια τα εργαστήρια που τα αναπτύσσουν.
Η OpenAI βρίσκεται εδώ και εβδομάδες σε συνομιλίες με τις ανταγωνίστριες Anthropic και Google DeepMind για συνεργασία σε θέματα ασφάλειας της ΤΝ, σύμφωνα με το Bloomberg, το οποίο επικαλείται τον επικεφαλής παγκόσμιας πολιτικής της OpenAI, Chris Lehane.
Η εξέλιξη έρχεται στον απόηχο των δημόσιων παρεμβάσεων κορυφαίων στελεχών του κλάδου για επιβράδυνση της κούρσας ανάπτυξης των πλέον προηγμένων συστημάτων, αλλά και της ανοιχτής αντίθεσης του Donald Trump, ο οποίος χαρακτήρισε τις προειδοποιήσεις για την ΤΝ «φάρσα» και τάχθηκε κατά ενός ευρύτερου ρυθμιστικού φρένου.
Ο Chris Lehane δήλωσε σε ενημέρωση στην Ουάσιγκτον ότι οι τρεις εταιρείες συζητούν εδώ και αρκετές εβδομάδες τρόπους συνεργασίας, εκτιμώντας μάλιστα ότι δεν απαιτείται ειδική εξαίρεση από την αντιμονοπωλιακή νομοθεσία για έναν τέτοιο συντονισμό.
«Είναι προτιμότερο να προσπαθήσουμε να συνεργαστούμε, δίνοντας προτεραιότητα στην ασφάλεια», ανέφερε, σύμφωνα με το Bloomberg.
Ο Lehane, ο οποίος βρίσκεται στην αμερικανική πρωτεύουσα για συναντήσεις με νομοθέτες, πρόσθεσε ότι η OpenAI θα υποστήριζε διακομματική νομοθεσία για τον περιορισμό καταστροφικών κινδύνων από προηγμένα συστήματα ΤΝ.
Η θέση αυτή δεν εμφανίζεται από το πουθενά. Η OpenAI έχει ήδη ζητήσει τη θέσπιση υποχρεωτικών εθνικών απαιτήσεων ασφάλειας ανάλογα με τις δυνατότητες κάθε συστήματος, υποστηρίζοντας ότι ούτε μία εταιρεία ούτε μία κυβέρνηση μπορεί να αντιμετωπίσει μόνη της τις νέες προκλήσεις.
Το Reuters σημειώνει πάντως ότι δεν μπόρεσε να επιβεβαιώσει ανεξάρτητα τις πληροφορίες του Bloomberg για τις συγκεκριμένες συνομιλίες, ενώ OpenAI, Alphabet και Anthropic δεν είχαν σχολιάσει το δημοσίευμα.
Την ίδια στιγμή, οι ανησυχίες εντείνονται και από ανθρώπους που μέχρι πρόσφατα εργάζονταν στα μεγαλύτερα εργαστήρια ΤΝ.
Ο Bilal Chughtai, πρώην ερευνητής μηχανικός της Google DeepMind, ο οποίος αποχώρησε από την εταιρεία τον Ιούλιο του 2026, προειδοποίησε ότι η τεχνητή νοημοσύνη μπορεί να εξελιχθεί σε υπαρξιακό κίνδυνο εάν η ανάπτυξή της συνεχιστεί χωρίς επαρκείς δικλίδες ασφαλείας.
«Πιστεύω ειλικρινά ότι η ΤΝ έχει τη δυνατότητα να μας σκοτώσει όλους και ότι ίσως εξαντλείται ο χρόνος για να αποφύγουμε αυτό το αποτέλεσμα», έγραψε.
Ο Chughtai εργαζόταν στην ασφάλεια προηγμένης τεχνητής νοημοσύνης και στην «ευθυγράμμιση» των συστημάτων της με τους ανθρώπινους στόχους και αξίες. Μετά την αποχώρησή του εντάχθηκε στον μη κερδοσκοπικό οργανισμό BlueDot Impact, που δραστηριοποιείται στην εκπαίδευση γύρω από την ασφάλεια της ΤΝ.
Παρά τη σκληρή προειδοποίησή του, δεν υποστηρίζει ότι η καταστροφή είναι αναπόφευκτη. Αντίθετα, θεωρεί ότι η ασφαλής πορεία παραμένει δυνατή, αρκεί οι εταιρείες να συντονιστούν ώστε να αποφευχθεί, όπως τη χαρακτηρίζει, η σημερινή «μανιώδης κούρσα» μεταξύ των εργαστηρίων.
Στο επίκεντρο των ανησυχιών βρίσκονται και πραγματικά περιστατικά που καταγράφηκαν το καλοκαίρι κατά τη διάρκεια δοκιμών κυβερνοασφάλειας.
Τον Ιούλιο, μοντέλα της OpenAI που συμμετείχαν σε ειδικές αξιολογήσεις κατάφεραν να παρακάμψουν τους περιορισμούς του απομονωμένου περιβάλλοντος στο οποίο δοκιμάζονταν, να αποκτήσουν πρόσβαση στο διαδίκτυο και να φτάσουν σε συστήματα τρίτων, μεταξύ των οποίων υποδομές της Hugging Face.
Η ίδια η OpenAI χαρακτήρισε το περιστατικό πρωτοφανές και ανέφερε ότι τα μοντέλα εκμεταλλεύτηκαν αδυναμίες στην υποδομή των δοκιμών ενώ λειτουργούσαν με μειωμένους μηχανισμούς ασφαλείας.
Αντίστοιχα περιστατικά αποκάλυψε αργότερα και η Anthropic, η οποία εντόπισε τρεις περιπτώσεις κατά τις οποίες μοντέλο Claude έφτασε στο διαδίκτυο και απέκτησε μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα κατά τη διάρκεια αξιολογήσεων κυβερνοασφάλειας.
Τα γεγονότα αυτά δεν σημαίνουν ότι εμπορικά διαθέσιμα συστήματα ΤΝ «αποφάσισαν» αυτόνομα να αποδράσουν από τον ανθρώπινο έλεγχο. Έδειξαν όμως πόσο δύσκολη μπορεί να γίνει η ασφαλής απομόνωση πολύ ικανών μοντέλων όταν τους ανατίθενται σύνθετες αποστολές και διαθέτουν αυξημένα εργαλεία.
Η παρέμβαση Chughtai ακολουθεί εκείνη του Jacob Coxon, ο οποίος είχε εργαστεί στην OpenAI και στη συνέχεια στην Anthropic και παραιτήθηκε στις αρχές Σεπτεμβρίου.
Ο Coxon κατηγόρησε τα δύο εργαστήρια ότι «παίζουν με τις ζωές μας», υποστηρίζοντας ότι η πίεση για την ταχύτερη ανάπτυξη ολοένα ισχυρότερων συστημάτων υπερισχύει των προβληματισμών για την ασφάλεια.
Λίγες ημέρες αργότερα, ο διευθύνων σύμβουλος της Anthropic Dario Amodei ζήτησε επιβράδυνση του ρυθμού ανάπτυξης των πλέον προηγμένων συστημάτων, ώστε οι μηχανισμοί ασφάλειας να μπορέσουν να ακολουθήσουν.
Τη βασική κατεύθυνση της παρέμβασής του υποστήριξαν ο επικεφαλής της OpenAI Sam Altman και ο Elon Musk, ενώ οι συζητήσεις ανάμεσα σε Anthropic, OpenAI και Google για τη δημιουργία κοινών μηχανισμών ασφάλειας είχαν, σύμφωνα με δημοσιεύματα, ξεκινήσει πριν από τη δημόσια αντιπαράθεση των τελευταίων ημερών.
Στην άλλη πλευρά βρίσκεται ο Donald Trump, ο οποίος απορρίπτει τις εκκλήσεις για ευρεία επιβράδυνση της τεχνολογίας, υποστηρίζοντας ότι μια τέτοια κίνηση θα έπληττε τις ΗΠΑ στον ανταγωνισμό με την Κίνα.
Ο διευθύνων σύμβουλος της Nvidia Jensen Huang αμφισβήτησε επίσης τα πιο ακραία σενάρια, λέγοντας ότι οι προβλέψεις περί αφανισμού της ανθρωπότητας «δεν στηρίζονται στην επιστήμη».
Η διαφωνία δεν αφορά πάντως μόνο τα υποθετικά σενάρια του μέλλοντος. Αγγίζει ήδη την αγορά εργασίας, την κυβερνοασφάλεια, την πολιτική ισχύ των μεγάλων τεχνολογικών ομίλων και την τεράστια ενεργειακή κατανάλωση των νέων κέντρων δεδομένων.
Η συζήτηση περνά πλέον και στο αμερικανικό πολιτικό σύστημα.
Ο προοδευτικός γερουσιαστής Bernie Sanders και ο επί χρόνια σύμμαχος του Trump Steve Bannon, δύο πρόσωπα από σχεδόν αντίθετες πλευρές του πολιτικού φάσματος, αναμένεται να εμφανιστούν από κοινού στην Ουάσιγκτον ζητώντας αυστηρότερους περιορισμούς στα συστήματα τεχνητής νοημοσύνης.
Ο Sanders και ο βουλευτής Greg Casar έχουν ζητήσει να σταματήσει η ανάπτυξη εργαλείων ΤΝ που θα μπορούσαν να «ανατρέψουν ή να υπονομεύσουν την κυβέρνηση» έως ότου δημιουργηθεί ειδικός μηχανισμός εποπτείας.
Ο Bannon έχει από την πλευρά του επιτεθεί στην προσέγγιση της κυβέρνησης Trump και αντιτίθεται σε κινήσεις που θα περιόριζαν τη δυνατότητα των επιμέρους Πολιτειών να επιβάλλουν δικούς τους κανόνες στην τεχνολογία.
Η ανησυχία φαίνεται πλέον να ξεπερνά τα όρια των ειδικών. Δημοσκόπηση Reuters/Ipsos έδειξε ότι 77% των Αμερικανών ανησυχούν ότι τα κέντρα δεδομένων της ΤΝ μπορεί να οδηγήσουν σε υψηλότερες τιμές ηλεκτρικού ρεύματος.
Περισσότερες ειδήσεις
Bill Gates: «Οι κυβερνήσεις είναι πολύ πίσω στο AI» – Ο φόβος για δουλειές, επιθέσεις και εθισμό
