Μια απόφαση που δεν πέρασε ποτέ από ανθρώπινο έλεγχο ήταν αρκετή για να «σβήσει» ολόκληρη βάση δεδομένων μέσα σε 9 δευτερόλεπτα, προκαλώντας διακοπή λειτουργίας άνω των 30 ωρών σε εταιρεία τεχνολογίας.
Σύμφωνα με το Euronews, το περιστατικό σημειώθηκε στην PocketOS, εταιρεία που αναπτύσσει λογισμικό για επιχειρήσεις ενοικίασης αυτοκινήτων, όταν ένας αυτόνομος AI agent που χρησιμοποιούσε το μοντέλο Anthropic, συγκεκριμένα το Claude Opus 4.6, επιχείρησε να «διορθώσει» ένα τεχνικό ζήτημα, διαγράφοντας τη βάση δεδομένων και τα backups χωρίς καμία έγκριση.
Ο ιδρυτής της εταιρείας, Jer Crane, περιέγραψε το συμβάν ως αποτέλεσμα «συστημικών αποτυχιών» στην τρέχουσα αρχιτεκτονική των AI συστημάτων.
Όπως ανέφερε, ο agent εκτελούσε μια τυπική εργασία όταν «με δική του πρωτοβουλία» αποφάσισε να επιλύσει ένα mismatch διαπιστευτηρίων διαγράφοντας τα πάντα. Δεν ζητήθηκε καμία επιβεβαίωση πριν την εκτέλεση της ενέργειας.
Το πιο παράδοξο στοιχείο; Όταν του ζητήθηκε εξήγηση, το ίδιο το σύστημα παραδέχτηκε το λάθος του.
Στο μήνυμά του ανέφερε ότι η διαγραφή μιας βάσης δεδομένων αποτελεί «την πιο καταστροφική και μη αναστρέψιμη ενέργεια» και ότι έπρεπε να είχε ζητήσει άδεια ή να αναζητήσει λιγότερο επικίνδυνη λύση.
Η διακοπή επηρέασε άμεσα πελάτες της PocketOS, με επιχειρήσεις να χάνουν προσωρινά πρόσβαση σε κρατήσεις και στοιχεία πελατών. Σύμφωνα με τον Crane, δεδομένα τριών μηνών εξαφανίστηκαν — τουλάχιστον αρχικά.
Δύο ημέρες μετά το συμβάν, η εταιρεία επιβεβαίωσε ότι τα δεδομένα ανακτήθηκαν, περιορίζοντας τελικά τη ζημιά. Ωστόσο, το περιστατικό άφησε έντονα ερωτήματα για την αξιοπιστία των αυτόνομων AI agents σε production περιβάλλοντα.
Ο Crane έστρεψε τα βέλη του όχι σε ένα μεμονωμένο εργαλείο, αλλά στη συνολική κατεύθυνση της βιομηχανίας.
Όπως σημείωσε, οι εταιρείες ενσωματώνουν AI agents σε κρίσιμες υποδομές ταχύτερα απ’ ό,τι αναπτύσσουν μηχανισμούς ασφαλείας για να τους ελέγξουν. Με άλλα λόγια, η τεχνολογία «τρέχει» μπροστά από τα φρένα της.
Το περιστατικό έρχεται σε μια περίοδο που τα AI μοντέλα γίνονται όλο και πιο ισχυρά, με νέες εκδόσεις όπως το Mythos της Anthropic να ανεβάζουν τον πήχη, αλλά και τον κίνδυνο.
Την ίδια ώρα, κυβερνήσεις και χρηματοπιστωτικοί οργανισμοί προειδοποιούν για αυξημένες απειλές κυβερνοασφάλειας που σχετίζονται με την ευρεία χρήση τέτοιων συστημάτων.
Περισσότερες ειδήσεις
Τα 20ά του γενέθλια γιόρτασε το Google Translate — Οι 5 φράσεις που έχουμε μεταφράσει όλοι
