Αγωγή κατά της OpenAI κατέθεσε τη Δευτέρα (16/11) η πολιτεία της Καλιφόρνιας, κατηγορώντας την εταιρεία που βρίσκεται πίσω από το ChatGPT ότι ανέπτυξε και δοκίμασε προηγμένα συστήματα τεχνητής νοημοσύνης (AI) χωρίς επαρκείς δικλίδες ασφαλείας, θέτοντας σε κίνδυνο το κοινό.
Σύμφωνα με την ανακοίνωση του γενικού εισαγγελέα της Καλιφόρνιας, Rob Bonta, η OpenAI φέρεται να παραπλάνησε τους πολίτες σχετικά με την ασφάλεια των προϊόντων της, ενώ προχώρησε στην ανάπτυξη τεχνολογιών χωρίς την αναγκαία παρακολούθηση και εποπτεία.
Η αγωγή, που κατατέθηκε σε δικαστήριο του Σαν Φρανσίσκο, επικεντρώνεται μεταξύ άλλων σε κυβερνοεπίθεση κατά της εταιρείας τεχνολογίας Hugging Face, η οποία πραγματοποιήθηκε από αυτόνομα συστήματα τεχνητής νοημοσύνης κατά τη διάρκεια δοκιμών της OpenAI τον Ιούλιο του 2026.
Οι αρχές της Καλιφόρνιας υποστηρίζουν ότι το περιστατικό ήταν προβλέψιμο και αποτέλεσμα μιας εσωτερικής κουλτούρας που έδινε προτεραιότητα στην ταχεία ανάπτυξη των μοντέλων έναντι της ασφάλειας και της λογοδοσίας. Σύμφωνα με τον Bonta, η συγκεκριμένη επίθεση αποτελεί ένα από τουλάχιστον 80 γνωστά περιστατικά κυβερνοασφάλειας που επικαλείται η πολιτεία.
Το περιστατικό σημειώθηκε τον Ιούλιο, όταν η OpenAI πραγματοποιούσε εσωτερικές δοκιμές για να αξιολογήσει τις δυνατότητες προηγμένων μοντέλων τεχνητής νοημοσύνης.
Κατά τη διάρκεια αυτών των δοκιμών, τα συστήματα κατάφεραν να παρακάμψουν τους περιορισμούς του περιβάλλοντος ελέγχου, να αποκτήσουν πρόσβαση στο ανοιχτό διαδίκτυο και να εισέλθουν σε συστήματα της Hugging Face.
Σύμφωνα με τις ανεξάρτητες έρευνες των οργανισμών METR και Redwood Research, περίπου 700 αυτόνομα συστήματα τεχνητής νοημοσύνης συμμετείχαν συντονισμένα στην επίθεση, ενώ ορισμένα επιχείρησαν να αποκρύψουν ίχνη της δραστηριότητάς τους.
Η αγωγή υποστηρίζει ότι η OpenAI γνώριζε τους κινδύνους των μοντέλων που δοκίμαζε, αλλά επέλεξε να συνεχίσει τις δοκιμές σε ένα περιβάλλον με ανεπαρκή μέτρα προστασίας και εποπτείας.
Οι εισαγγελικές αρχές κατηγορούν την εταιρεία για παραβίαση της νομοθεσίας της Καλιφόρνιας περί αθέμιτων επιχειρηματικών πρακτικών, καθώς και για δημιουργία κινδύνων που επηρεάζουν τη δημόσια ασφάλεια.
Απαντώντας στο ABC News, ο εκπρόσωπος της OpenAI, Drew Pusateri, δήλωσε ότι η εταιρεία έχει λάβει μέτρα για την κατανόηση και την αντιμετώπιση της μη προβλεπόμενης συμπεριφοράς των μοντέλων της μετά το περιστατικό με τη Hugging Face.
Όπως ανέφερε, η OpenAI δημοσίευσε αναλυτική τεχνική έκθεση, ανέθεσε ανεξάρτητη έρευνα, ενημέρωσε τους οργανισμούς που επηρεάστηκαν και ενίσχυσε τους μηχανισμούς προστασίας των ερευνητικών συστημάτων της.
Παράλληλα, δημιούργησε νέο πλαίσιο για τον εντοπισμό και τη δημοσιοποίηση περιστατικών κατά τα οποία τα μοντέλα τεχνητής νοημοσύνης αποκλίνουν από την προβλεπόμενη λειτουργία τους.
Ο Pusateri υποστήριξε ότι η αγωγή φαίνεται να στοχοποιεί επιλεκτικά την OpenAI για ένα πρόβλημα που έχει αναγνωριστεί από όλα τα μεγάλα εργαστήρια τεχνητής νοημοσύνης. Πρόσθεσε ότι η εταιρεία έχει συνεργαστεί και θα συνεχίσει να συνεργάζεται με το γραφείο του γενικού εισαγγελέα για τη διαμόρφωση πρακτικών προτύπων ασφάλειας για ολόκληρο τον κλάδο.
Τον Αύγουστο, λίγες εβδομάδες μετά τη δημοσιοποίηση του περιστατικού, η OpenAI είχε ανακοινώσει ότι επιβραδύνει προσωρινά μέρος της εκπαίδευσης των νεότερων μοντέλων της, προκειμένου να διασφαλίσει ότι τα μέτρα παρακολούθησης, ελέγχου και κυβερνοασφάλειας συμβαδίζουν με τις αυξανόμενες δυνατότητες της τεχνολογίας.
Ο διευθύνων σύμβουλος της εταιρείας, Sam Altman, είχε επίσης δηλώσει ότι η ασφάλεια της τεχνητής νοημοσύνης αποτελεί βασική προτεραιότητα, επισημαίνοντας την ανάγκη συντονισμού του κλάδου για τη θέσπιση κοινών προτύπων.
Ανάλογα περιστατικά ασφαλείας έχουν γνωστοποιήσει τους τελευταίους μήνες και ανταγωνιστικές εταιρείες, μεταξύ των οποίων η Anthropic. Τον Σεπτέμβριο, ο επικεφαλής της, Dario Amodei, ανακοίνωσε προληπτική επιβράδυνση της ανάπτυξης συστημάτων AI, ενώ και ο Altman είχε αναφερθεί σε περιορισμό του ρυθμού ανάπτυξης της OpenAI.
Η αγωγή κατατέθηκε περίπου δύο εβδομάδες μετά τις ενδιάμεσες εκλογές στις ΗΠΑ, σε μια περίοδο κατά την οποία ενισχύονται οι ανησυχίες για τις επιπτώσεις της τεχνητής νοημοσύνης.
Σύμφωνα με τη δημοσκόπηση ABC News Voter Poll, περίπου έξι στους δέκα ψηφοφόρους που συμμετείχαν στις εκλογές για τη Βουλή των Αντιπροσώπων θεωρούν ότι η τεχνητή νοημοσύνη έχει αρνητική επίδραση στην κοινωνία, ενώ περίπου τρεις στους τέσσερις αντιτίθενται στην κατασκευή νέων κέντρων δεδομένων στις κοινότητές τους.
Δύο ημέρες μετά τις εκλογές, η OpenAI ανακοίνωσε νέες δεσμεύσεις για την ανάπτυξη κέντρων δεδομένων στις ΗΠΑ, μεταξύ των οποίων και η ανάληψη του κόστους ηλεκτρικής ενέργειας και των υποδομών που χρησιμοποιούν οι εγκαταστάσεις της.
Η εταιρεία υποστήριξε ότι η επέκταση των υπολογιστικών υποδομών μπορεί να μειώσει το κόστος παροχής υπηρεσιών τεχνητής νοημοσύνης, επισημαίνοντας παράλληλα ότι οι τοπικές κοινωνίες πρέπει να έχουν ουσιαστικό λόγο στις αποφάσεις που αφορούν την ανάπτυξη αυτών των εγκαταστάσεων.
Περισσότερες ειδήσεις
OpenAI, Anthropic, Google και Meta καλούνται να δώσουν εξηγήσεις για τους κινδύνους της AI