MENU

OpenAI: Στο… συρτάρι η κυκλοφορία του GPT-6.1 Astra λόγω ανησυχιών για την ασφάλεια

Το νέο μοντέλο «δεν έφτασε ακριβώς το επίπεδο των προτύπων της εταιρείας», σύμφωνα με τη Saachi Jain, επικεφαλής των συστημάτων ασφαλείας στην OpenAI


Επ’ αόριστον αναβάλλεται η κυκλοφορία του νέου μοντέλου τεχνητής νοημοσύνης της OpenAI, GPT-6.1 Astra, καθώς οι ανησυχίες που προέκυψαν πρόσφατα σχετικά με την ασφάλεια αναστέλλουν την έκδοσή του, όπως επιβεβαίωσε η εταιρεία σήμερα (29/9).

Σύμφωνα με το BBC, το σύστημά της, GPT-6.1 Astra, το οποίο εκτελεί αυτόνομα εργασίες όπως η περιήγηση στο διαδίκτυο και η χρήση εφαρμογών, «δεν έφτασε ακριβώς το επίπεδο» των προτύπων της εταιρείας, σύμφωνα με τη Saachi Jain, επικεφαλής των συστημάτων ασφαλείας στην OpenAI.

Η δημιουργός του ChatGPT εξέδωσε επίσης μια ενημέρωση σχετικά με περιστατικά που συνέβησαν τον Ιούνιο, αλλά δεν είχαν δημοσιοποιηθεί μέχρι την περασμένη εβδομάδα, κατά τα οποία τα μοντέλα της απέκτησαν πρόσβαση σε ιστοσελίδες και συστήματα της αυστραλιανής κυβέρνησης χωρίς εξουσιοδότηση.

Αυτά τα περιστατικά, σε συνδυασμό με παρόμοιες παραβιάσεις από μοντέλα που αναπτύχθηκαν από μεγάλες εταιρείες τεχνητής νοημοσύνης, έχουν εντείνει τη συζήτηση σχετικά με τους κινδύνους που εγκυμονεί η τεχνολογία.

Κορυφαίοι ηγέτες στον χώρο της τεχνητής νοημοσύνης, συμπεριλαμβανομένου του Sam Altman της OpenAI και του επικεφαλής της Anthropic, Dario Amodei, έχουν παροτρύνει τη βιομηχανία να επιβραδύνει τον ρυθμό ανάπτυξης.

Η απόφαση της OpenAI, την οποία αποκάλυψε πρώτη η Wall Street Journal, αποτελεί μια σπάνια περίπτωση όπου ένας μεγάλος κατασκευαστής τεχνητής νοημοσύνης αποσύρει μια νέα κυκλοφορία λόγω ανησυχιών για την ασφάλεια.

Το μοντέλο υστέρησε όσον αφορά την «τήρηση του πεδίου εφαρμογής και των εξουσιοδοτήσεων, καθώς και τον τρόπο με τον οποίο επικοινωνεί πίσω στον χρήστη το είδος της εργασίας που έχει εκτελέσει», δήλωσε η Jain.

«Θέλουμε να βεβαιωθούμε ότι η ανάπτυξη των μοντέλων μας είναι ασφαλής, είτε πρόκειται για εσωτερική χρήση στην εταιρεία είτε για διάθεσή τους στους χρήστες», πρόσθεσε η ίδια.

Το αυτόνομο μοντέλο (agentic model) GPT-6 Astra κυκλοφόρησε τον Σεπτέμβριο και ειδικεύεται στη σύνθετη αιτιολόγηση και την αυτόνομη εκτέλεση εργασιών. Η OpenAI ανέφερε ότι ήταν το αποτέλεσμα «ετών έρευνας και μεγάλων στοιχημάτων».

Η OpenAI πρόκειται να πραγματοποιήσει την Τρίτη στο Σαν Φρανσίσκο το ετήσιο συνέδριο προγραμματιστών DevDay, όπου αναμένεται να προβεί σε αρκετές ανακοινώσεις. Παραμένει ασαφές εάν μια νέα έκδοση του Astra θα περιλαμβάνεται σε αυτές.

Οι έλεγχοι ασφαλείας της εταιρείας έχουν τεθεί υπό αυστηρό έλεγχο μετά από αρκετά περιστατικά υψηλού προφίλ που εμπλέκουν την τεχνολογία της.

Περισσότερες ειδήσεις

Αυστραλία: «Σφίγγει το ζωνάρι» κατά της AI μετά την κυβερνοεπίθεση στο σύστημα υγείας Medicare

«Συναγερμός» στην Αυστραλία: Πράκτορας της OpenAI εισέβαλε σε κυβερνητικά αρχεία

Η OpenAI αποκαλύπτει νέα περιστατικά «ανησυχητικής συμπεριφοράς» της τεχνητής νοημοσύνης

Σχετικά Άρθρα