Μπούμερανγκ τείνει να γυρίσει στην OpenAI η μεγάλη δυναμική που πρόκειται να έχει το επερχόμενο μοντέλο της, Astra, το οποίο πιθανώς θα απαιτεί πρόσθετα μέτρα ασφαλείας για να μπορέσει να κυκλοφορήσει.
Όπως αναφέρει το Reuters, το νέο μοντέλο μπορεί να εντοπίσει περισσότερα τρωτά σημεία ασφαλείας από το πιο προηγμένο μοντέλο OpenAI που είναι διαθέσιμο στο κοινό σήμερα, όπως επίσης και λιγότερη υπολογιστική ισχύ για να ολοκληρώσει αυτές τις εργασίες.
«Με τα κατάλληλα εργαλεία και πρόσβαση, το Astra μπορεί να βρει προηγουμένως άγνωστα ελαττώματα ασφαλείας και να αναπτύξει τρόπους για να τα εκμεταλλευτεί σε πολλά καλά προστατευμένα συστήματα χωρίς ένα άτομο να καθοδηγεί κάθε βήμα», δήλωσε η Amelia Glaese, αντιπρόεδρος του OpenAI που επιβλέπει το έργο ασφαλείας του.
Η εταιρεία σχεδιάζει να διαθέσει το Astra «σύντομα» σε περιορισμένο όμιλο, αλλά αρνήθηκε να δώσει λεπτομέρειες. Η Glaese είπε ότι τα πρόσθετα μέτρα ασφαλείας μπορεί «μερικές φορές να επιβραδύνουν, να σταματήσουν ή να σταματήσουν τη νόμιμη εργασία» και ότι το OpenAI θα εργαστεί για να ελαχιστοποιήσει αυτές τις διακοπές.
Το Astra είναι το πρώτο μοντέλο OpenAI που ενεργοποιεί τις αυστηρότερες διασφαλίσεις που επιβάλλει το πρωτόκολλο ασφαλείας της εταιρείας, ένα όριο που, μέχρι τώρα, παρέμενε θεωρητικό. Η ανακοίνωση έρχεται καθώς το OpenAI πλοηγείται σε αυξημένο έλεγχο σχετικά με την ικανότητά του να ελέγχει όλο και πιο ισχυρά συστήματα τεχνητής νοημοσύνης.
Περισσότερες ειδήσεις
Εντός των τειχών ο εχθρός της OpenAI – Πράκτορες AI χάκαραν την εταιρεία τους και το έκρυψαν
«Πείραξαν» δείγματα DNA με Τεχνητή Νοημοσύνη – Το κενό ασφαλείας που ανησυχεί τις Αρχές
