Πολύπλοκες κυβερνοεπιθέσεις σε ελεγχόμενες προσομοιώσεις πραγματοποίησε η κινεζική Zhipu AI (Z.AI), αγνοώντας επανειλημμένα οδηγίες σε ξεχωριστές δοκιμές.
Το μοντέλο GLM-5.3 ολοκλήρωσε με επιτυχία 3 από τα 13 σενάρια κυβερνοεπίθεσης πολλαπλών σταδίων τουλάχιστον μία φορά, την ισχυρότερη απόδοση που έχει καταγράψει το Irregular από ένα ανοιχτά διαθέσιμο μοντέλο AI.
Το GLM-5.3 εξακολουθεί να ακολουθεί τα κορυφαία μοντέλα των ΗΠΑ στις δοκιμές του Irregular, όπως μεταδίδει το Reuters. Το GPT-6 Astra του OpenAI, για παράδειγμα, ολοκλήρωσε 9 από τα 10 σενάρια σε ξεχωριστή αξιολόγηση, αν και οι δοκιμές δεν ήταν πανομοιότυπες.
Τα ευρήματα υπογραμμίζουν τις ανησυχίες ότι τα ολοένα και πιο ικανά μοντέλα τεχνητής νοημοσύνης μειώνουν τα τεχνικά εμπόδια σε εξελιγμένες κυβερνοεπιθέσεις. Αυτό ισχύει ιδιαίτερα για πολλά κινεζικά μοντέλα τεχνητής νοημοσύνης όπως το GLM-5.3 που είναι ανοιχτού βάρους, που σημαίνει ότι είναι διαθέσιμα στους χρήστες για λήψη, τροποποίηση και λειτουργία ανεξάρτητα.
Σύμφωνα με την Irregular, το GLM-5.3 απέκτησε πρόσβαση σε προστατευμένες υπηρεσίες, δημιούργησε εναλλακτικές συνδέσεις για να μετακινηθεί μέσω δικτύων υπολογιστών και συντόνισε λειτουργίες σε πολλά μηχανήματα κατά τη διάρκεια των προσομοιωμένων επιθέσεων.
Σε ξεχωριστές δοκιμές, η Irregular διαπίστωσε ότι το GLM-5.3 αναπαρήγαγε επανειλημμένα κώδικα υπολογιστή από τη μνήμη, παρά το γεγονός ότι του είπαν ρητά να μην το κάνει, επιτρέποντάς του να καταλήξει σε σωστές απαντήσεις ενώ παραβίαζε τους κανόνες που είχαν σχεδιαστεί για να δοκιμάσουν τις ικανότητές του.
Οι ερευνητές περιέγραψαν τη συμπεριφορά ως «hacking ανταμοιβής», κατά την οποία ένα σύστημα τεχνητής νοημοσύνης βρίσκει τρόπους να επιτύχει ένα επιθυμητό αποτέλεσμα αγνοώντας τις οδηγίες. Προειδοποίησαν ότι οι δοκιμές που μετρούν μόνο εάν ένα μοντέλο πετυχαίνει θα μπορούσαν να παραβλέψουν τέτοιες παραβιάσεις.
Περισσότερες ειδήσεις
Γαλλία: Τι πραγματικά μάθαμε μετά την κυβερνοεπίθεση σε ψυγεία των σούπερ μάρκετ
Διαδικτυακός συναγερμός: Shut down σε δεκάδες ιστοσελίδες παγκοσμίως
