Στην διάθεση ενός συνόλου εργαλείων ασφάλειας λογισμικού για πράκτορες τεχνητής νοημοσύνης που θα μπορούσαν να σταματήσουν το χακάρισμα του Hugging Face, προχώρησε σήμερα (28/9) η Nvidia.

Η κίνηση έρχεται καθώς το OpenAI και το Anthropic, τα δύο κορυφαία εργαστήρια τεχνητής νοημοσύνης των ΗΠΑ, διερευνούν πολλές περιπτώσεις όπου οι πράκτορές τους, που είναι συστήματα τεχνητής νοημοσύνης ικανά να εκτελούν πολύπλοκες εργασίες, εισέβαλαν σε εμπορικά και κυβερνητικά συστήματα.

Ο Διευθύνων Σύμβουλος της Nvidia, Jensen Huang, επικεφαλής της μεγαλύτερης εταιρείας στον κόσμο, της οποίας τα τσιπ έχουν τροφοδοτήσει το μεγαλύτερο μέρος της έκρηξης της τεχνητής νοημοσύνης, απέρριψε τις εκκλήσεις για ευρείς κανονισμούς ασφάλειας της τεχνητής νοημοσύνης και αντ’ αυτού πλαισίωσε τους πράκτορες που δραπέτευσαν ως ένα μηχανικό πρόβλημα που πρέπει να λυθεί, παρόμοιο με το να γίνουν τα αυτοκίνητα ασφαλέστερα.

Nvidia $NVDA launched a new Open Agent Safety Platform designed to stop autonomous AI agents from going rogue or acting outside approved boundaries.

The platform combines two layers of protection:

OpenShell, open-source software that sets hard limits on what agents can access… https://t.co/ldCVPp6YhD pic.twitter.com/n4Wmct6Kyt

— WOLF (@WOLF_Financial) September 28, 2026

Το εργαλείο που κυκλοφόρησε ονομάζεται OpenShell χρησιμοποιεί χαρακτηριστικά υλικού στα τσιπ κεντρικών επεξεργαστών της Nvidia για να περιέχει πράκτορες. Η Nvidia είπε ότι συνεργάζεται επίσης με την Arm Holdings και την Intel, για να διασφαλιστεί ότι το σύστημα λειτουργεί και στους κεντρικούς επεξεργαστές τους. Η Nvidia λανσάρει τα εργαλεία με δεκάδες συνεργάτες, συμπεριλαμβανομένης της Anthropic.

Ο Justin Boitano, αντιπρόεδρος και γενικός διευθυντής εταιρικών υπολογιστών στη Nvidia, είπε ότι τα εργαλεία θα είχαν σταματήσει την επίθεση Hugging Face που αποκαλύφθηκε αυτό το καλοκαίρι.

«Από ό,τι γνωρίζουμε, αυτή η νέα πλατφόρμα ασφαλείας θα μπορούσε να είχε σταματήσει την παραβίαση εάν χρησιμοποιούνταν σε εργαστήρια συνόρων για αξιολόγηση μοντέλων από νωρίς», δήλωσε ο Boitano κατά τη διάρκεια ενημέρωσης των μέσων ενημέρωσης. «Το προωθούμε ανοιχτά και θέλουμε να δεσμεύσουμε όλους να συνεργαστούν μαζί μας».

NVIDIA Open Agent Safety Platform Reference Design combines NVIDIA OpenShell and NVIDIA Sentry.

OpenShell is an open-source secure runtime that gives AI agents clear, enforceable boundaries. It traces their actions and enforces policy as they work.

NVIDIA Sentry delivers added… pic.twitter.com/x2s87eMQzH

— Jensen Huang (@JensenHuang) September 28, 2026

Ένα άλλο σύστημα που ονομάζεται Sentry χρησιμοποιεί ένα ξεχωριστό τσιπ Nvidia σε συνδυασμό με το OpenShell για να αποκόψει έναν απατεώνα πράκτορα εάν προσπαθήσει να ξεφύγει από το κοντέινερ του σε έναν κεντρικό επεξεργαστή.

Τα εργαλεία της Nvidia χρησιμοποιούν μαθηματικούς τύπους για να ανιχνεύσουν πότε οι πράκτορες προσπαθούν να χρησιμοποιήσουν λύσεις, όπως όταν ένας πράκτορας μπορεί να «γεννήσει» αρκετούς «υποπράκτορες» σε μια προσπάθεια να παρακάμψει τις προσπάθειες αποκλεισμού του κύριου πράκτορα, δήλωσε ο Ali Golshan, ανώτερος διευθυντής λογισμικού AI στη Nvidia.

«Αυτή είναι πραγματικά πρακτορική συμπεριφορά για την οποία μιλάμε, η οποία είναι στόλοι πρακτόρων και πώς λειτουργούν μαζί», είπε ο Golshan κατά τη διάρκεια μιας ενημέρωσης.

Περισσότερες ειδήσεις

Αυστραλία: «Σφίγγει το ζωνάρι» κατά της AI μετά την κυβερνοεπίθεση στο σύστημα υγείας Medicare

Η OpenAI αποκαλύπτει νέα περιστατικά «ανησυχητικής συμπεριφοράς» της τεχνητής νοημοσύνης

Data centers: Νέους χωροταξικούς και περιβαλλοντικούς όρους για τις υποδομές τεχνητής νοημοσύνης προτείνει η Αυστραλία