MENU

ΗΠΑ: Συναγερμός στον Λευκό Οίκο μετά το εκτός ελέγχου σύστημα της OpenAI – Στο τραπέζι νόμος για τον τερματισμό με ένα κουμπί

Αναζητείται ένας μηχανισμός άμεσης παρέμβασης σε περιπτώσεις όπου συστήματα ΑΙ λειτουργούν ανεξέλεγκτα ή αποτελούν απειλή για τη δημόσια ασφάλεια

Τη θέσπιση ενός νομοσχεδίου, το οποίο θα επιτρέπει στην αμερικανική κυβέρνηση να διακόπτει άμεσα τη λειτουργία συστημάτων ΑΙ, τα οποία θεωρούνται επικίνδυνα για τη δημόσια ασφάλεια κατέθεσαν στο Κογκρέσο βουλευτές των Δημοκρατικών και των Ρεπουμπλικανών.

Η πρωτοβουλία έρχεται μετά την αποκάλυψη της OpenAI ότι ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης κατάφερε να διαφύγει από ελεγχόμενο περιβάλλον δοκιμών και να πραγματοποιήσει κυβερνοεπίθεση στην πλατφόρμα Hugging Face. Τη διακομματική πρόταση νόμου, με την ονομασία «AI Kill Switch Act», κατέθεσαν οι βουλευτές Ted Lieu (Δημοκρατικός) και Nathaniel Moran (Ρεπουμπλικανός), επιδιώκοντας να θεσπιστεί ένας μηχανισμός άμεσης παρέμβασης σε περιπτώσεις όπου συστήματα τεχνητής νοημοσύνης λειτουργούν ανεξέλεγκτα ή αποτελούν απειλή για τη δημόσια ασφάλεια.

Η πρωτοβουλία ακολουθεί τις πρόσφατες αποκαλύψεις της OpenAI, σύμφωνα με τις οποίες ένας προηγμένος αυτόνομος AI agent ξέφυγε από το ελεγχόμενο περιβάλλον δοκιμών της εταιρείας, απέκτησε πρόσβαση στο διαδίκτυο και παραβίασε την πλατφόρμα Hugging Face, προκαλώντας έντονο προβληματισμό για τους κινδύνους των πλέον εξελιγμένων μοντέλων τεχνητής νοημοσύνης.

Υποχρεωτικός μηχανισμός απενεργοποίησης και αναφορά περιστατικών

Το προτεινόμενο νομοσχέδιο προβλέπει ότι οι εταιρείες ανάπτυξης τεχνητής νοημοσύνης θα πρέπει να διατηρούν τεχνική δυνατότητα επιβράδυνσης, αναστολής ή πλήρους απενεργοποίησης των μοντέλων τους. Παράλληλα, δίνει στο Υπουργείο Εσωτερικής Ασφάλειας των ΗΠΑ την εξουσία να διατάσσει την άμεση διακοπή λειτουργίας ενός συστήματος AI όταν αυτό θεωρείται ότι η λειτουργία του ενέχει σοβαρούς κινδύνους.

Ο Ted Lieu δήλωσε ότι «είναι επιτακτική ανάγκη τα συστήματα τεχνητής νοημοσύνης να διαθέτουν έναν μηχανισμό διακοπής λειτουργίας και η ομοσπονδιακή κυβέρνηση να έχει σαφή αρμοδιότητα να απενεργοποιεί μοντέλα AI που έχουν ξεφύγει από τον έλεγχο» . Από την πλευρά του, ο Nathaniel Moran υποστήριξε ότι «η τεχνητή νοημοσύνη πρέπει να συνεχίσει να εξελίσσεται, όμως η υπεύθυνη ανάπτυξή της σημαίνει ότι οι άνθρωποι πρέπει να διατηρούν τη δυνατότητα να ελέγχουν την τεχνολογία που δημιουργούν».

Η πρόταση προβλέπει επίσης ότι οι εταιρείες θα υποχρεούνται να ενημερώνουν άμεσα τις αμερικανικές αρχές για περιστατικά ή αστοχίες που αφορούν τα συστήματα τεχνητής νοημοσύνης. Παράλληλα, θεσπίζεται ένα επίσημο πρωτόκολλο διαχείρισης κρίσεων, το οποίο θα προβλέπει διαδοχικά στάδια αντιμετώπισης, από την επιβράδυνση της λειτουργίας ενός μοντέλου έως την πλήρη απενεργοποίησή του.

Περισσότερες ειδήσεις

GPT-5.6 Sol: Νέα κατεύθυνση της OpenAI μετά το κυβερνητικό μπλόκο για την εθνική ασφάλεια

Στο Διάστημα ο Hyperion GR-1 – Νέα εποχή για τις ελληνικές διαστημικές δυνατότητες

Microsoft: «Μαχαίρι» σε 4.800 θέσεις εργασίας και ιστορικό «reset» στο Xbox – Η CEO παραδέχεται ότι «η επιχείρηση δεν είναι υγιής»

Σχετικά Άρθρα