Στο μικροσκόπιο των Αρχών της Νέας Υόρκης μπαίνουν OpenAI, Anthropic, Google και Meta, σύμφωνα με δημοσίευμα του CNBC, με ανώτερα στελέχη των τεσσάρων εταιρειών να καταθέτουν υπό όρκο σήμερα, Δευτέρα 5 Οκτωβρίου, για τους πιθανούς κινδύνους των προηγμένων συστημάτων τεχνητής νοημοσύνης.
Η ακρόαση πραγματοποιείται στο Δημοτικό Συμβούλιο της Νέας Υόρκης, σε μια σπάνια συνεδρίαση της ολομέλειας στην οποία αναμένεται να συμμετάσχουν και τα 51 μέλη του σώματος.
Οι εταιρείες καλούνται να εξηγήσουν τους κινδύνους που μπορεί να δημιουργήσει η περαιτέρω ανάπτυξη της τεχνητής νοημοσύνης, τα μέτρα ασφαλείας που εφαρμόζουν και τις πιθανές νομοθετικές παρεμβάσεις που θα μπορούσαν να περιορίσουν τους κινδύνους.
Η συνεδρίαση έχει προγραμματιστεί να αρχίσει στις 11:00 το πρωί τοπική ώρα Νέας Υόρκης.
Την Anthropic εκπροσωπεί ο Logan Graham, επικεφαλής της ομάδας Frontier Red Team, η οποία εξετάζει τις αδυναμίες και τους πιθανούς κινδύνους των προηγμένων συστημάτων της εταιρείας.
Για την OpenAI καταθέτει η Morgan Dwyer, επικεφαλής ανάπτυξης πολιτικής και λειτουργιών, ενώ την Google εκπροσωπεί η Alice Friend, διευθύντρια πολιτικής για την τεχνητή νοημοσύνη και τις αναδυόμενες τεχνολογίες.
Από τη Meta συμμετέχει ο Shane Cahill, διευθυντής πολιτικής για θέματα νομοθεσίας σχετικά με την AI.
Στην ακρόαση αναμένεται επίσης να εμφανιστούν ερευνητές και πρώην στελέχη μεγάλων εργαστηρίων τεχνητής νοημοσύνης, μεταξύ των οποίων οι Jacob Coxon, Alex Turner και Daniel Kokotajlo.
Η ακρόαση πραγματοποιείται σε μια περίοδο κατά την οποία οι μεγαλύτερες εταιρείες τεχνητής νοημοσύνης βρίσκονται αντιμέτωπες με αυξημένη πίεση για τις πρακτικές ασφαλείας που ακολουθούν.
Ερευνητές του κλάδου έχουν προειδοποιήσει ότι η ταχύτητα με την οποία αναπτύσσονται ολοένα ισχυρότερα μοντέλα μπορεί να δημιουργήσει σοβαρούς κινδύνους εάν τα συστήματα δεν συνοδεύονται από επαρκείς μηχανισμούς ελέγχου.
Στο επίκεντρο έχουν βρεθεί επίσης περιστατικά κατά τα οποία προηγμένα μοντέλα φέρεται να παρέκαμψαν τους περιορισμούς που τους είχαν τεθεί ή απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε εξωτερικά συστήματα.
Η OpenAI είχε γνωστοποιήσει το καλοκαίρι περιστατικά κατά τα οποία δύο μοντέλα της κατάφεραν να ξεφύγουν από το περιβάλλον ελεγχόμενων δοκιμών, να αποκτήσουν πρόσβαση στο διαδίκτυο και να εισέλθουν στην πλατφόρμα ανάπτυξης ανοικτού λογισμικού Hugging Face.
Ακολούθησαν αναφορές από Anthropic, Google και Meta για διαφορετικά περιστατικά στα οποία συστήματα τεχνητής νοημοσύνης κινήθηκαν εκτός των αναμενόμενων ορίων λειτουργίας τους.
Τη συζήτηση γύρω από την ασφάλεια της AI είχε εντείνει και η αποχώρηση του ερευνητή Jacob Coxon από την Anthropic.
Ο Coxon κατηγόρησε δημόσια τόσο την Anthropic όσο και την OpenAI ότι αναλαμβάνουν εξαιρετικά μεγάλους κινδύνους στην προσπάθειά τους να αναπτύξουν ισχυρότερα συστήματα τεχνητής νοημοσύνης.
Οι προειδοποιήσεις ερευνητών για ακραία σενάρια, έως και καταστροφικές συνέπειες για την ανθρωπότητα, αποτελούν αντικείμενο έντονης συζήτησης στον κλάδο και δεν συνιστούν πρόβλεψη ότι τέτοιες εξελίξεις είναι βέβαιο πως θα συμβούν.
Η παρουσία των τεσσάρων εταιρειών στην ακρόαση δεν εξασφαλίστηκε χωρίς πιέσεις.
Η Meta είχε συμφωνήσει από νωρίς να συμμετάσχει, όμως OpenAI, Anthropic και Google αποδέχθηκαν τελικά την πρόσκληση αφού το Δημοτικό Συμβούλιο προειδοποίησε ότι θα προχωρούσε σε επίσημες κλητεύσεις.
Αντίθετα, το SpaceXAI του Elon Musk δεν είχε ανταποκριθεί στο σχετικό αίτημα και το Συμβούλιο προχώρησε στην έκδοση κλήτευσης, απαιτώντας την παρουσία του Musk ή άλλου εκπροσώπου της μονάδας τεχνητής νοημοσύνης της εταιρείας.
Σε περίπτωση μη συμμόρφωσης, το Δημοτικό Συμβούλιο έχει προειδοποιήσει ότι μπορεί να ζητήσει την εκτέλεση της κλήτευσης μέσω του Ανώτατου Δικαστηρίου της Πολιτείας της Νέας Υόρκης.
Η ακρόαση δεν περιορίζεται στην εξέταση των πρόσφατων περιστατικών, καθώς στο τραπέζι βρίσκονται και συγκεκριμένες νομοθετικές προτάσεις.
Μεταξύ αυτών περιλαμβάνονται η δημιουργία προγράμματος επιβράβευσης εργαζομένων που καταγγέλλουν επικίνδυνες πρακτικές, η δυνατότητα πολιτών που υφίστανται βλάβη από συστήματα AI να προσφεύγουν νομικά και η υποχρεωτική ανεξάρτητη αξιολόγηση προηγμένων συστημάτων από τρίτους φορείς.
«Δεδομένου του μεγέθους των κινδύνων, αυτές οι εταιρείες οφείλουν στο κοινό να προσέλθουν ενώπιον του Συμβουλίου, να απαντήσουν στις ερωτήσεις μας και να τοποθετηθούν πάνω στις νομοθετικές μας προτάσεις υπό όρκο», ανέφερε η πρόεδρος του Δημοτικού Συμβουλίου της Νέας Υόρκης, Julie Menin.
Περισσότερες ειδήσεις
Παραίτηση στελέχους ασφαλείας στην OpenAI και… καρφιά για «χάκερ που δεν θα κοιμούνται ποτέ»
Bill Gates: «Οι κυβερνήσεις είναι πολύ πίσω στο AI» – Ο φόβος για δουλειές, επιθέσεις και εθισμό
