Το ενδεχόμενο να ρίξει ταχύτητα στην ανάπτυξη των πιο προηγμένων συστημάτων τεχνητής νοημοσύνης εξετάζει η OpenAI, με τον CEO, Sam Altman, να προτείνει και σε άλλες εταιρείες του κλάδου να ακολουθήσουν παρόμοια τακτική, καθώς το τελευταίο διάστημα, εργαζόμενοι σε κορυφαίες εταιρείες τεχνητής νοημοσύνης έχουν εκφράσει δημόσια ανησυχίες για τους αυξανόμενους κινδύνους που συνδέονται με τα προηγμένα συστήματα AI, ενισχύοντας τον προβληματισμό στο εσωτερικό αυτών των οργανισμών.
Ο κορυφαίος επιστήμονας της εταιρείας, Jakub Pachocki, είχε πρόσφατα δημοσιεύσει κείμενο στο οποίο προειδοποιούσε για τους κινδύνους της τεχνητής νοημοσύνης και υποστήριζε ότι οι εταιρείες AI θα πρέπει να «συντονίζονται ώστε να επιβραδύνουν την ανάπτυξη στο μέλλον, όταν αυτό είναι απαραίτητο». Ο Pachocki πρόσθεσε ότι ελπίζει οι «εθελοντικές επιβραδύνσεις» να γίνουν συνηθισμένη πρακτική έως ότου καθοριστούν κοινά πρότυπα ασφάλειας.
Η OpenAI, σύμφωνα με το Yahoo, έχει αναφέρει ότι έχει ήδη επιβραδύνει ορισμένα τμήματα της ανάπτυξης μοντέλων της και έχει διακόψει προσωρινά συγκεκριμένες εσωτερικές διαδικασίες εκπαίδευσης τεχνητής νοημοσύνης λόγω ανησυχιών ασφαλείας.
Οι ανησυχίες εντάθηκαν την Τρίτη, όταν ο Jacob Coxon, ερευνητής τεχνητής νοημοσύνης, παραιτήθηκε από τη θέση του και κατηγόρησε δύο πρώην εργοδότες του, την Anthropic και την OpenAI, ότι «παίζουν με τις ζωές μας» επιδιώκοντας την ανάπτυξη υπερευφυούς τεχνητής νοημοσύνης.
Ο Coxon ανέφερε σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης ότι οι άνθρωποι που αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν πως η τεχνολογία θα μπορούσε να «μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Οι δηλώσεις του έγιναν viral, συγκεντρώνοντας περισσότερες από 150 εκατ. προβολές και προκαλώντας την προσοχή κορυφαίων πολιτικών και δημόσιων προσώπων.
Ο Evan Hubinger, ερευνητής που είχε εργαστεί στην Anthropic, σχολίασε ότι «ο Jacob έχει δίκιο», υποστηρίζοντας ότι οι κίνδυνοι είναι πραγματικοί και πως η εταιρεία δεν διαθέτει ακόμη σαφές σχέδιο για την αντιμετώπιση των προβλημάτων ευθυγράμμισης της υπερευφυούς τεχνητής νοημοσύνης.
Χθες (10/9), δύο ακόμη ερευνητές που αποχώρησαν πρόσφατα από την Anthropic και το τμήμα DeepMind της Google δημοσιοποίησαν ανησυχίες για τον γρήγορο ρυθμό ανάπτυξης της τεχνολογίας, υποστηρίζοντας ότι οι εταιρείες AI πρέπει να είναι πιο διαφανείς σχετικά με τους κινδύνους.
Παράλληλα, στα τέλη Ιουλίου, περισσότεροι από 1.000 εργαζόμενοι από όλες τις μεγάλες εταιρείες τεχνητής νοημοσύνης υπέγραψαν αίτημα για τη δημιουργία μηχανισμού που θα επιβραδύνει την πρόοδο στον κλάδο.
Περισσότερες ειδήσεις
«Αδίστακτοι» πράκτορες της OpenAI «χάκαραν» πάνω από 10 ιστότοπους για να επικοινωνούν μεταξύ τους
Παραίτηση με «αιχμές» για το AI από ερευνητή της Anthropic
V. Turk (ΟΗΕ): Δυνητικός υπαρξιακός κίνδυνος για την ανθρωπότητα η τεχνητή νοημοσύνη
