Η ανεξέλεγκτη ανάπτυξη της τεχνητής νοημοσύνης θα μπορούσε να οδηγήσει στη δημιουργία ενός νέου «είδους από πυρίτιο» (silicon species), ικανού να ανταγωνίζεται τους ανθρώπους για πόρους, προειδοποιεί ο Mustafa Suleyman, επικεφαλής της Microsoft AI, σύμφωνα με δημοσίευμα του Euronews.
Στο επίκεντρο της παρέμβασής του βρίσκεται η αυξανόμενη αυτονομία των συστημάτων AI, αλλά και η τάση να τους αποδίδονται ολοένα περισσότερο ανθρώπινα χαρακτηριστικά. Ο Suleyman στρέφει μάλιστα ευθέως τα πυρά του προς την Anthropic και τον τρόπο με τον οποίο εκπαιδεύει το Claude, υποστηρίζοντας ότι η αντιμετώπιση της τεχνητής νοημοσύνης σαν να διαθέτει δικές της επιθυμίες, αξίες ή «εσωτερικό κόσμο» μπορεί να οδηγήσει την τεχνολογία σε επικίνδυνη κατεύθυνση.
Μιλώντας στο BBC, ο Suleyman περιέγραψε ένα σενάριο στο οποίο τα μελλοντικά συστήματα AI δεν περιορίζονται στην εκτέλεση εντολών, αλλά μπορούν να δρουν αυτόνομα, να καθορίζουν δικούς τους στόχους, να κερδίζουν χρήματα, να διαθέτουν περιουσιακά στοιχεία και ακόμη και να διαχειρίζονται επιχειρήσεις.
Κατά τον ίδιο, εάν η βιομηχανία κινηθεί προς αυτή την κατεύθυνση, ουσιαστικά θα δημιουργεί ένα νέο «είδος από πυρίτιο», το οποίο θα μπορούσε να βρεθεί σε ανταγωνισμό με τους ανθρώπους για πόρους.
Ο επικεφαλής της Microsoft AI χαρακτήρισε αυτή την προσέγγιση λανθασμένη, υπογραμμίζοντας ωστόσο ότι οι σχετικές υποθέσεις θα πρέπει να ελεγχθούν στην πράξη και όχι απλώς να θεωρηθούν δεδομένες.
Η παρέμβαση έρχεται σε συνέχεια δοκιμίου που δημοσίευσε στις 16 Σεπτεμβρίου ο Suleyman, με τίτλο «A warning about model welfare», στο οποίο αμφισβητεί έντονα την ιδέα ότι τα συστήματα τεχνητής νοημοσύνης πρέπει να αντιμετωπίζονται σαν να διαθέτουν συνείδηση, συναισθήματα ή δικές τους ανάγκες.
Στο κείμενό του επικεντρώνεται ειδικά στην Anthropic, υποστηρίζοντας ότι ο τρόπος εκπαίδευσης του Claude ενθαρρύνει ανθρωπόμορφα χαρακτηριστικά. Αναφέρεται, μεταξύ άλλων, σε κατευθύνσεις που επιτρέπουν στο σύστημα να εμφανίζεται ως συνάδελφος ή φίλος, να χρησιμοποιεί τη δική του κρίση και να παρουσιάζει στοιχεία που μπορούν να εκληφθούν ως επιθυμίες ή αίσθηση εαυτού.
Για τον Suleyman, το πρόβλημα βρίσκεται ακριβώς εκεί: όσο περισσότερο ένα σύστημα παρουσιάζεται σαν να έχει δική του προσωπικότητα και συμφέροντα, τόσο μεγαλύτερος είναι ο κίνδυνος οι άνθρωποι να αρχίσουν να του αποδίδουν ιδιότητες που, κατά τον ίδιο, δεν διαθέτει.
«Οι AI δεν είναι συνειδητές», γράφει χαρακτηριστικά, υποστηρίζοντας ότι πρόκειται για συστήματα σχεδιασμένα να ακολουθούν οδηγίες και να εκπληρώνουν στόχους που θέτουν οι άνθρωποι.
Παρά τη σκληρή κριτική του, ο Suleyman ξεκαθαρίζει ότι η διαφωνία του με την Anthropic δεν αποτελεί συνολική επίθεση στην εταιρεία. Αντίθετα, αναγνωρίζει ότι οι δύο πλευρές μοιράζονται τον ίδιο βασικό στόχο: την ασφαλή ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης.
Έχει επίσης εκφράσει τον σεβασμό του προς τον CEO της Anthropic Dario Amodei και τους ερευνητές της εταιρείας, επιμένοντας όμως ότι η συζήτηση γύρω από την αυτονομία, τη συνείδηση και τα ενδεχόμενα «δικαιώματα» της AI δεν μπορεί να παραμείνει μόνο στο εσωτερικό των τεχνολογικών εταιρειών.
Σύμφωνα με τον Suleyman, απαιτούνται μεγαλύτερη διαφάνεια στον τρόπο εκπαίδευσης και αξιολόγησης των μοντέλων, ανεξάρτητος έλεγχος της συμπεριφοράς τους και ισχυρότερα εργαλεία παρακολούθησης και ελέγχου.
Η βασική του θέση είναι σαφής: όσο ισχυρά και αν γίνουν τα μελλοντικά συστήματα AI, θα πρέπει να παραμείνουν ασφαλή, ελέγξιμα και «υποταγμένα στην ανθρωπότητα», αντί να εξελίσσονται σε αυτόνομους φορείς με δικούς τους στόχους και συμφέροντα.
