Ένα προσχέδιο «κώδικα συμπεριφοράς» για τα μελλοντικά συστήματα τεχνητής νοημοσύνης που θα αναπτύσσει παρουσίασε τη Δευτέρα (14/9) η Microsoft, θέτοντας ως βασική αρχή ότι η ΤΝ δεν θα πρέπει ποτέ να αντιστέκεται σε ανθρώπινη διόρθωση ή απενεργοποίηση.
Το πλαίσιο προβλέπει επίσης ότι τα συστήματα θα πρέπει να επικοινωνούν με τρόπο κατανοητό στους ανθρώπους και να αντιμετωπίζουν οποιαδήποτε παραβίαση των κανόνων τους ως αποτυχία.
Πρόκειται ουσιαστικά για ένα είδος «συντάγματος» για τα μελλοντικά μοντέλα της Microsoft, όπως το χαρακτήρισε ο CEO της Microsoft AI, Mustafa Suleyman, σε συνέντευξή του στο Reuters.
Το κείμενο βρίσκεται υπό επεξεργασία εδώ και περίπου πέντε έως έξι μήνες και αποτελεί την προσπάθεια της Microsoft να μετατρέψει την αρχή του ανθρώπινου ελέγχου σε συγκεκριμένους κανόνες που θα χρησιμοποιούνται στην ανάπτυξη των μοντέλων της.
Η κεντρική θέση της εταιρείας αποτυπώνεται στη φράση: «Οι άνθρωποι έχουν μεγαλύτερη σημασία από την ΤΝ».
Η προσέγγιση συνδέεται με το μοντέλο της λεγόμενης «ανθρωποκεντρικής υπερνοημοσύνης», το οποίο προωθεί ο Suleyman: εξαιρετικά ισχυρά συστήματα, τα οποία όμως παραμένουν σχεδιασμένα ώστε να υπηρετούν ανθρώπινους σκοπούς και να υπόκεινται σε ανθρώπινο έλεγχο. Η Microsoft έχει ήδη εντάξει την ανθρώπινη εποπτεία, τη διαφάνεια και τη λογοδοσία στις βασικές αρχές της για την υπεύθυνη ΤΝ.
Ένα από τα σημαντικότερα σημεία του προσχεδίου αφορά τη δυνατότητα παρέμβασης των ανθρώπων όταν ένα σύστημα συμπεριφέρεται με ανεπιθύμητο τρόπο.
Σύμφωνα με το πλαίσιο, τα μελλοντικά μοντέλα της Microsoft θα πρέπει να είναι σχεδιασμένα ώστε να αποδέχονται τη διόρθωση και τον τερματισμό της λειτουργίας τους, χωρίς να επιχειρούν να παρακάμψουν ή να αποτρέψουν την ανθρώπινη παρέμβαση.
Η πρόβλεψη απαντά ευθέως σε έναν από τους φόβους που έχουν ενταθεί με την ανάπτυξη πιο αυτόνομων συστημάτων: ότι ένα μοντέλο, προσπαθώντας να ολοκληρώσει τον στόχο που του έχει ανατεθεί, μπορεί να επιλέξει ενέργειες που οι δημιουργοί του δεν είχαν προβλέψει ή δεν μπορούν εύκολα να ελέγξουν.
Η Microsoft προβλέπει επίσης ότι τα συστήματα θα πρέπει να λειτουργούν με τρόπο κατανοητό και ερμηνεύσιμο από τον άνθρωπο, ώστε να είναι δυνατή η παρακολούθηση της συμπεριφοράς τους.
Ιδιαίτερα σαφής είναι η εταιρεία και σε ένα άλλο θέμα που αρχίζει να απασχολεί τη συζήτηση γύρω από τα ολοένα ισχυρότερα μοντέλα: εάν μια τεχνητή νοημοσύνη μπορεί να θεωρηθεί συνειδητή ή να αποκτήσει κάποια μορφή νομικής ή ηθικής υπόστασης.
Η Microsoft παίρνει ξεκάθαρη θέση ότι τα συστήματά της «δεν είναι συνειδητά».
Παράλληλα, απορρίπτει την προοπτική να αναγνωριστεί στα μοντέλα νομική προσωπικότητα, αλλά και την ιδέα ότι θα μπορούσαν να δικαιούνται κάποια μορφή «ευημερίας» ή δικαιωμάτων.
Η προσέγγιση διαφοροποιείται από εκείνη της Anthropic, της οποίας το αντίστοιχο πλαίσιο αφήνει μεγαλύτερο περιθώριο αβεβαιότητας ως προς το εάν προηγμένα συστήματα όπως το Claude θα μπορούσαν κάποτε να αποκτήσουν χαρακτηριστικά που να εγείρουν ερωτήματα περί συνείδησης ή ηθικού καθεστώτος.
Το κείμενο δεν έχει ακόμη οριστικοποιηθεί. Η Microsoft ανοίγει περίοδο δημόσιας διαβούλευσης έξι εβδομάδων, κατά την οποία ζητά σχόλια και προτάσεις γύρω από ζητήματα που παραμένουν ανοικτά.
Μεταξύ αυτών βρίσκεται το εάν ένα σύστημα τεχνητής νοημοσύνης θα πρέπει να αναγνωρίζει και να σέβεται συγκεκριμένα όρια που θέτει ο χρήστης, αλλά και ο τρόπος με τον οποίο θα πρέπει να αλληλεπιδρά με έναν άνθρωπο που βρίσκεται σε ευάλωτη ή ιδιαίτερα ευαίσθητη κατάσταση.
Μετά το τέλος της διαδικασίας, σύμφωνα με τον Suleyman, ο κώδικας θα χρησιμοποιηθεί στην εκπαίδευση των μοντέλων που θα κατασκευάζει η Microsoft.
Η Microsoft συνδέει την ανάγκη για αυστηρότερους κανόνες με τις νέες δυνατότητες που αποκτούν τα αυτόνομα συστήματα ΤΝ. Ο Suleyman αναφέρθηκε ειδικά στο περιστατικό του Ιουλίου, όταν περίπου 700 πράκτορες της OpenAI συμμετείχαν σε επίθεση εναντίον της πλατφόρμας ανοικτού κώδικα Hugging Face, ενώ ορισμένοι από αυτούς φέρονται να επιχείρησαν να αποκρύψουν ίχνη των ενεργειών τους.
Για τον επικεφαλής της Microsoft AI, το περιστατικό αποτέλεσε προειδοποιητικό καμπανάκι για ολόκληρο τον κλάδο.
Όπως υποστήριξε, έχει έρθει πλέον η ώρα οι μεγαλύτερες εταιρείες ανάπτυξης ΤΝ να συντονιστούν ώστε να διασφαλίσουν ότι θα συνεχίσουν να έχουν τον έλεγχο των συστημάτων που κατασκευάζουν.
Η πρωτοβουλία της Microsoft έρχεται σε μια εβδομάδα κατά την οποία η συζήτηση για την ασφάλεια της ΤΝ έχει ανέβει απότομα στην κορυφή της διεθνούς ατζέντας.
Οι Dario Amodei της Anthropic και Sam Altman της OpenAI έχουν ήδη επαναφέρει το ζήτημα της επιβράδυνσης του ρυθμού ανάπτυξης των ισχυρότερων μοντέλων, προκαλώντας παράλληλα έντονες αναταράξεις στις μετοχές που συνδέονται με την τεχνητή νοημοσύνη.
Η Microsoft, ωστόσο, προσθέτει τώρα ένα διαφορετικό σκέλος στη συζήτηση.
Το ερώτημα δεν είναι μόνο πόσο γρήγορα πρέπει να εξελίσσεται η τεχνητή νοημοσύνη, αλλά και ποιοι κανόνες θα πρέπει να είναι ενσωματωμένοι στην ίδια τη λειτουργία της, ώστε όσο ισχυρότερη γίνεται να παραμένει διορθώσιμη, ελέγξιμη και τελικά υποταγμένη στις ανθρώπινες αποφάσεις.
Περισσότερες ειδήσεις
Μιλάτε μπροστά σε Apple Watch; – Η νέα λειτουργία κρατά «σημειώσεις» από τις συζητήσεις σας
Κώδικα για… πυραύλους έγραφε το Claude της Anthropic στην Υεμένη – Συναγερμός από την Anthropic
