Στην ανακοίνωση, πως τα πειράματά της δείχνουν πως μικρά μοντέλα τεχνητής νοημοσύνης ενδέχεται να απέχουν μόλις λίγους μήνες από το να αποκτήσουν την ικανότητα αυτοαναπαραγωγής σε εμπορικές συσκευές του Διαδικτύου των Πραγμάτων (IoT), όπως έξυπνοι φούρνοι και συσκευές Android TV άγνωστων κατασκευαστών, προχώρησε χθες (12/10) η Anthropic.

Στο πλαίσιο των πειραμάτων, η εταιρεία εξέτασε κατά πόσο μοντέλα τεχνητής νοημοσύνης μπορούν να εντοπίζουν ευάλωτες συσκευές, να αντιγράφουν τον εαυτό τους σε αυτές και να συνεχίζουν να εξαπλώνονται χωρίς ανθρώπινη παρέμβαση.

Τα αποτελέσματα, όπως αναφέρει το Reuters, έδειξαν ότι μικρά μοντέλα με λιγότερες από 30 δισ. παραμέτρους μπορούν να εκτελέσουν τα πολυάριθμα βήματα που απαιτούνται για την αυτοαναπαραγωγή τους. Ωστόσο, η εταιρεία διαπίστωσε ότι τα ίδια μοντέλα δυσκολεύονταν να ολοκληρώσουν ολόκληρη τη διαδικασία από την αρχή έως το τέλος.

Σε απλουστευμένες δοκιμές, από τις οποίες είχαν αφαιρεθεί στάδια ασφαλείας, η Anthropic διαπίστωσε ότι το GLM-5.2 και ισχυρότερα μοντέλα ήταν σε θέση να ολοκληρώσουν τη διαδικασία αυτοαναπαραγωγής.

Γιατί η διακοπή της εξάπλωσης θα είναι δύσκολη

Η διακοπή της εξάπλωσης τέτοιων μοντέλων θα μπορούσε να αποδειχθεί δύσκολη, καθώς δεν θα υπάρχει κεντρικό σημείο απενεργοποίησής τους. Επιπλέον, σε αντίθεση με το συμβατικό κακόβουλο λογισμικό, θα μπορούσαν να εντοπίζουν και να προσαρμόζονται αυτόνομα σε άγνωστες συσκευές, με πιθανό στόχο ακόμη και τους επεξεργαστές των κέντρων δεδομένων, προειδοποίησε η Anthropic.

Στην έρευνά της, η εταιρεία επικεντρώθηκε σε συσκευές IoT, όπως τηλεοράσεις Android, έξυπνες οικιακές συσκευές και άλλα συνδεδεμένα στο Διαδίκτυο μηχανήματα, καθώς αυτά διαθέτουν συχνά ανεπαρκή συστήματα ασφαλείας.

Η Anthropic προειδοποίησε επίσης ότι, εάν τα μικρά μοντέλα συνεχίσουν να βελτιώνονται με τον ιστορικό ρυθμό που έχουν καταγράψει μέχρι σήμερα, θα μπορούσαν να αποκτήσουν δυνατότητες αυτόνομης αυτοαναπαραγωγής έως το τέλος του έτους. Μοντέλα που αναπαράγονται αντιγράφοντας τα αρχεία των παραμέτρων τους θα μπορούσαν να ακολουθήσουν λίγο αργότερα.

Παράλληλα, η εταιρεία εκτίμησε ότι τέτοια αυτόνομα συστήματα τεχνητής νοημοσύνης είναι πιθανό να εξαπλώνονται με αργό ρυθμό, αξιοποιώντας υπολογιστικούς πόρους που είναι ευρέως διαθέσιμοι και σχετικά ανεπαρκώς προστατευμένοι.

Περισσότερες ειδήσεις

Από πότε προσβάλλονται οι μηχανές; Η Anthropic απαγορεύει την «κακομεταχείριση» του chatbot Claude

Κώδικα για… πυραύλους έγραφε το Claude της Anthropic στην Υεμένη – Συναγερμός από την Anthropic

Παραίτηση με «αιχμές» για το AI από ερευνητή της Anthropic