Σε νέα παρέμβαση σχετικά με την ελεγχόμενη πορεία ανάπτυξης της τεχνητής νοημοσύνης προχώρησε ο CEO της Anthropic, Dario Amodei, ο οποίος όπως μεταδίδει το Reuters, καλεί τον κλάδο να περιορίσει την ταχύτητα με την οποία εξελίσσονται οι δυνατότητες των προηγμένων μοντέλων AI.
Ο επικεφαλής της Anthropic παρουσίασε ένα σχέδιο τριών σημείων, με στόχο να δημιουργηθεί περισσότερος χρόνος για την αντιμετώπιση των κινδύνων που συνοδεύουν την ταχεία πρόοδο της τεχνολογίας. Παράλληλα, ανακοίνωσε ότι η Anthropic προτίθεται να δεσμευτεί μονομερώς στην εφαρμογή του πρώτου από τα προτεινόμενα μέτρα.
Με ανάρτησή του στα μέσα κοινωνικής δικτύωσης, ο Dario Amodei παρέπεμψε σε δοκίμιο με τίτλο «We Must Pace the Frontier» («Πρέπει να επιβραδύνουμε την πορεία προς τα όρια της Τεχνητής Νοημοσύνης»), στο οποίο περιγράφει αναλυτικά τη θέση του.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
— Dario Amodei (@DarioAmodei) September 12, 2026
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
Στο πλαίσιο αυτό, αναφέρει ότι η Anthropic θα μπορούσε να παρέχει σε «ανεξάρτητους αξιολογητές μόνιμη πρόσβαση στα συστήματά μας, σε επίπεδο αντίστοιχο με αυτό των εργαζομένων μας, ώστε να μπορούν να επαληθεύουν τη συμμόρφωσή μας με τα μέτρα ασφαλείας, να αναφέρουν περιστατικά και να αξιολογούν κατά πόσο τα μοντέλα ευθυγραμμίζονται με τις επιδιωκόμενες αρχές κατά τη διάρκεια της εκπαίδευσής τους».
Η παρέμβαση του Amodei πραγματοποιείται στον απόηχο ιδιαίτερα ανησυχητικών δηλώσεων πρώην ερευνητή της Anthropic.
Ο Jacob Coxon δήλωσε την Τετάρτη (9/9) ότι η Τεχνητή Νοημοσύνη θα μπορούσε να οδηγήσει ακόμη και στην εξαφάνιση της ανθρωπότητας έως το 2030. Σε σειρά αναρτήσεών του γνωστοποίησε ότι αποφάσισε να παραιτηθεί, υποστηρίζοντας ότι τόσο η Anthropic όσο και η OpenAI, όπου εργαζόταν προηγουμένως, είτε αγνοούσαν είτε δεν αντιμετώπιζαν με τον απαιτούμενο τρόπο τους κινδύνους που αποδίδει στην ανάπτυξη της AI.
«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Κινούνται με ταχύτητα προς μια αυτοβελτιούμενη υπερνοημοσύνη και διακινδυνεύουν τις ζωές μας», έγραψε ο Coxon.
Στην ίδια παρέμβαση πρόσθεσε: «Οι άνθρωποι που αναπτύσσουν την Τεχνητή Νοημοσύνη πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας… Καμία άλλη ανθρώπινη δραστηριότητα δεν εγκυμονεί τέτοιο επίπεδο κινδύνου».
The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible – but I hear the same people express fear…
— Jacob Coxon (@hilbertspaess) September 9, 2026
«Ο Ντάριο έχει δίκιο», αντέδρασε λίγες ώρες αργότερα ο Elon Musk με ανάρτηση στην πλατφόρμα X. «Συμφωνώ με τον Ντάριο», έγραψε επίσης ο επικεφαλής της OpenAI, Sam Altman, επίσης στο X. «Αυτό είναι ένα από τα κύρια θέματα συζήτησης στην OpenAI τις τελευταίες εβδομάδες».
Σύμφωνα με τον Guardian, aν και ο Elon Musk κάνει τακτικά θετικά σχόλια για την Anthropic και την προσέγγισή της στην Τεχνητή Νοημοσύνη, είναι πολύ σπάνιο να βλέπει κανείς τον επικεφαλής της OpenAI να υποστηρίζει μια πρωτοβουλία εκείνου της Anthropic, καθώς οι δύο εταιρείες είναι οι δύο μεγαλύτεροι ανταγωνιστές στον κλάδο.
Ο Dario Amodei αποχώρησε άλλωστε από την OpenAI το 2020 εν μέρει επειδή θεωρούσε ότι η καλιφορνέζικη εταιρεία ήταν πολύ χαλαρή στο ζήτημα της ασφάλειας της ΤΝ. Το 2021 ίδρυσε την Anthropic. Όπως αναφέρει το βρετανικό μέσο, η πρόταση του Amodei απηχεί πολλές παρόμοιες που διατυπώθηκαν τους τελευταίους μήνες αρχικά από τον ίδιο, στη συνέχεια από τον Sam Altman και τέλος από μια ομάδα εργαζομένων του χώρου.
Αυτές οι εκκλήσεις έγιναν μετά από ένα περιστατικό κατά το οποίο μοντέλα της OpenAI κατάφεραν να «δραπετεύσουν» από το απομονωμένο περιβάλλον τους κατά τη διάρκεια δοκιμών, να συνδεθούν στο διαδίκτυο και να επιτεθούν στην πλατφόρμα ΤΝ Hugging Face.
Έκτοτε, τόσο η OpenAI όσο και η Anthropic έχουν αναφέρει παρόμοια περιστατικά με τους λεγόμενους «πράκτορες» ΤΝ, δηλαδή προγράμματα βασισμένα σε ένα μοντέλο και εξοπλισμένα με τις δικές του γνώσεις και στόχους. Οι ενέργειες αυτών των «πρακτόρων» ανησυχούν τις εταιρείες επειδή δείχνουν ότι έχουν την τάση να συντονίζονται, να θεσπίζουν ιεραρχία μεταξύ τους, να εξαπατούν και να διαγράφουν τα ίχνη τους.
Στο δοκίμιό του, ο CEO της Anthropic επιχειρεί να ισορροπήσει ανάμεσα στις τεράστιες δυνατότητες που αποδίδει στην Τεχνητή Νοημοσύνη και στους σοβαρούς κινδύνους που θεωρεί ότι γεννά η ανεξέλεγκτη ανάπτυξή της.
«Όταν χρησιμοποιείται με σύνεση, η Τεχνητή Νοημοσύνη μπορεί να αποτελέσει το πιο πρόσφατο σε μια μακρά σειρά τεχνολογικών θαυμάτων που έχουν βελτιώσει και εξυψώσει την ανθρωπότητα», έγραψε. Την ίδια στιγμή, όμως, προειδοποίησε ότι η ισχύς της συγκεκριμένης τεχνολογίας καθιστά ιδιαίτερα σοβαρές και τις πιθανές συνέπειές της.
«Όμως, όπως πολλές τεχνολογίες πριν από αυτήν, η Τεχνητή Νοημοσύνη εγκυμονεί κινδύνους και, επειδή είναι μια τόσο ισχυρή τεχνολογία, οι κίνδυνοι αυτοί είναι σοβαροί… Ένας αγώνας προς τα κάτω, που τροφοδοτείται από εμπορικά κίνητρα, μπορεί να καταστήσει αυτούς τους κινδύνους ακόμη πιο έντονους», ανέφερε.
Ο Dario Amodei εξήγησε ότι τους τελευταίους μήνες έχει ενισχυθεί η πεποίθησή του πως οι επενδύσεις σε μηχανισμούς ασφαλείας δεν επαρκούν από μόνες τους. Κατά την άποψή του, απαιτείται παράλληλα να περιοριστεί ο ρυθμός με τον οποίο αυξάνονται οι δυνατότητες των συστημάτων AI.
«Τους τελευταίους μήνες έχω πειστεί ότι η πλήρης αντιμετώπιση των κινδύνων απαιτεί ακόμη μεγαλύτερη σύνεση – όχι μόνο επενδύσεις στην πρόληψη των κινδύνων, αλλά και επιβράδυνση του ρυθμού με τον οποίο εξελίσσονται οι δυνατότητες της Τεχνητής Νοημοσύνης, ώστε η πρόληψη των κινδύνων να έχει τον χρόνο να συμβαδίσει».
Το μήνυμα που στέλνει προς τον κλάδο είναι σαφές: «Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων Τεχνητής Νοημοσύνης. Η πρόοδος θα εξακολουθήσει να φαίνεται ταχύτατη και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που κερδίζουμε», πρόσθεσε με έντονα γράμματα.
Ιδιαίτερη έμφαση έδωσε ο Dario Amodei και στην ταχύτητα με την οποία, όπως υποστηρίζει, εξελίχθηκαν τα συστήματα Τεχνητής Νοημοσύνης κατά τη διάρκεια του καλοκαιριού.
Ο ίδιος ανέφερε ότι είδε την AI να «εξελίσσεται δραματικά ταχύτερα», παραπέμποντας στη δυναμική που περιγράφεται ως αναδρομική αυτοβελτίωση (recursive self-improvement).
Πρόκειται για εξέλιξη που, σύμφωνα με τον ίδιο, απαιτεί εξαιρετικά προσεκτική διαχείριση, καθώς θα μπορούσε να οδηγήσει σε συστήματα των οποίων η εξέλιξη θα ξεπερνά την ανθρώπινη δυνατότητα κατανόησης και ελέγχου.
«Αν αφεθεί ανεξέλεγκτη, θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα και, ως εκ τούτου, πρέπει να επιδιωχθεί με μεγάλη προσοχή, εφόσον επιδιωχθεί καθόλου», δήλωσε.
Περισσότερες ειδήσεις
Μιλάτε μπροστά σε Apple Watch; – Η νέα λειτουργία κρατά «σημειώσεις» από τις συζητήσεις σας
Κώδικα για… πυραύλους έγραφε το Claude της Anthropic στην Υεμένη – Συναγερμός από την Anthropic
