Η ασφάλεια της AI γίνεται αντικείμενο μιας μεγάλης επιχειρηματικής συμφωνίας: η Anthropic και η Accenture σχεδιάζουν να επενδύσουν τουλάχιστον 2 δισ. δολάρια συνολικά σε πέντε χρόνια για την αξιολόγηση προηγμένων μοντέλων τεχνητής νοημοσύνης. Το ενδιαφέρον, όμως, βρίσκεται και σε ένα πρακτικό ερώτημα: ποιος ελέγχει τον δημιουργό ενός μοντέλου και με ποιους όρους;
Η συνεργασία ανακοινώθηκε στις 18 Σεπτεμβρίου 2026. Κάθε εταιρεία προβλέπει επενδύσεις τουλάχιστον 1 δισ. δολαρίων για την ανάπτυξη δυνατοτήτων αξιολόγησης. Πρόκειται για σχεδιαζόμενες δαπάνες στην πενταετία, όχι για χρήματα που έχουν ήδη διατεθεί. Την επένδυση καταγράφει και το Reuters.
Πόσο ανεξάρτητος θα είναι ο έλεγχος;
Σύμφωνα με την επίσημη ανακοίνωση της Anthropic, η ίδια θα χρηματοδοτεί απευθείας το έργο της Accenture. Παράλληλα, αναγνωρίζει ότι δεν υπάρχουν ακόμη κοινά πρότυπα για την πρόσβαση των αξιολογητών στις πληροφορίες και τον τρόπο αναφοράς των ευρημάτων τους.
Εδώ βρίσκεται και το σημείο που χρειάζεται προσοχή. Η παρουσία εξωτερικών ειδικών μπορεί να ενισχύσει τον έλεγχο, αλλά η χρηματοδότησή τους από την ελεγχόμενη εταιρεία δημιουργεί εύλογο ερώτημα ανεξαρτησίας. Για να κρίνουμε την αξία του εγχειρήματος, θα χρειαστούμε τα αποτελέσματα και σαφείς κανόνες δημοσιοποίησής τους.
Τι θα ελέγχουν οι αξιολογητές
Τη συνεργασία θα συντονίσει η Faculty, η εξειδικευμένη μονάδα AI της Accenture. Οι εργασίες περιλαμβάνουν δοκιμές αντοχής των δικλίδων ασφαλείας, προσπάθειες εντοπισμού επικίνδυνων συμπεριφορών και αξιολόγηση του κατά πόσο τα μοντέλα ακολουθούν τους επιδιωκόμενους στόχους.
Το μοντέλο ελέγχου προβλέπει ότι οι αξιολογητές θα εργάζονται μέσα στην εταιρεία, με πρόσβαση αντίστοιχη εργαζομένων. Έτσι θα μπορούν να παρακολουθούν την εκπαίδευση των συστημάτων και τις αποφάσεις για τη διάθεσή τους. Η Anthropic διευκρινίζει ότι η ευθύνη για την ασφάλεια παραμένει δική της.
Γιατί η ασφάλεια της AI χρειάζεται μετρήσιμα στοιχεία
Μία ημέρα πριν από την ανακοίνωση, η Anthropic παρουσίασε μετρήσεις για τη χρήση της AI στη δική της έρευνα και ανάπτυξη. Σύμφωνα με αυτές, τον Αύγουστο ο Claude είχε τον κύριο ρόλο στο 26% της εργασίας που μέτρησε η εταιρεία: ολοκλήρωνε το μεγαλύτερο μέρος μιας εργασίας, με ανθρώπινη εποπτεία.
Αυτό δεν σημαίνει πλήρη αυτονομία. Η εταιρεία αναφέρει ότι κανένα από τα τμήματα εργασίας που εξέτασε δεν βρισκόταν στο επίπεδο λειτουργίας χωρίς άνθρωπο. Επιπλέον, οι μετρήσεις προέρχονται από την ίδια και χρησιμοποιούν δικά της μοντέλα ως αξιολογητές. Η Anthropic αναγνωρίζει ότι αυτή η μέθοδος μπορεί να αναπαράγει κοινά σφάλματα.
Επομένως, τα στοιχεία εξηγούν την ανάγκη εξωτερικού ελέγχου, χωρίς να αποδεικνύουν από μόνα τους ούτε απόλυτη ασφάλεια ούτε επικείμενη καταστροφή. Για το ευρύτερο ερευνητικό πλαίσιο, δείτε την ανάλυσή μας για τους κινδύνους της AI και τα όρια των προβλέψεων.
Τι σημαίνει για τις επιχειρήσεις που χρησιμοποιούν AI
Για μια ελληνική επιχείρηση που εξετάζει εργαλεία τεχνητής νοημοσύνης, η χρήσιμη ερώτηση προς τον προμηθευτή είναι συγκεκριμένη: ποιες δοκιμές έχουν γίνει, ποιος επαλήθευσε τα αποτελέσματα και ποιος παρεμβαίνει όταν το σύστημα κάνει λάθος;
Η συμφωνία δείχνει πώς η αξιολόγηση της AI μπορεί να εξελιχθεί σε σημαντική υπηρεσία για τον κλάδο της συμβουλευτικής. Η ανακοίνωση μιας επένδυσης, πάντως, δεν αποτελεί πιστοποίηση αξιοπιστίας. Αυτό θα το κρίνουν οι έλεγχοι στην πράξη.
