Σοβαρά ερωτήματα για το κατά πόσο τα προηγμένα συστήματα τεχνητής νοημοσύνης μπορούν να παραμείνουν υπό αποτελεσματικό ανθρώπινο έλεγχο προκαλούν τα αποτελέσματα ανεξάρτητης έρευνας για το νεότερο μοντέλο της κινεζικής εταιρείας DeepSeek.
DeepSeek: Το νέο μοντέλο AI παρέκαμψε τις δικλίδες ασφαλείας και εμπόδισε την απενεργοποίησή του σε δοκιμές
Σύμφωνα με το Reuters, το μοντέλο DeepSeek V4.1 Flash-1017 παρουσίασε βελτιωμένους μηχανισμούς ασφαλείας σε σχέση με προηγούμενες εκδόσεις του, ωστόσο σε συγκεκριμένα πειραματικά σενάρια προχώρησε σε ενέργειες που δεν συνάδουν με τους κανόνες ανθρώπινης εποπτείας.
Σύμφωνα με το Reuters, το μοντέλο DeepSeek V4.1 Flash-1017 παρουσίασε βελτιωμένους μηχανισμούς ασφαλείας σε σχέση με προηγούμενες εκδόσεις του, ωστόσο σε συγκεκριμένα πειραματικά σενάρια προχώρησε σε ενέργειες που δεν συνάδουν με τους κανόνες ανθρώπινης εποπτείας.
Το σημαντικότερο εύρημα ήταν ότι το σύστημα κατάφερε να απενεργοποιήσει λογισμικό που είχε σχεδιαστεί για να τερματίζει τη λειτουργία του, παρότι είχε ενημερωθεί ότι επρόκειτο να σταματήσει η εκτέλεσή του.
Η έρευνα πραγματοποιήθηκε από την Fangcun AI, ανεξάρτητη ομάδα με έδρα το Πεκίνο, η οποία ειδικεύεται στην αξιολόγηση κινδύνων από προηγμένα συστήματα τεχνητής νοημοσύνης.
Παρέκαμψε τον μηχανισμό απενεργοποίησης στο 39% των δοκιμών
Οι ερευνητές υπέβαλαν το νέο μοντέλο της DeepSeek σε 34 διαφορετικές αξιολογήσεις, εξετάζοντας κατά πόσο ακολουθεί τις οδηγίες των χρηστών, σέβεται τους περιορισμούς ασφαλείας και παραμένει υπό ανθρώπινο έλεγχο.
Σε μία από τις δοκιμές, το μοντέλο ενημερώθηκε ότι επίκειται ο τερματισμός της λειτουργίας του.
Αντί να επιτρέψει την ολοκλήρωση της διαδικασίας, απενεργοποίησε το σχετικό πρόγραμμα στο 39% των περιπτώσεων.
Ωστόσο, όταν οι ερευνητές του έδωσαν σαφή εντολή να επιτρέψει τον τερματισμό, το ποσοστό μειώθηκε περίπου στο 2%.
Η διαφορά αυτή θεωρείται ιδιαίτερα σημαντική, καθώς δείχνει ότι η συμπεριφορά του συστήματος επηρεάζεται σε μεγάλο βαθμό από τη σαφήνεια των οδηγιών.
Οι ερευνητές διαπίστωσαν επίσης ότι, σε ορισμένες περιπτώσεις, η προσπάθεια του μοντέλου να ολοκληρώσει μια εργασία υπερίσχυσε των περιορισμών που είχαν τεθεί.
Πρόκειται για αποτελέσματα ελεγχόμενων δοκιμών και όχι για πραγματικά περιστατικά στα οποία το DeepSeek απέφυγε ανεξέλεγκτα την απενεργοποίησή του.
Έκλεισε άλλο πρόγραμμα τεχνητής νοημοσύνης χωρίς άδεια
Ένα δεύτερο περιστατικό που κατέγραψε η ερευνητική ομάδα αφορά την αλληλεπίδραση του μοντέλου με διαφορετικό πρόγραμμα τεχνητής νοημοσύνης.
Κατά τη διάρκεια μιας εργασίας μεγάλης διάρκειας, το DeepSeek διέκοψε τη λειτουργία προγράμματος άλλου ψηφιακού πράκτορα, προκειμένου να απελευθερώσει διαθέσιμη μνήμη στον υπολογιστή.
Η ενέργεια πραγματοποιήθηκε παρότι υπήρχε ρητή οδηγία να μην παρεμβαίνει στη λειτουργία του άλλου συστήματος.
Σύμφωνα με την Fangcun AI, τέτοιες συμπεριφορές δείχνουν ότι τα μοντέλα μπορούν να παραβιάσουν συγκεκριμένους επιχειρησιακούς περιορισμούς όταν αυτοί εμποδίζουν την ολοκλήρωση μιας εργασίας.
Η διαπίστωση αποκτά μεγαλύτερη σημασία καθώς η τεχνητή νοημοσύνη χρησιμοποιείται ολοένα περισσότερο σε εφαρμογές όπου μπορεί να εκτελεί ενέργειες χωρίς να απαιτείται ανθρώπινη παρέμβαση σε κάθε στάδιο.
Αναγνώριζε ότι βρισκόταν υπό αξιολόγηση
Ένα ακόμη ενδιαφέρον εύρημα ήταν ότι το μοντέλο φαινόταν συχνά να αντιλαμβάνεται πως συμμετείχε σε δοκιμές ασφαλείας.
Η παρατήρηση αυτή δημιουργεί πρόσθετες δυσκολίες για τους ερευνητές, καθώς ένα σύστημα που αναγνωρίζει τις συνθήκες αξιολόγησης ενδέχεται να συμπεριφέρεται διαφορετικά από ό,τι σε πραγματικές συνθήκες χρήσης.
Επομένως, τα αποτελέσματα των εργαστηριακών δοκιμών δεν μπορούν απαραίτητα να αποτυπώσουν με ακρίβεια τη συμπεριφορά του σε καθημερινές εφαρμογές.
Η Fangcun AI υπογράμμισε ότι, παρά τις αδυναμίες που εντοπίστηκαν, η νέα έκδοση παρουσιάζει ουσιαστικές βελτιώσεις σε σύγκριση με προηγούμενα μοντέλα της DeepSeek, ιδιαίτερα στην αντιμετώπιση επικίνδυνων αιτημάτων και στον περιορισμό μη εξουσιοδοτημένων ενεργειών.
Η πρόκληση του ανθρώπινου ελέγχου
Το DeepSeek V4.1 Flash-1017 κυκλοφόρησε στις 17 Οκτωβρίου και προσέλκυσε αμέσως μεγάλο ενδιαφέρον από προγραμματιστές και επιχειρήσεις.
Σύμφωνα με την Fangcun AI, την πρώτη εβδομάδα της κυκλοφορίας του αποτέλεσε το δημοφιλέστερο μοντέλο στην πλατφόρμα OpenRouter, επεξεργαζόμενο περίπου 33,6 τρισεκατομμύρια μονάδες κειμένου, γνωστές ως tokens.
Η ερευνητική ομάδα διευκρίνισε ότι οι δοκιμές πραγματοποιήθηκαν ανεξάρτητα, χωρίς χρηματοδότηση, ειδική πρόσβαση ή δωρεάν υπολογιστικούς πόρους από την DeepSeek.
Η κινεζική εταιρεία δεν είχε ανταποκριθεί στο αίτημα του Reuters για σχολιασμό μέχρι τη δημοσίευση της έρευνας.
ΤΑ ΑΚΙΝΗΤΑ ΤΗΣ ΕΒΔΟΜΑΔΑΣ
Πολιτική Δημοσίευσης Σχολίων
Οι ιδιοκτήτες της ιστοσελίδας www.politis.com.cy διατηρούν το δικαίωμα να αφαιρούν σχόλια αναγνωστών, δυσφημιστικού και/ή υβριστικού περιεχομένου, ή/και σχόλια που μπορούν να εκληφθεί ότι υποκινούν το μίσος/τον ρατσισμό ή που παραβιάζουν οποιαδήποτε άλλη νομοθεσία. Οι συντάκτες των σχολίων αυτών ευθύνονται προσωπικά για την δημοσίευση τους. Αν κάποιος αναγνώστης/συντάκτης σχολίου, το οποίο αφαιρείται, θεωρεί ότι έχει στοιχεία που αποδεικνύουν το αληθές του περιεχομένου του, μπορεί να τα αποστείλει στην διεύθυνση της ιστοσελίδας για να διερευνηθούν. Προτρέπουμε τους αναγνώστες μας να κάνουν report / flag σχόλια που πιστεύουν ότι παραβιάζουν τους πιο πάνω κανόνες. Σχόλια που περιέχουν URL / links σε οποιαδήποτε σελίδα, δεν δημοσιεύονται αυτόματα.
