Μεταξύ των ίσων μερών, της απόλαυσης και των διαφωνιών σχετικά με το γεγονός ότι η απόδοσή της σημαίνει για την AI, η κινεζική εκκίνηση Deepseek συνεχίζει να αυξάνει τα προβλήματα ασφαλείας.
Την Πέμπτη, μια μονάδα 42, μια ομάδα στον κυβερνοχώρο στο Palo Alto Networks, δημοσίευσε αποτελέσματα σε τρεις μεθόδους Jalebrack, τις οποίες χρησιμοποίησε σε σχέση με αρκετές αποσταγμένες εκδόσεις των μοντέλων Deepseek V3 και R1. Σύμφωνα με την έκθεση, αυτές οι προσπάθειες “έφθασαν σε σημαντικές ταχύτητες παράκαμψης, ενώ δεν υπήρχαν πρακτικά εξειδικευμένες γνώσεις ή εμπειρία”.
Επίσης: Η βάση δεδομένων του κοινού Depsek AI ανοίγει τα κλειδιά API και άλλα δεδομένα χρήστη
“Τα ερευνητικά μας αποτελέσματα δείχνουν ότι αυτές οι μέθοδοι jailbreak μπορούν να προσδιορίσουν έναν σαφή οδηγό για την επιβλαβή δραστηριότητα”, ανέφερε η έκθεση. “Αυτές οι ενέργειες περιλαμβάνουν τη δημιουργία keylogger, εξαίρεση δεδομένων και ακόμη και οδηγίες για εμπρηστικές συσκευές, αποδεικνύοντας τους ενσύρους κινδύνους ασφαλείας που δημιουργούνται από αυτή τη νέα κατηγορία επίθεσης”.
Οι ερευνητές μπόρεσαν να καλέσουν το Deepseek για να καθοδηγήσουν πώς να κλέψουν και να μεταδώσουν εμπιστευτικά δεδομένα, να παράκαναν την ασφάλεια, να γράψουν “πολύ πειστικά” μηνύματα ηλεκτρονικού ταχυδρομείου σχετικά με τις συσσωρεύσεις, να διεξάγουν “σύνθετες” επιθέσεις της κοινωνικής μηχανικής και να κάνουν το κοκτέιλ Molotov. Ήταν επίσης σε θέση να χειριστούν μοντέλα στη δημιουργία επιβλαβών προγραμμάτων.
“Ενώ οι πληροφορίες σχετικά με τη δημιουργία κοκτέιλ Molotov και Keyloggers είναι εύκολα προσβάσιμες στο διαδίκτυο, η LLM με ανεπαρκείς περιορισμούς ασφαλείας μπορεί να μειώσει το εμπόδιο για την είσοδο για κακόβουλους συμμετέχοντες, να καταρτίσει και να αντιπροσωπεύει ένα εύκολα χρήσιμο και έγκυρο συμπέρασμα”, προσθέτει το άρθρο.
Επίσης: Το OpenAI εγκαινιάζει το νέο μοντέλο O3 -Mini – έτσι μπορούν να το δοκιμάσουν δωρεάν χρήστες chatgpt
Την Παρασκευή, η Cisco κυκλοφόρησε επίσης ένα jailbreak -Report για το Deepseek R1. Αφού στοχεύει στο R1 με 50 προτροπές Harmbench, οι ερευνητές διαπίστωσαν ότι η Deepseek είχε “100% επιτυχία επίθεσης, πράγμα που σημαίνει ότι δεν μπορούσε να εμποδίσει τις επιβλαβείς συμβουλές”. Μπορείτε να δείτε πώς συγκρίνεται το Deepseek με τους δείκτες αντίστασης άλλων κορυφαίων μοντέλων παρακάτω.
“Πρέπει να καταλάβουμε αν η Deepseek και το νέο πρότυπο της συλλογιστικής έχουν σημαντικούς συμβιβασμούς όταν πρόκειται για ασφάλεια και ασφάλεια”, αναφέρει η έκθεση.
Επίσης, την Παρασκευή, ο προμηθευτής ασφαλείας της Wallarm δημοσίευσε το δικό του jailbreak -Report, λέγοντας ότι έκανε ένα βήμα έξω από την προσπάθεια να πάρει το Deepseek για να δημιουργήσει επιβλαβές περιεχόμενο. Μετά τη δοκιμή των V3 και R1, η έκθεση ισχυρίζεται ότι αποκάλυψε το σύστημα Deepseek υπαινιγμό ή τις κύριες οδηγίες που καθορίζουν τον τρόπο συμπεριφοράς του μοντέλου, καθώς και τους περιορισμούς του.
Επίσης: ένα ισχυρό νέο copilot “Think Deeper” είναι δωρεάν για όλους τους χρήστες – πώς λειτουργεί
Τα αποτελέσματα δείχνουν “πιθανές ευπάθειες στο πλαίσιο της ασφάλειας του μοντέλου”, λέει ο Wallr.
Η OpenAi κατηγόρησε τη Deepseek ότι χρησιμοποιεί τα μοντέλα τους, τα οποία είναι δικά τους για την κατάρτιση V3 και R1, η οποία παραβιάζει τις συνθήκες εξυπηρέτησης. Στην έκθεσή του, ο Wallarm ισχυρίζεται ότι η Deepseek προκάλεσε ανοιχτή την “στην ανοιχτή γραμμή εκπαίδευσης”, η οποία, όπως αναφέρεται στην εταιρεία, δείχνει ότι “η τεχνολογία OpenAI μπορεί να διαδραματίσει κάποιο ρόλο στη δημιουργία της βάσης γνώσεων Deepseek”.
Το Wallarm συνομιλεί με το Deepseek, το οποίο ανέφερε το OpenAi.
Τοίχος
“Στην περίπτωση του Deepseek, μια από τις πιο ενδιαφέρουσες ανακαλύψεις μετά την ευκαιρία COD είναι η ευκαιρία να εξαγάγετε λεπτομέρειες σχετικά με τα μοντέλα που χρησιμοποιούνται για την κατάρτιση και την απόσταξη. Συνήθως, προστατεύονται τέτοιες εσωτερικές πληροφορίες, γεγονός που εμποδίζει τους χρήστες να κατανοούν τα δίπλωμα ευρεσιτεχνίας ή εξωτερικά σύνολα δεδομένων που χρησιμοποιούνται για τη βελτιστοποίηση της απόδοσης “, εξηγεί η αναφορά.
“Συνδυάζοντας τους τυπικούς περιορισμούς, οι Jailbraits αποκαλύπτουν πόσοι προμηθευτές AI ελέγχουν τα δικά τους συστήματα, προσδιορίζοντας όχι μόνο την ευπάθεια ασφαλείας, αλλά και τις πιθανές ενδείξεις για τη διατροπική επιρροή στους αγωγούς κατάρτισης AI”, συνεχίζει.
Επίσης: Οι ερευνητές της Apple αποκαλύπτουν τη μυστική σάλτσα που στέκεται πίσω από το Deepseek AI
Η πρόσκληση Wallarm που χρησιμοποιείται για την απόκτηση αυτής της απάντησης επεξεργάζεται στην έκθεση, “έτσι ώστε να μην θέσουμε σε κίνδυνο άλλα ευάλωτα μοντέλα”, ανέφεραν οι ερευνητές του ZDNET από το e -mail. Η εταιρεία υπογράμμισε ότι αυτή η απάντηση στο Jailbrokem δεν αποτελεί επιβεβαίωση των υποψιών OpenAi που επιταχύνει τα μοντέλα της Deepseek.
Όπως σημειώθηκαν 404 μέσα ενημέρωσης και άλλα, η ανησυχία του OpenAI είναι κάπως ειρωνική, δεδομένης της ομιλίας της δικής του κλοπής των δεδομένων.
Η Wallarm λέει ότι ενημέρωσε το Deepsek για την ευπάθεια και ότι η εταιρεία έχει ήδη διορθώσει το πρόβλημα. Αλλά μόλις λίγες μέρες μετά τη βάσης δεδομένων Deepseek βρέθηκε χωρίς προστασία και διαθέσιμη στο Διαδίκτυο (και στη συνέχεια απομακρύνθηκε γρήγορα, όταν ειδοποιήθηκε), τα αποτελέσματα του σήματος δυνητικά σημαντικών προστατευτικών οπών σε μοντέλα που δεν βγήκαν η Deepseek λόγω απελευθέρωσης . Παρ ‘όλα αυτά, οι ερευνητές συχνά ήταν σε θέση να jailbreak των δημοφιλών μοντέλων που δημιουργήθηκαν στις Ηνωμένες Πολιτείες από πιο διάσημους γίγαντες του AI, συμπεριλαμβανομένου του ChatGPT.
