Τα τελευταία χρόνια, η τεχνολογία κλωνοποίησης AI έχει επιτύχει αξιοσημείωτα επιτεύγματα, έχοντας επιτύχει την ευκαιρία να δημιουργήσει έναν ρεαλιστικά ήχο ήχο σε λίγα μόνο δευτερόλεπτα από το δείγμα. Παρόλο που αυτό έχει πολλές θετικές εφαρμογές, όπως τα ηχητικά βιβλία, τα υλικά μάρκετινγκ και πολλά άλλα, η τεχνολογία μπορεί επίσης να χρησιμοποιηθεί για προσεκτικά σκέψη απάτη, απάτη και άλλες επιβλαβείς εφαρμογές.
Για να μάθετε περισσότερα σχετικά με τις εγγυήσεις ότι οι καταναλωτικές εκθέσεις υπήρχαν επί του παρόντος για αυτά τα προϊόντα, τα κορυφαία εργαλεία κλωνοποίησης ψήφου: Περιγραφή, Elevenlans, Lovo, Playht, μοιάζουν με AI και ομιλία. Συγκεκριμένα, οι εκθέσεις καταναλωτών αναζητούσαν κατάλληλες εγγυήσεις που εμποδίζουν την κλωνοποίηση των οποίων η φωνή χωρίς τη γνώση τους.
Επίσης: Υπάρχει ύποπτο κείμενο του e-zpass; Αυτή είναι μια παγίδα – πώς να βρείτε μια απάτη
Τα αποτελέσματα διαπίστωσαν ότι τέσσερα από τα έξι προϊόντα – από το ElevenLabs, το Spechify, το PlayHT και το Lovo – δεν είχαν τους τεχνικούς μηχανισμούς που απαιτούνται για να αποτρέψουν την κλωνοποίηση της οποίας τη φωνή χωρίς τη γνώση τους ή τον περιορισμό της κλωνοποίησης και μόνο της φωνής του χρήστη.
Αντ ‘αυτού, η προστασία περιοριζόταν από το γεγονός ότι οι χρήστες που έπρεπε να ελέγξουν, επιβεβαιώνοντας ότι έχουν νόμιμο δικαίωμα να κλωνοποιήσουν τη φωνή τους. Οι ερευνητές διαπίστωσαν ότι η περιγραφή και η υπενθύμιση του AI ήταν οι μόνες εταιρείες που έχουν πρόσθετα βήματα που έχουν καταστήσει πιο δύσκολη για τους πελάτες να διαφωνούν την κλωνοποίηση.
Η περιγραφή ζήτησε από τον χρήστη να διαβάσει και να καταγράψει τον χειριστή συγκατάθεσης και χρησιμοποίησε αυτόν τον ήχο για να δημιουργήσει έναν κλώνο. Το AI που μου υπενθυμίζει χρησιμοποιεί μια διαφορετική προσέγγιση, εγγυώντας ότι ο πρώτος κλώνος φωνής που δημιουργήθηκε βασίζεται στον ήχο που καταγράφεται σε πραγματικό χρόνο. Καμία από τις μεθόδους δεν είναι αδιαπέραστη, καθώς ο χρήστης μπορεί να κάνει κλικ στο παιχνίδι σε άλλο θραύσμα, κλωνοποιημένο AI ή στο υπάρχον βίντεο σε άλλη συσκευή.
Η ευρεία χρήση της διαφωνίας της κλωνοποίησης είναι η απάτη των ανθρώπων. Για παράδειγμα, μια δημοφιλής επίθεση περιλαμβάνει την κλωνοποίηση της φωνής ενός μέλους της οικογένειας και στη συνέχεια τη χρήση αυτής της καταχώρησης για να επικοινωνήσετε με έναν αγαπημένο σας για να ζητήσετε να στείλετε χρήματα για να τους βοηθήσετε από μια τρομερή κατάσταση. Δεδομένου ότι το θύμα πιστεύει ότι ακούν τη φωνή ενός μέλους της οικογένειας σε προβλήματα, είναι πιο πιθανό να στείλουν όλα τα απαραίτητα κεφάλαια χωρίς να αμφισβητήσουν την κατάσταση.
Επίσης: η φορολογική απάτη γίνεται όλο και πιο έντονη – 10 τρόποι για να προστατεύσετε τον εαυτό σας μέχρι να γίνει πολύ αργά
Η φωνητική κλωνοποίηση χρησιμοποιήθηκε επίσης για να επηρεάσει τις αποφάσεις των ψηφοφόρων στις επερχόμενες εκλογές, όπως φαίνεται στις εκλογές του 2024, όταν κάποιος κλωνοποίησε τη φωνή του πρώην Προέδρου Joe Biden για να αποτρέψει τους ανθρώπους να λένε ψηφοφορία.
Οι εκθέσεις καταναλωτών διαπίστωσαν επίσης ότι το Speeringify, το Lovo, το PlayHT και το Descript απαιτούν μόνο email και όνομα για το χρήστη για να δημιουργήσει έναν λογαριασμό. Οι εκθέσεις καταναλωτών συνιστούν στις εταιρείες αυτές να συλλέγουν επίσης πληροφορίες σχετικά με την πιστωτική κάρτα του πελάτη προκειμένου να παρακολουθήσουν τον ψευδών ήχο πίσω σε έναν κακό ηθοποιό.
Άλλες συστάσεις των καταναλωτών περιλαμβάνουν μηχανισμούς που εξασφαλίζουν το δικαίωμα ιδιοκτησίας της φωνής, όπως η ανάγνωση ενός μοναδικού σεναρίου, της Dropsy, της δημιουργίας του AI, της δημιουργίας ενός εργαλείου που ανιχνεύει τις εικόνες που παράγουν AI, ανιχνεύοντας και εμποδίζοντας την ψήφο των επιρροών ή των δημόσιων μορφών και την απαγόρευση του ήχου, που περιέχει δόρες.
Η μεγαλύτερη απόκλιση από το τρέχον σύστημα θα είναι η πρόταση της έκθεσης καταναλωτών, έτσι ώστε κάποιος να ελέγχει τη φωνή κλωνοποίηση αντί της τρέχουσας μεθόδου ανεξάρτητης ανεξάρτητης. Οι εκθέσεις των καταναλωτών δήλωσαν επίσης ότι πρέπει να δοθεί έμφαση στην κατασκευή των απαραίτητων συμμετεχόντων να κατανοήσουν την ευθύνη τους εάν το φωνητικό μοντέλο χρησιμοποιείται λανθασμένα στη συμφωνία.
Επίσης: Πώς οι Cisco, Langchain και Galileo επιδιώκουν να υποστηρίξουν την έκρηξη Cambrian των παραγόντων τεχνητής νοημοσύνης “
Οι εκθέσεις καταναλωτών πιστεύουν ότι οι εταιρείες έχουν συμβατική υποχρέωση σύμφωνα με το άρθρο 5 του νόμου της Ομοσπονδιακής Επιτροπής Εμπορίου για την προστασία των προϊόντων τους από τη χρήση βλάβης, η οποία μπορεί να γίνει μόνο με την προσθήκη περισσότερης προστασίας.
Εάν λάβετε μια επείγουσα κλήση από κάποιον, που γνωρίζετε, απαιτεί χρήματα, μην πανικοβληθείτε. Χρησιμοποιήστε μια άλλη συσκευή για να επικοινωνήσετε απευθείας με αυτό το άτομο για να ελέγξετε το αίτημα. Εάν δεν μπορείτε να επικοινωνήσετε με αυτό το άτομο, μπορείτε επίσης να κάνετε ερωτήσεις του συνδρομητή που καλεί για να ελέγξει την προσωπικότητά του. Για να πάρετε μια πλήρη λίστα για το πώς μπορείτε να προστατεύσετε τον εαυτό σας από την απάτη με το AI, διαβάστε τις συμβουλές του ZDNET εδώ.
