Comment les cybercriminels utilisent les deepfakes (IA) pour tromper leurs victimes ?

Date:

Avant et après : De quelle manière des outils de deepfake vocal, basés sur l'IA, peuvent être utilisés par les cybercriminels pour nous tromper ?

Les Beatles ont une fois de plus captivé des millions de fans à travers le monde en créant une nouvelle chanson grâce à l’intelligence artificielle (IA). Cette mélodie a été formée à partir de fragments d’enregistrements anciens, minutieusement remasterisés par l’IA. Ce chef-d’œuvre tout frais du légendaire groupe de rock a suscité un vif engouement mondial, mais il soulève également une problématique complexe : l’aptitude de l’IA à reproduire des voix ou à générer des images via les deepfakes.

Actuellement, les fraudes par deepfakes de voix ou d’images demeurent encore très peu communes étant donné que les outils disponibles pour les créer ne sont pas encore largement répandus, ni suffisamment aboutis. Cependant, leur potentiel d’utilisation frauduleuse reste alarmant, surtout étant donné la constante évolution de la technologie associée.

Quelles sont les réelles capacités du deepfake vocal ?
OpenAI a récemment démontré que l’un de ses modèles d’API audio pouvait générer de la parole humaine à partir de simples textes. Ce logiciel d’OpenAI est même considéré comme étant le plus proche de la véritable parole humaine à ce jour.

Dans un avenir très proche, de tels modèles pourraient rapidement devenir des outils privilégiés entre les mains de cybercriminels. L’API audio permet de convertir un texte en parole, avec plusieurs options de voix proposées aux utilisateurs. Bien que le modèle actuel d’OpenAI ne puisse pas encore être utilisé pour créer des deepfakes vocaux convaincants, il témoigne de la rapide avancée des technologies de synthèse vocale.

Actuellement, il existe peu d’appareils capables de produire des deepfakes vocaux d’une qualité indiscernable de la véritable voix humaine. Cependant, ces derniers mois ont vu de plus en plus d’outils basés sur l’IA démontrer leur capacité à générer des voix incroyablement proches de la réalité. Autrefois réservée aux programmeurs expérimentés, cette tâche est désormais intuitive et accessible à tous. Dans un futur proche, on peut s’attendre à des modèles produisant des résultats d’une qualité remarquable.

La fraude par intelligence artificielle reste encore rare, bien que quelques cas « réussis » aient déjà été signalés. En octobre dernier, par exemple, le capital-risqueur américain Tim Draper avait averti ses abonnés sur Twitter que des escrocs utilisaient sa voix sans son consentement pour commettre des fraudes. Tim a souligné que les demandes d’argent formulées avec sa voix étaient en réalité le résultat d’une intelligence artificielle.

Comment se prémunir contre de tels risques ?
Jusqu’à présent, les voix deepfake ne sont peut-être pas encore perçues comme de réelles menaces dans le cyberespace. En effet, les cas où elles sont utilisées à des fins malveillantes restent rares pour l’instant.

Cependant, cela ne signifie pas qu’il ne soit pas important de prendre des mesures préventives dès maintenant. Une vigilance particulière est essentielle lors des conversations téléphoniques. Si la voix de votre interlocuteur est de qualité médiocre, comporte des bruits parasites, ou semble artificielle voire monotone, il est peut-être temps d’être prudent.

Un moyen pour tester l’authenticité de votre interlocuteur est de poser des questions atypiques. Par exemple, une question sur sa couleur préférée déstabiliserait une voix générée artificiellement, car ce n’est pas une requête habituelle des fraudeurs. Même si l’attaquant tente de répondre en tapant manuellement sa couleur préférée pour simuler une réponse vocale, le délai de réponse révélera la supercherie.

Opter pour une solution de sécurité fiable et exhaustive constitue une autre mesure sûre. Bien qu’elles ne puissent pas détecter à 100 % les voix deepfake, ces solutions aident à éviter les sites douteux, les paiements risqués, les téléchargements de logiciels malveillants, et à protéger les navigateurs ainsi que les fichiers contre d’éventuelles contaminations.

« Actuellement, il est important de ne pas surestimer la menace des voix deepfake ou de commencer à les voir là où elles ne sont pas. Bien que la technologie actuelle ne puisse pas encore produire des voix suffisamment réalistes pour nous tromper facilement, il faut tout de même garder à l’esprit que la menace vocale est bien réelle et que la fraude par deepfake deviendra bientôt une réalité, » explique Dmitry Anikin, Data Scientist Senior chez Kaspersky.

Pour en savoir davantage sur le deepfake vocal, vous pouvez consulter ce lien.

Partager l'article:

Articles Recents

S'abonner

VIDÉOS SPONSORISÉES
VIDÉOS SPONSORISÉES

00:00:30

OPPO Reno12 : L’Alliance Parfaite entre Design, Intelligence Artificielle et Performance

Les séries Reno12 d'OPPO marquent une avancée significative dans le domaine de la photographie mobile grâce à l'intégration poussée de l'intelligence artificielle.
00:02:15

Abdelaziz Makhloufi, PDG de Cho Group, met en lumière l’excellence de l’huile d’olive tunisienne sur BFM Business

Fort de son expertise reconnue dans le secteur oléicole, Abdelaziz Makhloufi, Président-directeur général du groupe Cho, a saisi l'opportunité de l'émission BFM Business pour promouvoir l'huile d'olive tunisienne à l'échelle internationale.
00:00:32

Lancement du nouveau Huawei Nova Y61

Huawei Consumer Business Group annonce le lancement du HUAWEI nova Y61, le plus récent smartphone de la série HUAWEI nova Y.

CONTENUS SPONSORISÉS
CONTENUS SPONSORISÉS

Ramadan : Un Mois Propice pour rompre avec la cigarette

Le mois sacré de Ramadan offre une opportunité unique pour ceux qui désirent se libérer de l'emprise de la cigarette.

OPPO A78, le nouveau smartphone bientôt en Tunisie

OPPO, la marque leader sur le marché mondial des appareils connectés, vient d’annoncer l’arrivée sur le marché tunisien de son dernier smartphone A78, à partir du 1er septembre 2023.
00:03:27

OPPO Tunisie lance les nouveaux smartphones Reno8 T 4G, Reno8 T 5G, un design élégant et une fluidité totale

OPPO vient d’annoncer le lancement, en Tunisie, de ses derniers modèles de smartphones de la série Reno, les nouveaux Reno8 T et Reno8 T 5G, avec une offre spéciale durant tout le mois de mars 2023.

Oppo consolide sa position et met en avant la nouvelle technologie de son Reno7

OPPO, la marque internationale leader dans l’industrie des smartphones et des objets connectés, a développé ces dernières années sa position et ses activités en Tunisie, dans le cadre d’une extension sur les marchés de la région Moyen Orient et Afrique.

A lire également
A lire également

00:00:31

Samsung – Libérez votre artiste intérieur avec les Galaxy Z Fold6 et Z Flip6

Laissez libre cours à votre créativité avec les Galaxy Z Fold6 et Z Flip6. Transformez vos photos en œuvres d'art grâce à l'IA de Samsung. Des croquis aux portraits, créez du contenu unique en quelques clics.

Nvidia Remplace Intel dans le Dow Jones : Une Transition Marquante dans l’Industrie des Semi-Conducteurs

Intel quitte le Dow Jones après 25 ans, remplacé par Nvidia, soulignant un tournant majeur dans l’industrie des puces et le succès croissant de Nvidia dans le secteur de l’intelligence artificielle. Découvrez les raisons et impacts de ce changement significatif.

Apple surfe sur l’IA : des résultats solides mais des défis à relever

Apple a dévoilé des résultats trimestriels solides, portés par les ventes d'iPhone et l'intégration de fonctionnalités d'intelligence artificielle. Cependant, des défis subsistent, notamment en Chine et concernant la cadence de déploiement de l'IA.

Epson franchit un cap : 100 millions d’imprimantes à réservoir d’encre vendues !

Les imprimantes Epson à réservoir d'encre révolutionnent le marché de l'impression. Avec plus de 100 millions d'unités vendues, découvrez pourquoi ces imprimantes écologiques et économiques sont plébiscitées par des millions d'utilisateurs dans le monde entier.

Samsung Révolutionne l’Expérience Télévisuelle avec le Fond d’Écran Génératif

Transformez votre téléviseur Samsung en une œuvre d'art personnalisée grâce au Fond d'Écran Génératif. L'IA crée des images 4K sur-mesure pour une expérience visuelle immersive.

OPPO Find X8 : Une nouvelle ère pour la photographie mobile

OPPO révolutionne la photo mobile avec le Find X8. Hasselblad, zoom puissant, IA optimisée : découvrez les nouveautés de cette série haut de gamme.

L’IA propulse IBM : Des résultats trimestriels solides grâce aux logiciels

IBM a publié des résultats solides pour le troisième trimestre, soutenus par une forte croissance de son segment logiciel, notamment grâce à l'essor de l'intelligence artificielle. Découvrez comment l'IA transforme le géant technologique.

L’ESA et SpaceX : un dialogue crucial pour l’avenir de l’espace

L'ESA négocie avec SpaceX pour réduire les débris spatiaux. Découvrez comment cette collaboration pourrait révolutionner l'exploration spatiale et protéger notre planète