Comment les cybercriminels utilisent les deepfakes (IA) pour tromper leurs victimes ?

Date:

Avant et après : De quelle manière des outils de deepfake vocal, basés sur l'IA, peuvent être utilisés par les cybercriminels pour nous tromper ?

Les Beatles ont une fois de plus captivé des millions de fans à travers le monde en créant une nouvelle chanson grâce à l’intelligence artificielle (IA). Cette mélodie a été formée à partir de fragments d’enregistrements anciens, minutieusement remasterisés par l’IA. Ce chef-d’œuvre tout frais du légendaire groupe de rock a suscité un vif engouement mondial, mais il soulève également une problématique complexe : l’aptitude de l’IA à reproduire des voix ou à générer des images via les deepfakes.

Actuellement, les fraudes par deepfakes de voix ou d’images demeurent encore très peu communes étant donné que les outils disponibles pour les créer ne sont pas encore largement répandus, ni suffisamment aboutis. Cependant, leur potentiel d’utilisation frauduleuse reste alarmant, surtout étant donné la constante évolution de la technologie associée.

Quelles sont les réelles capacités du deepfake vocal ?
OpenAI a récemment démontré que l’un de ses modèles d’API audio pouvait générer de la parole humaine à partir de simples textes. Ce logiciel d’OpenAI est même considéré comme étant le plus proche de la véritable parole humaine à ce jour.

Dans un avenir très proche, de tels modèles pourraient rapidement devenir des outils privilégiés entre les mains de cybercriminels. L’API audio permet de convertir un texte en parole, avec plusieurs options de voix proposées aux utilisateurs. Bien que le modèle actuel d’OpenAI ne puisse pas encore être utilisé pour créer des deepfakes vocaux convaincants, il témoigne de la rapide avancée des technologies de synthèse vocale.

Actuellement, il existe peu d’appareils capables de produire des deepfakes vocaux d’une qualité indiscernable de la véritable voix humaine. Cependant, ces derniers mois ont vu de plus en plus d’outils basés sur l’IA démontrer leur capacité à générer des voix incroyablement proches de la réalité. Autrefois réservée aux programmeurs expérimentés, cette tâche est désormais intuitive et accessible à tous. Dans un futur proche, on peut s’attendre à des modèles produisant des résultats d’une qualité remarquable.

La fraude par intelligence artificielle reste encore rare, bien que quelques cas « réussis » aient déjà été signalés. En octobre dernier, par exemple, le capital-risqueur américain Tim Draper avait averti ses abonnés sur Twitter que des escrocs utilisaient sa voix sans son consentement pour commettre des fraudes. Tim a souligné que les demandes d’argent formulées avec sa voix étaient en réalité le résultat d’une intelligence artificielle.

Comment se prémunir contre de tels risques ?
Jusqu’à présent, les voix deepfake ne sont peut-être pas encore perçues comme de réelles menaces dans le cyberespace. En effet, les cas où elles sont utilisées à des fins malveillantes restent rares pour l’instant.

Cependant, cela ne signifie pas qu’il ne soit pas important de prendre des mesures préventives dès maintenant. Une vigilance particulière est essentielle lors des conversations téléphoniques. Si la voix de votre interlocuteur est de qualité médiocre, comporte des bruits parasites, ou semble artificielle voire monotone, il est peut-être temps d’être prudent.

Un moyen pour tester l’authenticité de votre interlocuteur est de poser des questions atypiques. Par exemple, une question sur sa couleur préférée déstabiliserait une voix générée artificiellement, car ce n’est pas une requête habituelle des fraudeurs. Même si l’attaquant tente de répondre en tapant manuellement sa couleur préférée pour simuler une réponse vocale, le délai de réponse révélera la supercherie.

Opter pour une solution de sécurité fiable et exhaustive constitue une autre mesure sûre. Bien qu’elles ne puissent pas détecter à 100 % les voix deepfake, ces solutions aident à éviter les sites douteux, les paiements risqués, les téléchargements de logiciels malveillants, et à protéger les navigateurs ainsi que les fichiers contre d’éventuelles contaminations.

« Actuellement, il est important de ne pas surestimer la menace des voix deepfake ou de commencer à les voir là où elles ne sont pas. Bien que la technologie actuelle ne puisse pas encore produire des voix suffisamment réalistes pour nous tromper facilement, il faut tout de même garder à l’esprit que la menace vocale est bien réelle et que la fraude par deepfake deviendra bientôt une réalité, » explique Dmitry Anikin, Data Scientist Senior chez Kaspersky.

Pour en savoir davantage sur le deepfake vocal, vous pouvez consulter ce lien.

Partager l'article:

Articles Recents

S'abonner

VIDÉOS SPONSORISÉES
VIDÉOS SPONSORISÉES

00:00:30

OPPO Reno12 : L’Alliance Parfaite entre Design, Intelligence Artificielle et Performance

Les séries Reno12 d'OPPO marquent une avancée significative dans le domaine de la photographie mobile grâce à l'intégration poussée de l'intelligence artificielle.
00:02:15

Abdelaziz Makhloufi, PDG de Cho Group, met en lumière l’excellence de l’huile d’olive tunisienne sur BFM Business

Fort de son expertise reconnue dans le secteur oléicole, Abdelaziz Makhloufi, Président-directeur général du groupe Cho, a saisi l'opportunité de l'émission BFM Business pour promouvoir l'huile d'olive tunisienne à l'échelle internationale.
00:00:32

Lancement du nouveau Huawei Nova Y61

Huawei Consumer Business Group annonce le lancement du HUAWEI nova Y61, le plus récent smartphone de la série HUAWEI nova Y.

CONTENUS SPONSORISÉS
CONTENUS SPONSORISÉS

Ramadan : Un Mois Propice pour rompre avec la cigarette

Le mois sacré de Ramadan offre une opportunité unique pour ceux qui désirent se libérer de l'emprise de la cigarette.

OPPO A78, le nouveau smartphone bientôt en Tunisie

OPPO, la marque leader sur le marché mondial des appareils connectés, vient d’annoncer l’arrivée sur le marché tunisien de son dernier smartphone A78, à partir du 1er septembre 2023.
00:03:27

OPPO Tunisie lance les nouveaux smartphones Reno8 T 4G, Reno8 T 5G, un design élégant et une fluidité totale

OPPO vient d’annoncer le lancement, en Tunisie, de ses derniers modèles de smartphones de la série Reno, les nouveaux Reno8 T et Reno8 T 5G, avec une offre spéciale durant tout le mois de mars 2023.

Oppo consolide sa position et met en avant la nouvelle technologie de son Reno7

OPPO, la marque internationale leader dans l’industrie des smartphones et des objets connectés, a développé ces dernières années sa position et ses activités en Tunisie, dans le cadre d’une extension sur les marchés de la région Moyen Orient et Afrique.

A lire également
A lire également

Huawei : une production massive de la puce IA Ascend 910C prévue pour 2025

Huawei prévoit la production massive de sa puce IA Ascend 910C pour début 2025, malgré les défis liés aux restrictions américaines. Découvrez les enjeux technologiques et stratégiques d'une avancée majeure pour l'industrie des semi-conducteurs.

Sony sur le point de racheter Kadokawa : un tournant majeur pour le gaming

Sony pourrait bientôt s'offrir Kadokawa, la société à l'origine du succès phénoménal d'Elden Ring. Cette acquisition renforcerait considérablement la position de Sony dans l'industrie du jeu vidéo.

Le réseau social de Trump négocie l’achat de Bakkt : une révolution crypto en vue

Le groupe de Donald Trump, propriétaire de Truth Social, est en négociations avancées pour acquérir Bakkt, une plateforme de cryptoactifs. Découvrez les impacts de cette opération sur le marché et les ambitions crypto de l'ex-président.

Kaspersky et AFRIPOL : Un partenariat inédit pour sécuriser le cyberespace africain

Face à la hausse des cyberattaques, Kaspersky et AFRIPOL joignent leurs forces pour sécuriser le cyberespace africain. Un partenariat stratégique pour une Afrique numérique plus sûre.

OPPO Find X8 : Le smartphone ultime avec le processeur MediaTek Dimensity 9400 – Performances, IA et photo révolutionnaire

Découvrez la série OPPO Find X8, les premiers smartphones équipés du MediaTek Dimensity 9400. Alliant puissance, IA avancée et efficacité énergétique, ces appareils redéfinissent l'expérience mobile avec des performances de jeu, photo et connectivité révolutionnaires.

ASML : Une Croissance Soutenue par l’Intelligence Artificielle jusqu’en 2030

ASML prévoit une croissance exponentielle grâce à l'IA. Le leader mondial des machines EUV dévoile ses ambitions pour 2030.

Soutien stratégique des gouvernements japonais et sud-coréen à l’industrie des semi-conducteurs

Le Japon et la Corée du Sud renforcent leurs industries des semi-conducteurs avec des subventions massives et des projets de loi stratégiques pour contrer la concurrence mondiale et les menaces de droits de douane américains sous la présidence de Donald Trump.

Protégez vos enfants en ligne avec ESET Safe Kids : un guide complet

Assurez la sécurité de vos enfants sur Internet avec ESET Safe Kids. Découvrez nos conseils et astuces pour filtrer les contenus inappropriés, surveiller leur activité en ligne et leur apprendre à naviguer en toute sécurité.