Les appels effectués avec des voix générées par l'IA sont illégaux, a déclaré jeudi la Commission fédérale des communications, après qu'un faux appel robotisé imitant le président Joe Biden a cherché à dissuader les gens de voter pour lui lors des élections primaires démocrates du New Hampshire.

La décision déclaratoire donne aux procureurs généraux des États de nouveaux outils pour poursuivre les entités à l'origine des robocalls, a déclaré Jessica Rosenworcel, présidente de la FCC.

"Des acteurs malveillants utilisent des voix générées par l'intelligence artificielle dans des appels téléphoniques non sollicités pour extorquer des membres vulnérables de la famille, imiter des célébrités et désinformer les électeurs. Nous mettons en garde les fraudeurs à l'origine de ces appels téléphoniques", a déclaré Mme Rosenworcel.

La FCC a fait remarquer que les procureurs généraux des États pouvaient auparavant cibler le résultat d'un appel téléphonique non sollicité généré par une voix d'IA, mais que la nouvelle mesure rend illégale l'utilisation de l'IA pour générer une voix dans ces appels téléphoniques non sollicités.

En début de semaine, le procureur général du New Hampshire, John Formella, a déclaré que le faux appel téléphonique de M. Biden a été

a été retracé jusqu'à Life Corp, une société basée au Texas

. Il a indiqué qu'une lettre de cessation et de désistement avait été envoyée à la société, dirigée par Walter Monk, et qu'une enquête criminelle était en cours.

"L'utilisation de l'IA générative a fait peser une nouvelle menace sur les programmes de suppression d'électeurs et sur la saison des campagnes électorales, avec l'augmentation de la crédibilité des faux appels téléphoniques", a déclaré Geoffrey Starks, commissaire démocrate de la FCC.

"Le clonage vocal peut convaincre la personne appelée qu'une personne de confiance, ou quelqu'un qui lui est cher comme un membre de la famille, veut ou a besoin qu'elle prenne des mesures qu'elle n'aurait pas prises autrement", a déclaré la FCC.

La FCC en

2023, la FCC a infligé une amende de 5,1 millions de dollars.

infligée à des militants conservateurs pour avoir effectué plus de 1 100 appels téléphoniques illégaux avant les élections américaines de 2020.

Ces appels visaient à décourager les électeurs potentiels en leur disant que s'ils votaient par courrier, leurs "informations personnelles feront partie d'une base de données publique qui sera utilisée par les services de police pour retrouver d'anciens mandats et par les sociétés de cartes de crédit pour recouvrer des dettes impayées".