La versione audio creata da AI finge che la figlia sia stata rapita

Jennifer pensava che la quindicenne Bree fosse stata rapita, quando sua figlia ha chiamato e pianto.

In realtà, era una copia vocale generata dall’intelligenza artificiale e dall’intelligenza artificiale.

– Non ho dubitato per un momento che fosse lei, – dice Jennifer DiStefano.

Quando il telefono ha squillato a casa sua a Scottsdale, negli Stati Uniti, Jennifer DiStefano all’inizio non ha voluto rispondere. Ma poi ha capito che poteva essere la figlia che era in gita sugli sci.

– Alzo il telefono e sento la voce di mia figlia dire: “Mamma!” e sospira. “Mamma, l’ho fatto”, dice, piangendo, come dice Jennifer Stazione radio locale americana WKYT.

Poi la voce dell’uomo scoppia. Jennifer dice:

– Ha detto: “Ho tua figlia”. Se chiamassi la polizia, o chiunque altro, la riempirei di droga. Poi faccio quello che voglio con lei e la butto in Messico”.

Zoom dello schermo

Jennifer ha iniziato a tremare, sentendo la voce supplichevole e piangente di sua figlia che diceva “Aiutami mamma” in sottofondo.

L’uomo ha chiesto un milione di dollari di riscatto. Quando Jennifer ha detto che non aveva molto, ha ridotto l’importo a $ 50.000.

Si dà il caso che Jennifer avesse degli amici intorno a lei quando è arrivata la chiamata. Hanno chiamato la polizia e il marito di DiStefano. In quattro minuti sono riusciti ad afferrare Bree, che era illesa e si chiedeva cosa stesse succedendo. Poi Jennifer si è arrabbiata e ha chiuso la chiamata.

Ma durante la conversazione non ha mai dubitato che fosse proprio sua figlia a parlarle.

– Era la sua voce esatta. il tono della sua voce Il modo in cui piangeva. Non ho dubitato per un momento che fosse lei. Questo era ciò che era così spaventoso, mi ha totalmente scioccato, dici.

Subbarao Kambhati, esperto di computer dell’ASU, afferma che qualsiasi audio da una registrazione audio ora può essere trascritto entro tre secondi:

– Non puoi più fidarti delle tue orecchie. Con l’aiuto di tre secondi, si sono avvicinati molto alla sua voce, dice Kambhati al New York Post.

Zoom dello schermo

I truffatori trovano le loro vittime attraverso i social media in cui le persone pubblicano video e file audio. Vengono scaricati ed elaborati utilizzando vari sistemi di intelligenza artificiale.

Questo è il motivo per cui dovresti mantenere i tuoi account privati, ha detto a WKYT l’agente dell’FBI Dan Mayo.

– Cercano profili che abbiano quante più informazioni possibili su di te, e quando le ottengono, ti inseguono, dice.

Jennifer DiStefano non ha mai perso soldi. Ma lei sente ancora la vibrazione:

– Dopodiché mi sono seduto e sono crollato. Ho pianto per tutto quello che sarebbe potuto succedere. Sembrava davvero che fosse reale.