Amazon Alexa sta rilasciando una nuova tecnologia che imita le voci dei morti

Segnaposto quando vengono caricate le azioni dell’articolo

Un top slip A letto Al programma dell’Amazon Technology Summit di questa settimana, a Echo Dot è stato chiesto di completare un compito: “Alexa, la nonna può finire di leggermi? Il mago di Oz? “

La voce generalmente ottimista di Alexa, con un design panda da un altoparlante intelligente a tema bambino: “OK!” Più tardi, quando il dispositivo ha iniziato a descrivere il leone codardo che chiedeva coraggio, il robot Twang di Alexa è stato sostituito da un narratore simile a un umano.

“Invece della voce di Alexa che legge il libro, è la voce della nonna di un bambino”, ha spiegato con entusiasmo Rohit Prasad, vicepresidente senior e scienziato capo di Alexa Artificial Intelligence, durante un discorso programmatico a Las Vegas. (Il fondatore di Amazon Jeff Bezos è il proprietario del Washington Post.)

Demo Questo è il primo sguardo alla nuova funzionalità di Alexa, sebbene ancora in fase di sviluppo, che consente all’assistente vocale di riflettere le voci delle persone da brevi clip audio. Prasad ha affermato che l’obiettivo era creare maggiore fiducia tra gli utenti iniettando l’intelligenza artificiale “con tratti umani di empatia e vulnerabilità”.

Nuova caratteristica ” [loved ones’] I ricordi indugiano “, ha detto Prasad.

“Non credo che il nostro mondo sia pronto per una tecnologia di clonazione vocale di facile utilizzo”, ha detto al Washington Post Rachel Tobak, amministratore delegato di Social Proof Security con sede a San Francisco. Ha aggiunto che tale tecnologia potrebbe essere utilizzata per manipolare il pubblico con clip audio o video falsi.

READ  Il video mostra le forze russe che scavano una trincea in un'area a basse radiazioni vicino a Chernobyl

“Se un criminale informatico può imitare in modo semplice e affidabile la voce di un’altra persona con un piccolo modello vocale, può utilizzare quel modello vocale per impersonare altre persone”, ha affermato Tobog, un esperto di sicurezza informatica. “Quel cattivo attore può ingannare gli altri dicendo che sono la persona che stanno impersonando, il che può portare a frodi, perdita di dati, acquisizione di account e altro”.

Se è così, c’è il rischio di offuscare i confini tra uomo e macchina, ha affermato Tama Lever, professore di ricerca su Internet presso la Curtin University in Australia.

“Non ti ricorderai che stai parlando nelle profondità dell’Amazzonia… e altro ancora I suoi servizi di raccolta dati Se è la voce di tua nonna o di tuo nonno o la voce di una persona cara smarrita”.

“In un certo senso, è come l’episodio ‘Black Mirror'”, ha detto Lever. La serie di fantascienza prevede un futuro a tema tecnologico.

Ingegnere di Google che pensa che l’IA dell’azienda sia stata ripresa

La nuova funzionalità di Alexa solleva anche domande sulla conformità, ha aggiunto Lever, soprattutto per coloro che non pensano che il loro robot sarà cinturato da un assistente personale dopo la morte.

“C’è una vera inclinazione scivolosa nell’uso dei dati morti, che è inquietante da un lato, ma profondamente immorale dall’altro perché non hanno mai considerato quelle tracce come usate in quel modo”, ha detto Lever.

Lever ha detto che simpatizza per la “prova” di voler sentire la voce di una persona cara, avendo recentemente perso suo nonno. Ma la possibilità apre una marea di impatti che la comunità non è pronta a sopportare, ha detto – per esempio, Chi possiede i piccoli pezzi che le persone lasciano nell’etere del World Wide Web?

READ  I rendimenti obbligazionari salgono dopo i commenti di Occhio di Falco Powell

“Se mio nonno mi inviasse 100 messaggi, avrei il diritto di inviarlo al computer? Se lo facessi, di chi lo possiede? Amazon possiede quella registrazione?” chiese “Ho rinunciato al diritto alla voce di mio nonno?”

Prasad non ha menzionato tali dettagli durante il suo discorso di mercoledì. Tuttavia, la capacità di riflettere le voci “è senza dubbio il risultato dei nostri sogni e della fantascienza che vivono nell’età d’oro dell’IA che si stanno avverando”, ha affermato.

Questo modello di intelligenza artificiale sta cercando di ricreare la mente di Ruth Bader Ginsburg

Se la demo di Amazon vuole diventare una vera funzionalità, le persone devono iniziare a pensare a come utilizzare le loro voci e il loro aspetto quando muoiono, ha affermato Lever.

“Dovrei pensare con parole mie che la mia voce e la mia storia di immagini sui social media sono proprietà dei miei figli e che possono decidere se vogliono ricrearla in chat con me o no?” si è chiesto Lever.

“È una cosa strana da dire ora. Ma potrebbe essere una domanda prima che Alexa inizi a parlare come me domani”, ha aggiunto.

We will be happy to hear your thoughts

Leave a reply