Googles menneskelignende Duplex AI vil fortælle folk, at det er en robot
Men tekniske eksperter har rejst bekymringer om de etiske spørgsmål, der omgiver det
Duplex stemmeassistenten giver et overbevisende indtryk af menneskelig tale
Leon Neal/Getty Images
Google har lovet at advare folk, der interagerer med sin nye menneskeduperende Duplex kunstig intelligens (AI) stemmeassistent, efter et ramaskrig over etik.
Søgemaskinegiganten forbløffede fans, da den debuterede sit nye AI-system – som er i stand til at tale med folk over telefonen ved at efterligne en menneskelig stemme – på sin årlige teknologikonference i Mountain View, Californien, tirsdag.
Google demonstrerede Duplex ved at vise en samtale mellem AI-systemet og en frisør. Systemet, som bookede en håraftale på vegne af en person, var i stand til at kommunikere over telefonen med den intetanende frisør.
Mens teknologien har fået ros for sit overbevisende indtryk af menneskelig tale, Daily Telegraph siger, at nogle iagttagere mener, at det kan være uetisk at narre folk i den anden ende af et telefonopkald.
En teknisk ekspert, Zeynep Tufekci fra New York Times, sagde i et tweet, at hun fandt demonstrationen forfærdelig.
Silicon Valley er etisk tabt, uden ror og har ikke lært noget, sagde hun.
Google Assistant foretager opkald og foregiver at være et menneske, ikke kun uden at afsløre, at det er en bot, men tilføjer 'ummm' og 'aaah' for at bedrage mennesket i den anden ende med rummet, der jubler over det... rædselsvækkende. Silicon Valley er etisk tabt, uden ror og har ikke lært noget.
- zeynep tufekci (@zeynep) 9. maj 2018
Som svar på kritikerne, fortalte en Google-talsmand Randen at firmaet planlægger at informere folk, der støder på stemmeassistenten, om, at de taler til et automatiseret system i stedet for en rigtig person.
Duplex er stadig i en tidlig udviklingsfase. Dette vil give søgegiganten tid til at løse AI-systemets etiske problemer inden dets officielle lancering.
I sidste ende håber virksomheden, at Duplex vil udvikle sig til et system, der måske en dag kan løse tilgængelighedsproblemer, The Guardian siger. Det kan betyde, at hørehæmmede mobilbrugere for eksempel kan booke tider over telefonen.
Google planlægger at køre et lille testprogram til sommer, siger avisen. Dette ville give brugerne mulighed for at foretage restaurantreservationer og booke håraftaler ved hjælp af den virtuelle assistent.
