Facebook lukker ned for eksperimentet, efter at AI har opfundet eget sprog
Forskere lukker projekt, efter at maskiner har udviklet sin egen måde at kommunikere på, som er uforståelig for mennesker
Intelligente robotter udfører et stigende antal roller
Getty billeder
Bob: jeg kan jeg alt andet. . . . . . . . . . . . . .
Alice: bolde har nul til mig til mig til mig til mig til mig til mig til mig til mig til
Bob: du jeg alt andet. . . . . . . . . . . . . .
Alice: bolde har en bold til mig til mig til mig til mig til mig til mig til mig
Bob: jeg kan jeg jeg alt andet . . . . . . . . . . . . . .
Alice: bolde har en bold til mig til mig til mig til mig til mig til mig til mig
På trods af at det ligner manuskriptet fra en virkelig forfærdelig tv-sitcom, fandt denne samtale faktisk sted mellem to kunstig intelligens-programmer, udviklet inde på Facebook for at perfektionere forhandlingskunsten.
Først talte de to til hinanden på almindeligt engelsk. Men så indså forskerne, at de havde lavet en fejl i maskinernes programmering.
'Der var ingen belønning at holde sig til engelsk sprog,' fortalte Dhruv Batra, gæsteforsker fra Georgia Tech ved Facebook AI Research (Fair) FastCo .
Da disse to agenter konkurrerede om at få den bedste handel, 'blev ingen af dem tilbudt nogen form for incitament til at tale, som en normal person ville,' siger FastCo.
Så de begyndte at divergere, og til sidst omarrangerede de forståelige ord til tilsyneladende useriøse sætninger, hvilket fik eksperimentet til at blive suspenderet.
Facebook var nødt til at lukke en AI ned, fordi den udviklede sit eget sprog pic.twitter.com/EsVEkWViTv
— NowThis (@nowthisnews) 31. juli 2017
'Agenter (eller programmer) vil glide væk fra forståeligt sprog og opfinde kodeord til sig selv,' forklarede Batra. 'Ligesom hvis jeg siger 'den' fem gange, fortolker du det som at betyde, at jeg vil have fem kopier af denne genstand. Dette er ikke så forskelligt fra den måde, samfund af mennesker skaber stenografier på.'
Men forskerne var ivrige efter at understrege, at eksperimentet ikke blev opgivet på grund af bekymringer om de potentielt negative virkninger af robotternes kommunikation.
Fair-forsker Mike Lewis fortalte FastCo, at de simpelthen havde besluttet, at 'vores interesse var at have bots, der kunne tale med folk,' ikke effektivt med hinanden, og valgte derfor at kræve, at de skulle skrive til hinanden læseligt.
Det er ikke første gang, at kunstig intelligens-maskiner dukker op for at skabe deres eget sprog.
I november sidste år afslørede Google, at den kunstige intelligens, som den bruger til sit oversættelsesværktøj, havde skabt sit eget sprog, som den ville oversætte sætninger til og ud af, før de leverede ord på målsproget.
Rapportering om udviklingen dengang, Tech Crunch sagde: 'Denne 'interlingua' synes at eksistere som et dybere niveau af repræsentation, der ser ligheder mellem en sætning eller et ord.'
'Det kunne være noget sofistikeret, eller det kunne være noget simpelt,' tilføjede hjemmesiden, men 'det faktum, at det overhovedet eksisterer - en original skabelse af systemets eget for at hjælpe med dets forståelse af begreber, det ikke er blevet trænet til at forstå — er, filosofisk set, ret kraftfuldt stof«.
Disse seneste udviklinger har ført til etiske diskussioner om de potentielle problemer med maskiner, der kommunikerer med hinanden uden menneskelig indgriben.
'I Facebook-sagen var det eneste, chatbotterne var i stand til at gøre, at finde på en mere effektiv måde at handle på,' siger Gizmodo .
Men der er 'sandsynligvis gode grunde til ikke at lade intelligente maskiner udvikle deres eget sprog, som mennesker ikke ville være i stand til meningsfuldt at forstå,' tilføjer hjemmesiden.
'Forhåbentlig vil mennesker også være smarte nok til ikke at tilslutte eksperimentelle maskinlæringsprogrammer til noget meget farligt, som en hær af laser-toting androider eller en atomreaktor.'
