Stephen Hawking: Menneskeheden kan blive ødelagt af AI
Udviklere og lovgivere skal fokusere på at ’maksimere’ teknologiens fordele for samfundet
Dette indhold er underlagt ophavsret.
Stephen Hawking har advaret om, at kunstig intelligens (AI) kan ødelægge menneskeheden, medmindre vi griber ind for at undgå de risici, det udgør.
Ved dette års webtopmøde i Portugal sagde fysikeren, at sammen med fordele bringer teknologien også farer som magtfulde autonome våben eller nye måder for de få til at undertrykke de mange.
I citater rapporteret af Forbes , fortsatte han: Succes med at skabe effektiv kunstig intelligens kan blive den største begivenhed i vores civilisations historie. Eller det værste. Vi ved det bare ikke.
Hawking foreslog, at menneskeheden kunne forhindre AI i at true vores eksistens ved at regulere dens udvikling.
Måske skulle vi alle stoppe et øjeblik og fokusere ikke kun på at gøre vores AI bedre og mere succesfuld, men også på gavn for menneskeheden, tilføjede han.
Hans kommentarer kommer mindre end tre måneder efter Elon Musk, grundlægger af Tesla og SpaceX, sagde, at AI var langt mere risikabelt end truslen om et atomangreb fra Nordkorea.
Musk har tidligere fortalt et panel af amerikanske statspolitikere, at indtil folk ser robotter gå ned på gaden og dræbe folk, ved de ikke, hvordan de skal reagere, fordi det virker så æterisk.
Hawking roste tiltag i Europa for at regulere nye teknologier, rapporterer CNBC , især forslag fremsat af lovgivere tidligere på året for at etablere nye regler omkring kunstig intelligens og robotteknologi.
Elon Musk siger, at kunstig intelligens er farligere end krig med Nordkorea
15 august
Tesla og SpaceX-grundlægger Elon Musk siger, at kunstig intelligens (AI) er 'langt mere risikabelt' end truslen om et angreb fra Nordkorea.
I kølvandet på voksende spændinger mellem Nordkorea og USA sagde Musk i et tweet: 'Hvis du ikke er bekymret for AI-sikkerhed, bør du være det.'
Hvis du ikke er bekymret for AI-sikkerhed, bør du være det. Langt mere risiko end Nordkorea. pic.twitter.com/2z0tiid0lc
— Elon Musk (@elonmusk) 12. august 2017
Det er ikke første gang, at den sydafrikanske opfinder har udtrykt sine bekymringer over AI-teknologi.
Musk talte til et publikum af amerikanske statspolitikere på Rhode Island i sidste måned: 'Indtil folk ser robotter gå ned på gaden og dræbe folk, ved de ikke, hvordan de skal reagere, fordi det virker så æterisk.'
For at undgå, at kunstig intelligens bliver en trussel mod menneskeheden, siger han, at den amerikanske regering bør 'lære så meget som muligt' og 'få indsigt' i, hvordan teknologien fungerer. Det bør også indføre regler for at sikre, at virksomheder udvikler AI sikkert.
Mens opfinderen indrømmer, at 'ingen kan lide at blive reguleret', siger han, at alt andet, der er en 'fare for offentligheden, er reguleret', og at AI 'også burde være'.
Ingen kan lide at blive reguleret, men alt (biler, fly, mad, stoffer osv.), der er til fare for offentligheden, er reguleret. AI burde også være det.
— Elon Musk (@elonmusk) 12. august 2017
Musks bemærkninger kommer samtidig med, at kunstig intelligens, udviklet af hans OpenAI-firma, med succes besejrede nogle af verdens bedste spillere på computerspillet Dota 2, rapporterer The Guardian .
Systemet 'formåede at vinde alle sine 1-v-1-spil ved de internationale Dota 2-mesterskaber mod mange af verdens bedste spillere, der konkurrerede om en præmiefond på $24,8 mio. (£19 mio.).'
Elon Musk opfordrer til AI-regulering, før 'det er for sent'
18 juli
SpaceX og Tesla-grundlæggeren Elon Musk har opfordret til, at udviklingen af kunstig intelligens (AI) skal reguleres, før 'det er for sent'.
På et møde med amerikanske statspolitikere i Rhode Island sidste weekend sagde den sydafrikansk-fødte opfinder: 'AI er et sjældent tilfælde, hvor jeg mener, at vi skal være proaktive i regulering i stedet for at reaktive.
'Indtil folk ser robotter gå ned ad gaden og dræbe folk, ved de ikke, hvordan de skal reagere, fordi det virker så æterisk.'
Han tilføjede: 'AI er en grundlæggende risiko for eksistensen af den menneskelige civilisation.'
Han sagde også, at kunstig intelligens ville have en væsentlig indflydelse på job, da 'robotter vil være i stand til at gøre alt bedre end os', og tilføjede, at transportsektoren, som han sagde tegnede sig for 12 procent af jobs i USA, ville være 'en af de første ting, der går helt autonomt«.
Musk talte også om hans 'ønske om at etablere interplanetariske kolonier på Mars' for at fungere som sikre havn, hvis robotter skulle overtage Jorden, CleanTechnica rapporter.
For at undgå, at det sker i første omgang, opfordrede han regeringen til at 'lære så meget som muligt' og 'få indsigt' i, hvordan AI kan udvikles sikkert.
Kritikere siger dog, at Musks bemærkninger kan 'distrahere fra mere presserende bekymringer', skriver Tim Simonite på Kablet .
Ryan Calo, en cyberlovekspert ved University of Washington, sagde til hjemmesiden: 'Kunstig intelligens er noget, politikere bør være opmærksomme på.
'Men at fokusere på den eksistentielle trussel distraherer dobbelt fra dets potentiale for det gode og de problemer i den virkelige verden, det skaber i dag og på kort sigt.'
