Der er en stor debat foregår i Silicon Valley om kunstig intelligens og desværre er indsatsen ret høj: Vil vi ved et uheld bygge en super smart A.I. der tænder på os og dræber eller slaver os alle sammen?
trak fyldigere og ceara mcauliffe
Dette lyder måske som scenariet for en sommerkatastrofefilm, men det har bekymret nogle ret store navne, fra Elon Musk til den sene Stephen Hawking .
'Lad os sige, at du opretter et selvforbedrende A.I. at plukke jordbær, ' Musk har sagt , forklarer sin frygt, 'og det bliver bedre og bedre til at plukke jordbær og plukke mere og mere, og det forbedrer sig selv, så alt, hvad det virkelig vil gøre, er at plukke jordbær. Så ville det have haft hele jorden jordbærmarker. Jordbærmarker for evigt. ' Mennesker i vejen for denne jordbær-pacalypse ville bare være en brugbar irritation for A.I.
Men mennesker ville bestemt ikke være så fjollede, at de ved et uheld designer en A.I. drevet til at gøre hele civilisationen til en kæmpe bærfarm? Måske ikke, men som Janelle Shane , en forsker, der træner neurale netværk, en type maskinindlæringsalgoritme, der for nylig blev bemærket hendes blog, A.I. Mærkelighed , det er muligvis, at de kunne gøre det ved en fejltagelse.
Faktisk ville det være langt fra første gang, at mennesker troede, at de byggede robotter til en opgave kun for at vende om og finde, at robotterne spillede systemet på måder, de aldrig havde tænkt sig. Det fascinerende indlæg graver ind i den akademiske litteratur for at dele flere eksempler på robotter, der er gået vildt. De er sjove, kloge og samlet set mere end lidt uhyggelige.
1. Hvem har brug for ben, når du kan tumle?
'En simuleret robot skulle udvikle sig for at rejse så hurtigt som muligt. Men snarere end at udvikle sig ben, samledes det simpelthen sig selv i et højt tårn og faldt derefter om. Nogle af disse robotter lærte endda at forvandle deres faldende bevægelse til en salto og tilføje ekstra afstand, 'skriver Shane.
2. En robot, der kan kan-kan.
'Et andet sæt simulerede robotter skulle udvikle sig til en form, der kunne hoppe. Men programmøren havde oprindeligt defineret springhøjde som højden på den højeste blok, så - endnu engang - udviklede robotterne sig til at være meget høje, 'forklarer Shane. 'Programmøren forsøgte at løse dette ved at definere springhøjde som højden på den blok, der oprindeligt var den' laveste '. Som svar udviklede robotten et langt tyndt ben, som det kunne sparke højt op i luften i en slags robot-dåse. '
3. Skjul testen, og du kan ikke fejle den.
'Der var en algoritme, der skulle sortere en liste med numre. I stedet lærte det at slette listen, så den ikke længere var teknisk usorteret, 'fortæller Shane.
4. Matematiske fejl slår jetbrændstof.
'I en simulation lærte robotter, at små afrundingsfejl i matematikken, der beregnede kræfter, betød, at de fik en lille smule ekstra energi med bevægelse. De lærte at ryste hurtigt og generere masser af gratis energi, som de kunne udnytte, 'siger Shane. Hej, det snyder!
5. En uovervindelig (hvis destruktiv) tic-tac-toe-strategi.
Når en gruppe 'programmerere byggede algoritmer, der kunne spille tic-tac-toe eksternt mod hinanden på et uendeligt stort bræt,' bemærker Shane. 'En programmør, i stedet for at designe deres algoritmes strategi, lad den udvikle sin egen tilgang. Overraskende nok begyndte algoritmen pludselig at vinde alle sine spil. Det viste sig, at algoritmens strategi var at placere sin bevægelse meget, meget langt væk, så når modstanderens computer forsøgte at simulere det nye stærkt udvidede kort, ville det enorme gameboard få det til at løbe tør for hukommelse og gå ned og tabe spil.'
6. Ingen nyttig spilfejl bliver uudnyttet.
'Computerspil-algoritmer er virkelig gode til at opdage den slags Matrix-fejl, som mennesker normalt lærer at udnytte til hurtigkørsel. En algoritme, der spiller det gamle Atari-spil Q * bert, opdagede en tidligere ukendt fejl, hvor den kunne udføre en meget specifik række bevægelser i slutningen af et niveau, og i stedet for at flytte til det næste niveau, ville alle platforme begynde at blinke hurtigt og spiller ville begynde at samle et stort antal point, 'siger Shane.
7. Undskyld, pilot.
Dette eksempel er superhøjt på creepiness-skalaen: 'Der var en algoritme, der skulle finde ud af, hvordan man anvender en minimumskraft til et fly, der lander på et hangarskib. I stedet opdagede den, at hvis den anvendte en 'enorm' kraft, ville den oversvømme programmets hukommelse og i stedet registrere sig som en meget 'lille' kraft. Piloten ville dø, men hej, perfekt score. '
Så er vi alle dømt?
Alle disse tilsammen antyder, at mennesker er temmelig elendige ved at gætte, hvordan robotter vil løse de problemer, vi sætter dem, eller endda hvordan de definerer problemerne. Så betyder det, at Shane er lige så bekymret for ved et uheld at bygge mord A.I. overherrer som Musk er? Ikke rigtig, men ikke fordi hun er sikker på, at menneskelige programmører virkelig har et godt greb om de robotter, de skaber. I stedet banker hun på robot dovenskab for at redde os.
'Som programmører skal vi være meget meget forsigtige med, at vores algoritmer løser de problemer, som vi mente, at de skulle løse, ikke udnytter genveje. Hvis der er en anden, lettere vej mod at løse et givet problem, vil maskinindlæring sandsynligvis finde det, 'bemærker hun. 'Heldigvis for os er' dræb alle mennesker 'virkelig virkelig svært. Hvis 'bage en utrolig lækker kage' også løser problemet og er lettere end 'dræb alle mennesker', så går maskinindlæring sammen med kage. '
