Innehåll
Källa: Lin Shao Hua / Dreamstime.com
Hämtmat:
Framsteget för AI är oundvikligt, och vad det innebär för mänskligheten är inte helt klart. Vissa tror att vi kan se fram emot en stor framtid, medan andra tror att det betyder att vi är på väg att ersättas av våra robotherrar. Det tredje perspektivet är ett som är medveten om risker men anser att de är hanterbara.
Vi hör mycket om AI och dess transformativa potential. Vad det betyder för mänsklighetens framtid är emellertid inte helt klart. Vissa futurister tror att livet kommer att förbättras, medan andra tror att det är under allvarligt hot. Det finns också ett spektrum av positioner i mitten. Här är en rad ta från 11 experter.
1. "Den överlägset största faran med konstgjord intelligens är att människor drar slutsatsen för tidigt att de förstår det." - Eliezer Yudkowsky
Det är den första meningen i Yudkowsys rapport från 2002 med titeln "Artificiell intelligens som en positiv och negativ faktor i global risk" för Machine Intelligence Research Institute (MIRI). Medan termen AI inte bandades ungefär lika mycket som nu är det fortfarande ett problem med bristande förståelse för teknikens kapacitet och gränser. Faktum är att under de senaste åren har det varit ett större tryck för att göra AI inte bara förståeligt, utan förklarbart.
2. "Det som är avgörande är att göra någonting om AI förklarbart, rättvist, säkert och med avstamning, vilket innebär att vem som helst kunde se helt enkelt hur någon applikation av AI utvecklades och varför." - Ginni Rometty
IBMs verkställande direktör uttalade sig under sin huvudsakliga adress vid CES den 9 januari 2019. Bakgrunden till att hävda behovet av förklarbar AI är att att hålla den som en förseglad svart låda gör det omöjligt att kontrollera och fixa fördomar eller andra problem i programmeringen. IBM har lagt sig i lägret för att arbeta för att lösa detta problem, inte bara erbjuda datortjänster för företag, utan samråd om att minska förspänningen för dem som bygger maskininlärningssystem. (Läs mer om förklarbar AI i AI's Got Some Explaining to Do.)
Inga buggar, ingen stress - din steg-för-steg-guide för att skapa livsförändrad programvara utan att förstöra ditt liv
Du kan inte förbättra dina programmeringsfärdigheter när ingen bryr sig om mjukvarukvalitet.
3. "Den ultimata sökmotor, som skulle förstå, vet du exakt vad du ville när du skrev in en fråga, och det skulle ge dig exakt rätt sak tillbaka, i datavetenskap vi kallar det för konstgjord intelligens. Det betyder att det skulle vara smart, och vi är långt ifrån att ha smarta datorer. " - Larry Page
Googles medgrundare och VD på den tiden sa detta i november 2002 under ett PBS NewsHour-segment med titeln "Google: Sökmotorn som kunde." Värden öppnade med en reflektion över den ökande populariteten för Google under året då American Dialect Samhället rangordnade det som det mest användbara verbet som ska läggas till i användning, även om det skulle ta ytterligare några år innan det erkänns av sådana som Merriam-Webster. Men till och med tidigt signalerade företaget sitt intresse för att använda AI.
4. ”Undvik ALLA KOSTNADER att nämna eller implicera AI. Vapeniserad AI är förmodligen ett av de mest sensibiliserade ämnena för AI - om inte DE mest. Detta är rött kött för media för att hitta alla sätt att skada Google. ” - Fei Fei Li, en AI-pionjär på Google, i en till kollegor om företagets engagemang i Project Maven
Google fann att det kan vara en nackdel att vara en viktig spelare i AI. I juli 2017 presenterade försvarsdepartementet sina mål för Project Maven. Marine Corps Col. Drew Cukor, chef för det algoritmiska krigföringens tvärfunktionsteam i underrättelsetjänsten, övervakning och rekognosering Operations Directorate-Warfighter Support på kontoret för underministeriet för försvar för underrättelse talade om deras uttalade mål för året: "Människor och datorer kommer att arbeta symbiotiskt för att öka förmågan hos vapensystem att upptäcka föremål. "
Google hade varit partner i detta företag, men - som anges av citatet ovan - gillade inte Google-anställda det. Så småningom undergavs företaget för presset och i juni 2018 meddelade det att det inte skulle förnya sitt kontrakt med försvarsdepartementet. Som The Intercept rapporterade:
Google mötte ett växande tryck sedan kontraktet avslöjades av Gizmodo och The Intercept i mars. Nästan ett dussin anställda avgick i protest, och flera tusen undertecknade ett öppet brev där de förklarade att "Google inte bör vara i krigsföretag." Mer än 700 akademiker undertecknade också ett brev där de krävde att "Google säger upp sitt kontrakt med DoD, och att Google och dess moderföretag Alphabet förbinder sig att inte utveckla militär teknik och inte använda de personuppgifter som de samlar in för militära ändamål. "
5. "Konstgjord intelligens kommer att nå mänskliga nivåer cirka 2029. Följ det vidare till, säg, 2045, vi kommer att ha multiplicerat intelligensen, den mänskliga biologiska maskinintelligensen i vår civilisation en miljard gånger." - Ray Kurzweil
Futuristen och uppfinnaren sa detta i en intervju från 2012 där han talade om att uppnå odödlighet genom datorkraft. Han bekräftade siffran "miljarder gånger" och förklarade den på följande sätt: "Det är en sådan singularförändring att vi lånar denna metafor från fysiken och kallar den en singularitet, en djupt störande förändring i människans historia. Vårt tänkande kommer att bli en hybrid av biologiskt och icke-biologiskt tänkande. ”Han är uppenbarligen en av de optimistiska futuristerna och föreställer en störande förändring som kommer att vara till stor nytta. Han förklarade vidare varför han tror att odödlighet är inom räckhåll: ”Vi kommer att lägga till mer än ett år varje år till din återstående förväntad livslängd, där tidens sand löper ut snarare än att löpa ut, där din återstående livslängd faktiskt sträcker sig som tiden går."
6. ”Den största fördelen med ankomsten av konstgjord intelligens är att AI: er kommer att hjälpa till att definiera mänskligheten. Vi behöver AI: er för att berätta vem vi är. ” - Kevin Kelly
Medgrundare av Wired skrev denna svepande påstående i sin bok 2016, "The Inevitable: Understanding the 12 Technology Forces That Will Shape Our Future." När han föreställer ökningen av automatisering och jobb som övertas av robotar, räknar han med att där kommer att vara en upprepad cykel av förnekande, men framstegen är oundvikliga, och vi måste anpassa oss i enlighet därmed. Som han förklarade i en intervju med IBM: "Genom AI kommer vi att uppfinna många nya typer av tänkande som inte finns biologiskt och som inte är som mänskligt tänkande," och silverfodret till datormoln som han framhäver är detta: "Därför ersätter inte denna intelligens mänskligt tänkande, utan förstärker det."
7. ”Den verkliga risken med AI är inte ondska utan kompetens. EN superintelligent AI kommer att vara oerhört bra på att uppnå sina mål, och om dessa mål inte är i linje med våra, har vi problem. Du är förmodligen inte en ond myrhater som går på myror av ondska, men om du är ansvarig för ett vattenkraft-grönt energiprojekt och det finns ett myrställe i regionen som ska översvämmas, är synd för myrorna. Låt oss inte placera mänskligheten i dessa myrors position. " - Stephen Hawking
Detta offert är från början av 2015. Det var svaret Stephen Hawking erbjöd under en Reddit AMA (Ask Me Anything) Q & A-session till en fråga från en lärare som ville veta hur hantera vissa AI-problem som kommer upp i hans klasser, nämligen följande:
Hur skulle du föreställa din egen tro till min klass? Är våra synpunkter förenliga? Tror du att min vana att diskontera lekmannen "onda AI" är naiv? Och slutligen, vilken moral tror du att jag borde förstärka mina studenter som är intresserade av AI?
Hawking visar viss oro över AI: s eventuella förstörande effekter på mänskligheten, men han verkar tro att risk kan hanteras om vi planerar för det, en åsikt som delas av andra. (För mer om detta, se varför Superintelligent AIs inte förstör människor när som helst snart.)
8. ”Du vill veta hur superintelligent cyborgs kanske behandlar vanliga människor med kött och blod? Bättre börja med att undersöka hur människor behandlar sina mindre intelligenta djurkusiner. Det är naturligtvis inte en perfekt analogi, men det är den bästa arketypen vi faktiskt kan observera snarare än bara föreställa oss. " - Yuval Noah Harari
Professor Harari uttalade detta i sin bok 2017, "Homo Deus: En kort historia om morgondag." Hans syn är poler bortsett från de positiva futuristerna när han föreställde uppkomsten av det han kallar datatism, där människor avsätter den överlägsna grunden till avancerad artificiell intelligens. Vi är skyldiga att myrorna får översvämmas i Hawkings förklaring. Detta är en framtid som domineras av ett allmänt och allvetande "kosmiskt databehandlingssystem", och motståndet är meningslöst.
9. ”Vi måste ta itu med, individuellt och kollektivt, moraliska och etiska frågor som tas upp genom banbrytande forskning inom konstgjord intelligens och bioteknik, vilket möjliggör en betydande livförlängning, designerbarn och extraktion av minnet. " - Klaus Schwab
Schwab publicerade sina tankar om den fjärde industriella revolutionen i januari 2016. Liksom de positiva futuristerna föreställde han sig att framtiden kommer att smälta samman ”de fysiska, digitala och biologiska världarna på sätt som i grund och botten kommer att förändra mänskligheten.” Men han tog det inte för givet. att en sådan "transformation är positiv" och uppmanar människor att planera i förväg med medvetenhet om både "de risker och möjligheter som uppstår under vägen."
10. ”Mycket har skrivits om AI: s potential att reflektera både det bästa och det värsta av mänskligheten. Till exempel har vi sett AI ge samtal och komfort för de ensamma; vi har också sett att AI deltar i rasdiskriminering. Ändå är den största skadan som AI sannolikt kommer att göra för individer på kort sikt förflyttning av jobb, eftersom mängden arbete vi kan automatisera med AI är mycket större än tidigare. Som ledare åligger det oss att se till att vi bygger en värld där varje individ har en möjlighet att trivas. ” - Andrew Ng
Detta citat kommer från "Vad konstgjord intelligens kan och inte kan göra just nu", skrev artikeln Andrew Ng, grundande ledaren för Google Brain-teamet, tidigare chef för Stanford Artificial Intelligence Laboratory, för Harvard Business Review 2016 när han var den övergripande ledningen för Baidus AI-team. (2017 blev han grundaren och direktören för Landing AI.) Det förklarar kapaciteten och gränserna för AI som det var då och är fortfarande relevant idag. Medan Ng inte poserar en datadominerad dystopisk framtid, håller han med om att de som utvecklar den har ett ansvar att tillämpa det på ett ansvarsfullt sätt med full förståelse för dess både avsedda och oavsiktliga konsekvenser.
11. "Det finns ingen anledning och inget sätt att ett mänskligt sinne kan hålla jämna steg med en konstgjord intelligent maskin fram till 2035." - Grå Scott
Detta citat är inte felskrivet, även om det avviker från hur du ser det någon annanstans online eftersom det alltid verkar som "Det finns ingen anledning och inget sätt att ett mänskligt sinne kan hålla jämna steg med en konstgjord intelligensmaskin 2035." Här är berättelse. Baserat på hur långt tillbaka det ser ut i digitala källor sades det troligtvis 2015. Jag kunde dock inte fästa det till någon speciell nackdel även efter timmars sökning genom s och videor från den perioden. Så jag kontaktade Scott själv för att fråga efter källan. Han medgav, ”Jag minns inte när första gången var att jag sa detta eller var det var.” Men han kom ihåg hans ordalydelse: ”Citatet har alltid varit fel. Det bör läsa "konstgjord intelligent."
