Innehåll
- Avfyras av maskinen
- Automation och jobbstörning
- Inga buggar, ingen stress - din steg-för-steg-guide för att skapa livsförändrad programvara utan att förstöra ditt liv
- Ansökningar från konsumentelektronik
- Återställer kontrollen
- Hur det kan fungera
Källa: Artinspiring / Dreamstime.com
Hämtmat:
För att automatisering ska arbeta med och för mänskligheten snarare än mot den, behöver vi skyddsåtgärder och informerade människor som har befogenhet att stoppa eller fixa ett systemfel.
”Att fela är mänskligt; för att verkligen kämpa saker kräver en dator. ”William E. Vaughan gjorde denna iakttagelse 1969. Att ge kontroll över ett automatiserat system innebär att systemet kan gå fel och orsaka allvarlig skada innan det kontrolleras.
Automation är inte ny, men den blir mycket mer utbredd tack vare integrationen av digitala och fysiska system. Uppsidan av automatisering i skala är stor effektivitet. Men nackdelen med att förlita sig på ett set-it-and-glöm-det-system är att någon kan misslyckas med att ställa in det ordentligt.
Med ett system som helt enkelt följer utan ingripande och inget sätt att stoppa maskinen kan du få destruktiva effekter. Följaktligen kan teknik skapa den typ av situation som visas i ”Trollkarlens lärling”, när det som verkar göra livet lättare faktiskt tar slut.
Avfyras av maskinen
Automation utan ingripande är det som resulterade i att en teknisk arbetare i Storbritannien befann sig ur ett jobb utan anledning förra året. Ibrahim Diallo märkte att hans säkerhetskort inte fungerade på jobbet och upptäckte att det var för att han inte hade jobb. “The Machine Fired Me” är den titel han gav till sitt utökade blogginlägg om evenemanget.
I slutändan var orsaken till Diallos avslutning inte någon slags algoritmsbedömning som bestämde vem som skulle elimineras. Problemet fanns inte i systemet utan var ett av mänskliga misstag. I det här fallet var det allt automatiskt svar på en människas misslyckande med att lägga in Diallos information om förnyelse av kontrakt.
Det är inte så att maskinen bestämde sig för att han skulle skjutas ut för något särskilt. Den genomförde helt enkelt de steg som var programmerade i den för någon vars status visade sig som inte längre anställd. Som han klargör i kommentarerna är detta inte riktigt AI utan "automatiskt skript." (För att lära dig hur AI kan hjälpa (istället för att skada) i företag, kolla in vad AI kan göra för företaget.)
Automation och jobbstörning
Den här typen av effekt är inte exakt vad folk ser för sig när de beskriver de underbara fördelarna vi kan förutse i en automatiserad framtid. De vanliga optimistiska utsikterna för en förskjutning av jobb när uppgifterna tas upp av automatisering, jobb kommer att omdefinieras - inte avslutas av automatiserade system. Men verkligheten är att vissa jobb kommer att elimineras, och de människor som innehöll dem kommer inte nödvändigtvis att kunna göra en sömlös övergång till de nya karriärerna i en till stor del automatiserad industri.
Jobbstörning är en av de mindre riskerna som Elon Musk föreställde sig för ökningen av AI, även om hans egen vision om påverkan på jobb är mycket mer pessimistisk än Fitzgeralds. Enligt Musks uppfattning behöver AI strikt reglering eftersom det utgör "en grundläggande, existentiell risk för mänsklig civilisation."
Inga buggar, ingen stress - din steg-för-steg-guide för att skapa livsförändrad programvara utan att förstöra ditt liv
Du kan inte förbättra dina programmeringsfärdigheter när ingen bryr sig om mjukvarukvalitet.
Ansökningar från konsumentelektronik
Trots Musks egna tekniska referenser, säger vissa experter på området som Rodney Brooks, som fungerade som grundare för MITs datavetenskap och artificiell intelligenslaboratorium, och samlade både iRobot och Rethink Robotics, säger Musk har fel om det hotet om AI och hur robotik verkligen fungerar.
I en intervju med TechCrunch indikerade Brooks att det är dumt att kräva förordningar utan att tekniken mognat till den punkt där vi kan identifiera exakt vad som måste regleras. Han utmanade Musk: "Berätta, vilket beteende vill du ändra, Elon?"
Brooks medgav att robotar kommer att leda till förflyttning av jobb. Men han tror också att det är möjligt att skifta paradigmet inom industrin för att följa konsumentelektronikens.
Hur han uttryckte det i TechCrunch-intervjun var: ”Vi har en tradition för att tillverka utrustning att det har hemskt användargränssnitt och det är svårt och du måste ta kurser, medan vi inom konsumentelektronik har gjort att maskinerna vi använder lär folket hur man använder dem. "
Det var vad han sade borde vara målet för att förändra hur vi förhåller oss till "industriell utrustning och annan typ av utrustning, för att få maskinerna att lära folket hur de använder dem."
Återställer kontrollen
Det Brooks föreslår kan peka oss i riktning mot en lösning på problemet med mänskliga misstag som sätter igång den automatiserade processen som verkar spiral ut ur kontroll. För att hänvisa tillbaka till Mickey's missuppfattning i "The Sorcerer's Apprentice", härstammar problemet allt från personen som aktiverar systemet men inte har något verkligt sätt att kommunicera med det för att få det att stoppa eller ändra riktning.
Men om gränssnittet görs i linje med konsumentelektronik snarare än traditionella industrimodeller, kan det bokstavligen sätta kontrollen tillbaka i mänskliga händer. För att verkligen vara effektiv måste gränssnittet inte bara vara tillgängligt utan utformat för att hålla människor i slingan om vad som händer, tillhandahålla data om de uppdateringar det har fått och vilka åtgärder det har vidtagit.
Hur det kan fungera
När det gäller Diallos oavsiktliga uppsägning skulle det innebära att det automatiska systemet inte bara skulle låsa honom ur systemet och sedan ge en till hans rekryterare att han avslutades. Den skulle först inse att förlängningen av kontraktet inte infördes på det förväntade datumet. Innan uppsägningsåtgärderna påbörjas skulle det erbjuda växlaren och rekryteraren uppdateringen om bristen på förnyelse och konsekvenserna som skulle följa inom dagen om inga åtgärder vidtas.
Den typen av varning skulle göra det möjligt för människor att fatta välgrundade beslut om att låta automatiseringen fortsätta eller ingripa för att åtgärda det mänskliga felet som var den ursprungliga orsaken till problemet. Men människor måste också göra sin del, svara på varningen och vidta lämpliga åtgärder. Med andra ord, svaret på frågan som Brooks ställde om beteende gäller människor; de måste vara mindre passiva inför automatisering. (Mer information om hur människor och maskiner kan arbeta samarbete, se Kanalisering av det mänskliga elementet: politik, förfarande och process.)
Som Diallo skrev i kommentarsavsnittet på sin blogg, var orsaken till att detta kunde komma till den punkt det gjorde att människor vägrade att gå mot maskinen:
En annan sak som förbises är att även om alla visste att det var ett mänskligt fel som utlöste det och att det var rent misstag valde de att följa s. Det är som att sätta ett "rökning tillåtet" -skylt på sjukhuset och människor respekterar skylten istället för att använda sunt förnuft.
Följaktligen är de policyer som vi måste anta för att automatisering ska fungera med och för mänskligheten snarare än mot den är tvåfaldiga: På maskinsidan behöver vi gränssnitt som är tillgängliga och informativa, och på mänsklig sida behöver vi människor vara befogenhet att identifiera när något inte är rätt och att kliva in för att rätta till det.