Innehåll
- Att fånga en tjuv. . .
- Inga buggar, ingen stress - din steg-för-steg-guide för att skapa livsförändrad programvara utan att förstöra ditt liv
- Stoppa spridningen
Källa: Mast3r / Dreamstime.com
Hämtmat:
Forskare vänder sig till AI för att bekämpa falska nyheter. Men kan det verkligen hjälpa, eller kommer det bara att förvärra saker?
Falska nyheter förväntas bli en stor torn i sidan av det kommande presidentvalet, för att inte tala om dess övergripande korrosiva effekt på vår offentliga diskurs i allmänhet. I dagens anslutna samhälle har det urskiljande faktumet från fiktion blivit allt svårare, varför vissa forskare börjar fokusera på kraften i konstgjord intelligens för att ta itu med detta problem.
Förhoppningen är naturligtvis att maskiner, eller mer exakt algoritmer, kommer att vara bättre än människor på att upptäcka lögner. Men är detta en realistisk förväntning, eller bara ett annat fall av att kasta teknik till ett till synes otillbörligt problem?
Att fånga en tjuv. . .
Ett av de sätt dataforskare planerar att skärpa AI: s skicklighet på detta område är genom att låta den generera falska nyheter. Allen Institute for AI vid University of Washington har utvecklat och publicerat Grover, en naturlig språkbearbetningsmotor utformad för att skapa falska berättelser om ett brett spektrum av ämnen. Även om detta kan verka kontraproduktivt till en början, är detta i själva verket en ganska vanlig AI-utbildningstaktik där en maskin analyserar utgången från en annan. På detta sätt kan analyssidan tas upp snabbare mycket snabbare än att förlita sig på faktiska falska nyheter. Institutet hävdar att Grover redan kan arbeta med en 92% noggrannhetsgrad, men det är viktigt att notera att det bara är skickligt att skilja mellan AI-genererat innehåll kontra mänskligt genererat innehåll, vilket innebär att en smart person fortfarande kan smyga en falsk berättelse efter det. (För mer information, kolla in The Technologies Around Fighting Fake News.)
I de rätta händerna kan naturligtvis Grover snabbt främja vår förståelse för hur falska nyheter skapas och hur de sprids, och detta kan teoretiskt användas för att motverka det i den verkliga världen. Men som Futurism.com noterade nyligen, är några experter som har tagit systemet för en testkörning oroade över hur effektiv det är att skapa trovärda lögner och till och med efterlikna skrivstilarna för legitima nyhetsställen som Wall Street Journal och New York Times.
Men eftersom ljuga är en i sig intuitiv och känslodriven handling, är det möjligt att till och med de smartaste maskinerna, som fortfarande drivs av kall, hård logik, någonsin kan uppnå den nivå av konisk förståelse som är nödvändig för att upptäcka en lögn? Unbabels Maria Almeida noterade nyligen att även om vissa iterationer kan bli ganska bra på detta, kan ingen algoritm hoppas få full mänsklig förståelse. Detta innebär att AI kanske kan göra dramatiska förbättringar när det gäller faktakontroll och jämförande analys, men det slutgiltiga samtalet lämnas bäst till utbildade experter.
Ironiskt nog kommer denna förmåga att vara mest användbar för att upptäcka de djupa falska videor som börjar göra rundorna på sociala medier. Med AI som kan analysera visuella data ända ner till enskilda pixlar, kommer det att vara mycket mer skickligt att upptäcka förändrade bilder än förändrade ord och begrepp.
Fortfarande, hävdar Forbes Charles Towers-Clark, är det centrala problemet med falska nyheter inte att ett fåtal människor skapar det, utan att så många människor påverkas av det. Människor tenderar att tro vad de vill tro, inte vad fakta leder dem att tro. Så även om en högutvecklad AI-motor förklarar att deras tro är fel, kommer människor att vara mer benägna att tvivla på maskinen än dem själva.
"Att implementera maskininlärning för att bekämpa spridningen av falska nyheter är beundransvärt", säger han, "och det finns ett behov av att ta itu med detta problem eftersom pålitligheten hos stora nyheter i medierna ifrågasätts. Men med spridningen av felinformation förvärrad av sociala medier, kan upptäcka och avslöja källorna till falska nyheter övervinna den mänskliga instinkten att tro på det vi får höra? ”
Inga buggar, ingen stress - din steg-för-steg-guide för att skapa livsförändrad programvara utan att förstöra ditt liv
Du kan inte förbättra dina programmeringsfärdigheter när ingen bryr sig om mjukvarukvalitet.
Den verkliga utmaningen är alltså inte att identifiera och debunkera falska nyheter utan att förstå varför det tenderar att spridas över sociala medier så mycket snabbare än verkliga nyheter. Delvis beror detta på själva de falska nyheterna i sig självt, som tenderar att vara spännande och lustiga mot verklighetens jämförande tedium. I slutändan är det realistiskt att förvänta sig att tekniken ska korrigera det som i huvudsak är ett icke-tekniskt problem? (Mer information om hur AI förändrar media, se 5 AI-framsteg inom publicering och media.)
Stoppa spridningen
Det är därför det är viktigt att fokusera AI på den tekniska aspekten av falska nyheter, inte den mänskliga aspekten, säger ZDNets Robin Harris. Och de flesta forskare tränar faktiskt AI för att komma in på saker som att skilja mellan naturliga och konstgjorda formeringsmönster genom sociala nätverk. Viktiga mätvärden som konverteringsträdhastigheter, retweet-timing och övergripande svardata kan användas för att identifiera och neutralisera disinformationskampanjer även om dess källa är dold under lager av digital subterfuge. Samtidigt kan AI användas för att hantera annan teknik, som blockchain, för att upprätthålla spårbara, verifierbara informationskanaler.
Faktum är att falska nyheter inte är ett nytt fenomen. Från den tjocka journalistiken i de tidiga 20th århundradet hela vägen tillbaka till propagandan från de tidigaste civilisationerna, att huva fram allmänheten är en tidshöjd tradition för både sittande regeringar och revolutionärer. Skillnaden idag är att digital teknik har demokratiserat denna förmåga så att nästan vem som helst kan posta en lögn och se den spridda över hela världen inom några timmar.
Teknologier som AI kan säkert hjälpa till att skapa viss klarhet i denna förvirring, men bara människor kan helt förstå och bedöma sanningen.