Innehåll
F:
Varför säger vissa experter att AI kommer att "förstöra digital äkthet"?
A:
Maskininlärning och konstgjord intelligens förändrar snabbt många branscher och omformar verkligen de sätt vi tänker på teknisk utveckling. Men de är också engagerande av intressanta dikotomier och motsägelser när det gäller hur vi förhåller oss till våra datorer och smarttelefonenheter eller andra nya gränssnitt som råkar komma med.
En av de stora frågorna med konstgjord intelligens är hur det kommer att påverka "äkthet" - eller hur människor verifierar och bekräftar verkligheten som finns, i "köttområdet" eller i den digitala världen. När du verkligen gräver hur detta fungerar, ser du en inneboende motsägelse mellan begränsningarna i vår teknik och de sätt som vi litar på den teknik vi har till förfogande.
Ett av de bästa exemplen kan hittas i en ny artikel med trådbunden information som visar hur människor med artificiell intelligens och maskininlärningsresurser kan ta en bild av en rörlig häst och lägga över zebraänder i en process som författaren kallar "zebrafication."
Det är snyggt och nytt, men det kan också utgöra ett problem. När du ser en sebra på en digital skärm, hur vet du att det är en sebra och inte bara en häst med sebraband som på ett smart sätt sätts på den av någon teknisk kunnig person?
Det kan tyckas vara en teoretisk fråga, men samma sorters frågor kommer snart att gälla för nyheterna som vi får i digital form - från politik till ekonomi till religion, allt kommer att förlita sig på vår förmåga att sifta genom information , för att kontrollera och skilja mellan sanning och fiktion, mellan myt och verklighet. Eftersom nya verktyg för konstgjord intelligens erbjuder fler sätt att manipulera bild och video kommer detta att bli mycket svårare.
Ett annat utmärkt exempel är ny röstteknik. I en artikel för några år sedan täckte vi ett spirande IT-projekt som tog röster från kända människor och byggde röstmodellmotorer som kunde få de berömda människor att säga allting bortom graven.
Återigen är det snygg och intressant teknik - det verkar vara ett roligt sätt att använda talbehandlingsteknologier. Men det kommer verkligen att ge ett problem när vi hoppar från gammal analog och okonstruerad digital röstteknologi till ny syntetisk och prefabricerad röst. Hur kommer du att veta vem som pratar med dig - i telefon, på TV eller i örat?
Specifikt kan idén att förändra ljud, bild och video på sofistikerade sätt öka några av våra mest värderade idéer som ett samhälle. Hur kommer folk att lita på det de hör och ser i den politiska världen? Vad sägs om lagen - kommer de anklagade för brott att få nya typer av överklaganden baserade på den eventuella bevisförändringen?
Ett annat sätt att förstå några av dessa problem är att titta på science-fiction-skrivande - från Ray Bradburys “Fahrenheit 451” till George Orwells “1984” och därefter har berättarna från tidigare åldrar upprepade gånger varnat oss om att teknik skulle kunna användas till båda och problematiska ändar. En anledning till att så många experter och chefer för IT-företag kräver "förklarbar konstgjord intelligens" och etikpaneler är att de förstår frågan - att om vi inte kontrollerar teknik noggrant, kommer vi inte att kunna lita på dem i någon utsträckning. I stället för att hjälpa oss att uppnå våra mål, kan de hamna oss, delvis genom att orsaka det slags sociala kaos som finns när vi inte riktigt får hand om sanningen och verkligheten. En del av de goda nyheterna är dock att tekniker som blockchain, som tillhandahåller transaktionsautentisering, kan hjälpa när de tillämpas på digitala poster.