Heltals överflöde

Författare: Louise Ward
Skapelsedatum: 11 Februari 2021
Uppdatera Datum: 1 Juli 2024
Anonim
Heltals överflöde - Teknologi
Heltals överflöde - Teknologi

Innehåll

Definition - Vad betyder heltalströmning?

Heltalsöverskridande är resultatet av ett CPU-försök att aritmetiskt generera ett nummer som är större än vad som kan passa i det avsedda minneslagringsutrymmet. Aritmetiska operationer har alltid potential att returnera oväntade värden, vilket kan orsaka ett fel som tvingar hela programmet att stänga av. Av denna anledning föredrar de flesta programmerare att utföra matematiska operationer i en undantagsram, vilket i stället returnerar ett undantag för heltalöverskridning.


Heltalsöverskridning kallas också aritmetiskt överflöde.

En introduktion till Microsoft Azure och Microsoft Cloud | I hela denna guide kommer du att lära dig vad cloud computing handlar om och hur Microsoft Azure kan hjälpa dig att migrera och driva ditt företag från molnet.

Techopedia förklarar Integer Overflow

Ett exempel på heltalöverskridning kan inträffa när en programutvecklare inte tillåter förekomst av ett negativt tal. I det här fallet, om en variabel utför en operation som resulterar i ett negativt tal, inträffar ett överflöde och variabeln returneras som ett positivt heltal. Ett annat exempel på heltalöverskridning skulle vara att dela ett tal med noll, vilket matematiskt ger ett stort antal med ett oändligt värde.

En processors beteende i händelse av ett heltalöverskridning skiljer sig från en processor till en annan. Grafikbehandlingsenheter och digitala signalprocessorer är konstruerade för att hantera många aritmetiska förhållanden, inklusive heltalöverskridning. I ett fall med heltalsöverskridning returnerar dessa processorer vanligtvis det högsta tillåtna antalet.