Resultat: visning och precision

Den här sidan förklarar hur Varlig visar resultatet bredvid varje rad: antal decimaler, när stora tal förkortas, hur pengar avrundas, hur olika resultattyper ser ut och hur exakta de bakomliggande talen är. Läs från början eller gå direkt till en tabell när ett resultat ser oväntat ut. Begränsningarna för vad en enskild rad kan göra finns nära slutet.

Lagrade värden och visade resultat

Varje rad hanteras i två steg. Först beräknas och sparas det fullständiga värdet. Sedan formateras resultatet för att bli lättläst, vilket kan innebära avrundning. Den avrundningen påverkar bara visningen.

När en senare rad använder ett namn använder den det fullständiga värdet, inte de avrundade siffrorna:

calcKopiera

share = 250 / 3 ger 83.3333333333

share * 3 ger 250

Om du skriver in de visade siffrorna på en ny rad får du i stället det avrundade talet. Använd namnet för att behålla full precision.

Antal decimaler

Resultat visas med upp till tio decimaler, med den sista siffran avrundad. Avslutande nollor utelämnas, så du ser 0.75 i stället för 0.7500000000.

calcKopiera

2 / 3 ger 0.6666666667

1 / 8 ger 0.125

Avrundning till signifikanta siffror är undantaget: en nolla som ingår i det begärda antalet siffror visas, eftersom resultatet annars skulle antyda lägre precision än det har. 31.0357 m to 3 sf blir därför 31.0 m, medan 31.0357 m to 1 dp blir 31 m.

Omvandlingar via en ingrediens densitet visas med högst nio signifikanta siffror, vilket motsvarar densitetens precision. 1 cup milk in g visas därför som 242.739531 g. Vanliga bakingredienser lagras i stället som vikt per cup, så 1 cup flour in g blir jämnt 125 g. Det lagrade värdet behåller alla siffror.

Ändra standardinställningen i Settings för att visa ett annat antal decimaler. Beräkningsinställningarna godtar 0 till 15. För en enskild rad använder du alternativen för resultatformatering i radens snabbmeny. Båda ändrar bara visningen.

Skriv to 2 dp för att avrunda själva värdet. Senare rader använder då det avrundade värdet. Vid exakt hälften avrundas bort från noll, så 2.345 to 2 dp blir 2.35 och round(-2.5) blir -3.

calcKopiera

exact = 2 / 3 ger 0.6666666667

approx = 2 / 3 to 2 dp ger 0.67

exact * 3 ger 2

approx * 3 ger 2.01

För fler sätt att avrunda, se Avrundning.

Belopp

Belopp följer valutans regler i stället för standarden med tio decimaler:

• Avrundning till valutans precision. De flesta valutor visar två decimaler, yen inga och kuwaitiska dinarer tre. Alla finns i valutareferensen.
• Efterföljande nollor behålls. $15 visas som $15.00.
• Små positiva belopp behåller sina siffror. Ett belopp under en cent, såsom $0.004, avrundas inte till $0.00.
• Priser per enhet behåller upp till fyra decimaler så som du skrev dem. Därför visas ett elpris på £0.075/kWh eller ett drivmedelspris på £1.499/L i sin helhet. Belopp i pence eller cent gör likadant: 6.2p visas som £0.062 och 24.5p/kWh som £0.245/kWh. En summa beräknad från dem avrundas däremot till hela pence: 148.9p/L * 45 L är £67.01. Med fler decimaler visas ett pris under £1 med fyra signifikanta siffror (£0.12345/kWh visas som £0.1235/kWh), medan andra priser, som £8/kg / 3, avrundas till hela pence.
• Kryptovalutor visas med upp till tio decimaler, som vanliga tal.

En rad som tilldelar pengar till ett namn visar beloppet på samma sätt som vilken annan rad som helst. Namnet behåller det fullständiga värdet, så senare rader som använder det förblir exakta.

calcKopiera

£250 / 3 ger £83.33

bill = £250 / 3 ger £83.33

bill * 3 ger £250.00

¥1,250 / 4 ger ¥313

£0.075/kWh ger £0.075/kWh

£8/kg / 3 ger £2.67/kg

Valutaalternativen i Settings låter dig stänga av avrundning till valutans precision, visa koder i stället för symboler (15.00 USD i stället för $15.00) eller utelämna avslutande nollor ($15 i stället för $15.00).

Stora och små tal

Från 100 000 och uppåt förkortas vanliga tal med en bokstav: k för tusen, M för miljon, G för miljard (tusen miljoner), T för biljon och P för biljard. Mycket stora och mycket små tal visas i vetenskaplig notation.

Belopp under en miljon visas i sin helhet, ned till pence, så att en förkortning aldrig döljer en del av det du betalar eller tjänar: £199,999.98 förblir £199,999.98. Från en miljon förkortas även belopp, med B där vanliga tal använder G och med högst tre decimaler.

calcKopiera

250000 ger 250k

£99,999.99 * 2 ger £199,999.98

$1234567.89 ger $1.235M

8,100,000,000 ger 8.1G

$1,234,567,890 ger $1.235B

0.0000001 ger 1e-7

Bokstaven ändrar bara visningen. 1.5 million lagras som 1 500 000 och visas som 1.5M, medan 3bn visas som 3G. Under 100 000 används tusentalsavgränsare (99,999).

Ett tal med en enhet skrivs alltid ut i sin helhet, eftersom en bokstav intill enheten skulle kunna tolkas som ett prefix. 175,200 Wh skulle annars kunna se ut som kilowattimmar. Endast värden över 10¹⁷ eller under 0,000001 övergår till vetenskaplig notation.

calcKopiera

175200 Wh ger 175,200 Wh

1 light year in km ger 9,460,730,472,580.8 km

I Settings kan du stänga av förkortningarna så att talen skrivs ut i sin helhet, eller stänga av tusentalsavgränsare.

Resultattyper

Varje typ av värde har sitt eget format. Denna tabell visar ett eller två exempel på var och en.

Några enheter har egna visningsregler. Cup och pint skrivs i plural, så du ser 2.5 cups och 2 pints. Ett resultat i två enheter visar den mindre delen med två decimaler, som i 5 feet 10.87 inches. Tidslängder samt stone och pund avrundas däremot till hela mindre enheter. Pixelantal visas som antal, med tusentalsavgränsare och ett mellanslag före px.

calcKopiera

500 g sugar in cups ger 2.5 cups

82 kg in stones and pounds ger 12 st 13 lb

89.9 min in hours and minutes ger 1 hour 30 min

6000 px * 4000 px ger 24,000,000 px

Några format beror på dagens datum. Ett datum i det aktuella året lämnar året ute, och datum nära idag kan visas som ett relativt ord:

calcResultaten beror på dagens datum eller aktuella dataKopiera

March 12 ger March 12

tomorrow at 1am ger Tomorrow at 1:00 AM

Två andra svar är värda att veta:

• Varken resultat eller fel betyder att raden inte har något att visa: en kommentar, en tom rad, en funktionsdefinition eller en ofärdig rad som total =.
• pending… betyder att raden behöver data som ännu inte finns tillgängliga.

Hur exakta resultaten är

Exakt aritmetik

Heltal, decimaltal och bråk lagras exakt. Addition, subtraktion, multiplikation, division och potenser med heltalsexponent bevarar exaktheten, även för bråk som ⅓ utan exakt decimalform. Jämförelser med == kontrollerar de exakta värdena utan avrundning.

calcKopiera

0.1 + 0.2 == 0.3 ger true

1/3 + 1/3 + 1/3 == 1 ger true

Kvadratrötter är exakta när roten kan uttryckas exakt. Annars beräknas de med 38 signifikanta siffror; överskjutande siffror kapas utan avrundning. Standardavvikelsen använder samma kvadratrotsberäkning. gcd och lcm är exakta, aldrig negativa och fungerar på bråk utan föregående avrundning.

calcKopiera

sqrt(2.25) ger 1.5

sqrt(1e-64) ger 1e-32

gcd(12, 18) ger 6

Approximativa resultat

Vissa operationer kan inte utföras exakt. De använder binära flyttal med ett begränsat antal korrekta siffror:

• trigonometriska funktioner, logaritmer och exponentialfunktioner
• potenser med exponenter som inte är heltal, som 2^0.5, och tal i vetenskaplig notation med en icke-heltalsexponent, som 1e2.5
• några enhetsomvandlingar
• ekvationslösning, numeriska derivator och integraler
• matrisdekompositioner och egenvärden
• funktioner av komplexa tal utöver grundläggande aritmetik

Eftersom == jämför exakta värden kan två ungefärliga resultat se likadana ut men ändå inte vara lika. Jämför skillnaden med en liten tolerans istället:

calcKopiera

sqrt(2)^2 ger 2

sqrt(2)^2 == 2 ger false

abs(sqrt(2)^2 - 2) < 0.000000001 ger true

Välj en tolerans som passar talens storlek. Tio decimaler på skärmen garanterar inte tio korrekta decimaler, särskilt inte vid svåra numeriska problem.

I listor, matriser och komplexa tal visas en del som bara motsvarar flyttalsavrundningsfel och är mycket mindre än omgivande värden som 0. Det gör resultat som en matrisfaktorisering eller exp(i * pi) lättlästa. Det lagrade värdet behåller sina siffror, så samma toleranskontroll gäller:

calcKopiera

exp(i * pi) ger -1

abs(exp(i * pi) + 1) < 0.000000001 ger true

Talens storlek

• Decimaltal lagras som ett heltal upp till 2¹²⁸−1 (ungefär 38 siffror) multiplicerat med en tiopotens från 10⁻¹²⁸ till 10¹²⁷. Tal större än 1e127 fungerar också så länge siffrorna ryms.
• Bråk kan ha en täljare och en nämnare på upp till 4 096 bitar vardera.
• Att lägga till ett litet tal till ett stort kan förlora den lilla delen: 1e30 + 0.001 visar 1e30.
• Att gå utanför intervallet vid multiplikation eller upphöjning till en potens visar Error: ∞, oavsett om resultatet är för stort eller för smått. Beräkningen rullar aldrig tillbaka till ett felaktigt värde.

calcKopiera

1e30 + 0.001 ger 1e30

1e100 * 1e100 ger Error: ∞

Begränsningar

Varje rad måste hålla sig inom dessa gränser. Om en gräns nås visas ett fel bara på den raden, vanligen Error: calculation limit, medan resten av anteckningen fortsätter fungera. En ofullständig summa eller beräkning presenteras aldrig som ett resultat. Minska intervallet, matrisen, nästlingsdjupet eller problemets storlek för att lösa felet.

Varlig Calc stöder för närvarande inte generell symbolisk algebra, obestämda integraler, system av icke‑linjära ekvationer, historiska kryptovalutapriser, tärningsnotationer som 2d6, aritmetik med osäkerheter som 10 ± 0.5 eller kedjade jämförelser som 1 < x < 5. För mer information om hur de avancerade matematiska funktionerna fungerar, se Avancerad matematik.

Samlat exempel

Här är en resebudget som använder de flesta av reglerna på den här sidan:

calcKopiera

flights = £1,284.60 ger £1,284.60

hotel = £96.50 * 4 ger £386.00

total = flights + hotel ger £1,670.60

each = total / 3 ger £556.87

each * 3 ger £1,670.60

each / total as % ger 33.3333333333%

each / total as fraction ger ⅓

total to 0 dp ger £1,671.00

total * 1000 ger £1.671M

• each = total / 3 visar andelen avrundad till pence, medan namnet behåller det fulla värdet.
• each * 3 använder det fulla värdet, så det blir tillbaka exakt 1 670,60 £ istället för 1 670,61 £.
• Procentandelen är inte ett belopp, så den visas med tio decimaler. Som bråk är den exakt.
• to 0 dp avrundar värdet självt, och de efterföljande nollorna stannar kvar eftersom det är pengar.
• Multiplikation med 1 000 ger ett belopp över 1 000 000, så resultatet förkortas till £1.671M.