コンテンツへスキップ
Varligガイド
Varligホーム

結果の読み方:表示と精度

このページでは、Varligが各行の横に答えをどう表示するかを説明します。表示される小数点以下の桁数、大きな数が短縮される場合、お金の丸め方、答えの種類ごとの表示形式、答えの元になる数値がどれだけ正確かを取り上げます。ガイドとして最初から読むことも、答えが予想と違うときに表だけを見ることもできます。1行でできることの制限は、終わり近くにまとめています。

保存される値と表示される答え

どの行も、2つのステップで処理されます。まず計算が実行され、完全な値が保持されます。次に、答えが読みやすく整形されます。このとき、値が丸められることがあります。丸めは表示にしか影響しません。

後の行で名前を使うと、丸められた桁ではなく完全な値が使われます。

calc
取り分 = 250 / 3 答え 83.3333333333
取り分 * 3 答え 250

表示された桁を新しい行に入力すると、代わりに丸められた数値が使われます。完全な精度を保つには、名前を使ってください。

小数点以下の桁数

答えは小数点以下10桁まで表示され、最後の桁は丸められます。末尾のゼロは省略されるので、0.7500000000 ではなく 0.75 と表示されます。

calc
2 / 3 答え 0.6666666667
1 / 8 答え 0.125

材料の密度を使った換算は、密度そのものの精度に合わせて、有効数字9桁までで表示されます。そのため、1 cup sugar in grams200 g と表示されます。保存される値には、すべての桁が残ります。

表示する小数点以下の桁数を変えるには、Settingsで既定値を変更します。計算のオプションでは0〜15を指定できます。1行だけ変えるには、その行のコンテキストメニューにある答えの書式オプションを使います。どちらの方法でも、変わるのは表示だけです。

値そのものを丸めるには、to 2 dp と書きます。後の行では、丸めた値が使われます。ちょうど中間の値は0から遠い方向に丸められるので、2.345 to 2 dp2.35round(-2.5)-3 になります。

calc
正確 = 2 / 3 答え 0.6666666667
概算 = 2 / 3 to 2 dp 答え 0.67
正確 * 3 答え 2
概算 * 3 答え 2.01

ほかの丸め方については、端数処理を参照してください。

金額

お金は、小数点以下10桁の既定ではなく、通貨ごとのルールに従って表示されます。

  • 通貨の精度に丸められます。 ほとんどの通貨は小数点以下2桁、円は0桁、クウェート・ディナールは3桁で表示されます。すべての通貨は通貨リファレンスに載っています。
  • 末尾のゼロは残ります。 $15$15.00 と表示されます。
  • 小さな正の金額は桁が保たれます。 $0.004 のように1セント未満の金額は、$0.00 に丸められません。
  • 単位あたりの価格は、書いたとおり小数点以下4桁まで保たれます。 そのため、£0.075/kWh のような電気料金や £1.499/L のようなガソリン価格も、すべての桁が表示されます。ペンスやセントで書いた金額も同じで、6.2p£0.06224.5p/kWh£0.245/kWh と表示されます。一方、それらから計算した合計はペニー単位になり、148.9p/L * 45 L£67.01 になります。それより桁が多い場合、£1未満の価格は有効数字4桁で表示され(£0.12345/kWh£0.1235/kWh)、£8/kg / 3 のようなそれ以外の価格はペニー単位に丸められます。
  • 暗号資産は小数点以下10桁まで表示されます。 単位のない数値と同じです。

お金を名前に代入する行も、ほかの行と同じように金額を表示します。名前には完全な値が保持されるので、その名前を使う後の行も正確なままです。

calc
£250 / 3 答え £83.33
請求額 = £250 / 3 答え £83.33
請求額 * 3 答え £250.00
¥1,250 / 4 答え ¥313
£0.075/kWh 答え £0.075/kWh
£8/kg / 3 答え £2.67/kg

Settingsの通貨のオプションでは、通貨の精度への丸めをオフにしたり、記号の代わりにコードを表示したり($15.00 ではなく 15.00 USD)、末尾のゼロを省略したり($15.00 ではなく $15)できます。

大きな数と小さな数

100,000以上の単位のない数値は、文字を使って短縮されます。k は千、M は百万、G は十億(billion)、T は一兆、P は千兆を表します。非常に大きな数と非常に小さな数は、科学的記数法に切り替わります。

お金は100万未満なら、ペニー単位まですべての桁が表示されます。短縮表示によって、支払う金額や受け取る金額の一部が隠れることはありません。£199,999.98£199,999.98 のままです。100万以上になるとお金も短縮され、単位のない数値の G の代わりに B を使い、小数点以下3桁までを表示します。

大きさ 単位のない数値 お金
100,000未満 99,999 $99,999.99
100,000以上 250k, 123.456k $150,000.00
1,000,000以上 1.5M, 1.234567M $2.5M
10⁹以上 8.1G, 1.23456789G $1.235B
10¹²以上 2T $2T
10¹⁵以上 100P $100P
10¹⁷超 1e18, 6.02e23 $1e18
0.000001未満(0を除く) 1e-7, 5e-11
calc
250000 答え 250k
£99,999.99 * 2 答え £199,999.98
$1234567.89 答え $1.235M
8,100,000,000 答え 8.1G
$1,234,567,890 答え $1.235B
0.0000001 答え 1e-7

文字が変えるのは表示だけです。1.5 million は1,500,000として保存されて 1.5M と表示され、3bn3G と表示されます。100,000未満の答えには、桁区切りが使われます(99,999)。

単位のついた数は、常にすべての桁が表示されます。単位の横に文字があると、接頭辞のように読めてしまうからです。たとえば 175,200 Wh を短縮すると、キロワット時のように見えかねません。科学的記数法に切り替わるのは、10¹⁷を超える値か0.000001未満の値だけです。

calc
175200 Wh 答え 175,200 Wh
1 light year in km 答え 9,460,730,472,580.8 km

Settingsでは、短縮形をオフにしてすべての桁を表示したり、桁区切りをオフにしたりできます。

答えの種類

値の種類ごとに、それぞれの表示形式があります。この表では、種類ごとに1つか2つの例を示します。

種類 入力 答え
数値 1,000 + 10 1,010
お金 $100 + 15%, 50 CHF $115.00, CHF 50.00
65 kg in lb, 12 kg / 4 m² 143.3004704202 lb, 3 kg/m²
パーセント 15 / 60 as % 25%
倍率 £60 / £40 as x 1.5x
分数 0.75 as fraction, 22/7 as fraction ¾, 3 1/7
科学的記数法 12345.6789 in sci 1.23456789e4
16進数、2進数、8進数 255 in hex, 255 in binary, 255 in octal 0xFF, 0b11111111, 0o377
真偽値 £45 > £40 true
日付 March 12 2024 + 3 days March 15, 2024
時刻 12:30 PM, 1:00:30 12:30 PM, 01:00:30
所要時間 9:30 to noon, 30 min - 2 hours 2 hours 30 min, -(1 hour 30 min)
日付の範囲 Q1 2025 Jan 1 – Mar 31, 2025
タイムコード 48 frames @ 24 fps 00:00:02:00
ラップタイム 1:23:45.67 01:23:45.67
ペース 5 km in 26:45 05:21/km
度、分、秒 45.5 degrees as DMS 45° 30′ 0″
時、分、秒 1.5 hours as HMS 1h 30m 0s
音の高さ 440 Hz to pitch A4
リスト [1, 2+3, 4*2] [1, 5, 8]
行列 identity(2) [[1, 0], [0, 1]]
複素数 3 * (2 + 3i), conj(-1 + i) 6 + 9i, -1 - i
テキスト weekday on March 12 2024, differentiate(x^3, x) Tuesday, (3*(x^(3-1)))

表示形式の中には、今日の日付によって変わるものがあります。今年の日付は年が省略され、今日に近い日付は相対的な言葉で表示されることがあります。

calc答えは今日の日付やリアルタイムのデータによって変わります
March 12 答え March 12
tomorrow at 1am 答え Tomorrow at 1:00 AM

ほかにも、知っておくと役立つ答えが2つあります。

  • 答えもエラーも表示されない 場合は、その行に表示するものがありません。コメント、空行、関数の定義、合計 = のような書きかけの行などです。
  • pending… は、その行に必要なデータがまだ利用できないことを示します。

答えの正確さ

正確な計算

整数、小数、分数は正確に保存されます。足し算、引き算、掛け算、割り算、整数乗では正確さが保たれ、⅓のように小数では正確に表せない分数も同じです。== による比較では、丸めずに正確な値どうしを比べます。

calc
0.1 + 0.2 == 0.3 答え true
1/3 + 1/3 + 1/3 == 1 答え true

平方根は、根を正確に表せる場合は正確で、それ以外の場合は有効数字38桁まで正確です(それ以降の桁は丸めずに切り捨てます)。標準偏差も同じ平方根を使います。gcdlcm は正確で、負になることはなく、分数も先に丸めずに扱います。

calc
sqrt(2.25) 答え 1.5
sqrt(1e-64) 答え 1e-32
gcd(12, 18) 答え 6

近似の結果

正確には計算できない演算もあります。そうした演算は2進浮動小数点数を使うため、正確な桁数に限りがあります。

  • 三角関数、対数、指数関数
  • 2^0.5 のような整数でない累乗や、1e2.5 のように指数が小数の科学的記数法のリテラル
  • 一部の単位換算
  • 方程式の求解、数値微分、数値積分
  • 行列の分解と固有値
  • 基本的な演算以外の複素数の関数

== は正確な値を比べるため、2つの近似結果が同じに見えても等しくならないことがあります。代わりに、差を小さな許容誤差と比べてください。

calc
sqrt(2)^2 答え 2
sqrt(2)^2 == 2 答え false
abs(sqrt(2)^2 - 2) < 0.000000001 答え true

許容誤差は、扱う数値の大きさに合わせて選んでください。画面に小数点以下10桁が表示されていても、その10桁がすべて正しいとは限りません。難しい数値計算では特にそうです。

リスト、行列、複素数では、浮動小数点数の丸め誤差にすぎず、周囲の値よりはるかに小さい部分は 0 と表示されます。これにより、行列の分解や exp(i * pi) などの答えが読みやすくなります。保存される値には桁が残っているので、同じように許容誤差で確認できます。

calc
exp(i * pi) 答え -1
abs(exp(i * pi) + 1) < 0.000000001 答え true

数値の大きさ

  • 小数 は、最大2¹²⁸−1(約38桁)の整数に、10⁻¹²⁸から10¹²⁷までの10の累乗を掛けた形で保存されます。1e127 を超える数値も、桁が収まる限り使えます。
  • 分数 の分子と分母は、それぞれ最大4,096ビットです。
  • 巨大な数に非常に小さな数を足す と、小さいほうが失われることがあります。1e30 + 0.0011e30 と表示されます。
  • 掛け算や累乗で範囲を超える と、結果が大きすぎる場合も小さすぎる場合も Error: ∞ が表示されます。計算が一周して誤った値になることはありません。
calc
1e30 + 0.001 答え 1e30
1e100 * 1e100 答え Error: ∞

制限

各行は、次の制限内に収まる必要があります。制限に達すると、その行だけにエラー(通常は Error: calculation limit)が表示され、ノートのほかの部分は引き続き動作します。途中までの合計や未完了の結果が、答えとして表示されることはありません。解決するには、範囲、行列、入れ子、問題を小さくしてください。

対象 制限
1行 64 KiBのテキスト、または4,096個の数値、語、記号
リストまたは range 1,024項目
行列 1〜32行、1〜32列(すべての行が同じ長さ)
リストと組み込み関数呼び出しの入れ子 16階層
範囲にわたる sum または product 10,000項
高度な数学 100,000ステップ。入れ子の演算で共有されるため、入れ子の処理では早く達します
自分で定義した関数 パラメーター32個。関数から別の関数を16階層まで呼び出せ、呼び出しと本体の行は合計16,384まで
分数 分子または分母が4,096ビット
記号微分 出力8,192文字
solve 128回の反復
integrate 細分化2,048回、分割20階層

Varlig Calcは現在、一般的な記号代数、不定積分、非線形の連立方程式、暗号資産の過去の価格、2d6 のようなダイス表記、10 ± 0.5 のような誤差を含む計算、1 < x < 5 のような連鎖比較には対応していません。高度な数学機能のしくみについて詳しくは、高度な数学:機能と制限を参照してください。

まとめ

このページのルールのほとんどを使った、旅行の予算の例です。

calc
航空券 = £1,284.60 答え £1,284.60
ホテル = £96.50 * 4 答え £386.00
合計 = 航空券 + ホテル 答え £1,670.60
一人分 = 合計 / 3 答え £556.87
一人分 * 3 答え £1,670.60
一人分 / 合計 as % 答え 33.3333333333%
一人分 / 合計 as fraction 答え
合計 to 0 dp 答え £1,671.00
合計 * 1000 答え £1.671M
  • 一人分 = 合計 / 3 はペンス単位に丸めた取り分を表示しますが、名前には完全な値が保持されます。
  • 一人分 * 3 はその完全な値を使うので、£1,670.61ではなく、ちょうど£1,670.60に戻ります。
  • パーセントはお金ではないので、小数点以下10桁まで表示されます。分数では正確に表されます。
  • to 0 dp は値そのものを丸めます。お金なので、末尾のゼロは残ります。
  • 1,000を掛けると1,000,000を超えるので、答えは £1.671M に短縮されます。