結果の読み方:表示と精度
このページでは、Varligが各行の横に答えをどう表示するかを説明します。表示される小数点以下の桁数、大きな数が短縮される場合、お金の丸め方、答えの種類ごとの表示形式、答えの元になる数値がどれだけ正確かを取り上げます。ガイドとして最初から読むことも、答えが予想と違うときに表だけを見ることもできます。1行でできることの制限は、終わり近くにまとめています。
保存される値と表示される答え
どの行も、2つのステップで処理されます。まず計算が実行され、完全な値が保持されます。次に、答えが読みやすく整形されます。このとき、値が丸められることがあります。丸めは表示にしか影響しません。
後の行で名前を使うと、丸められた桁ではなく完全な値が使われます。
取り分 = 250 / 3 答え 83.3333333333取り分 * 3 答え 250表示された桁を新しい行に入力すると、代わりに丸められた数値が使われます。完全な精度を保つには、名前を使ってください。
小数点以下の桁数
答えは小数点以下10桁まで表示され、最後の桁は丸められます。末尾のゼロは省略されるので、0.7500000000 ではなく 0.75 と表示されます。
2 / 3 答え 0.66666666671 / 8 答え 0.125材料の密度を使った換算は、密度そのものの精度に合わせて、有効数字9桁までで表示されます。そのため、1 cup sugar in grams は 200 g と表示されます。保存される値には、すべての桁が残ります。
表示する小数点以下の桁数を変えるには、Settingsで既定値を変更します。計算のオプションでは0〜15を指定できます。1行だけ変えるには、その行のコンテキストメニューにある答えの書式オプションを使います。どちらの方法でも、変わるのは表示だけです。
値そのものを丸めるには、to 2 dp と書きます。後の行では、丸めた値が使われます。ちょうど中間の値は0から遠い方向に丸められるので、2.345 to 2 dp は 2.35、round(-2.5) は -3 になります。
正確 = 2 / 3 答え 0.6666666667概算 = 2 / 3 to 2 dp 答え 0.67正確 * 3 答え 2概算 * 3 答え 2.01ほかの丸め方については、端数処理を参照してください。
金額
お金は、小数点以下10桁の既定ではなく、通貨ごとのルールに従って表示されます。
- 通貨の精度に丸められます。 ほとんどの通貨は小数点以下2桁、円は0桁、クウェート・ディナールは3桁で表示されます。すべての通貨は通貨リファレンスに載っています。
- 末尾のゼロは残ります。
$15は$15.00と表示されます。 - 小さな正の金額は桁が保たれます。
$0.004のように1セント未満の金額は、$0.00に丸められません。 - 単位あたりの価格は、書いたとおり小数点以下4桁まで保たれます。 そのため、
£0.075/kWhのような電気料金や£1.499/Lのようなガソリン価格も、すべての桁が表示されます。ペンスやセントで書いた金額も同じで、6.2pは£0.062、24.5p/kWhは£0.245/kWhと表示されます。一方、それらから計算した合計はペニー単位になり、148.9p/L * 45 Lは£67.01になります。それより桁が多い場合、£1未満の価格は有効数字4桁で表示され(£0.12345/kWhは£0.1235/kWh)、£8/kg / 3のようなそれ以外の価格はペニー単位に丸められます。 - 暗号資産は小数点以下10桁まで表示されます。 単位のない数値と同じです。
お金を名前に代入する行も、ほかの行と同じように金額を表示します。名前には完全な値が保持されるので、その名前を使う後の行も正確なままです。
£250 / 3 答え £83.33請求額 = £250 / 3 答え £83.33請求額 * 3 答え £250.00¥1,250 / 4 答え ¥313£0.075/kWh 答え £0.075/kWh£8/kg / 3 答え £2.67/kgSettingsの通貨のオプションでは、通貨の精度への丸めをオフにしたり、記号の代わりにコードを表示したり($15.00 ではなく 15.00 USD)、末尾のゼロを省略したり($15.00 ではなく $15)できます。
大きな数と小さな数
100,000以上の単位のない数値は、文字を使って短縮されます。k は千、M は百万、G は十億(billion)、T は一兆、P は千兆を表します。非常に大きな数と非常に小さな数は、科学的記数法に切り替わります。
お金は100万未満なら、ペニー単位まですべての桁が表示されます。短縮表示によって、支払う金額や受け取る金額の一部が隠れることはありません。£199,999.98 は £199,999.98 のままです。100万以上になるとお金も短縮され、単位のない数値の G の代わりに B を使い、小数点以下3桁までを表示します。
| 大きさ | 単位のない数値 | お金 |
|---|---|---|
| 100,000未満 | 99,999 |
$99,999.99 |
| 100,000以上 | 250k, 123.456k |
$150,000.00 |
| 1,000,000以上 | 1.5M, 1.234567M |
$2.5M |
| 10⁹以上 | 8.1G, 1.23456789G |
$1.235B |
| 10¹²以上 | 2T |
$2T |
| 10¹⁵以上 | 100P |
$100P |
| 10¹⁷超 | 1e18, 6.02e23 |
$1e18 |
| 0.000001未満(0を除く) | 1e-7, 5e-11 |
250000 答え 250k£99,999.99 * 2 答え £199,999.98$1234567.89 答え $1.235M8,100,000,000 答え 8.1G$1,234,567,890 答え $1.235B0.0000001 答え 1e-7文字が変えるのは表示だけです。1.5 million は1,500,000として保存されて 1.5M と表示され、3bn は 3G と表示されます。100,000未満の答えには、桁区切りが使われます(99,999)。
単位のついた数は、常にすべての桁が表示されます。単位の横に文字があると、接頭辞のように読めてしまうからです。たとえば 175,200 Wh を短縮すると、キロワット時のように見えかねません。科学的記数法に切り替わるのは、10¹⁷を超える値か0.000001未満の値だけです。
175200 Wh 答え 175,200 Wh1 light year in km 答え 9,460,730,472,580.8 kmSettingsでは、短縮形をオフにしてすべての桁を表示したり、桁区切りをオフにしたりできます。
答えの種類
値の種類ごとに、それぞれの表示形式があります。この表では、種類ごとに1つか2つの例を示します。
| 種類 | 入力 | 答え |
|---|---|---|
| 数値 | 1,000 + 10 |
1,010 |
| お金 | $100 + 15%, 50 CHF |
$115.00, CHF 50.00 |
| 量 | 65 kg in lb, 12 kg / 4 m² |
143.3004704202 lb, 3 kg/m² |
| パーセント | 15 / 60 as % |
25% |
| 倍率 | £60 / £40 as x |
1.5x |
| 分数 | 0.75 as fraction, 22/7 as fraction |
¾, 3 1/7 |
| 科学的記数法 | 12345.6789 in sci |
1.23456789e4 |
| 16進数、2進数、8進数 | 255 in hex, 255 in binary, 255 in octal |
0xFF, 0b11111111, 0o377 |
| 真偽値 | £45 > £40 |
true |
| 日付 | March 12 2024 + 3 days |
March 15, 2024 |
| 時刻 | 12:30 PM, 1:00:30 |
12:30 PM, 01:00:30 |
| 所要時間 | 9:30 to noon, 30 min - 2 hours |
2 hours 30 min, -(1 hour 30 min) |
| 日付の範囲 | Q1 2025 |
Jan 1 – Mar 31, 2025 |
| タイムコード | 48 frames @ 24 fps |
00:00:02:00 |
| ラップタイム | 1:23:45.67 |
01:23:45.67 |
| ペース | 5 km in 26:45 |
05:21/km |
| 度、分、秒 | 45.5 degrees as DMS |
45° 30′ 0″ |
| 時、分、秒 | 1.5 hours as HMS |
1h 30m 0s |
| 音の高さ | 440 Hz to pitch |
A4 |
| リスト | [1, 2+3, 4*2] |
[1, 5, 8] |
| 行列 | identity(2) |
[[1, 0], [0, 1]] |
| 複素数 | 3 * (2 + 3i), conj(-1 + i) |
6 + 9i, -1 - i |
| テキスト | weekday on March 12 2024, differentiate(x^3, x) |
Tuesday, (3*(x^(3-1))) |
表示形式の中には、今日の日付によって変わるものがあります。今年の日付は年が省略され、今日に近い日付は相対的な言葉で表示されることがあります。
March 12 答え March 12tomorrow at 1am 答え Tomorrow at 1:00 AMほかにも、知っておくと役立つ答えが2つあります。
- 答えもエラーも表示されない 場合は、その行に表示するものがありません。コメント、空行、関数の定義、
合計 =のような書きかけの行などです。 pending…は、その行に必要なデータがまだ利用できないことを示します。
答えの正確さ
正確な計算
整数、小数、分数は正確に保存されます。足し算、引き算、掛け算、割り算、整数乗では正確さが保たれ、⅓のように小数では正確に表せない分数も同じです。== による比較では、丸めずに正確な値どうしを比べます。
0.1 + 0.2 == 0.3 答え true1/3 + 1/3 + 1/3 == 1 答え true平方根は、根を正確に表せる場合は正確で、それ以外の場合は有効数字38桁まで正確です(それ以降の桁は丸めずに切り捨てます)。標準偏差も同じ平方根を使います。gcd と lcm は正確で、負になることはなく、分数も先に丸めずに扱います。
sqrt(2.25) 答え 1.5sqrt(1e-64) 答え 1e-32gcd(12, 18) 答え 6近似の結果
正確には計算できない演算もあります。そうした演算は2進浮動小数点数を使うため、正確な桁数に限りがあります。
- 三角関数、対数、指数関数
2^0.5のような整数でない累乗や、1e2.5のように指数が小数の科学的記数法のリテラル- 一部の単位換算
- 方程式の求解、数値微分、数値積分
- 行列の分解と固有値
- 基本的な演算以外の複素数の関数
== は正確な値を比べるため、2つの近似結果が同じに見えても等しくならないことがあります。代わりに、差を小さな許容誤差と比べてください。
sqrt(2)^2 答え 2sqrt(2)^2 == 2 答え falseabs(sqrt(2)^2 - 2) < 0.000000001 答え true許容誤差は、扱う数値の大きさに合わせて選んでください。画面に小数点以下10桁が表示されていても、その10桁がすべて正しいとは限りません。難しい数値計算では特にそうです。
リスト、行列、複素数では、浮動小数点数の丸め誤差にすぎず、周囲の値よりはるかに小さい部分は 0 と表示されます。これにより、行列の分解や exp(i * pi) などの答えが読みやすくなります。保存される値には桁が残っているので、同じように許容誤差で確認できます。
exp(i * pi) 答え -1abs(exp(i * pi) + 1) < 0.000000001 答え true数値の大きさ
- 小数 は、最大2¹²⁸−1(約38桁)の整数に、10⁻¹²⁸から10¹²⁷までの10の累乗を掛けた形で保存されます。
1e127を超える数値も、桁が収まる限り使えます。 - 分数 の分子と分母は、それぞれ最大4,096ビットです。
- 巨大な数に非常に小さな数を足す と、小さいほうが失われることがあります。
1e30 + 0.001は1e30と表示されます。 - 掛け算や累乗で範囲を超える と、結果が大きすぎる場合も小さすぎる場合も
Error: ∞が表示されます。計算が一周して誤った値になることはありません。
1e30 + 0.001 答え 1e301e100 * 1e100 答え Error: ∞制限
各行は、次の制限内に収まる必要があります。制限に達すると、その行だけにエラー(通常は Error: calculation limit)が表示され、ノートのほかの部分は引き続き動作します。途中までの合計や未完了の結果が、答えとして表示されることはありません。解決するには、範囲、行列、入れ子、問題を小さくしてください。
| 対象 | 制限 |
|---|---|
| 1行 | 64 KiBのテキスト、または4,096個の数値、語、記号 |
リストまたは range |
1,024項目 |
| 行列 | 1〜32行、1〜32列(すべての行が同じ長さ) |
| リストと組み込み関数呼び出しの入れ子 | 16階層 |
範囲にわたる sum または product |
10,000項 |
| 高度な数学 | 100,000ステップ。入れ子の演算で共有されるため、入れ子の処理では早く達します |
| 自分で定義した関数 | パラメーター32個。関数から別の関数を16階層まで呼び出せ、呼び出しと本体の行は合計16,384まで |
| 分数 | 分子または分母が4,096ビット |
| 記号微分 | 出力8,192文字 |
solve |
128回の反復 |
integrate |
細分化2,048回、分割20階層 |
Varlig Calcは現在、一般的な記号代数、不定積分、非線形の連立方程式、暗号資産の過去の価格、2d6 のようなダイス表記、10 ± 0.5 のような誤差を含む計算、1 < x < 5 のような連鎖比較には対応していません。高度な数学機能のしくみについて詳しくは、高度な数学:機能と制限を参照してください。
まとめ
このページのルールのほとんどを使った、旅行の予算の例です。
航空券 = £1,284.60 答え £1,284.60ホテル = £96.50 * 4 答え £386.00合計 = 航空券 + ホテル 答え £1,670.60一人分 = 合計 / 3 答え £556.87一人分 * 3 答え £1,670.60一人分 / 合計 as % 答え 33.3333333333%一人分 / 合計 as fraction 答え ⅓合計 to 0 dp 答え £1,671.00合計 * 1000 答え £1.671M一人分 = 合計 / 3はペンス単位に丸めた取り分を表示しますが、名前には完全な値が保持されます。一人分 * 3はその完全な値を使うので、£1,670.61ではなく、ちょうど£1,670.60に戻ります。- パーセントはお金ではないので、小数点以下10桁まで表示されます。分数では正確に表されます。
to 0 dpは値そのものを丸めます。お金なので、末尾のゼロは残ります。- 1,000を掛けると1,000,000を超えるので、答えは
£1.671Mに短縮されます。