Python 3.6.5 ドキュメント 検索
Results of 1 - 10 of about 34 for 精度 (0.029 sec.)
- 9.4. decimal --- 十進固定及び浮動小数点数の算術演算 — Python 3.6.5 ドキュメント 14235
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.6.5 ドキュメント » Python 標準ライブラ
...進浮動小数点表現と違い、 decimal モジュールでは計算精度をユーザが変更できます(デフォルトでは 28 桁です)。こ...様では -0 と +0 も区別します。 算術コンテキストとは、精度や値丸めの規則、指数部の制限を決めている環境です。こ...の演算コンテキストを getcontext() で調べ、必要なら、精度、丸め、有効なトラップを設定します: >>> from decimal...入力の桁数だけで決まります。演算コンテキストにおける精度や値丸めの設定が影響するのは算術演算の間だけです。 >... - https://man.plustar.jp/python/library/decimal.html - [similar]
- 9.2. math --- 数学関数 — Python 3.6.5 ドキュメント 10609
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.6.5 ドキュメント » Python 標準ライブラ
...ついては fmod(x, y) が厳密に (数学的に、つまり無限の精度で) x - n*y と等価であるよう求めています。 Python の...数の正確な和を返します。複数の部分和を追跡することで精度のロスを防ぎます: >>> sum ([ .1 , .1 , .1 , .1 , .1...以外のいくつかのビルドでは、下層の C ライブラリが拡張精度の加算を行い、時々計算途中の和を double 型へ丸めてし...ださい。通常、Python の浮動小数点型は 53 ビット以上の精度をもたない (プラットフォームにおける C double 型と同... - https://man.plustar.jp/python/library/math.html - [similar]
- 4. 組み込み型 — Python 3.6.5 ドキュメント 10609
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.6.5 ドキュメント » Python 標準ライブラ
...す。さらに、ブール型は整数のサブタイプです。整数には精度の制限がありません。浮動小数点型はたいていは C の do...あなたのプログラムが動作するマシンでの浮動小数点型の精度と内部表現は、 sys.float_info から利用できます。複素...他の数値型、分数を保持する fractions や、ユーザ定義の精度の浮動小数点数を保持する decimal があります。) 数値は...出されます。タプルには最小フィールド幅やオプションの精度指定の後に変換したいオブジェクトがくるようにします。... - https://man.plustar.jp/python/library/stdtypes.html - [similar]
- 6.1. string --- 一般的な文字列操作 — Python 3.6.5 ドキュメント 10481
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.6.5 ドキュメント » Python 標準ライブラ
...spec フィールドは、フィールド幅、文字揃え、埋め方、精度などの、値を表現する仕様を含みます。それぞれの値の型...指数を示す 'e' を使って数値を表示します。デフォルトの精度は 6 です。 'E' 指数表記です。大文字の 'E' を使うこと...す。数値を固定小数点数として表示します。デフォルトの精度は 6 です。 'F' 固定小数点数です。 nan が NAN に、 i...とを除き 'f' と同じです。 'g' 汎用フォーマットです。精度を p >= 1 の数値で与えた場合、数値を有効桁 p で丸め、... - https://man.plustar.jp/python/library/string.html - [similar]
- 15. 浮動小数点演算、その問題と制限 — Python 3.6.5 ドキュメント 10481
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.6.5 ドキュメント » Python チュートリア
...てください。このモジュールは会計アプリケーションや高精度の計算が求められるアプリケーションに適した、10進数の...ができます。 別の便利なツールとして、合計処理における精度のロスを緩和してくれる math.fsum() 関数があります。こ...ームでは Python の浮動小数点を IEEE-754 における "倍精度(double precision)" に対応付けます。754 の double に...は 53 ビットの精度を持つ数が入るので、計算機に入力を行おうとすると、可... - https://man.plustar.jp/python/tutorial/floatingpoint.html - [similar]
- 16.3. time --- 時刻データへのアクセスと変換 — Python 3.6.5 ドキュメント 9538
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.6.5 ドキュメント » Python 標準ライブラ
...す。 多くの現時刻を返す関数 (real-time functions) の精度は、値や引数を表現するために使う単位から想像されるよ...んどの Unix システムにおいて、クロックの 1 ティックの精度は 50 から 100 分の 1 秒に過ぎません。 一方、 time()...および sleep() は Unix の同等の関数よりましな精度を持っています。時刻は浮動小数点数で表され、 time()...のプロセッサー時間秒を浮動小数点数で返します。時刻の精度および "プロセッサー時間" の定義そのものは同じ名前の... - https://man.plustar.jp/python/library/time.html - [similar]
- 14.4. xdrlib --- XDR データのエンコードおよびデコード — Python 3.6.5 ドキュメン... 8611
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.6.5 ドキュメント » Python 標準ライブラ
...ートされています。 Packer. pack_float ( value ) ¶ 単精度 (single-precision) の浮動小数点数 value をパックし...ます。 Packer. pack_double ( value ) ¶ 倍精度 (double-precision) の浮動小数点数 value をパックし...ジェクトを返します。 Unpacker. unpack_float ( ) ¶ 単精度の浮動小数点数をアンパックします。 Unpacker. unpack_...double ( ) ¶ unpack_float() と同様に、倍精度の浮動小数点数をアンパックします。 上のメソッドに加え... - https://man.plustar.jp/python/library/xdrlib.html - [similar]
- What's New in Python 2.4 — Python 3.6.5 ドキュメント 8372
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.6.5 ドキュメント » What's New in Pytho
...ん。新しい Decimal 型はこれら小数を、ユーザが指定する精度限界まで正確に表現出来ます。 なぜ Decimal が必要なの...ビットを使います。つまり数値は 52 ビットで記述される精度しか持てません。展開が循環に続く数値を表現しようと試...インスタンスは数値を表現し、 Context インスタンスは、精度やデフォルトの丸めモードなどのさまざまな設定をまとめ...いうものでした。代わりにあなたは浮動小数点数を望みの精度で文字列に変換して、その文字列を Decimal コンストラク... - https://man.plustar.jp/python/whatsnew/2.4.html - [similar]
- 9. 数値と数学モジュール — Python 3.6.5 ドキュメント 8260
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.6.5 ドキュメント » Python 標準ライブラ
...な数学関数を含んでいます。 decimal モジュールは、任意精度の計算を使用して、10進数の正確な表現をサポートします...シグナル 9.4.7. 浮動小数点数に関する注意 9.4.7.1. 精度を上げて丸め誤差を抑制する 9.4.7.2. 特殊値 9.4.8. ス... - https://man.plustar.jp/python/library/numeric.html - [similar]
- 7.1. struct --- バイト列をパックされたバイナリデータとして解釈する — Python 3.6... 8020
- ナビゲーション 索引 モジュール | 次へ | 前へ | Python » 3.6.5 ドキュメント » Python 標準ライブラ
...' を使うことはできません。 IEEE 754 の binary16 "半精度" 型は、 IEEE 754 standard の2008 年の改訂で導入され...ました。 半精度型は、符号 bit 、5 bit の指数部、 11 bit の精度 (明示...持ち、おおよそ 6.1e-05 から 6.5e+04 までの数を完全な精度で表現できます。 この型は C コンパイラでは広くはサポ... - https://man.plustar.jp/python/library/struct.html - [similar]