组词大全

计算机进行数值计算时的高精度主要取决于( )。 A. 计算速度 B. 内存容量 C. 外存容量 D 基本字长

计算机进行数值计算时的高精度主要取决于( )。 A.   计算速度 B.   内存容量 C.   外存容量 D 基本字长

正确答案:D. 基本字长

【解析】

计算机进行数值计算时的高精度,主要取决于其能够表示和处理的数的位数,而这与基本字长密切相关。

基本字长:指计算机一次能处理的二进制位数(bit数),例如 32 位、64 位。

字长越长,表示的数值范围越大,数值计算的精度就越高。

计算速度、内存容量、外存容量虽然影响运行效率或数据存储量,但不会直接决定计算精度。

 结论:

计算机数值计算的高精度主要取决于

 D. 基本字长

成语首拼