正确答案:D. 基本字长
计算机进行数值计算时的高精度,主要取决于其能够表示和处理的数的位数,而这与基本字长密切相关。
基本字长:指计算机一次能处理的二进制位数(bit数),例如 32 位、64 位。
字长越长,表示的数值范围越大,数值计算的精度就越高。
计算速度、内存容量、外存容量虽然影响运行效率或数据存储量,但不会直接决定计算精度。
结论:
计算机数值计算的高精度主要取决于
D. 基本字长