说到CPU算力,就不能不提到FLOPS了。

浮点(floating-point)指的是带有小数的数值,浮点运算就是小数的四则运算,常用来测量计算机运算速度或被用来估算计算机性能,特别是在科学计算领域会使用到大量的浮点运算,对CPU的算力性能要求就比较高了。
说到浮点计算能力,就涉及到半精度、单精度、双精度三种类型,双精度是64位的(FP64),单精度是32位的(FP32),半精度是16位的(FP16),半精度是英伟达在2002年搞出来的,双精度和单精度是为了计算,而半精度更多是为了降低数据传输和存储成本。
双精度浮点数

单精度浮点数


CPU单个周期浮点计算值有点复杂,具体如下表
instruction set(指令集)
每时钟周期的单精度运算次数
每时钟周期的双精度运算次数
SSE(128-bits)
8
4
AVX(256-bits)
16
8
AXV2(256-bits)
32
16
AXV256(512-bits)
64
16(FMA=1)32(FMA=2)
那么,6240R的核数为10,主频为2.4Hz,每时钟周期的双精度运算次数32,其单颗CPU的GFLOPS算力算法就是24*2.4*32=1843.2 GFLOPS
索性将之前用过的CPU都拿出来分析了一下,顺便按照CPU计算能力排个序。


本文来自投稿,不代表展天博客立场,如若转载,请注明出处:https://www.me900.com/142735.html