论文部分内容阅读
本文通过对谱变换各部分计算进行分析,设计了一种64位32位混合精度谱变换计算方法。该方法对谱变换计算中精度敏感部分采用了64位高精度计算，精度不敏感部分采用用户指定精度计算的策略。数值试验表明：在进行谱正、逆变换计算时,混合方法计算量比纯32位计算时有增加,但比纯64位计算时减少较多。尤其在高分辨率时，混合方法计算比纯32位计算时间增加较小。混合方法在计算精度方面较纯32位计算时提高较大,可以满足精度要求。