`
xpp02
  • 浏览: 1006922 次
社区版块
存档分类
最新评论

GCC中SIMD指令的应用方法

 
阅读更多
X86架构上的多媒体应用开发,如果能够使用SIMD指令进行优化, 性能将大大提高。目前,IA-32的SIMD指令包括MMX,SSE,SSE2等几级。 在GCC的开发环境中,有几种使用SIMD指令的方式,本文逐一介绍。

X86的SIMD指令 ...simd instrucitons in X86

IA-32 Intel体系结构的指令主要分为以下几类 [1]

  • 通用
  • x87 FPU
  • MMX技术
  • SSE/SSE2/SSE3扩展

MMX/SSE类扩展引入了SIMD(单指令多数据)的执行模式,可用于加速多媒体应用。 下面简要介绍一下这些指令的执行环境和特征。

  • 8个32位通用寄存器可为各个SIMD扩展所使用;
  • MMX:8个64位MMX寄存器(mm0 - mm7),也可为各SSE扩展所使用;
    • 数据为整数,最多支持两个32位
    • 运算中没有寄存器能够进行溢出指示
  • SSE:8个128位xmm寄存器,MXSCR寄存器,EFLAGS寄存器
    • 支持单精度浮点
    • MXSCR含有rounding, overflow标志
    • 支持64位SIMD整数
  • SSE2:执行环境同sse
    • 双精度浮点
    • 128位整数
    • 双—单精度转换
  • SSE3:与Inte Prescott处理器一同发布不久,共13条指令
    • 主要增强了视频解码、3D图形优化和超线程性能

MMX技术出现最早,目前几乎所有的X86处理器都提供支持,包括嵌入式X86, 所以下面的讨论主要基于MMX,但方法完全适用于SSEn, 包括像AMD的3D Now等其它SIMD扩展。

MMX指令又分为以下几种:

  • 数据传送:movd, movq
  • 数据转换:packsswb, packssdw, packuswb, punpckhbw, punpckhwd, punpckhdq, punpcklbw, punpcklwd, punpckldq
  • 并行算术:paddb, paddw, paddd, paddsb, paddsw, paddusb, paddusw, psubb, psubw, psubd, psubsb, psubsw, psubusb, psubusb, psubusw, pmulhw, pmullw, pmaddwd
  • 并行比较:pcmpeqb, pcmpeqw, pcmpeqd, pcmpgtb, pcmpgtw, pcmpgtd
  • 并行逻辑:pand, pandn, por, pxor
  • 移位与旋转:psllw, pslld, psllq, psrlw, psrld, psrlq, psraw, psrad
  • 状态管理:emms

这些指令除了需要注意功能外,还需要注意处理的数据类型。以上内容为背景介绍,细节请参考手册。





性能优化 ...Performance Optimization

当使用C/C++完成了一个嵌入式应用的所有功能,性能问题常摆在面前, 这时可以使用profile工具(如gprof)找出产生瓶颈的函数, 将这些函数使用汇编彻底重写, 例如MPEG-4编解码器xvid项目 [4]就使用了这种方法, 而且针对不同处理器/指令集分别给出了不同的优化, 正是如此该项目无论功能、还是性能均为一流, 显然这是深度优化的目标所在。

在使用流水线、VLIW以及SIMD的体系结构(比如某些DSP)上, 整个函数的手工优化可以带来几倍到几十倍的性能提升。 不过,性能允许,对于函数内关键部分使用一些特定的实现, 既突出重点提高性能,又可以尽多地利用C/C++的高级特征, 相对缩短开发周期。 下面给出使用GCC时,应用MMX指令的几种混合编程方法:

  • Intel C/C++ 编译器intrinsics
  • GCC builtin操作
  • 嵌入汇编asm construct




Intel C/C++ 编译器intrinsics ...Intel C/C++ Compiler Intrinsics

查看IA-32 Intel指令集手册 [2]时, 部分指令的解释中会有一项“Intel C/C++ Compiler Intrinsic Equivalent”, 会指出该指令对等的intrinsic。 intrinsic在C/C++程序中的语法是以函数形式出现, 编译时可以直接翻译为一条MMX指令(复合情况会生成最直接的几条), 换言之,如果不使用intrinsic,可能需要多条C/C++语句完成, 而编译器却并不能保证将这几条语句能够生成这条最高效的MMX指令。 并不是每条MMX指令都有对等的intrinsic, 手册的附录中列出了所有的, 它们分为简单型(simple)和复合型(composite)两种, 每个简单型的就是对应一条指令,而复合型则对应多条指令。

GCC支持Intel C/C++ Compiler Intrinsics。用法如下示例:


      #include <stdio.h>
      #include <xmmintrin.h> /*一定需要包括此头文件*/

      /*gcc -Wall -march=pentium4 -mmmx -o ins  mmx_ins.c*/

      int main(int argc,char *argv[])
      { 
        /*使用MMX做以下向量的点积*/
        short in1[] = {1, 2, 3, 4};
        short in2[] = {2, 3, 4, 5};
        int out1;
        int out2;

        __m64 m1;    /* MMX支持64位整数的mm寄存器 */
        __m64 m2;    /* MMX操作需要使用mm寄存器 */
        __m128 m128; /* for SSEn only*/

        /*每次往mm寄存器装入两个short型的数,注意是两个*/
        m1 = _mm_cvtsi32_si64(((int*)in1)[0]);
        m2 = _mm_cvtsi32_si64(((int*)in2)[0]); 

        /*一条指令进行4个16位整数的乘加*/
        /*生成两个32位整数*/
        m2  = _mm_madd_pi16(m1, m2); 

        /*将低32位整数放入通用寄存器*/
        out1 =  _mm_cvtsi64_si32(m2);

        /*将高32位整数右移后,放入通用寄存器*/
        m2  = _mm_slli_pi32(m2, 32);
        out2 =  _mm_cvtsi64_si32(m2);

        /*清除MMX状态*/
        _mm_empty();

        /*将两个32位数相加,结果为8*/
        out1 += out2;
        printf("a: %d/n", out1);

        return(0);
      }
      

几点说明:

  • 即使你不是P4平台,编译时也请使用以下选项,
    /*gcc -Wall -march=pentium4 -mmmx -o ins mmx_ins.c*/
    否则,会出现如下类似信息:
    ...xmmintrin.h:34:3: #error "SSE instruction set not enabled"
  • 最终结果实际并没有求得四对乘积的和,只是前两对的, instrinsic _mm_cvtsi32_si64只向mm寄存器放入了低32位,高32位为零, 但mmx有指令movq可以做到64位的数据传送,intrinsic没有对应, 这也说明并不是所有的指令有等价的intrinsic。
  • 当计算的向量为两对0x8000, 0x8000时,即(-2^15)*(-2^15) + (-2^15)*(-2^15) , 结果应该为 2^31,但计算出来的值是 -2^31, 因为发生了溢出,可程序无从知道。 这是使用MMX时,应特别注意的,计算溢出没有任何标志位指示,一个极大的值变为极小,SSE对此做了改善。
  • 程序不再使用MMX之时,注意使用emms指令清除MMX状态。




使用built-in操作 ...GCC built-in Operation

什么是built-in操作?就是对待MMX操作数,就如int, float等基本数据类型一般, 有相应定义的操作,如加(+)、减(-),或者数据类型之间的转换。 详细内容参考GNU GCC Manual[5] Extensions to the C Language Family4#4Built-in Functions4#4 X86 Built-in Functions一节。

一些MMX指令有其相应的built-in操作, 下面一段代码为例:


      #include <stdio.h>
      /*无需特别的头文件,built-in嘛*/

      /* gcc -Wall  -o bins  builtinmmx.c*/

      /*定义了一个vector数据类型,hi表示16位,4表示4个*/
      typedef int v4hi __attribute__ ((mode(V4HI)));

      /*定义了2个32位的vector类型,si表示32位*/
      typedef int v2si __attribute__ ((mode(V2SI)));

      int main(int argc,char *argv[])
      { 
        short pa[4] = {0x8000, 0x8000, 1, -1};
        short pb[4] = {0x8000, 0x7FFF, -1, -2};
        
        v4hi va, vb;
        v4hi vsum;
        
        va = ((v4hi*)pa)[0];
        vb = ((v4hi*)pb)[0];
        
        /* 4个16位进行饱和加 */
        //vsum = __builtin_ia32_paddsw(va, vb);

        /* 4个16位还可以直接进行加法,但不同于两个long long相加 */
        vsum =  va + vb;
        
        /*vector的输出还需要强制转换为long long*/
        printf("...with MMX instructions...to compute vec_add: %llx /n", (long long)vsum);
        
        //结果1:0xfffd0000ffff8000
        //结果2:0xfffd0000ffff0000
        
        return(0);
      }
      

几点说明:

  • 是的,这里built-in vector及其操作,随着GCC的发展正在加强。如果需要使用以上范例,应使用GCC 3.4以上版本;
  • 使用builtin函数时,与intrinsic相似;但本质却是不同,这里两个向量使用‘+’操作就说明了vector也如其它数据类型一样,编译器直接支持,只不过这里的加法就是指四个单元数分别相加,低位单元的进位不会影响相邻高位单元的数据;
  • vector还可以强制转换为通用数据。




嵌入汇编 ...Inline asm

GCC一开始就允许C代码中嵌入asm指令,并不只是针对MMX指令, 不过对于MMX技术,显然也是一个很好的利用方法, 详细的语法请参考GNU GCC手册 [5], 或者GCC: The Complete Reference [6]''Inline Assembly''一节。 如下是一个点积的例子:


      #include <stdio.h>

      /** GCC -o ins  inlinemmx.c **/

      int main(int argc,char *argv[])
      { 
        int i;
        int result;
        short a[] = {1, 2, 3, 4, 5, 6, 7, 8};
        short b[] = {1, 1, 1, 1, 1, 1, 1, 1};

        printf("...with MMX instructions.../n");
        
        /*首先,将点积合累积寄存器清零,实际缺省就为0?*/
        asm("pandn %%mm5,%%mm5;"::);

        /*读入a, b,每四对数相乘后分两组相加,形成两组和*/
        /*这里的循环控制是C在做*/
        for(i = 0; i < sizeof(a)/sizeof(short); i += 4){
          asm("movq %0,%%mm0;/
          movq %1,%%mm1;/
          pmaddwd %%mm1,%%mm0;/
          paddd %%mm0,%%mm5; #相乘后相加 "
          :
          : "m" (a[i]), "m" (b[i]));
        }

        /*将两组和分离,并相加*/
        asm("movq %%mm5, %%mm0;/
        psrlq $32,%%mm5;/
        paddd %%mm0, %%mm5;/
        movd %%mm5,%0;/
        emms"
        :"=r" (result)
        :);

        printf("result: 0x%x/n", result);
        //这里结果为0x24

        return(0);
      }
      

几点说明:

  • 这里是典型的在函数中C和汇编混合编程;
  • 注意汇编指令中操作数的顺序;
  • 这里可以直接使用movq等没有intrinsics/built-in对应的指令;
  • 注意在asm指令序列中间不要加杂注释,可能导致生成的代码不正确。




MMX实用一例:合成滤波器 ...Synthesis Filter in X86 SIMD INSTRUCTIONS

下面是合成滤波器(Synthesis Filter)的一个优化过程, 合成滤波器在语音编解码中有广泛应用, 运行时也占用了整个算法中较高比例的时间。


      for (i = 0; i < lg; i++)
      {
        s = L_mult(x[i], a[0]);/*L_mult是相乘后左移*/
        for (j = 1; j <= M; j++){/*M这里固定为10*/
          s = L_msu(s, a[j], yy[-j]);/*L_msu是乘减后左移操作*/
        }
	
        s = L_shl(s, 3); /*左移三位*/
        *yy++ = g729round(s);
      }
      #endif
      

上面的代码,因为内存循环为10,可以考虑展开,并统一操作为乘加指令。


      /*为了使用乘加操作,需要调整10个系数的顺序*/
      for(i = 0; i < M; i++)
        ta[i] = -a[M - i];

      ta[11] = 0;
      ta[10] = a[0];

      for (i = 0; i < lg; i++){
        *yy = x[i];
        yy[1] = 0;

        s = L_mac(s, ta[11], yy[1]);
        s = L_mac(s, ta[10], yy[0]);
        s = L_mac(s, ta[9], yy[-1]);
        s = L_mac(s, ta[8], yy[-2]);
        s = L_mac(s, ta[7], yy[-3]);
        s = L_mac(s, ta[6], yy[-4]);
        s = L_mac(s, ta[5], yy[-5]);
        s = L_mac(s, ta[4], yy[-6]);
        s = L_mac(s, ta[3], yy[-7]);
        s = L_mac(s, ta[2], yy[-8]);
        s = L_mac(s, ta[1], yy[-9]);
        s = L_mac(s, ta[0], yy[-10]);
        
        s = L_shl(s, 3);
        *yy++ = g729round(s);
      }
      

以上循环内核正好可以将MMX的8个寄存器全部利用。


      /*为了使用乘加操作,需要调整10个系数的顺序*/
      for(i = 0; i < M; i++)
        ta[i] = -a[M - i];

      ta[11] = 0;
      ta[10] = a[0];

      /*11个系数分别放入3个MMX寄存器,0作填充*/
      asm("movq %0,%%mm0;/
      movq %1,%%mm1;/
      movq %2,%%mm2"/
      :/
      : "m" (ta[0]), "m" (ta[4]), "m"(ta[8]));
      
      /*利用MMX技术进行滤波器核心操作*/
      for (i = 0; i < lg; i++){
        *yy = x[i];
        yy[1] = 0;

        asm("pandn %%mm6,%%mm6;/
        movq %1,%%mm3;/
        movq %2,%%mm4;/
        movq %3,%%mm5;/
        pmaddwd %%mm0,%%mm3;/
        pmaddwd %%mm1,%%mm4;/
        pmaddwd %%mm2,%%mm5;/
        paddd %%mm3, %%mm6;/
        paddd %%mm4, %%mm6;/
        paddd %%mm5, %%mm6;/
        movq  %%mm6, %%mm7;/
        psrlq $32, %%mm6;/
        paddd %%mm7, %%mm6;/
        movd %%mm6,%0;/
        emms"
        :
        :"r"(s), "m" (yy[-10]), "m" (yy[-6]), "m"(yy[-2]));

	/*因为指令结果饱和属性的限制,s还没有左移,所以下面多做一位饱和左移*/
        s = L_shl(s, 4);
        *yy++ = g729round(s);
      }
      

几点说明:

  • 注意:以上嵌入的汇编代码输出结果s放在了输入处,属于实践中的个案;
  • MMX没有乘左移之类的DSP指令,甚至还没有加饱和之类的操作,SSE中有一定增强;
  • 以上操作,理论上存在溢出可能,所以最后使用原有的饱和左移操作,减少了一定风险;
  • 上面的部分代码操作显然允许并行,这在VLIW系统中十分有用;
  • 这已经形成了该滤波器全面优化的核心。




总结 ...Conclusion

如果愿意尽多地利用SIMD技术,可能需要更多地使用汇编级的编码, 不过也有一些高级语言和汇编的混合编程技术能够帮助你, 它们有的提高性能更大一些, 有的形式上更优雅些,本质上效率也不错, 都不失好的方法,建议尝试。

正是如此,一方面CPU上支持越来越多的SIMD指令集扩展, 另一方面GCC也正在加紧支持这些扩展的易用,对,正在, 碰到一些问题,先想办法绕过去, 这里使用GCC 3.4.1,根据经验效果还是不错的。





关于文档

GCC中SIMD指令的应用方法

This document was generated using the LaTeX2HTML translator Version 2002 (1.62)

Copyright ® 1993, 1994, 1995, 1996, Nikos Drakos, Computer Based Learning Unit, University of Leeds.
Copyright ®, 1998, 1999, Ross Moore, Mathematics Department, Macquarie University, Sydney.

The command line arguments were: latex2html -iso_language CN -html_version 4.0,unicode -address '®2004 CoreUp Designs' -local_icons -split 0 -nonavigation gccsimd

The translation was initiated by on 2004-12-13





参考资料

  1. Intel: IA-32 Intel Architechture Software Developer's Manual, Volume 1: Basic Architecture(2002)
  2. Intel: IA-32 Intel Architechture Software Developer's Manual, Volume 2: Instruction Set Reference(2003)
  3. Intel: IA-32 Intel Architechture Software Developer's Manual, Volume 3: System Programming Guide(2003)
  4. XviD.org,http://www.xvid.org/(up-to-date)
  5. GNU, GCC online documentation, http://www.gnu.org/software/GCC/onlinedocs/(up-to-date)
  6. Authur Griffith, GCC: The Complete Referencea, McGraw Hill(2002)




关于作者

钱浙滨,1999年从上海交通大学图像处理与模式识别研究所获得博士学位, 曾参与完成计算机视觉、正规语言和移动通信等方面的研发工作; 目前他和他的团队主要从事DSP系统开发,特别是多媒体编解码算法的性能优化, 以及相关的Linux嵌入式应用; 他们也提供WLAN相关的技术咨询, 欢迎访问http://embeddedcore.com进行交流。


分享到:
评论

相关推荐

Global site tag (gtag.js) - Google Analytics