Lines Matching refs:ymm0

23 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm3
32 ; AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
37 ; AVX2-NEXT:    vpsllvq %ymm1, %ymm0, %ymm0
43 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm3
46 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
51 ; XOPAVX2-NEXT:    vpsllvq %ymm1, %ymm0, %ymm0
56 ; AVX512-NEXT:    vpsllvq %ymm1, %ymm0, %ymm0
61 ; AVX512VL-NEXT:    vpsllvq %ymm1, %ymm0, %ymm0
67 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm3
76 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
81 ; X86-AVX2-NEXT:    vpsllvq %ymm1, %ymm0, %ymm0
95 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm4
101 ; AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
106 ; AVX2-NEXT:    vpsllvd %ymm1, %ymm0, %ymm0
112 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm3
115 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
120 ; XOPAVX2-NEXT:    vpsllvd %ymm1, %ymm0, %ymm0
125 ; AVX512-NEXT:    vpsllvd %ymm1, %ymm0, %ymm0
130 ; AVX512VL-NEXT:    vpsllvd %ymm1, %ymm0, %ymm0
140 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm4
146 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
151 ; X86-AVX2-NEXT:    vpsllvd %ymm1, %ymm0, %ymm0
171 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm3
183 ; AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
190 …ymm4 = ymm2[4],ymm0[4],ymm2[5],ymm0[5],ymm2[6],ymm0[6],ymm2[7],ymm0[7],ymm2[12],ymm0[12],ymm2[13],…
194 …{{.*#+}} ymm0 = ymm2[0],ymm0[0],ymm2[1],ymm0[1],ymm2[2],ymm0[2],ymm2[3],ymm0[3],ymm2[8],ymm0[8],ym…
195 ; AVX2-NEXT:    vpsllvd %ymm1, %ymm0, %ymm0
196 ; AVX2-NEXT:    vpsrld $16, %ymm0, %ymm0
197 ; AVX2-NEXT:    vpackusdw %ymm3, %ymm0, %ymm0
203 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm3
206 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
212 ; XOPAVX2-NEXT:    vextracti128 $1, %ymm0, %xmm3
215 ; XOPAVX2-NEXT:    vinserti128 $1, %xmm2, %ymm0, %ymm0
221 …ymm0[0],zero,ymm0[1],zero,ymm0[2],zero,ymm0[3],zero,ymm0[4],zero,ymm0[5],zero,ymm0[6],zero,ymm0[7]…
223 ; AVX512DQ-NEXT:    vpmovdw %zmm0, %ymm0
229 ; AVX512BW-NEXT:    # kill: def $ymm0 killed $ymm0 def $zmm0
231 ; AVX512BW-NEXT:    # kill: def $ymm0 killed $ymm0 killed $zmm0
237 …ymm0[0],zero,ymm0[1],zero,ymm0[2],zero,ymm0[3],zero,ymm0[4],zero,ymm0[5],zero,ymm0[6],zero,ymm0[7]…
239 ; AVX512DQVL-NEXT:    vpmovdw %zmm0, %ymm0
244 ; AVX512BWVL-NEXT:    vpsllvw %ymm1, %ymm0, %ymm0
260 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm4
272 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm3, %ymm0, %ymm0
279 …ymm4 = ymm2[4],ymm0[4],ymm2[5],ymm0[5],ymm2[6],ymm0[6],ymm2[7],ymm0[7],ymm2[12],ymm0[12],ymm2[13],…
283 …{{.*#+}} ymm0 = ymm2[0],ymm0[0],ymm2[1],ymm0[1],ymm2[2],ymm0[2],ymm2[3],ymm0[3],ymm2[8],ymm0[8],ym…
284 ; X86-AVX2-NEXT:    vpsllvd %ymm1, %ymm0, %ymm0
285 ; X86-AVX2-NEXT:    vpsrld $16, %ymm0, %ymm0
286 ; X86-AVX2-NEXT:    vpackusdw %ymm3, %ymm0, %ymm0
295 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
321 ; AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
327 ; AVX2-NEXT:    vpsllw $4, %ymm0, %ymm2
329 ; AVX2-NEXT:    vpblendvb %ymm1, %ymm2, %ymm0, %ymm0
330 ; AVX2-NEXT:    vpsllw $2, %ymm0, %ymm2
333 ; AVX2-NEXT:    vpblendvb %ymm1, %ymm2, %ymm0, %ymm0
334 ; AVX2-NEXT:    vpaddb %ymm0, %ymm0, %ymm2
336 ; AVX2-NEXT:    vpblendvb %ymm1, %ymm2, %ymm0, %ymm0
342 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm3
345 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
351 ; XOPAVX2-NEXT:    vextracti128 $1, %ymm0, %xmm3
354 ; XOPAVX2-NEXT:    vinserti128 $1, %xmm2, %ymm0, %ymm0
360 ; AVX512DQ-NEXT:    vpsllw $4, %ymm0, %ymm2
362 ; AVX512DQ-NEXT:    vpblendvb %ymm1, %ymm2, %ymm0, %ymm0
363 ; AVX512DQ-NEXT:    vpsllw $2, %ymm0, %ymm2
366 ; AVX512DQ-NEXT:    vpblendvb %ymm1, %ymm2, %ymm0, %ymm0
367 ; AVX512DQ-NEXT:    vpaddb %ymm0, %ymm0, %ymm2
369 ; AVX512DQ-NEXT:    vpblendvb %ymm1, %ymm2, %ymm0, %ymm0
375 …ymm0[0],zero,ymm0[1],zero,ymm0[2],zero,ymm0[3],zero,ymm0[4],zero,ymm0[5],zero,ymm0[6],zero,ymm0[7]…
377 ; AVX512BW-NEXT:    vpmovwb %zmm0, %ymm0
383 ; AVX512DQVL-NEXT:    vpsllw $4, %ymm0, %ymm2
385 ; AVX512DQVL-NEXT:    vpblendvb %ymm1, %ymm2, %ymm0, %ymm0
386 ; AVX512DQVL-NEXT:    vpsllw $2, %ymm0, %ymm2
389 ; AVX512DQVL-NEXT:    vpblendvb %ymm1, %ymm2, %ymm0, %ymm0
390 ; AVX512DQVL-NEXT:    vpaddb %ymm0, %ymm0, %ymm2
392 ; AVX512DQVL-NEXT:    vpblendvb %ymm1, %ymm2, %ymm0, %ymm0
398 …ymm0[0],zero,ymm0[1],zero,ymm0[2],zero,ymm0[3],zero,ymm0[4],zero,ymm0[5],zero,ymm0[6],zero,ymm0[7]…
400 ; AVX512BWVL-NEXT:    vpmovwb %zmm0, %ymm0
405 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
431 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
437 ; X86-AVX2-NEXT:    vpsllw $4, %ymm0, %ymm2
439 ; X86-AVX2-NEXT:    vpblendvb %ymm1, %ymm2, %ymm0, %ymm0
440 ; X86-AVX2-NEXT:    vpsllw $2, %ymm0, %ymm2
443 ; X86-AVX2-NEXT:    vpblendvb %ymm1, %ymm2, %ymm0, %ymm0
444 ; X86-AVX2-NEXT:    vpaddb %ymm0, %ymm0, %ymm2
446 ; X86-AVX2-NEXT:    vpblendvb %ymm1, %ymm2, %ymm0, %ymm0
459 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
462 ; AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
467 ; AVX2-NEXT:    vpsllq %xmm1, %ymm0, %ymm0
472 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
475 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
480 ; XOPAVX2-NEXT:    vpsllq %xmm1, %ymm0, %ymm0
485 ; AVX512-NEXT:    vpsllq %xmm1, %ymm0, %ymm0
490 ; AVX512VL-NEXT:    vpsllq %xmm1, %ymm0, %ymm0
495 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
498 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
503 ; X86-AVX2-NEXT:    vpsllq %xmm1, %ymm0, %ymm0
513 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
517 ; AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
523 ; AVX2-NEXT:    vpslld %xmm1, %ymm0, %ymm0
528 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
532 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
538 ; XOPAVX2-NEXT:    vpslld %xmm1, %ymm0, %ymm0
544 ; AVX512-NEXT:    vpslld %xmm1, %ymm0, %ymm0
550 ; AVX512VL-NEXT:    vpslld %xmm1, %ymm0, %ymm0
555 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
559 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
565 ; X86-AVX2-NEXT:    vpslld %xmm1, %ymm0, %ymm0
575 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
579 ; AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
585 ; AVX2-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
590 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
594 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
600 ; XOPAVX2-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
606 ; AVX512-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
612 ; AVX512VL-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
617 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
621 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
627 ; X86-AVX2-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
637 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
647 ; AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
653 ; AVX2-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
657 ; AVX2-NEXT:    vpand %ymm1, %ymm0, %ymm0
664 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
667 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
672 ; XOPAVX2-NEXT:    vextracti128 $1, %ymm0, %xmm2
676 ; XOPAVX2-NEXT:    vinserti128 $1, %xmm2, %ymm0, %ymm0
682 ; AVX512DQ-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
686 ; AVX512DQ-NEXT:    vpand %ymm1, %ymm0, %ymm0
691 …ymm0[0],zero,ymm0[1],zero,ymm0[2],zero,ymm0[3],zero,ymm0[4],zero,ymm0[5],zero,ymm0[6],zero,ymm0[7]…
694 ; AVX512BW-NEXT:    vpmovwb %zmm0, %ymm0
700 ; AVX512DQVL-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
704 ; AVX512DQVL-NEXT:    vpand %ymm1, %ymm0, %ymm0
709 …ymm0[0],zero,ymm0[1],zero,ymm0[2],zero,ymm0[3],zero,ymm0[4],zero,ymm0[5],zero,ymm0[6],zero,ymm0[7]…
712 ; AVX512BWVL-NEXT:    vpmovwb %zmm0, %ymm0
717 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
727 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
733 ; X86-AVX2-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
737 ; X86-AVX2-NEXT:    vpand %ymm1, %ymm0, %ymm0
751 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
755 ; AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
761 ; AVX2-NEXT:    vpsllq %xmm1, %ymm0, %ymm0
766 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
770 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
776 ; XOPAVX2-NEXT:    vpsllq %xmm1, %ymm0, %ymm0
782 ; AVX512-NEXT:    vpsllq %xmm1, %ymm0, %ymm0
788 ; AVX512VL-NEXT:    vpsllq %xmm1, %ymm0, %ymm0
793 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
797 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
803 ; X86-AVX2-NEXT:    vpsllq %xmm1, %ymm0, %ymm0
814 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
818 ; AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
824 ; AVX2-NEXT:    vpslld %xmm1, %ymm0, %ymm0
829 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
833 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
839 ; XOPAVX2-NEXT:    vpslld %xmm1, %ymm0, %ymm0
845 ; AVX512-NEXT:    vpslld %xmm1, %ymm0, %ymm0
851 ; AVX512VL-NEXT:    vpslld %xmm1, %ymm0, %ymm0
856 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
860 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
866 ; X86-AVX2-NEXT:    vpslld %xmm1, %ymm0, %ymm0
877 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
881 ; AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
887 ; AVX2-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
892 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
896 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
902 ; XOPAVX2-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
908 ; AVX512-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
914 ; AVX512VL-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
919 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
923 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
929 ; X86-AVX2-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
940 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
950 ; AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
956 ; AVX2-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
960 ; AVX2-NEXT:    vpand %ymm1, %ymm0, %ymm0
968 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
971 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
976 ; XOPAVX2-NEXT:    vextracti128 $1, %ymm0, %xmm2
981 ; XOPAVX2-NEXT:    vinserti128 $1, %xmm2, %ymm0, %ymm0
987 ; AVX512DQ-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
991 ; AVX512DQ-NEXT:    vpand %ymm1, %ymm0, %ymm0
996 …ymm0[0],zero,ymm0[1],zero,ymm0[2],zero,ymm0[3],zero,ymm0[4],zero,ymm0[5],zero,ymm0[6],zero,ymm0[7]…
1000 ; AVX512BW-NEXT:    vpmovwb %zmm0, %ymm0
1006 ; AVX512DQVL-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
1010 ; AVX512DQVL-NEXT:    vpand %ymm1, %ymm0, %ymm0
1015 …ymm0[0],zero,ymm0[1],zero,ymm0[2],zero,ymm0[3],zero,ymm0[4],zero,ymm0[5],zero,ymm0[6],zero,ymm0[7]…
1019 ; AVX512BWVL-NEXT:    vpmovwb %zmm0, %ymm0
1024 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm2
1034 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm2, %ymm0, %ymm0
1040 ; X86-AVX2-NEXT:    vpsllw %xmm1, %ymm0, %ymm0
1044 ; X86-AVX2-NEXT:    vpand %ymm1, %ymm0, %ymm0
1059 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm1
1066 ; AVX1-NEXT:    vinsertf128 $1, %xmm1, %ymm0, %ymm0
1071 ; AVX2-NEXT:    vpsllvq {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1077 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm0
1079 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
1084 ; XOPAVX2-NEXT:    vpsllvq {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1089 ; AVX512-NEXT:    vpsllvq {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1094 ; AVX512VL-NEXT:    vpsllvq {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1099 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm1
1106 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm1, %ymm0, %ymm0
1111 ; X86-AVX2-NEXT:    vpsllvq {{\.?LCPI[0-9]+_[0-9]+}}, %ymm0, %ymm0
1121 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm0
1123 ; AVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
1128 ; AVX2-NEXT:    vpsllvd {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1134 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm0
1136 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
1141 ; XOPAVX2-NEXT:    vpsllvd {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1146 ; AVX512-NEXT:    vpsllvd {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1151 ; AVX512VL-NEXT:    vpsllvd {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1157 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm0
1159 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
1164 ; X86-AVX2-NEXT:    vpsllvd {{\.?LCPI[0-9]+_[0-9]+}}, %ymm0, %ymm0
1174 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm0
1176 ; AVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
1181 ; AVX2-NEXT:    vpmullw {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1187 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm0
1189 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
1194 ; XOPAVX2-NEXT:    vpmullw {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1199 ; AVX512DQ-NEXT:    vpmullw {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1204 ; AVX512BW-NEXT:    # kill: def $ymm0 killed $ymm0 def $zmm0
1207 ; AVX512BW-NEXT:    # kill: def $ymm0 killed $ymm0 killed $zmm0
1212 ; AVX512DQVL-NEXT:    vpmullw {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1217 ; AVX512BWVL-NEXT:    vpsllvw {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1223 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm0
1225 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
1230 ; X86-AVX2-NEXT:    vpmullw {{\.?LCPI[0-9]+_[0-9]+}}, %ymm0, %ymm0
1239 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm1
1257 ; AVX1-NEXT:    vinsertf128 $1, %xmm1, %ymm0, %ymm0
1262 ; AVX2-NEXT:    vpunpckhbw {{.*#+}} ymm1 = ymm0[8,8,9,9,10,10,11,11,12,12,13,13,14,14,15,15,24,24,2…
1266 ; AVX2-NEXT:    vpunpcklbw {{.*#+}} ymm0 = ymm0[0,0,1,1,2,2,3,3,4,4,5,5,6,6,7,7,16,16,17,17,18,18,1…
1267 ; AVX2-NEXT:    vpmullw {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1268 ; AVX2-NEXT:    vpand %ymm2, %ymm0, %ymm0
1269 ; AVX2-NEXT:    vpackuswb %ymm1, %ymm0, %ymm0
1274 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm1
1278 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm1, %ymm0, %ymm0
1283 ; XOPAVX2-NEXT:    vextracti128 $1, %ymm0, %xmm1
1287 ; XOPAVX2-NEXT:    vinserti128 $1, %xmm1, %ymm0, %ymm0
1292 ; AVX512DQ-NEXT:    vpunpckhbw {{.*#+}} ymm1 = ymm0[8,8,9,9,10,10,11,11,12,12,13,13,14,14,15,15,24,…
1296 ; AVX512DQ-NEXT:    vpunpcklbw {{.*#+}} ymm0 = ymm0[0,0,1,1,2,2,3,3,4,4,5,5,6,6,7,7,16,16,17,17,18,…
1297 ; AVX512DQ-NEXT:    vpmullw {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1298 ; AVX512DQ-NEXT:    vpand %ymm2, %ymm0, %ymm0
1299 ; AVX512DQ-NEXT:    vpackuswb %ymm1, %ymm0, %ymm0
1304 …ymm0[0],zero,ymm0[1],zero,ymm0[2],zero,ymm0[3],zero,ymm0[4],zero,ymm0[5],zero,ymm0[6],zero,ymm0[7]…
1306 ; AVX512BW-NEXT:    vpmovwb %zmm0, %ymm0
1311 ; AVX512DQVL-NEXT:    vpunpckhbw {{.*#+}} ymm1 = ymm0[8,8,9,9,10,10,11,11,12,12,13,13,14,14,15,15,2…
1315 ; AVX512DQVL-NEXT:    vpunpcklbw {{.*#+}} ymm0 = ymm0[0,0,1,1,2,2,3,3,4,4,5,5,6,6,7,7,16,16,17,17,1…
1316 ; AVX512DQVL-NEXT:    vpmullw {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1317 ; AVX512DQVL-NEXT:    vpand %ymm2, %ymm0, %ymm0
1318 ; AVX512DQVL-NEXT:    vpackuswb %ymm1, %ymm0, %ymm0
1323 …ymm0[0],zero,ymm0[1],zero,ymm0[2],zero,ymm0[3],zero,ymm0[4],zero,ymm0[5],zero,ymm0[6],zero,ymm0[7]…
1325 ; AVX512BWVL-NEXT:    vpmovwb %zmm0, %ymm0
1330 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm1
1348 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm1, %ymm0, %ymm0
1353 ; X86-AVX2-NEXT:    vpunpckhbw {{.*#+}} ymm1 = ymm0[8,8,9,9,10,10,11,11,12,12,13,13,14,14,15,15,24,…
1357 ; X86-AVX2-NEXT:    vpunpcklbw {{.*#+}} ymm0 = ymm0[0,0,1,1,2,2,3,3,4,4,5,5,6,6,7,7,16,16,17,17,18,…
1358 ; X86-AVX2-NEXT:    vpmullw {{\.?LCPI[0-9]+_[0-9]+}}, %ymm0, %ymm0
1359 ; X86-AVX2-NEXT:    vpand %ymm2, %ymm0, %ymm0
1360 ; X86-AVX2-NEXT:    vpackuswb %ymm1, %ymm0, %ymm0
1374 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm0
1376 ; AVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
1381 ; AVX2-NEXT:    vpsllq $7, %ymm0, %ymm0
1387 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm0
1389 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
1394 ; XOPAVX2-NEXT:    vpsllq $7, %ymm0, %ymm0
1399 ; AVX512-NEXT:    vpsllq $7, %ymm0, %ymm0
1404 ; AVX512VL-NEXT:    vpsllq $7, %ymm0, %ymm0
1410 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm0
1412 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
1417 ; X86-AVX2-NEXT:    vpsllq $7, %ymm0, %ymm0
1427 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm0
1429 ; AVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
1434 ; AVX2-NEXT:    vpslld $5, %ymm0, %ymm0
1440 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm0
1442 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
1447 ; XOPAVX2-NEXT:    vpslld $5, %ymm0, %ymm0
1452 ; AVX512-NEXT:    vpslld $5, %ymm0, %ymm0
1457 ; AVX512VL-NEXT:    vpslld $5, %ymm0, %ymm0
1463 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm0
1465 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
1470 ; X86-AVX2-NEXT:    vpslld $5, %ymm0, %ymm0
1480 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm0
1482 ; AVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
1487 ; AVX2-NEXT:    vpsllw $3, %ymm0, %ymm0
1493 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm0
1495 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
1500 ; XOPAVX2-NEXT:    vpsllw $3, %ymm0, %ymm0
1505 ; AVX512-NEXT:    vpsllw $3, %ymm0, %ymm0
1510 ; AVX512VL-NEXT:    vpsllw $3, %ymm0, %ymm0
1516 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm0
1518 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
1523 ; X86-AVX2-NEXT:    vpsllw $3, %ymm0, %ymm0
1532 ; AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm1
1538 ; AVX1-NEXT:    vinsertf128 $1, %xmm1, %ymm0, %ymm0
1543 ; AVX2-NEXT:    vpsllw $3, %ymm0, %ymm0
1544 ; AVX2-NEXT:    vpand {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1549 ; XOPAVX1-NEXT:    vextractf128 $1, %ymm0, %xmm1
1553 ; XOPAVX1-NEXT:    vinsertf128 $1, %xmm1, %ymm0, %ymm0
1558 ; XOPAVX2-NEXT:    vpsllw $3, %ymm0, %ymm0
1559 ; XOPAVX2-NEXT:    vpand {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1564 ; AVX512-NEXT:    vpsllw $3, %ymm0, %ymm0
1565 ; AVX512-NEXT:    vpand {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1570 ; AVX512VL-NEXT:    vpsllw $3, %ymm0, %ymm0
1571 ; AVX512VL-NEXT:    vpand {{\.?LCPI[0-9]+_[0-9]+}}(%rip), %ymm0, %ymm0
1576 ; X86-AVX1-NEXT:    vextractf128 $1, %ymm0, %xmm1
1582 ; X86-AVX1-NEXT:    vinsertf128 $1, %xmm1, %ymm0, %ymm0
1587 ; X86-AVX2-NEXT:    vpsllw $3, %ymm0, %ymm0
1588 ; X86-AVX2-NEXT:    vpand {{\.?LCPI[0-9]+_[0-9]+}}, %ymm0, %ymm0
1602 ; AVX1-NEXT:    vshufps {{.*#+}} ymm0 = ymm1[0,2],ymm0[0,2],ymm1[4,6],ymm0[4,6]
1603 ; AVX1-NEXT:    vpermilps {{.*#+}} ymm0 = ymm0[0,2,1,3,4,6,5,7]
1608 ; AVX2-NEXT:    vpsllq $32, %ymm0, %ymm0
1614 ; XOPAVX1-NEXT:    vshufps {{.*#+}} ymm0 = ymm1[0,2],ymm0[0,2],ymm1[4,6],ymm0[4,6]
1615 ; XOPAVX1-NEXT:    vpermilps {{.*#+}} ymm0 = ymm0[0,2,1,3,4,6,5,7]
1620 ; XOPAVX2-NEXT:    vpsllq $32, %ymm0, %ymm0
1625 ; AVX512-NEXT:    vpsllq $32, %ymm0, %ymm0
1630 ; AVX512VL-NEXT:    vpsllq $32, %ymm0, %ymm0
1636 ; X86-AVX1-NEXT:    vshufps {{.*#+}} ymm0 = ymm1[0,2],ymm0[0,2],ymm1[4,6],ymm0[4,6]
1637 ; X86-AVX1-NEXT:    vpermilps {{.*#+}} ymm0 = ymm0[0,2,1,3,4,6,5,7]
1642 ; X86-AVX2-NEXT:    vpsllq $32, %ymm0, %ymm0