Lines Matching refs:is512BitVector

2582     if (LegalVT.getSimpleVT().is512BitVector())  in getSetCCResultType()
4096 else if (RegVT.is512BitVector()) in LowerFormalArguments()
5563 VT.is512BitVector(); in useVPTERNLOG()
5703 if ((VT.is256BitVector() || VT.is512BitVector()) && !Load->hasOneUse()) { in shouldReduceLoadWidth()
6331 assert((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector() || in getZeroVector()
6411 Vec.getValueType().is512BitVector()) && "Unexpected vector size!"); in extract128BitVector()
6418 assert(Vec.getValueType().is512BitVector() && "Unexpected vector size!"); in extract256BitVector()
6592 Op.getOperand(0).getValueType().is512BitVector()) && in splitVectorIntUnary()
6593 (VT.is256BitVector() || VT.is512BitVector()) && "Unsupported VT!"); in splitVectorIntUnary()
6608 assert((VT.is256BitVector() || VT.is512BitVector()) && "Unsupported VT!"); in splitVectorIntBinary()
6692 bool Widen = !(Subtarget.hasVLX() || VT.is512BitVector()); in getAVX512Node()
6909 assert((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector()) && in getOnesVector()
9368 if (VT.is256BitVector() || VT.is512BitVector()) { in EltsFromConsecutiveLoads()
9386 ((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector()))) { in EltsFromConsecutiveLoads()
9410 (VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector())) { in EltsFromConsecutiveLoads()
9564 assert((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector()) && in lowerBuildVectorAsBroadcast()
9603 if (!VT.is512BitVector() && !Subtarget.hasVLX()) { in lowerBuildVectorAsBroadcast()
10363 if (VT.is512BitVector()) { in lowerToAddSubOrFMAddSub()
11092 if ((VT.is256BitVector() || VT.is512BitVector()) && in LowerBUILD_VECTOR()
11098 if (VT.is512BitVector() && in LowerBUILD_VECTOR()
11198 VT.is512BitVector()) && in LowerBUILD_VECTOR()
11443 ResVT.is512BitVector()) && "Value type must be 256-/512-bit wide"); in LowerAVXCONCAT_VECTORS()
11582 (VT.is512BitVector() && (Op.getNumOperands() == 2 || in LowerCONCAT_VECTORS()
12064 (Subtarget.hasBWI() && VT.is512BitVector())); in lowerShuffleWithPSHUFB()
12278 if (!VT.is512BitVector() && !Subtarget.hasVLX()) in matchShuffleAsVTRUNC()
12344 if (!Subtarget.hasVLX() && !SrcVT.is512BitVector()) { in getAVX512TruncNode()
13074 (VT.is512BitVector() && !Subtarget.hasBWI())) in lowerShuffleAsByteRotateAndPermute()
13493 assert((!VT.is512BitVector() || Subtarget.hasBWI()) && in lowerShuffleAsByteRotate()
14585 if (!VT.is256BitVector() && !VT.is512BitVector()) in lowerShuffleAsBroadcast()
16154 if (!VT.is512BitVector() && !Subtarget.hasVLX()) { in lowerShuffleWithPERMV()
17318 assert((VT.is256BitVector() || VT.is512BitVector()) && in lowerShuffleWithUndefHalf()
17391 if (Subtarget.hasAVX512() && VT.is512BitVector()) in lowerShuffleWithUndefHalf()
17410 if (Subtarget.hasAVX512() && VT.is512BitVector()) in lowerShuffleWithUndefHalf()
18485 assert(VT.is512BitVector() && "Unexpected vector size for 512bit shuffle."); in lowerV4X128Shuffle()
19496 if (VT.is512BitVector()) in lowerVECTOR_SHUFFLE()
19770 if (VecVT.is256BitVector() || VecVT.is512BitVector()) { in LowerEXTRACT_VECTOR_ELT()
19976 if (VT.is256BitVector() || VT.is512BitVector()) { in LowerINSERT_VECTOR_ELT()
21898 if (!ExtVT.is512BitVector() && !Subtarget.hasVLX()) { in LowerZERO_EXTEND_Mask()
22014 if (SrcVT.is512BitVector() && Subtarget.hasInt256()) { in truncateVectorWithPACK()
24299 Op0.getSimpleValueType().is512BitVector())) { in LowerVSETCC()
24509 if (VT.is512BitVector()) in LowerVSETCC()
25369 if (!ExtVT.is512BitVector() && !Subtarget.hasVLX()) { in LowerSIGN_EXTEND_Mask()
25435 !(VT.is512BitVector() && Subtarget.hasAVX512())) in LowerEXTEND_VECTOR_INREG()
25586 StoredVal.getValueType().is512BitVector()) && in splitVectorStore()
28681 assert((NewVT.is256BitVector() || NewVT.is512BitVector()) && in LowerVectorCTLZ_AVX512CDI()
28725 if (CurrVT.is512BitVector()) { in LowerVectorCTLZInRegLUT()
28751 if (CurrVT.is512BitVector()) { in LowerVectorCTLZInRegLUT()
28791 if (VT.is512BitVector() && !Subtarget.hasBWI()) in LowerVectorCTLZ()
29602 if (!(VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector())) in supportedVectorShiftWithImm()
29608 if (VT.is512BitVector() && Subtarget.useAVX512Regs() && in supportedVectorShiftWithImm()
29632 if (!(VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector())) in supportedVectorVarShift()
29643 (Subtarget.useAVX512Regs() || !VT.is512BitVector())) in supportedVectorVarShift()
29737 if (VT.is512BitVector()) { in LowerShiftByScalarImmediate()
30193 if (VT.is512BitVector()) { in LowerShift()
30445 (VT.is512BitVector() && !Subtarget.useBWIRegs() && in LowerFunnelShift()
30636 if (VT.is512BitVector() && !Subtarget.useBWIRegs()) in LowerRotate()
31409 assert((VT.is512BitVector() || VT.is256BitVector() || VT.is128BitVector()) && in LowerVectorCTPOP()
31432 if (VT.is512BitVector() && !Subtarget.hasBWI()) in LowerVectorCTPOP()
31506 if (Subtarget.hasXOP() && !VT.is512BitVector()) in LowerBITREVERSE()
31975 if (!Subtarget.hasVLX() && !VT.is512BitVector() && in LowerMSCATTER()
31976 !Index.getSimpleValueType().is512BitVector()) { in LowerMSCATTER()
32030 assert(Subtarget.hasAVX512() && !Subtarget.hasVLX() && !VT.is512BitVector() && in LowerMLOAD()
32078 assert(Subtarget.hasAVX512() && !Subtarget.hasVLX() && !VT.is512BitVector() && in LowerMSTORE()
32127 if (Subtarget.hasAVX512() && !Subtarget.hasVLX() && !VT.is512BitVector() && in LowerMGATHER()
32128 !IndexVT.is512BitVector()) { in LowerMGATHER()
34139 if (!Subtarget.hasVLX() && !VT.is512BitVector()) in shouldFoldSelectWithIdentityConstant()
37365 if (MaskVT.is512BitVector() && AllowFloatDomain) { in matchUnaryShuffle()
37420 if (Subtarget.hasAVX512() && MaskVT.is512BitVector()) { in matchUnaryPermuteShuffle()
37469 (MaskVT.is512BitVector() && Subtarget.hasBWI()))) { in matchUnaryPermuteShuffle()
37504 (MaskVT.is512BitVector() && Subtarget.hasAVX512()))) { in matchUnaryPermuteShuffle()
37507 if (0 < ShiftAmt && (!ShuffleVT.is512BitVector() || Subtarget.hasBWI() || in matchUnaryPermuteShuffle()
37597 (MaskVT.is512BitVector() && Subtarget.hasAVX512())) { in matchBinaryShuffle()
37711 (MaskVT.is512BitVector() && Subtarget.hasAVX512()))) { in matchBinaryPermuteShuffle()
37729 (MaskVT.is512BitVector() && Subtarget.hasBWI()))) { in matchBinaryPermuteShuffle()
37790 (MaskVT.is512BitVector() && Subtarget.hasAVX512()))) { in matchBinaryPermuteShuffle()
37806 (MaskVT.is512BitVector() && Subtarget.hasAVX512()))) { in matchBinaryPermuteShuffle()
37966 if (RootVT.is512BitVector() && in combineX86ShuffleChain()
38528 (RootVT.is512BitVector() && Subtarget.hasBWI()))) { in combineX86ShuffleChain()
40684 if (VT.is512BitVector()) in combineShuffleToAddSubOrFMAddSub()
40748 if (!VT.is256BitVector() && !VT.is512BitVector()) in narrowShuffle()
41362 if ((VT.is256BitVector() || VT.is512BitVector()) && in SimplifyDemandedVectorEltsForTargetNode()
41368 if (VT.is512BitVector() && DemandedElts.lshr(NumElts / 4) == 0) in SimplifyDemandedVectorEltsForTargetNode()
43494 if ((VecVT.is256BitVector() || VecVT.is512BitVector()) && in combineExtractWithShuffle()
44411 if (VT.is512BitVector()) in combineVSelectToBLENDV()
47329 if (!VT.is128BitVector() && !VT.is256BitVector() && !VT.is512BitVector()) in combineAndNotIntoANDNP()
47843 !(Subtarget.hasVLX() || SetccVT.is512BitVector())) in combineScalarAndWithMaskSetcc()
48787 if (!Subtarget.hasVLX() && !InVT.is512BitVector()) { in combineTruncateWithSat()
49448 if (VT.is256BitVector() || VT.is512BitVector()) { in combineStore()
50265 InVT.is512BitVector())) { in combineVectorSignBitsTruncation()
53831 (VT.is256BitVector() || (VT.is512BitVector() && Subtarget.hasAVX512()))) { in combineConcatVectorOps()
53988 (VT.is512BitVector() && Subtarget.useBWIRegs()))) { in combineConcatVectorOps()
53995 if (!IsSplat && NumOps == 2 && VT.is512BitVector()) { in combineConcatVectorOps()
54050 (VT.is512BitVector() && Subtarget.useAVX512Regs() && in combineConcatVectorOps()
54062 if (VT.is512BitVector() && Subtarget.useAVX512Regs() && in combineConcatVectorOps()
54075 if (!IsSplat && VT.is512BitVector()) { in combineConcatVectorOps()
54103 (VT.is512BitVector() && Subtarget.useBWIRegs())) && in combineConcatVectorOps()
54339 if (!SelCondVT.is256BitVector() && !SelCondVT.is512BitVector()) in narrowExtractedVectorSelect()
54344 assert((SelVT.is256BitVector() || SelVT.is512BitVector()) && in narrowExtractedVectorSelect()