1981     if (LegalVT.getSimpleVT().is512BitVector())  in getSetCCResultType()
3233         else if (RegVT.is512BitVector())  in LowerFormalArguments()
5296   assert((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector() ||  in getZeroVector()
5351           Vec.getValueType().is512BitVector()) && "Unexpected vector size!");  in extract128BitVector()
5358   assert(Vec.getValueType().is512BitVector() && "Unexpected vector size!");  in extract256BitVector()
5620   assert((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector()) &&  in getOnesVector()
7332       ((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector()))) {  in EltsFromConsecutiveLoads()
7442   assert((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector()) &&  in lowerBuildVectorAsBroadcast()
7454   if (Subtarget.hasCDI() && (VT.is512BitVector() || Subtarget.hasVLX())) {  in lowerBuildVectorAsBroadcast()
8222   if (VT.is512BitVector())  in lowerToAddSubOrFMAddSub()
8983                 VT.is512BitVector()) &&  in LowerBUILD_VECTOR()
9242           ResVT.is512BitVector()) && "Value type must be 256-/512-bit wide");  in LowerAVXCONCAT_VECTORS()
9425          (VT.is512BitVector() && (Op.getNumOperands() == 2 ||  in LowerCONCAT_VECTORS()
9842          (Subtarget.hasBWI() && VT.is512BitVector()));  in lowerVectorShuffleWithPSHUFB()
10100   if (!SrcVT.is512BitVector() && !Subtarget.hasVLX())  in lowerVectorShuffleWithVPMOV()
10581       (VT.is512BitVector() && !Subtarget.hasBWI()))  in lowerVectorShuffleAsByteRotateAndPermute()
10841     assert((!VT.is512BitVector() || Subtarget.hasBWI()) &&  in lowerVectorShuffleAsByteRotate()
11786     if (!VT.is256BitVector() && !VT.is512BitVector())  in lowerVectorShuffleAsBroadcast()
14270   assert((VT.is256BitVector() || VT.is512BitVector()) &&  in lowerVectorShuffleWithUndefHalf()
14368   if (VT.is512BitVector() && !(UndefUpper && NumUpperHalves == 0))  in lowerVectorShuffleWithUndefHalf()
15309   assert(VT.is512BitVector() && "Unexpected vector size for 512bit shuffle.");  in lowerV4X128VectorShuffle()
16147   if (VT.is512BitVector())  in lowerVectorShuffle()
16401   if (VecVT.is256BitVector() || VecVT.is512BitVector()) {  in LowerEXTRACT_VECTOR_ELT()
16562   if (VT.is256BitVector() || VT.is512BitVector()) {  in LowerINSERT_VECTOR_ELT()
18067   if (!ExtVT.is512BitVector() && !Subtarget.hasVLX()) {  in LowerZERO_EXTEND_Mask()
18184   if (SrcVT.is512BitVector() && Subtarget.hasInt256()) {  in truncateVectorWithPACK()
20244   if (!ExtVT.is512BitVector() && !Subtarget.hasVLX()) {  in LowerSIGN_EXTEND_Mask()
20310       !(VT.is512BitVector() && Subtarget.hasAVX512()))  in LowerEXTEND_VECTOR_INREG()
23261   assert(Op.getSimpleValueType().is512BitVector() &&  in Lower512IntUnary()
23290   assert((NewVT.is256BitVector() || NewVT.is512BitVector()) &&  in LowerVectorCTLZ_AVX512CDI()
23334   if (CurrVT.is512BitVector()) {  in LowerVectorCTLZInRegLUT()
23360     if (CurrVT.is512BitVector()) {  in LowerVectorCTLZInRegLUT()
23400   if (VT.is512BitVector() && !Subtarget.hasBWI())  in LowerVectorCTLZ()
23511   assert(VT.is512BitVector() && VT.isInteger() &&  in split512IntArith()
24077   if (VT.is512BitVector() && Subtarget.hasAVX512() &&  in SupportedVectorShiftWithImm()
24191       if (VT.is512BitVector()) {  in LowerScalarImmediateShift()
24726       if (VT.is512BitVector()) {  in LowerShift()
25537   assert((VT.is512BitVector() || VT.is256BitVector() || VT.is128BitVector()) &&  in LowerVectorCTPOP()
25560   if (VT.is512BitVector() && !Subtarget.hasBWI())  in LowerVectorCTPOP()
25634   if (Subtarget.hasXOP() && !VT.is512BitVector())  in LowerBITREVERSE()
25972   if (!Subtarget.hasVLX() && !VT.is512BitVector() &&  in LowerMSCATTER()
25973       !Index.getSimpleValueType().is512BitVector()) {  in LowerMSCATTER()
26011   assert(Subtarget.hasAVX512() && !Subtarget.hasVLX() && !VT.is512BitVector() &&  in LowerMLOAD()
26060   assert(Subtarget.hasAVX512() && !Subtarget.hasVLX() && !VT.is512BitVector() &&  in LowerMSTORE()
26109   if (Subtarget.hasAVX512() && !Subtarget.hasVLX() && !VT.is512BitVector() &&  in LowerMGATHER()
26110       !IndexVT.is512BitVector()) {  in LowerMGATHER()
30418   if (MaskVT.is512BitVector() && AllowFloatDomain) {  in matchUnaryVectorShuffle()
30482       if (Subtarget.hasAVX512() && MaskVT.is512BitVector()) {  in matchUnaryPermuteVectorShuffle()
30632       (MaskVT.is512BitVector() && Subtarget.hasAVX512())) {  in matchBinaryVectorShuffle()
30740        (MaskVT.is512BitVector() && Subtarget.hasAVX512()))) {  in matchBinaryPermuteVectorShuffle()
30752        (MaskVT.is512BitVector() && Subtarget.hasAVX512()))) {  in matchBinaryPermuteVectorShuffle()
31180        (RootVT.is512BitVector() && Subtarget.hasBWI()))) {  in combineX86ShuffleChain()
32173   if (VT.is512BitVector())  in combineShuffleToAddSubOrFMAddSub()
32946          N0->getOperand(0).getValueType().is512BitVector())) {  in combineBitcastvxi1()
34030   if (VT.is512BitVector())  in combineVSelectToBLENDV()
36006   if (!VT.is128BitVector() && !VT.is256BitVector() && !VT.is512BitVector())  in combineANDXORWithAllOnesIntoANDNP()
36958   if (SrcVT.is512BitVector() || Subtarget.hasVLX())  in isSATValidOnAVX512Subtarget()
39425       (VT.is512BitVector() && Subtarget.useAVX512Regs())) {  in combineToExtendVectorInReg()
40711   if (!VT.is128BitVector() && !VT.is256BitVector() && !VT.is512BitVector())  in combineIncDecVector()