Lines Matching refs:is256BitVector
4098 else if (RegVT.is256BitVector()) in LowerFormalArguments()
5703 if ((VT.is256BitVector() || VT.is512BitVector()) && !Load->hasOneUse()) { in shouldReduceLoadWidth()
6331 assert((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector() || in getZeroVector()
6410 assert((Vec.getValueType().is256BitVector() || in extract128BitVector()
6591 assert((Op.getOperand(0).getValueType().is256BitVector() || in splitVectorIntUnary()
6593 (VT.is256BitVector() || VT.is512BitVector()) && "Unsupported VT!"); in splitVectorIntUnary()
6608 assert((VT.is256BitVector() || VT.is512BitVector()) && "Unsupported VT!"); in splitVectorIntBinary()
6909 assert((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector()) && in getOnesVector()
9336 VT.is256BitVector() && !Subtarget.hasInt256()) in EltsFromConsecutiveLoads()
9368 if (VT.is256BitVector() || VT.is512BitVector()) { in EltsFromConsecutiveLoads()
9386 ((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector()))) { in EltsFromConsecutiveLoads()
9410 (VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector())) { in EltsFromConsecutiveLoads()
9564 assert((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector()) && in lowerBuildVectorAsBroadcast()
10032 assert(VT.is256BitVector() && "Only use for matching partial 256-bit h-ops"); in isHorizontalBinOpPart()
10146 assert(VT.is256BitVector() && VT == V1.getSimpleValueType() && in ExpandHorizontalBinOp()
10390 unsigned Num128BitChunks = VT.is256BitVector() ? 2 : 1; in isHopBuildVector()
10490 if (VT.is256BitVector() && DemandedElts.lshr(HalfNumElts) == 0) { in getHopForBuildVector()
10526 if (!Subtarget.hasAVX() || !VT.is256BitVector()) in LowerToHorizontalOp()
11092 if ((VT.is256BitVector() || VT.is512BitVector()) && in LowerBUILD_VECTOR()
11197 assert((VT.is128BitVector() || VT.is256BitVector() || in LowerBUILD_VECTOR()
11442 assert((ResVT.is256BitVector() || in LowerAVXCONCAT_VECTORS()
11581 assert((VT.is256BitVector() && Op.getNumOperands() == 2) || in LowerCONCAT_VECTORS()
12063 (Subtarget.hasAVX2() && VT.is256BitVector()) || in lowerShuffleWithPSHUFB()
12422 assert((VT.is128BitVector() || VT.is256BitVector()) && in lowerShuffleAsVTRUNC()
13073 (VT.is256BitVector() && !Subtarget.hasAVX2()) || in lowerShuffleAsByteRotateAndPermute()
13539 assert((Subtarget.hasVLX() || (!VT.is128BitVector() && !VT.is256BitVector())) in lowerShuffleAsVALIGN()
14412 if (!WideVT.is256BitVector()) in lowerShuffleOfExtractsAsVperm()
14585 if (!VT.is256BitVector() && !VT.is512BitVector()) in lowerShuffleAsBroadcast()
16875 assert(VT.is256BitVector() && "Only for 256-bit vector shuffles!"); in lowerShuffleAsLanePermuteAndShuffle()
17318 assert((VT.is256BitVector() || VT.is512BitVector()) && in lowerShuffleWithUndefHalf()
17611 if (Subtarget.hasAVX2() && VT.is256BitVector()) { in lowerShuffleAsRepeatedMaskAndLanePermute()
19493 if (VT.is256BitVector()) in lowerVECTOR_SHUFFLE()
19770 if (VecVT.is256BitVector() || VecVT.is512BitVector()) { in LowerEXTRACT_VECTOR_ELT()
19976 if (VT.is256BitVector() || VT.is512BitVector()) { in LowerINSERT_VECTOR_ELT()
19979 if (VT.is256BitVector() && IdxVal == 0) { in LowerINSERT_VECTOR_ELT()
22005 if (SrcVT.is256BitVector() && DstVT.is128BitVector()) { in truncateVectorWithPACK()
22027 if (DstVT.is256BitVector()) in truncateVectorWithPACK()
22075 assert((InVT.is256BitVector() || InVT.is128BitVector()) && in LowerTruncateVecI1()
22202 assert(VT.is128BitVector() && InVT.is256BitVector() && "Unexpected types!"); in LowerTRUNCATE()
24504 if (VT.is256BitVector() && !Subtarget.hasInt256()) in LowerVSETCC()
25434 !(VT.is256BitVector() && Subtarget.hasAVX()) && in LowerEXTEND_VECTOR_INREG()
25471 assert(VT.is256BitVector() && "256-bit vector expected"); in LowerEXTEND_VECTOR_INREG()
25585 assert((StoredVal.getValueType().is256BitVector() || in splitVectorStore()
25690 if (StoreVT.is256BitVector() || in LowerStore()
28681 assert((NewVT.is256BitVector() || NewVT.is512BitVector()) && in LowerVectorCTLZ_AVX512CDI()
28787 if (VT.is256BitVector() && !Subtarget.hasInt256()) in LowerVectorCTLZ()
28867 assert(Op.getSimpleValueType().is256BitVector() && in lowerAddSub()
28881 (VT.is256BitVector() && !Subtarget.hasInt256())) { in LowerADDSAT_SUBSAT()
28967 if (VT.is256BitVector() && !Subtarget.hasInt256()) { in LowerABS()
28985 if (VT.is256BitVector() && !Subtarget.hasInt256()) in LowerAVG()
29000 if (VT.is256BitVector() && !Subtarget.hasInt256()) in LowerMINMAX()
29016 if (VT.is256BitVector() && !Subtarget.hasInt256()) in LowerMUL()
29242 if (VT.is256BitVector() && !Subtarget.hasInt256()) in LowerMULH()
29602 if (!(VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector())) in supportedVectorShiftWithImm()
29613 (VT.is256BitVector() && Subtarget.hasInt256()); in supportedVectorShiftWithImm()
29632 if (!(VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector())) in supportedVectorVarShift()
29646 bool LShift = VT.is128BitVector() || VT.is256BitVector(); in supportedVectorVarShift()
30379 if (VT.is256BitVector()) in LowerShift()
30443 if ((VT.is256BitVector() && ((Subtarget.hasXOP() && EltSizeInBits < 16) || in LowerFunnelShift()
30610 if (VT.is256BitVector() && (Subtarget.hasXOP() || !Subtarget.hasAVX2())) in LowerRotate()
31409 assert((VT.is512BitVector() || VT.is256BitVector() || VT.is128BitVector()) && in LowerVectorCTPOP()
31428 if (VT.is256BitVector() && !Subtarget.hasInt256()) in LowerVectorCTPOP()
31476 if (VT.is256BitVector()) in LowerBITREVERSE_XOP()
37278 (MaskVT.is256BitVector() && Subtarget.hasInt256()))) { in matchUnaryShuffle()
37344 if (MaskVT.is256BitVector() && AllowFloatDomain) { in matchUnaryShuffle()
37414 if (Subtarget.hasAVX2() && MaskVT.is256BitVector()) { in matchUnaryPermuteShuffle()
37468 (MaskVT.is256BitVector() && Subtarget.hasAVX2()) || in matchUnaryPermuteShuffle()
37503 (MaskVT.is256BitVector() && Subtarget.hasAVX2()) || in matchUnaryPermuteShuffle()
37595 (MaskVT.is256BitVector() && 32 <= EltSizeInBits && Subtarget.hasAVX()) || in matchBinaryShuffle()
37596 (MaskVT.is256BitVector() && Subtarget.hasAVX2()) || in matchBinaryShuffle()
37601 if (MaskVT.is256BitVector() && !Subtarget.hasAVX2()) in matchBinaryShuffle()
37710 (MaskVT.is256BitVector() && Subtarget.hasVLX()) || in matchBinaryPermuteShuffle()
37728 (MaskVT.is256BitVector() && Subtarget.hasAVX2()) || in matchBinaryPermuteShuffle()
37741 (Subtarget.hasAVX() && MaskVT.is256BitVector()))) || in matchBinaryPermuteShuffle()
37789 (MaskVT.is256BitVector() && Subtarget.hasAVX()) || in matchBinaryPermuteShuffle()
37805 (MaskVT.is256BitVector() && Subtarget.hasAVX()) || in matchBinaryPermuteShuffle()
37925 (RootVT.is256BitVector() && !Subtarget.hasAVX2()); in combineX86ShuffleChain()
38041 if (RootVT.is256BitVector() && NumBaseMaskElts == 2) { in combineX86ShuffleChain()
38150 (!MaskVT.is256BitVector() || Subtarget.hasAVX2()); in combineX86ShuffleChain()
38322 ((RootVT.is256BitVector() && Subtarget.useAVX512Regs()) || in combineX86ShuffleChain()
38527 (RootVT.is256BitVector() && Subtarget.hasAVX2()) || in combineX86ShuffleChain()
40707 if (!VT.is128BitVector() && !VT.is256BitVector()) in combineShuffleOfConcatUndef()
40748 if (!VT.is256BitVector() && !VT.is512BitVector()) in narrowShuffle()
41362 if ((VT.is256BitVector() || VT.is512BitVector()) && in SimplifyDemandedVectorEltsForTargetNode()
41953 if (SrcVT.is256BitVector() && in SimplifyDemandedBitsForTargetNode()
43494 if ((VecVT.is256BitVector() || VecVT.is512BitVector()) && in combineExtractWithShuffle()
44276 if (!VT.is256BitVector()) in narrowVectorSelect()
45562 assert((VecVT.is128BitVector() || VecVT.is256BitVector()) && in combineSetCCMOVMSK()
45607 if (VecVT.is256BitVector() && NumElts <= CmpBits && IsOneUse) { in combineSetCCMOVMSK()
46761 ShuffleOps[0].getValueType().is256BitVector() && in combineHorizOpWithShuffle()
46835 if (VT.is256BitVector() && Subtarget.hasInt256()) { in combineHorizOpWithShuffle()
46843 [](SDValue Op) { return Op.getValueType().is256BitVector(); }) && in combineHorizOpWithShuffle()
46845 [](SDValue Op) { return Op.getValueType().is256BitVector(); }) && in combineHorizOpWithShuffle()
47329 if (!VT.is128BitVector() && !VT.is256BitVector() && !VT.is512BitVector()) in combineAndNotIntoANDNP()
48190 (VT.is256BitVector() && Subtarget.hasInt256()))) in combineLogicBlendIntoPBLENDV()
48224 MVT BlendVT = VT.is256BitVector() ? MVT::v32i8 : MVT::v16i8; in combineLogicBlendIntoPBLENDV()
48974 if (RegVT.is256BitVector() && !DCI.isBeforeLegalizeOps() && in combineLoad()
49025 (RegVT.is128BitVector() || RegVT.is256BitVector())) { in combineLoad()
49432 if (VT.is256BitVector() && StVT == VT && in combineStore()
49448 if (VT.is256BitVector() || VT.is512BitVector()) { in combineStore()
49678 assert((VT.is128BitVector() || VT.is256BitVector()) && in isHorizontalBinOp()
49686 Op.getOperand(0).getValueType().is256BitVector() && in isHorizontalBinOp()
50264 !(!Subtarget.useAVX512Regs() && VT.is256BitVector() && in combineVectorSignBitsTruncation()
50380 !(Subtarget.hasAVX512() && !Subtarget.hasBWI() && VT.is256BitVector()) && in combinePMULH()
53831 (VT.is256BitVector() || (VT.is512BitVector() && Subtarget.hasAVX512()))) { in combineConcatVectorOps()
53886 if (VT.is256BitVector() && Ops.size() == 2) { in combineConcatVectorOps()
53895 if (SrcVT0.is256BitVector() && SrcVT1.is256BitVector() && in combineConcatVectorOps()
53963 if (!IsSplat && NumOps == 2 && VT.is256BitVector() && in combineConcatVectorOps()
53987 if (!IsSplat && ((VT.is256BitVector() && Subtarget.hasInt256()) || in combineConcatVectorOps()
54049 if (((VT.is256BitVector() && Subtarget.hasInt256()) || in combineConcatVectorOps()
54090 if (!IsSplat && VT.is256BitVector() && in combineConcatVectorOps()
54102 ((VT.is256BitVector() && Subtarget.hasInt256()) || in combineConcatVectorOps()
54114 if (!IsSplat && VT.is256BitVector() && Ops.size() == 2 && in combineConcatVectorOps()
54339 if (!SelCondVT.is256BitVector() && !SelCondVT.is512BitVector()) in narrowExtractedVectorSelect()
54344 assert((SelVT.is256BitVector() || SelVT.is512BitVector()) && in narrowExtractedVectorSelect()
54532 InVec.getOperand(0).getValueType().is256BitVector() && in combineEXTRACT_SUBVECTOR()
54533 InVec.getOperand(1).getValueType().is256BitVector() && in combineEXTRACT_SUBVECTOR()
54534 InVec.getOperand(2).getValueType().is256BitVector()) { in combineEXTRACT_SUBVECTOR()
54542 (VT.is128BitVector() || VT.is256BitVector())) { in combineEXTRACT_SUBVECTOR()
54550 (VT.is128BitVector() || VT.is256BitVector())) { in combineEXTRACT_SUBVECTOR()