Lines Matching refs:is256BitVector

3683         else if (RegVT.is256BitVector())  in LowerFormalArguments()
5249 if ((VT.is256BitVector() || VT.is512BitVector()) && !Load->hasOneUse()) { in shouldReduceLoadWidth()
5859 assert((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector() || in getZeroVector()
5915 assert((Vec.getValueType().is256BitVector() || in extract128BitVector()
6051 assert((Op.getOperand(0).getValueType().is256BitVector() || in splitVectorIntUnary()
6053 (VT.is256BitVector() || VT.is512BitVector()) && "Unsupported VT!"); in splitVectorIntUnary()
6079 assert((VT.is256BitVector() || VT.is512BitVector()) && "Unsupported VT!"); in splitVectorIntBinary()
6323 assert((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector()) && in getOnesVector()
8644 VT.is256BitVector() && !Subtarget.hasInt256()) in EltsFromConsecutiveLoads()
8676 if (VT.is256BitVector() || VT.is512BitVector()) { in EltsFromConsecutiveLoads()
8693 ((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector()))) { in EltsFromConsecutiveLoads()
8717 (VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector())) { in EltsFromConsecutiveLoads()
8858 assert((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector()) && in lowerBuildVectorAsBroadcast()
9321 assert(VT.is256BitVector() && "Only use for matching partial 256-bit h-ops"); in isHorizontalBinOpPart()
9435 assert(VT.is256BitVector() && VT == V1.getSimpleValueType() && in ExpandHorizontalBinOp()
9674 unsigned Num128BitChunks = VT.is256BitVector() ? 2 : 1; in isHopBuildVector()
9774 if (VT.is256BitVector() && DemandedElts.lshr(HalfNumElts) == 0) { in getHopForBuildVector()
9810 if (!Subtarget.hasAVX() || !VT.is256BitVector()) in LowerToHorizontalOp()
10376 if ((VT.is256BitVector() || VT.is512BitVector()) && in LowerBUILD_VECTOR()
10480 assert((VT.is128BitVector() || VT.is256BitVector() || in LowerBUILD_VECTOR()
10724 assert((ResVT.is256BitVector() || in LowerAVXCONCAT_VECTORS()
10863 assert((VT.is256BitVector() && Op.getNumOperands() == 2) || in LowerCONCAT_VECTORS()
11352 (Subtarget.hasAVX2() && VT.is256BitVector()) || in lowerShuffleWithPSHUFB()
11711 assert((VT.is128BitVector() || VT.is256BitVector()) && in lowerShuffleAsVTRUNC()
12351 (VT.is256BitVector() && !Subtarget.hasAVX2()) || in lowerShuffleAsByteRotateAndPermute()
12777 assert((Subtarget.hasVLX() || (!VT.is128BitVector() && !VT.is256BitVector())) in lowerShuffleAsVALIGN()
13631 if (!WideVT.is256BitVector()) in lowerShuffleOfExtractsAsVperm()
13804 if (!VT.is256BitVector() && !VT.is512BitVector()) in lowerShuffleAsBroadcast()
16023 assert(VT.is256BitVector() && "Only for 256-bit vector shuffles!"); in lowerShuffleAsLanePermuteAndShuffle()
16473 assert((VT.is256BitVector() || VT.is512BitVector()) && in lowerShuffleWithUndefHalf()
16657 int SubLaneScale = Subtarget.hasAVX2() && VT.is256BitVector() ? 2 : 1; in lowerShuffleAsRepeatedMaskAndLanePermute()
18558 if (VT.is256BitVector()) in lowerVECTOR_SHUFFLE()
18828 if (VecVT.is256BitVector() || VecVT.is512BitVector()) { in LowerEXTRACT_VECTOR_ELT()
19016 if (VT.is256BitVector() || VT.is512BitVector()) { in LowerINSERT_VECTOR_ELT()
19019 if (VT.is256BitVector() && IdxVal == 0) { in LowerINSERT_VECTOR_ELT()
21013 if (SrcVT.is256BitVector() && DstVT.is128BitVector()) { in truncateVectorWithPACK()
21035 if (DstVT.is256BitVector()) in truncateVectorWithPACK()
21083 assert((InVT.is256BitVector() || InVT.is128BitVector()) && in LowerTruncateVecI1()
21210 assert(VT.is128BitVector() && InVT.is256BitVector() && "Unexpected types!"); in LowerTRUNCATE()
23259 if (VT.is256BitVector() && !Subtarget.hasInt256()) in LowerVSETCC()
24164 !(VT.is256BitVector() && Subtarget.hasAVX()) && in LowerEXTEND_VECTOR_INREG()
24201 assert(VT.is256BitVector() && "256-bit vector expected"); in LowerEXTEND_VECTOR_INREG()
24315 assert((StoredVal.getValueType().is256BitVector() || in splitVectorStore()
24420 if (StoreVT.is256BitVector() || in LowerStore()
27313 assert((NewVT.is256BitVector() || NewVT.is512BitVector()) && in LowerVectorCTLZ_AVX512CDI()
27419 if (VT.is256BitVector() && !Subtarget.hasInt256()) in LowerVectorCTLZ()
27499 assert(Op.getSimpleValueType().is256BitVector() && in lowerAddSub()
27513 (VT.is256BitVector() && !Subtarget.hasInt256())) { in LowerADDSAT_SUBSAT()
27563 if (VT.is256BitVector() && !Subtarget.hasInt256()) { in LowerABS()
27580 if (VT.getScalarType() != MVT::i64 && VT.is256BitVector()) in LowerMINMAX()
27596 if (VT.is256BitVector() && !Subtarget.hasInt256()) in LowerMUL()
27833 if (VT.is256BitVector() && !Subtarget.hasInt256()) in LowerMULH()
28130 (VT.is256BitVector() && Subtarget.hasInt256()); in SupportedVectorShiftWithImm()
28160 bool LShift = VT.is128BitVector() || VT.is256BitVector(); in SupportedVectorVarShift()
28918 if (VT.is256BitVector()) in LowerShift()
28973 if (VT.is256BitVector()) in LowerRotate()
28989 if (VT.is256BitVector() && !Subtarget.hasAVX2()) in LowerRotate()
29634 assert((VT.is512BitVector() || VT.is256BitVector() || VT.is128BitVector()) && in LowerVectorCTPOP()
29653 if (VT.is256BitVector() && !Subtarget.hasInt256()) in LowerVectorCTPOP()
29701 if (VT.is256BitVector()) in LowerBITREVERSE_XOP()
35222 (MaskVT.is256BitVector() && Subtarget.hasInt256()))) { in matchUnaryShuffle()
35287 if (MaskVT.is256BitVector() && AllowFloatDomain) { in matchUnaryShuffle()
35353 if (Subtarget.hasAVX2() && MaskVT.is256BitVector()) { in matchUnaryPermuteShuffle()
35407 (MaskVT.is256BitVector() && Subtarget.hasAVX2()) || in matchUnaryPermuteShuffle()
35442 (MaskVT.is256BitVector() && Subtarget.hasAVX2()) || in matchUnaryPermuteShuffle()
35524 (MaskVT.is256BitVector() && 32 <= EltSizeInBits && Subtarget.hasAVX()) || in matchBinaryShuffle()
35525 (MaskVT.is256BitVector() && Subtarget.hasAVX2()) || in matchBinaryShuffle()
35530 if (MaskVT.is256BitVector() && !Subtarget.hasAVX2()) in matchBinaryShuffle()
35590 (MaskVT.is256BitVector() && Subtarget.hasVLX()) || in matchBinaryPermuteShuffle()
35608 (MaskVT.is256BitVector() && Subtarget.hasAVX2()) || in matchBinaryPermuteShuffle()
35621 (Subtarget.hasAVX() && MaskVT.is256BitVector()))) || in matchBinaryPermuteShuffle()
35669 (MaskVT.is256BitVector() && Subtarget.hasAVX()) || in matchBinaryPermuteShuffle()
35685 (MaskVT.is256BitVector() && Subtarget.hasAVX()) || in matchBinaryPermuteShuffle()
35802 (RootVT.is256BitVector() && !Subtarget.hasAVX2()); in combineX86ShuffleChain()
35911 if (RootVT.is256BitVector() && NumBaseMaskElts == 2) { in combineX86ShuffleChain()
36020 (!MaskVT.is256BitVector() || Subtarget.hasAVX2()); in combineX86ShuffleChain()
36194 ((RootVT.is256BitVector() && Subtarget.useAVX512Regs()) || in combineX86ShuffleChain()
36395 (RootVT.is256BitVector() && Subtarget.hasAVX2()) || in combineX86ShuffleChain()
38462 if (!VT.is128BitVector() && !VT.is256BitVector()) in combineShuffleOfConcatUndef()
38503 if (!VT.is256BitVector() && !VT.is512BitVector()) in narrowShuffle()
38972 if ((VT.is256BitVector() || VT.is512BitVector()) && in SimplifyDemandedVectorEltsForTargetNode()
40901 if ((VecVT.is256BitVector() || VecVT.is512BitVector()) && in combineExtractWithShuffle()
41509 if (!VT.is256BitVector()) in narrowVectorSelect()
42739 assert((VecVT.is128BitVector() || VecVT.is256BitVector()) && in combineSetCCMOVMSK()
43815 BC0.getOperand(0).getValueType().is256BitVector() && in combineHorizOpWithShuffle()
43827 ShuffleOps[0].getValueType().is256BitVector() && in combineHorizOpWithShuffle()
43900 if (VT.is256BitVector() && Subtarget.hasInt256()) { in combineHorizOpWithShuffle()
43908 [](SDValue Op) { return Op.getValueType().is256BitVector(); }) && in combineHorizOpWithShuffle()
43910 [](SDValue Op) { return Op.getValueType().is256BitVector(); }) && in combineHorizOpWithShuffle()
44407 if (!VT.is128BitVector() && !VT.is256BitVector() && !VT.is512BitVector()) in combineANDXORWithAllOnesIntoANDNP()
45061 (VT.is256BitVector() && Subtarget.hasInt256()))) in combineLogicBlendIntoPBLENDV()
45095 MVT BlendVT = VT.is256BitVector() ? MVT::v32i8 : MVT::v16i8; in combineLogicBlendIntoPBLENDV()
45766 if (RegVT.is256BitVector() && !DCI.isBeforeLegalizeOps() && in combineLoad()
45817 (RegVT.is128BitVector() || RegVT.is256BitVector())) { in combineLoad()
46224 if (VT.is256BitVector() && StVT == VT && in combineStore()
46240 if (VT.is256BitVector() || VT.is512BitVector()) { in combineStore()
46470 assert((VT.is128BitVector() || VT.is256BitVector()) && in isHorizontalBinOp()
46478 Op.getOperand(0).getValueType().is256BitVector() && in isHorizontalBinOp()
46891 !(!Subtarget.useAVX512Regs() && VT.is256BitVector() && in combineVectorSignBitsTruncation()
50101 (VT.is256BitVector() || (VT.is512BitVector() && Subtarget.hasAVX512()))) { in combineConcatVectorOps()
50168 if (VT.is256BitVector() && Ops.size() == 2) { in combineConcatVectorOps()
50177 if (SrcVT0.is256BitVector() && SrcVT1.is256BitVector() && in combineConcatVectorOps()
50218 if (!IsSplat && NumOps == 2 && VT.is256BitVector() && in combineConcatVectorOps()
50286 if (((VT.is256BitVector() && Subtarget.hasInt256()) || in combineConcatVectorOps()
50327 if (!IsSplat && VT.is256BitVector() && in combineConcatVectorOps()
50339 ((VT.is256BitVector() && Subtarget.hasInt256()) || in combineConcatVectorOps()
50546 if (!SelCondVT.is256BitVector() && !SelCondVT.is512BitVector()) in narrowExtractedVectorSelect()
50551 assert((SelVT.is256BitVector() || SelVT.is512BitVector()) && in narrowExtractedVectorSelect()
50736 InVec.getOperand(0).getValueType().is256BitVector() && in combineExtractSubvector()
50737 InVec.getOperand(1).getValueType().is256BitVector() && in combineExtractSubvector()
50738 InVec.getOperand(2).getValueType().is256BitVector()) { in combineExtractSubvector()
50746 (VT.is128BitVector() || VT.is256BitVector())) { in combineExtractSubvector()