25584   SDValue StoredVal = Store->getValue();  in splitVectorStore()  local
25585   assert((StoredVal.getValueType().is256BitVector() ||  in splitVectorStore()
25586           StoredVal.getValueType().is512BitVector()) &&  in splitVectorStore()
25599   std::tie(Value0, Value1) = splitVector(StoredVal, DAG, DL);  in splitVectorStore()
25619   SDValue StoredVal = Store->getValue();  in scalarizeVectorStore()  local
25621          StoredVal.getValueType().is128BitVector() && "Expecting 128-bit op");  in scalarizeVectorStore()
25622   StoredVal = DAG.getBitcast(StoreVT, StoredVal);  in scalarizeVectorStore()
25640     SDValue Scl = DAG.getNode(ISD::EXTRACT_VECTOR_ELT, DL, StoreSVT, StoredVal,  in scalarizeVectorStore()
25655   SDValue StoredVal = St->getValue();  in LowerStore()  local
25658   if (StoredVal.getValueType().isVector() &&  in LowerStore()
25659       StoredVal.getValueType().getVectorElementType() == MVT::i1) {  in LowerStore()
25660     unsigned NumElts = StoredVal.getValueType().getVectorNumElements();  in LowerStore()
25667     StoredVal = DAG.getNode(ISD::INSERT_SUBVECTOR, dl, MVT::v16i1,  in LowerStore()
25668                             DAG.getUNDEF(MVT::v16i1), StoredVal,  in LowerStore()
25670     StoredVal = DAG.getBitcast(MVT::i16, StoredVal);  in LowerStore()
25671     StoredVal = DAG.getNode(ISD::TRUNCATE, dl, MVT::i8, StoredVal);  in LowerStore()
25674       StoredVal = DAG.getZeroExtendInReg(  in LowerStore()
25675           StoredVal, dl, EVT::getIntegerVT(*DAG.getContext(), NumElts));  in LowerStore()
25677     return DAG.getStore(St->getChain(), dl, StoredVal, St->getBasePtr(),  in LowerStore()
25689   MVT StoreVT = StoredVal.getSimpleValueType();  in LowerStore()
25694     if (StoredVal.hasOneUse() &&  in LowerStore()
25695         collectConcatOps(StoredVal.getNode(), CatOps, DAG))  in LowerStore()
25710   StoredVal = DAG.getNode(ISD::CONCAT_VECTORS, dl, WideVT, StoredVal,  in LowerStore()
25718     StoredVal = DAG.getBitcast(CastVT, StoredVal);  in LowerStore()
25719     StoredVal = DAG.getNode(ISD::EXTRACT_VECTOR_ELT, dl, StVT, StoredVal,  in LowerStore()
25722     return DAG.getStore(St->getChain(), dl, StoredVal, St->getBasePtr(),  in LowerStore()
25728   SDValue Ops[] = {St->getChain(), StoredVal, St->getBasePtr()};  in LowerStore()
49352   SDValue StoredVal = St->getValue();  in combineStore()  local
49353   EVT VT = StoredVal.getValueType();  in combineStore()
49361     StoredVal = DAG.getBitcast(NewVT, StoredVal);  in combineStore()
49363     return DAG.getStore(St->getChain(), dl, StoredVal, St->getBasePtr(),  in combineStore()
49371       StoredVal.getOpcode() == ISD::SCALAR_TO_VECTOR &&  in combineStore()
49372       StoredVal.getOperand(0).getValueType() == MVT::i8) {  in combineStore()
49373     SDValue Val = StoredVal.getOperand(0);  in combineStore()
49388     Ops[0] = StoredVal;  in combineStore()
49389     StoredVal = DAG.getNode(ISD::CONCAT_VECTORS, dl, MVT::v8i1, Ops);  in combineStore()
49390     return DAG.getStore(St->getChain(), dl, StoredVal, St->getBasePtr(),  in combineStore()
49398       ISD::isBuildVectorOfConstantSDNodes(StoredVal.getNode())) {  in combineStore()
49402                                       StoredVal->ops().slice(0, 32));  in combineStore()
49405                                       StoredVal->ops().slice(32, 32));  in combineStore()
49423     StoredVal = combinevXi1ConstantToInteger(StoredVal, DAG);  in combineStore()
49424     return DAG.getStore(St->getChain(), dl, StoredVal, St->getBasePtr(),  in combineStore()
49480       (StoredVal.getOpcode() == X86ISD::VTRUNCUS ||  in combineStore()
49481        StoredVal.getOpcode() == X86ISD::VTRUNCS) &&  in combineStore()
49482       StoredVal.hasOneUse() &&  in combineStore()
49483       TLI.isTruncStoreLegal(StoredVal.getOperand(0).getValueType(), VT)) {  in combineStore()
49484     bool IsSigned = StoredVal.getOpcode() == X86ISD::VTRUNCS;  in combineStore()
49486                            dl, StoredVal.getOperand(0), St->getBasePtr(),  in combineStore()
49502     if (SDValue Extract = IsExtractedElement(StoredVal)) {  in combineStore()
49557       return DAG.getStore(St->getChain(), dl, StoredVal, Cast,  in combineStore()
49629   SDValue StoredVal = N->getOperand(1);  in combineVEXTRACT_STORE()  local
49630   MVT VT = StoredVal.getSimpleValueType();  in combineVEXTRACT_STORE()
49638   if (TLI.SimplifyDemandedVectorElts(StoredVal, DemandedElts, DCI)) {  in combineVEXTRACT_STORE()