13b62047bSLouis Dionne // -*- C++ -*-
23b62047bSLouis Dionne //===-- scan.pass.cpp -----------------------------------------------------===//
33b62047bSLouis Dionne //
43b62047bSLouis Dionne // Part of the LLVM Project, under the Apache License v2.0 with LLVM Exceptions.
53b62047bSLouis Dionne // See https://llvm.org/LICENSE.txt for license information.
63b62047bSLouis Dionne // SPDX-License-Identifier: Apache-2.0 WITH LLVM-exception
73b62047bSLouis Dionne //
83b62047bSLouis Dionne //===----------------------------------------------------------------------===//
93b62047bSLouis Dionne 
103b62047bSLouis Dionne #include "support/pstl_test_config.h"
113b62047bSLouis Dionne 
123b62047bSLouis Dionne #include <execution>
133b62047bSLouis Dionne #include <numeric>
143b62047bSLouis Dionne 
153b62047bSLouis Dionne #include "support/utils.h"
163b62047bSLouis Dionne 
173b62047bSLouis Dionne using namespace TestUtils;
183b62047bSLouis Dionne 
193b62047bSLouis Dionne // We provide the no execution policy versions of the exclusive_scan and inclusive_scan due checking correctness result of the versions with execution policies.
203b62047bSLouis Dionne //TODO: to add a macro for availability of ver implementations
213b62047bSLouis Dionne template <class InputIterator, class OutputIterator, class T>
223b62047bSLouis Dionne OutputIterator
233b62047bSLouis Dionne exclusive_scan_serial(InputIterator first, InputIterator last, OutputIterator result, T init)
243b62047bSLouis Dionne {
253b62047bSLouis Dionne     for (; first != last; ++first, ++result)
263b62047bSLouis Dionne     {
273b62047bSLouis Dionne         *result = init;
283b62047bSLouis Dionne         init = init + *first;
293b62047bSLouis Dionne     }
303b62047bSLouis Dionne     return result;
313b62047bSLouis Dionne }
323b62047bSLouis Dionne 
333b62047bSLouis Dionne template <class InputIterator, class OutputIterator, class T, class BinaryOperation>
343b62047bSLouis Dionne OutputIterator
353b62047bSLouis Dionne exclusive_scan_serial(InputIterator first, InputIterator last, OutputIterator result, T init, BinaryOperation binary_op)
363b62047bSLouis Dionne {
373b62047bSLouis Dionne     for (; first != last; ++first, ++result)
383b62047bSLouis Dionne     {
393b62047bSLouis Dionne         *result = init;
403b62047bSLouis Dionne         init = binary_op(init, *first);
413b62047bSLouis Dionne     }
423b62047bSLouis Dionne     return result;
433b62047bSLouis Dionne }
443b62047bSLouis Dionne 
453b62047bSLouis Dionne // Note: N4582 is missing the ", class T".  Issue was reported 2016-Apr-11 to [email protected]
463b62047bSLouis Dionne template <class InputIterator, class OutputIterator, class BinaryOperation, class T>
473b62047bSLouis Dionne OutputIterator
483b62047bSLouis Dionne inclusive_scan_serial(InputIterator first, InputIterator last, OutputIterator result, BinaryOperation binary_op, T init)
493b62047bSLouis Dionne {
503b62047bSLouis Dionne     for (; first != last; ++first, ++result)
513b62047bSLouis Dionne     {
523b62047bSLouis Dionne         init = binary_op(init, *first);
533b62047bSLouis Dionne         *result = init;
543b62047bSLouis Dionne     }
553b62047bSLouis Dionne     return result;
563b62047bSLouis Dionne }
573b62047bSLouis Dionne 
583b62047bSLouis Dionne template <class InputIterator, class OutputIterator, class BinaryOperation>
593b62047bSLouis Dionne OutputIterator
603b62047bSLouis Dionne inclusive_scan_serial(InputIterator first, InputIterator last, OutputIterator result, BinaryOperation binary_op)
613b62047bSLouis Dionne {
623b62047bSLouis Dionne     if (first != last)
633b62047bSLouis Dionne     {
643b62047bSLouis Dionne         auto tmp = *first;
653b62047bSLouis Dionne         *result = tmp;
663b62047bSLouis Dionne         return inclusive_scan_serial(++first, last, ++result, binary_op, tmp);
673b62047bSLouis Dionne     }
683b62047bSLouis Dionne     else
693b62047bSLouis Dionne     {
703b62047bSLouis Dionne         return result;
713b62047bSLouis Dionne     }
723b62047bSLouis Dionne }
733b62047bSLouis Dionne 
743b62047bSLouis Dionne template <class InputIterator, class OutputIterator>
753b62047bSLouis Dionne OutputIterator
763b62047bSLouis Dionne inclusive_scan_serial(InputIterator first, InputIterator last, OutputIterator result)
773b62047bSLouis Dionne {
783b62047bSLouis Dionne     typedef typename std::iterator_traits<InputIterator>::value_type input_type;
793b62047bSLouis Dionne     return inclusive_scan_serial(first, last, result, std::plus<input_type>());
803b62047bSLouis Dionne }
813b62047bSLouis Dionne 
823b62047bSLouis Dionne // Most of the framework required for testing inclusive and exclusive scan is identical,
833b62047bSLouis Dionne // so the tests for both are in this file.  Which is being tested is controlled by the global
843b62047bSLouis Dionne // flag inclusive, which is set to each alternative by main().
853b62047bSLouis Dionne static bool inclusive;
863b62047bSLouis Dionne 
873b62047bSLouis Dionne template <typename Iterator, typename Size, typename T>
883b62047bSLouis Dionne void
893b62047bSLouis Dionne check_and_reset(Iterator expected_first, Iterator out_first, Size n, T trash)
903b62047bSLouis Dionne {
913b62047bSLouis Dionne     EXPECT_EQ_N(expected_first, out_first, n,
923b62047bSLouis Dionne                 inclusive ? "wrong result from inclusive_scan" : "wrong result from exclusive_scan");
933b62047bSLouis Dionne     std::fill_n(out_first, n, trash);
943b62047bSLouis Dionne }
953b62047bSLouis Dionne 
963b62047bSLouis Dionne struct test_scan_with_plus
973b62047bSLouis Dionne {
983b62047bSLouis Dionne     template <typename Policy, typename Iterator1, typename Iterator2, typename Iterator3, typename Size, typename T>
993b62047bSLouis Dionne     void
1003b62047bSLouis Dionne     operator()(Policy&& exec, Iterator1 in_first, Iterator1 in_last, Iterator2 out_first, Iterator2 out_last,
101*3491119fSLouis Dionne                Iterator3 expected_first, Iterator3, Size n, T init, T trash)
1023b62047bSLouis Dionne     {
1033b62047bSLouis Dionne         using namespace std;
1043b62047bSLouis Dionne 
1053b62047bSLouis Dionne         auto orr1 = inclusive ? inclusive_scan_serial(in_first, in_last, expected_first)
1063b62047bSLouis Dionne                               : exclusive_scan_serial(in_first, in_last, expected_first, init);
107*3491119fSLouis Dionne         (void)orr1;
1083b62047bSLouis Dionne         auto orr = inclusive ? inclusive_scan(exec, in_first, in_last, out_first)
1093b62047bSLouis Dionne                              : exclusive_scan(exec, in_first, in_last, out_first, init);
1103b62047bSLouis Dionne         EXPECT_TRUE(out_last == orr,
1113b62047bSLouis Dionne                     inclusive ? "inclusive_scan returned wrong iterator" : "exclusive_scan returned wrong iterator");
1123b62047bSLouis Dionne 
1133b62047bSLouis Dionne         check_and_reset(expected_first, out_first, n, trash);
1143b62047bSLouis Dionne         fill(out_first, out_last, trash);
1153b62047bSLouis Dionne     }
1163b62047bSLouis Dionne };
1173b62047bSLouis Dionne 
1183b62047bSLouis Dionne template <typename T, typename Convert>
1193b62047bSLouis Dionne void
1203b62047bSLouis Dionne test_with_plus(T init, T trash, Convert convert)
1213b62047bSLouis Dionne {
1223b62047bSLouis Dionne     for (size_t n = 0; n <= 100000; n = n <= 16 ? n + 1 : size_t(3.1415 * n))
1233b62047bSLouis Dionne     {
1243b62047bSLouis Dionne         Sequence<T> in(n, convert);
1253b62047bSLouis Dionne         Sequence<T> expected(in);
1263b62047bSLouis Dionne         Sequence<T> out(n, [&](int32_t) { return trash; });
1273b62047bSLouis Dionne 
1283b62047bSLouis Dionne         invoke_on_all_policies(test_scan_with_plus(), in.begin(), in.end(), out.begin(), out.end(), expected.begin(),
1293b62047bSLouis Dionne                                expected.end(), in.size(), init, trash);
1303b62047bSLouis Dionne         invoke_on_all_policies(test_scan_with_plus(), in.cbegin(), in.cend(), out.begin(), out.end(), expected.begin(),
1313b62047bSLouis Dionne                                expected.end(), in.size(), init, trash);
1323b62047bSLouis Dionne     }
1333b62047bSLouis Dionne }
1343b62047bSLouis Dionne struct test_scan_with_binary_op
1353b62047bSLouis Dionne {
1363b62047bSLouis Dionne     template <typename Policy, typename Iterator1, typename Iterator2, typename Iterator3, typename Size, typename T,
1373b62047bSLouis Dionne               typename BinaryOp>
1383b62047bSLouis Dionne     typename std::enable_if<!TestUtils::isReverse<Iterator1>::value, void>::type
1393b62047bSLouis Dionne     operator()(Policy&& exec, Iterator1 in_first, Iterator1 in_last, Iterator2 out_first, Iterator2 out_last,
140*3491119fSLouis Dionne                Iterator3 expected_first, Iterator3, Size n, T init, BinaryOp binary_op, T trash)
1413b62047bSLouis Dionne     {
1423b62047bSLouis Dionne         using namespace std;
1433b62047bSLouis Dionne 
1443b62047bSLouis Dionne         auto orr1 = inclusive ? inclusive_scan_serial(in_first, in_last, expected_first, binary_op, init)
1453b62047bSLouis Dionne                               : exclusive_scan_serial(in_first, in_last, expected_first, init, binary_op);
146*3491119fSLouis Dionne         (void)orr1;
1473b62047bSLouis Dionne         auto orr = inclusive ? inclusive_scan(exec, in_first, in_last, out_first, binary_op, init)
1483b62047bSLouis Dionne                              : exclusive_scan(exec, in_first, in_last, out_first, init, binary_op);
1493b62047bSLouis Dionne 
1503b62047bSLouis Dionne         EXPECT_TRUE(out_last == orr, "scan returned wrong iterator");
1513b62047bSLouis Dionne         check_and_reset(expected_first, out_first, n, trash);
1523b62047bSLouis Dionne     }
1533b62047bSLouis Dionne 
1543b62047bSLouis Dionne     template <typename Policy, typename Iterator1, typename Iterator2, typename Iterator3, typename Size, typename T,
1553b62047bSLouis Dionne               typename BinaryOp>
1563b62047bSLouis Dionne     typename std::enable_if<TestUtils::isReverse<Iterator1>::value, void>::type
157*3491119fSLouis Dionne     operator()(Policy&&, Iterator1, Iterator1, Iterator2, Iterator2,
158*3491119fSLouis Dionne                Iterator3, Iterator3, Size, T, BinaryOp, T)
1593b62047bSLouis Dionne     {
1603b62047bSLouis Dionne     }
1613b62047bSLouis Dionne };
1623b62047bSLouis Dionne 
1633b62047bSLouis Dionne template <typename In, typename Out, typename BinaryOp>
1643b62047bSLouis Dionne void
1653b62047bSLouis Dionne test_matrix(Out init, BinaryOp binary_op, Out trash)
1663b62047bSLouis Dionne {
1673b62047bSLouis Dionne     for (size_t n = 0; n <= 100000; n = n <= 16 ? n + 1 : size_t(3.1415 * n))
1683b62047bSLouis Dionne     {
1693b62047bSLouis Dionne         Sequence<In> in(n, [](size_t k) { return In(k, k + 1); });
1703b62047bSLouis Dionne 
1713b62047bSLouis Dionne         Sequence<Out> out(n, [&](size_t) { return trash; });
1723b62047bSLouis Dionne         Sequence<Out> expected(n, [&](size_t) { return trash; });
1733b62047bSLouis Dionne 
1743b62047bSLouis Dionne         invoke_on_all_policies(test_scan_with_binary_op(), in.begin(), in.end(), out.begin(), out.end(),
1753b62047bSLouis Dionne                                expected.begin(), expected.end(), in.size(), init, binary_op, trash);
1763b62047bSLouis Dionne         invoke_on_all_policies(test_scan_with_binary_op(), in.cbegin(), in.cend(), out.begin(), out.end(),
1773b62047bSLouis Dionne                                expected.begin(), expected.end(), in.size(), init, binary_op, trash);
1783b62047bSLouis Dionne     }
1793b62047bSLouis Dionne }
1803b62047bSLouis Dionne 
1813b62047bSLouis Dionne int32_t
1823b62047bSLouis Dionne main()
1833b62047bSLouis Dionne {
1843b62047bSLouis Dionne     for (int32_t mode = 0; mode < 2; ++mode)
1853b62047bSLouis Dionne     {
1863b62047bSLouis Dionne         inclusive = mode != 0;
1873dee12e4SLouis Dionne #if !_PSTL_ICC_19_TEST_SIMD_UDS_WINDOWS_RELEASE_BROKEN
1883b62047bSLouis Dionne         // Test with highly restricted type and associative but not commutative operation
1893b62047bSLouis Dionne         test_matrix<Matrix2x2<int32_t>, Matrix2x2<int32_t>>(Matrix2x2<int32_t>(), multiply_matrix<int32_t>,
1903b62047bSLouis Dionne                                                             Matrix2x2<int32_t>(-666, 666));
1913b62047bSLouis Dionne #endif
1923b62047bSLouis Dionne 
1933b62047bSLouis Dionne         // Since the implict "+" forms of the scan delegate to the generic forms,
1943b62047bSLouis Dionne         // there's little point in using a highly restricted type, so just use double.
1953b62047bSLouis Dionne         test_with_plus<float64_t>(inclusive ? 0.0 : -1.0, -666.0,
1963b62047bSLouis Dionne                                   [](uint32_t k) { return float64_t((k % 991 + 1) ^ (k % 997 + 2)); });
1973b62047bSLouis Dionne     }
1983b62047bSLouis Dionne     std::cout << done() << std::endl;
1993b62047bSLouis Dionne     return 0;
2003b62047bSLouis Dionne }
201