180814287SRaphael Isemann //===-- PythonDataObjects.cpp ---------------------------------------------===//
22c1f46dcSZachary Turner //
32946cd70SChandler Carruth // Part of the LLVM Project, under the Apache License v2.0 with LLVM Exceptions.
42946cd70SChandler Carruth // See https://llvm.org/LICENSE.txt for license information.
52946cd70SChandler Carruth // SPDX-License-Identifier: Apache-2.0 WITH LLVM-exception
62c1f46dcSZachary Turner //
72c1f46dcSZachary Turner //===----------------------------------------------------------------------===//
82c1f46dcSZachary Turner 
959998b7bSJonas Devlieghere #include "lldb/Host/Config.h"
10d68983e3SPavel Labath 
114e26cf2cSJonas Devlieghere #if LLDB_ENABLE_PYTHON
12d68983e3SPavel Labath 
132c1f46dcSZachary Turner #include "PythonDataObjects.h"
142c1f46dcSZachary Turner #include "ScriptInterpreterPython.h"
152c1f46dcSZachary Turner 
162c1f46dcSZachary Turner #include "lldb/Host/File.h"
17190fadcdSZachary Turner #include "lldb/Host/FileSystem.h"
182c1f46dcSZachary Turner #include "lldb/Interpreter/ScriptInterpreter.h"
19085328eeSLawrence D'Anna #include "lldb/Utility/Log.h"
20bf9a7730SZachary Turner #include "lldb/Utility/Stream.h"
212c1f46dcSZachary Turner 
229a6c7572SJonas Devlieghere #include "llvm/ADT/StringSwitch.h"
23d9b553ecSLawrence D'Anna #include "llvm/Support/Casting.h"
24190fadcdSZachary Turner #include "llvm/Support/ConvertUTF.h"
252819136fSMichal Gorny #include "llvm/Support/Errno.h"
26190fadcdSZachary Turner 
2776e47d48SRaphael Isemann #include <cstdio>
282c1f46dcSZachary Turner 
292c1f46dcSZachary Turner using namespace lldb_private;
302c1f46dcSZachary Turner using namespace lldb;
31085328eeSLawrence D'Anna using namespace lldb_private::python;
32c86a6acaSLawrence D'Anna using llvm::cantFail;
33085328eeSLawrence D'Anna using llvm::Error;
34085328eeSLawrence D'Anna using llvm::Expected;
35722b6189SLawrence D'Anna using llvm::Twine;
36085328eeSLawrence D'Anna 
37085328eeSLawrence D'Anna template <> Expected<bool> python::As<bool>(Expected<PythonObject> &&obj) {
38085328eeSLawrence D'Anna   if (!obj)
39085328eeSLawrence D'Anna     return obj.takeError();
40085328eeSLawrence D'Anna   return obj.get().IsTrue();
41085328eeSLawrence D'Anna }
42085328eeSLawrence D'Anna 
43085328eeSLawrence D'Anna template <>
44085328eeSLawrence D'Anna Expected<long long> python::As<long long>(Expected<PythonObject> &&obj) {
45085328eeSLawrence D'Anna   if (!obj)
46085328eeSLawrence D'Anna     return obj.takeError();
4752712d3fSLawrence D'Anna   return obj->AsLongLong();
4852712d3fSLawrence D'Anna }
4952712d3fSLawrence D'Anna 
5052712d3fSLawrence D'Anna template <>
5152712d3fSLawrence D'Anna Expected<unsigned long long>
5252712d3fSLawrence D'Anna python::As<unsigned long long>(Expected<PythonObject> &&obj) {
5352712d3fSLawrence D'Anna   if (!obj)
5452712d3fSLawrence D'Anna     return obj.takeError();
5552712d3fSLawrence D'Anna   return obj->AsUnsignedLongLong();
56085328eeSLawrence D'Anna }
572c1f46dcSZachary Turner 
58c86a6acaSLawrence D'Anna template <>
59c86a6acaSLawrence D'Anna Expected<std::string> python::As<std::string>(Expected<PythonObject> &&obj) {
60c86a6acaSLawrence D'Anna   if (!obj)
61c86a6acaSLawrence D'Anna     return obj.takeError();
62c86a6acaSLawrence D'Anna   PyObject *str_obj = PyObject_Str(obj.get().get());
63c86a6acaSLawrence D'Anna   if (!obj)
64c86a6acaSLawrence D'Anna     return llvm::make_error<PythonException>();
65c86a6acaSLawrence D'Anna   auto str = Take<PythonString>(str_obj);
66c86a6acaSLawrence D'Anna   auto utf8 = str.AsUTF8();
67c86a6acaSLawrence D'Anna   if (!utf8)
68c86a6acaSLawrence D'Anna     return utf8.takeError();
6919580c37SBenjamin Kramer   return std::string(utf8.get());
70c86a6acaSLawrence D'Anna }
71c86a6acaSLawrence D'Anna 
7252712d3fSLawrence D'Anna Expected<long long> PythonObject::AsLongLong() const {
7352712d3fSLawrence D'Anna   if (!m_py_obj)
7452712d3fSLawrence D'Anna     return nullDeref();
7552712d3fSLawrence D'Anna #if PY_MAJOR_VERSION < 3
7652712d3fSLawrence D'Anna   if (!PyLong_Check(m_py_obj)) {
7752712d3fSLawrence D'Anna     PythonInteger i(PyRefType::Borrowed, m_py_obj);
7852712d3fSLawrence D'Anna     return i.AsLongLong();
7952712d3fSLawrence D'Anna   }
8052712d3fSLawrence D'Anna #endif
8152712d3fSLawrence D'Anna   assert(!PyErr_Occurred());
8252712d3fSLawrence D'Anna   long long r = PyLong_AsLongLong(m_py_obj);
8352712d3fSLawrence D'Anna   if (PyErr_Occurred())
8452712d3fSLawrence D'Anna     return exception();
8552712d3fSLawrence D'Anna   return r;
8652712d3fSLawrence D'Anna }
8752712d3fSLawrence D'Anna 
8852712d3fSLawrence D'Anna Expected<long long> PythonObject::AsUnsignedLongLong() const {
8952712d3fSLawrence D'Anna   if (!m_py_obj)
9052712d3fSLawrence D'Anna     return nullDeref();
9152712d3fSLawrence D'Anna #if PY_MAJOR_VERSION < 3
9252712d3fSLawrence D'Anna   if (!PyLong_Check(m_py_obj)) {
9352712d3fSLawrence D'Anna     PythonInteger i(PyRefType::Borrowed, m_py_obj);
9452712d3fSLawrence D'Anna     return i.AsUnsignedLongLong();
9552712d3fSLawrence D'Anna   }
9652712d3fSLawrence D'Anna #endif
9752712d3fSLawrence D'Anna   assert(!PyErr_Occurred());
9852712d3fSLawrence D'Anna   long long r = PyLong_AsUnsignedLongLong(m_py_obj);
9952712d3fSLawrence D'Anna   if (PyErr_Occurred())
10052712d3fSLawrence D'Anna     return exception();
10152712d3fSLawrence D'Anna   return r;
10252712d3fSLawrence D'Anna }
10352712d3fSLawrence D'Anna 
10452712d3fSLawrence D'Anna // wraps on overflow, instead of raising an error.
10552712d3fSLawrence D'Anna Expected<unsigned long long> PythonObject::AsModuloUnsignedLongLong() const {
10652712d3fSLawrence D'Anna   if (!m_py_obj)
10752712d3fSLawrence D'Anna     return nullDeref();
10852712d3fSLawrence D'Anna #if PY_MAJOR_VERSION < 3
10952712d3fSLawrence D'Anna   if (!PyLong_Check(m_py_obj)) {
11052712d3fSLawrence D'Anna     PythonInteger i(PyRefType::Borrowed, m_py_obj);
11152712d3fSLawrence D'Anna     return i.AsModuloUnsignedLongLong();
11252712d3fSLawrence D'Anna   }
11352712d3fSLawrence D'Anna #endif
11452712d3fSLawrence D'Anna   assert(!PyErr_Occurred());
11552712d3fSLawrence D'Anna   unsigned long long r = PyLong_AsUnsignedLongLongMask(m_py_obj);
11652712d3fSLawrence D'Anna   if (PyErr_Occurred())
11752712d3fSLawrence D'Anna     return exception();
11852712d3fSLawrence D'Anna   return r;
11952712d3fSLawrence D'Anna }
12052712d3fSLawrence D'Anna 
1212783d817SJonas Devlieghere void StructuredPythonObject::Serialize(llvm::json::OStream &s) const {
1222783d817SJonas Devlieghere   s.value(llvm::formatv("Python Obj: {0:X}", GetValue()).str());
1232c1f46dcSZachary Turner }
1242c1f46dcSZachary Turner 
1252c1f46dcSZachary Turner // PythonObject
1262c1f46dcSZachary Turner 
127b9c1b51eSKate Stone void PythonObject::Dump(Stream &strm) const {
128b9c1b51eSKate Stone   if (m_py_obj) {
1292819136fSMichal Gorny     FILE *file = llvm::sys::RetryAfterSignal(nullptr, ::tmpfile);
130b9c1b51eSKate Stone     if (file) {
1312c1f46dcSZachary Turner       ::PyObject_Print(m_py_obj, file, 0);
1322c1f46dcSZachary Turner       const long length = ftell(file);
133b9c1b51eSKate Stone       if (length) {
1342c1f46dcSZachary Turner         ::rewind(file);
1352c1f46dcSZachary Turner         std::vector<char> file_contents(length, '\0');
136b9c1b51eSKate Stone         const size_t length_read =
137b9c1b51eSKate Stone             ::fread(file_contents.data(), 1, file_contents.size(), file);
1382c1f46dcSZachary Turner         if (length_read > 0)
1392c1f46dcSZachary Turner           strm.Write(file_contents.data(), length_read);
1402c1f46dcSZachary Turner       }
1412c1f46dcSZachary Turner       ::fclose(file);
1422c1f46dcSZachary Turner     }
143b9c1b51eSKate Stone   } else
1442c1f46dcSZachary Turner     strm.PutCString("NULL");
1452c1f46dcSZachary Turner }
1462c1f46dcSZachary Turner 
147b9c1b51eSKate Stone PyObjectType PythonObject::GetObjectType() const {
148f8b22f8fSZachary Turner   if (!IsAllocated())
1492c1f46dcSZachary Turner     return PyObjectType::None;
1502c1f46dcSZachary Turner 
1517841efbbSZachary Turner   if (PythonModule::Check(m_py_obj))
1527841efbbSZachary Turner     return PyObjectType::Module;
15318426935SZachary Turner   if (PythonList::Check(m_py_obj))
1542c1f46dcSZachary Turner     return PyObjectType::List;
155a1405147SZachary Turner   if (PythonTuple::Check(m_py_obj))
156a1405147SZachary Turner     return PyObjectType::Tuple;
15718426935SZachary Turner   if (PythonDictionary::Check(m_py_obj))
1582c1f46dcSZachary Turner     return PyObjectType::Dictionary;
15918426935SZachary Turner   if (PythonString::Check(m_py_obj))
16022c8efcdSZachary Turner     return PyObjectType::String;
1615a72c02bSZachary Turner #if PY_MAJOR_VERSION >= 3
1625a72c02bSZachary Turner   if (PythonBytes::Check(m_py_obj))
1635a72c02bSZachary Turner     return PyObjectType::Bytes;
1645a72c02bSZachary Turner #endif
165f9d6d204SZachary Turner   if (PythonByteArray::Check(m_py_obj))
166f9d6d204SZachary Turner     return PyObjectType::ByteArray;
167b81d715cSTatyana Krasnukha   if (PythonBoolean::Check(m_py_obj))
168b81d715cSTatyana Krasnukha     return PyObjectType::Boolean;
16918426935SZachary Turner   if (PythonInteger::Check(m_py_obj))
17022c8efcdSZachary Turner     return PyObjectType::Integer;
1719c40264fSZachary Turner   if (PythonFile::Check(m_py_obj))
1729c40264fSZachary Turner     return PyObjectType::File;
173a1405147SZachary Turner   if (PythonCallable::Check(m_py_obj))
174a1405147SZachary Turner     return PyObjectType::Callable;
1752c1f46dcSZachary Turner   return PyObjectType::Unknown;
1762c1f46dcSZachary Turner }
1772c1f46dcSZachary Turner 
178b9c1b51eSKate Stone PythonString PythonObject::Repr() const {
1792c1f46dcSZachary Turner   if (!m_py_obj)
1802c1f46dcSZachary Turner     return PythonString();
1812c1f46dcSZachary Turner   PyObject *repr = PyObject_Repr(m_py_obj);
1822c1f46dcSZachary Turner   if (!repr)
1832c1f46dcSZachary Turner     return PythonString();
184f8b22f8fSZachary Turner   return PythonString(PyRefType::Owned, repr);
1852c1f46dcSZachary Turner }
1862c1f46dcSZachary Turner 
187b9c1b51eSKate Stone PythonString PythonObject::Str() const {
1882c1f46dcSZachary Turner   if (!m_py_obj)
1892c1f46dcSZachary Turner     return PythonString();
1902c1f46dcSZachary Turner   PyObject *str = PyObject_Str(m_py_obj);
1912c1f46dcSZachary Turner   if (!str)
1922c1f46dcSZachary Turner     return PythonString();
193f8b22f8fSZachary Turner   return PythonString(PyRefType::Owned, str);
1942c1f46dcSZachary Turner }
1952c1f46dcSZachary Turner 
1967841efbbSZachary Turner PythonObject
197b9c1b51eSKate Stone PythonObject::ResolveNameWithDictionary(llvm::StringRef name,
198b9c1b51eSKate Stone                                         const PythonDictionary &dict) {
199c712bac7SJonas Devlieghere   size_t dot_pos = name.find('.');
200a1405147SZachary Turner   llvm::StringRef piece = name.substr(0, dot_pos);
201a1405147SZachary Turner   PythonObject result = dict.GetItemForKey(PythonString(piece));
202b9c1b51eSKate Stone   if (dot_pos == llvm::StringRef::npos) {
203a1405147SZachary Turner     // There was no dot, we're done.
204a1405147SZachary Turner     return result;
205a1405147SZachary Turner   }
206a1405147SZachary Turner 
207a1405147SZachary Turner   // There was a dot.  The remaining portion of the name should be looked up in
208a1405147SZachary Turner   // the context of the object that was found in the dictionary.
209a1405147SZachary Turner   return result.ResolveName(name.substr(dot_pos + 1));
2107841efbbSZachary Turner }
2117841efbbSZachary Turner 
212b9c1b51eSKate Stone PythonObject PythonObject::ResolveName(llvm::StringRef name) const {
21305097246SAdrian Prantl   // Resolve the name in the context of the specified object.  If, for example,
21405097246SAdrian Prantl   // `this` refers to a PyModule, then this will look for `name` in this
21505097246SAdrian Prantl   // module.  If `this` refers to a PyType, then it will resolve `name` as an
21605097246SAdrian Prantl   // attribute of that type.  If `this` refers to an instance of an object,
21705097246SAdrian Prantl   // then it will resolve `name` as the value of the specified field.
2187841efbbSZachary Turner   //
2197841efbbSZachary Turner   // This function handles dotted names so that, for example, if `m_py_obj`
22005097246SAdrian Prantl   // refers to the `sys` module, and `name` == "path.append", then it will find
22105097246SAdrian Prantl   // the function `sys.path.append`.
2227841efbbSZachary Turner 
223c712bac7SJonas Devlieghere   size_t dot_pos = name.find('.');
224b9c1b51eSKate Stone   if (dot_pos == llvm::StringRef::npos) {
22505097246SAdrian Prantl     // No dots in the name, we should be able to find the value immediately as
22605097246SAdrian Prantl     // an attribute of `m_py_obj`.
2277841efbbSZachary Turner     return GetAttributeValue(name);
2287841efbbSZachary Turner   }
2297841efbbSZachary Turner 
230b9c1b51eSKate Stone   // Look up the first piece of the name, and resolve the rest as a child of
231b9c1b51eSKate Stone   // that.
2327841efbbSZachary Turner   PythonObject parent = ResolveName(name.substr(0, dot_pos));
2337841efbbSZachary Turner   if (!parent.IsAllocated())
2347841efbbSZachary Turner     return PythonObject();
2357841efbbSZachary Turner 
2367841efbbSZachary Turner   // Tail recursion.. should be optimized by the compiler
2377841efbbSZachary Turner   return parent.ResolveName(name.substr(dot_pos + 1));
2387841efbbSZachary Turner }
2397841efbbSZachary Turner 
240b9c1b51eSKate Stone bool PythonObject::HasAttribute(llvm::StringRef attr) const {
2419c40264fSZachary Turner   if (!IsValid())
2429c40264fSZachary Turner     return false;
2439c40264fSZachary Turner   PythonString py_attr(attr);
2449c40264fSZachary Turner   return !!PyObject_HasAttr(m_py_obj, py_attr.get());
2459c40264fSZachary Turner }
2469c40264fSZachary Turner 
247b9c1b51eSKate Stone PythonObject PythonObject::GetAttributeValue(llvm::StringRef attr) const {
2487d6d218eSZachary Turner   if (!IsValid())
2497d6d218eSZachary Turner     return PythonObject();
2507d6d218eSZachary Turner 
2517d6d218eSZachary Turner   PythonString py_attr(attr);
2527d6d218eSZachary Turner   if (!PyObject_HasAttr(m_py_obj, py_attr.get()))
2537d6d218eSZachary Turner     return PythonObject();
2547d6d218eSZachary Turner 
2557d6d218eSZachary Turner   return PythonObject(PyRefType::Owned,
2567d6d218eSZachary Turner                       PyObject_GetAttr(m_py_obj, py_attr.get()));
2577d6d218eSZachary Turner }
2587d6d218eSZachary Turner 
259b9c1b51eSKate Stone StructuredData::ObjectSP PythonObject::CreateStructuredObject() const {
260a6598575SRalf Grosse-Kunstleve   assert(PyGILState_Check());
261b9c1b51eSKate Stone   switch (GetObjectType()) {
2622c1f46dcSZachary Turner   case PyObjectType::Dictionary:
263b9c1b51eSKate Stone     return PythonDictionary(PyRefType::Borrowed, m_py_obj)
264b9c1b51eSKate Stone         .CreateStructuredDictionary();
265b81d715cSTatyana Krasnukha   case PyObjectType::Boolean:
266b81d715cSTatyana Krasnukha     return PythonBoolean(PyRefType::Borrowed, m_py_obj)
267b81d715cSTatyana Krasnukha         .CreateStructuredBoolean();
2682c1f46dcSZachary Turner   case PyObjectType::Integer:
269b9c1b51eSKate Stone     return PythonInteger(PyRefType::Borrowed, m_py_obj)
270b9c1b51eSKate Stone         .CreateStructuredInteger();
2712c1f46dcSZachary Turner   case PyObjectType::List:
272f8b22f8fSZachary Turner     return PythonList(PyRefType::Borrowed, m_py_obj).CreateStructuredArray();
2732c1f46dcSZachary Turner   case PyObjectType::String:
274f8b22f8fSZachary Turner     return PythonString(PyRefType::Borrowed, m_py_obj).CreateStructuredString();
2755a72c02bSZachary Turner   case PyObjectType::Bytes:
2765a72c02bSZachary Turner     return PythonBytes(PyRefType::Borrowed, m_py_obj).CreateStructuredString();
277f9d6d204SZachary Turner   case PyObjectType::ByteArray:
278b9c1b51eSKate Stone     return PythonByteArray(PyRefType::Borrowed, m_py_obj)
279b9c1b51eSKate Stone         .CreateStructuredString();
2802c1f46dcSZachary Turner   case PyObjectType::None:
2812c1f46dcSZachary Turner     return StructuredData::ObjectSP();
2822c1f46dcSZachary Turner   default:
283*c154f397SPavel Labath     return StructuredData::ObjectSP(new StructuredPythonObject(
284*c154f397SPavel Labath         PythonObject(PyRefType::Borrowed, m_py_obj)));
2852c1f46dcSZachary Turner   }
2862c1f46dcSZachary Turner }
2872c1f46dcSZachary Turner 
2882c1f46dcSZachary Turner // PythonString
2895a72c02bSZachary Turner 
290d3bd5b3dSLawrence D'Anna PythonBytes::PythonBytes(llvm::ArrayRef<uint8_t> bytes) { SetBytes(bytes); }
2915a72c02bSZachary Turner 
292d3bd5b3dSLawrence D'Anna PythonBytes::PythonBytes(const uint8_t *bytes, size_t length) {
2935a72c02bSZachary Turner   SetBytes(llvm::ArrayRef<uint8_t>(bytes, length));
2945a72c02bSZachary Turner }
2955a72c02bSZachary Turner 
296b9c1b51eSKate Stone bool PythonBytes::Check(PyObject *py_obj) {
2975a72c02bSZachary Turner   if (!py_obj)
2985a72c02bSZachary Turner     return false;
299a6682a41SJonas Devlieghere   return PyBytes_Check(py_obj);
3005a72c02bSZachary Turner }
3015a72c02bSZachary Turner 
302b9c1b51eSKate Stone llvm::ArrayRef<uint8_t> PythonBytes::GetBytes() const {
3035a72c02bSZachary Turner   if (!IsValid())
3045a72c02bSZachary Turner     return llvm::ArrayRef<uint8_t>();
3055a72c02bSZachary Turner 
3065a72c02bSZachary Turner   Py_ssize_t size;
3075a72c02bSZachary Turner   char *c;
3085a72c02bSZachary Turner 
3095a72c02bSZachary Turner   PyBytes_AsStringAndSize(m_py_obj, &c, &size);
3105a72c02bSZachary Turner   return llvm::ArrayRef<uint8_t>(reinterpret_cast<uint8_t *>(c), size);
3115a72c02bSZachary Turner }
3125a72c02bSZachary Turner 
313b9c1b51eSKate Stone size_t PythonBytes::GetSize() const {
3145a72c02bSZachary Turner   if (!IsValid())
3155a72c02bSZachary Turner     return 0;
3165a72c02bSZachary Turner   return PyBytes_Size(m_py_obj);
3175a72c02bSZachary Turner }
3185a72c02bSZachary Turner 
319b9c1b51eSKate Stone void PythonBytes::SetBytes(llvm::ArrayRef<uint8_t> bytes) {
3205a72c02bSZachary Turner   const char *data = reinterpret_cast<const char *>(bytes.data());
32104edd189SLawrence D'Anna   *this = Take<PythonBytes>(PyBytes_FromStringAndSize(data, bytes.size()));
3225a72c02bSZachary Turner }
3235a72c02bSZachary Turner 
324b9c1b51eSKate Stone StructuredData::StringSP PythonBytes::CreateStructuredString() const {
3255a72c02bSZachary Turner   StructuredData::StringSP result(new StructuredData::String);
3265a72c02bSZachary Turner   Py_ssize_t size;
3275a72c02bSZachary Turner   char *c;
3285a72c02bSZachary Turner   PyBytes_AsStringAndSize(m_py_obj, &c, &size);
3295a72c02bSZachary Turner   result->SetValue(std::string(c, size));
3305a72c02bSZachary Turner   return result;
3315a72c02bSZachary Turner }
3325a72c02bSZachary Turner 
333b9c1b51eSKate Stone PythonByteArray::PythonByteArray(llvm::ArrayRef<uint8_t> bytes)
334b9c1b51eSKate Stone     : PythonByteArray(bytes.data(), bytes.size()) {}
335f9d6d204SZachary Turner 
336b9c1b51eSKate Stone PythonByteArray::PythonByteArray(const uint8_t *bytes, size_t length) {
337f9d6d204SZachary Turner   const char *str = reinterpret_cast<const char *>(bytes);
338722b6189SLawrence D'Anna   *this = Take<PythonByteArray>(PyByteArray_FromStringAndSize(str, length));
339f9d6d204SZachary Turner }
340f9d6d204SZachary Turner 
341b9c1b51eSKate Stone bool PythonByteArray::Check(PyObject *py_obj) {
342f9d6d204SZachary Turner   if (!py_obj)
343f9d6d204SZachary Turner     return false;
344a6682a41SJonas Devlieghere   return PyByteArray_Check(py_obj);
345f9d6d204SZachary Turner }
346f9d6d204SZachary Turner 
347b9c1b51eSKate Stone llvm::ArrayRef<uint8_t> PythonByteArray::GetBytes() const {
348f9d6d204SZachary Turner   if (!IsValid())
349f9d6d204SZachary Turner     return llvm::ArrayRef<uint8_t>();
350f9d6d204SZachary Turner 
351f9d6d204SZachary Turner   char *c = PyByteArray_AsString(m_py_obj);
352f9d6d204SZachary Turner   size_t size = GetSize();
353f9d6d204SZachary Turner   return llvm::ArrayRef<uint8_t>(reinterpret_cast<uint8_t *>(c), size);
354f9d6d204SZachary Turner }
355f9d6d204SZachary Turner 
356b9c1b51eSKate Stone size_t PythonByteArray::GetSize() const {
357f9d6d204SZachary Turner   if (!IsValid())
358f9d6d204SZachary Turner     return 0;
359f9d6d204SZachary Turner 
360f9d6d204SZachary Turner   return PyByteArray_Size(m_py_obj);
361f9d6d204SZachary Turner }
362f9d6d204SZachary Turner 
363b9c1b51eSKate Stone StructuredData::StringSP PythonByteArray::CreateStructuredString() const {
364f9d6d204SZachary Turner   StructuredData::StringSP result(new StructuredData::String);
365f9d6d204SZachary Turner   llvm::ArrayRef<uint8_t> bytes = GetBytes();
366f9d6d204SZachary Turner   const char *str = reinterpret_cast<const char *>(bytes.data());
367f9d6d204SZachary Turner   result->SetValue(std::string(str, bytes.size()));
368f9d6d204SZachary Turner   return result;
369f9d6d204SZachary Turner }
370f9d6d204SZachary Turner 
3715a72c02bSZachary Turner // PythonString
3722c1f46dcSZachary Turner 
373085328eeSLawrence D'Anna Expected<PythonString> PythonString::FromUTF8(llvm::StringRef string) {
374085328eeSLawrence D'Anna #if PY_MAJOR_VERSION >= 3
375085328eeSLawrence D'Anna   PyObject *str = PyUnicode_FromStringAndSize(string.data(), string.size());
376085328eeSLawrence D'Anna #else
377085328eeSLawrence D'Anna   PyObject *str = PyString_FromStringAndSize(string.data(), string.size());
378085328eeSLawrence D'Anna #endif
379085328eeSLawrence D'Anna   if (!str)
380085328eeSLawrence D'Anna     return llvm::make_error<PythonException>();
381085328eeSLawrence D'Anna   return Take<PythonString>(str);
382085328eeSLawrence D'Anna }
383085328eeSLawrence D'Anna 
384d3bd5b3dSLawrence D'Anna PythonString::PythonString(llvm::StringRef string) { SetString(string); }
3852c1f46dcSZachary Turner 
386b9c1b51eSKate Stone bool PythonString::Check(PyObject *py_obj) {
38722c8efcdSZachary Turner   if (!py_obj)
38822c8efcdSZachary Turner     return false;
38918426935SZachary Turner 
3907d6d218eSZachary Turner   if (PyUnicode_Check(py_obj))
3917d6d218eSZachary Turner     return true;
3927d6d218eSZachary Turner #if PY_MAJOR_VERSION < 3
3937d6d218eSZachary Turner   if (PyString_Check(py_obj))
3947d6d218eSZachary Turner     return true;
39522c8efcdSZachary Turner #endif
3967d6d218eSZachary Turner   return false;
39722c8efcdSZachary Turner }
39822c8efcdSZachary Turner 
399d3bd5b3dSLawrence D'Anna void PythonString::Convert(PyRefType &type, PyObject *&py_obj) {
4007d6d218eSZachary Turner #if PY_MAJOR_VERSION < 3
4017d6d218eSZachary Turner   // In Python 2, Don't store PyUnicode objects directly, because we need
4027d6d218eSZachary Turner   // access to their underlying character buffers which Python 2 doesn't
4037d6d218eSZachary Turner   // provide.
404085328eeSLawrence D'Anna   if (PyUnicode_Check(py_obj)) {
405d3bd5b3dSLawrence D'Anna     PyObject *s = PyUnicode_AsUTF8String(py_obj);
406d3bd5b3dSLawrence D'Anna     if (s == nullptr) {
407085328eeSLawrence D'Anna       PyErr_Clear();
408d3bd5b3dSLawrence D'Anna       if (type == PyRefType::Owned)
409d3bd5b3dSLawrence D'Anna         Py_DECREF(py_obj);
410d3bd5b3dSLawrence D'Anna       return;
411d3bd5b3dSLawrence D'Anna     }
412d3bd5b3dSLawrence D'Anna     if (type == PyRefType::Owned)
413d3bd5b3dSLawrence D'Anna       Py_DECREF(py_obj);
414d3bd5b3dSLawrence D'Anna     else
415d3bd5b3dSLawrence D'Anna       type = PyRefType::Owned;
416d3bd5b3dSLawrence D'Anna     py_obj = s;
417085328eeSLawrence D'Anna   }
4187d6d218eSZachary Turner #endif
4192c1f46dcSZachary Turner }
4202c1f46dcSZachary Turner 
421b9c1b51eSKate Stone llvm::StringRef PythonString::GetString() const {
422085328eeSLawrence D'Anna   auto s = AsUTF8();
423085328eeSLawrence D'Anna   if (!s) {
424085328eeSLawrence D'Anna     llvm::consumeError(s.takeError());
425085328eeSLawrence D'Anna     return llvm::StringRef("");
426085328eeSLawrence D'Anna   }
427085328eeSLawrence D'Anna   return s.get();
428085328eeSLawrence D'Anna }
429085328eeSLawrence D'Anna 
430085328eeSLawrence D'Anna Expected<llvm::StringRef> PythonString::AsUTF8() const {
43118426935SZachary Turner   if (!IsValid())
432085328eeSLawrence D'Anna     return nullDeref();
43318426935SZachary Turner 
43422c8efcdSZachary Turner   Py_ssize_t size;
4355457b426SPavel Labath   const char *data;
43618426935SZachary Turner 
43718426935SZachary Turner #if PY_MAJOR_VERSION >= 3
4385457b426SPavel Labath   data = PyUnicode_AsUTF8AndSize(m_py_obj, &size);
43918426935SZachary Turner #else
440085328eeSLawrence D'Anna   char *c = NULL;
441085328eeSLawrence D'Anna   int r = PyString_AsStringAndSize(m_py_obj, &c, &size);
442085328eeSLawrence D'Anna   if (r < 0)
443085328eeSLawrence D'Anna     c = NULL;
4445457b426SPavel Labath   data = c;
44518426935SZachary Turner #endif
446085328eeSLawrence D'Anna 
447085328eeSLawrence D'Anna   if (!data)
448085328eeSLawrence D'Anna     return exception();
449085328eeSLawrence D'Anna 
4505457b426SPavel Labath   return llvm::StringRef(data, size);
45122c8efcdSZachary Turner }
4522c1f46dcSZachary Turner 
453b9c1b51eSKate Stone size_t PythonString::GetSize() const {
454b9c1b51eSKate Stone   if (IsValid()) {
45518426935SZachary Turner #if PY_MAJOR_VERSION >= 3
45675012a80STatyana Krasnukha #if PY_MINOR_VERSION >= 3
45775012a80STatyana Krasnukha     return PyUnicode_GetLength(m_py_obj);
45875012a80STatyana Krasnukha #else
45918426935SZachary Turner     return PyUnicode_GetSize(m_py_obj);
46075012a80STatyana Krasnukha #endif
46118426935SZachary Turner #else
46218426935SZachary Turner     return PyString_Size(m_py_obj);
46318426935SZachary Turner #endif
46418426935SZachary Turner   }
4652c1f46dcSZachary Turner   return 0;
4662c1f46dcSZachary Turner }
4672c1f46dcSZachary Turner 
468b9c1b51eSKate Stone void PythonString::SetString(llvm::StringRef string) {
469085328eeSLawrence D'Anna   auto s = FromUTF8(string);
470085328eeSLawrence D'Anna   if (!s) {
471085328eeSLawrence D'Anna     llvm::consumeError(s.takeError());
472085328eeSLawrence D'Anna     Reset();
473085328eeSLawrence D'Anna   } else {
47403819d1cSLawrence D'Anna     *this = std::move(s.get());
475085328eeSLawrence D'Anna   }
4762c1f46dcSZachary Turner }
4772c1f46dcSZachary Turner 
478b9c1b51eSKate Stone StructuredData::StringSP PythonString::CreateStructuredString() const {
4792c1f46dcSZachary Turner   StructuredData::StringSP result(new StructuredData::String);
4802c1f46dcSZachary Turner   result->SetValue(GetString());
4812c1f46dcSZachary Turner   return result;
4822c1f46dcSZachary Turner }
4832c1f46dcSZachary Turner 
4842c1f46dcSZachary Turner // PythonInteger
4852c1f46dcSZachary Turner 
486d3bd5b3dSLawrence D'Anna PythonInteger::PythonInteger(int64_t value) { SetInteger(value); }
4872c1f46dcSZachary Turner 
488b9c1b51eSKate Stone bool PythonInteger::Check(PyObject *py_obj) {
48922c8efcdSZachary Turner   if (!py_obj)
49022c8efcdSZachary Turner     return false;
49122c8efcdSZachary Turner 
49222c8efcdSZachary Turner #if PY_MAJOR_VERSION >= 3
49305097246SAdrian Prantl   // Python 3 does not have PyInt_Check.  There is only one type of integral
49405097246SAdrian Prantl   // value, long.
49522c8efcdSZachary Turner   return PyLong_Check(py_obj);
49622c8efcdSZachary Turner #else
49722c8efcdSZachary Turner   return PyLong_Check(py_obj) || PyInt_Check(py_obj);
49822c8efcdSZachary Turner #endif
4992c1f46dcSZachary Turner }
5002c1f46dcSZachary Turner 
501d3bd5b3dSLawrence D'Anna void PythonInteger::Convert(PyRefType &type, PyObject *&py_obj) {
50222c8efcdSZachary Turner #if PY_MAJOR_VERSION < 3
50305097246SAdrian Prantl   // Always store this as a PyLong, which makes interoperability between Python
50405097246SAdrian Prantl   // 2.x and Python 3.x easier.  This is only necessary in 2.x, since 3.x
50505097246SAdrian Prantl   // doesn't even have a PyInt.
506b9c1b51eSKate Stone   if (PyInt_Check(py_obj)) {
507f8b22f8fSZachary Turner     // Since we converted the original object to a different type, the new
50805097246SAdrian Prantl     // object is an owned object regardless of the ownership semantics
50905097246SAdrian Prantl     // requested by the user.
510d3bd5b3dSLawrence D'Anna     long long value = PyInt_AsLong(py_obj);
511d3bd5b3dSLawrence D'Anna     PyObject *l = nullptr;
512d3bd5b3dSLawrence D'Anna     if (!PyErr_Occurred())
513d3bd5b3dSLawrence D'Anna       l = PyLong_FromLongLong(value);
514d3bd5b3dSLawrence D'Anna     if (l == nullptr) {
515d3bd5b3dSLawrence D'Anna       PyErr_Clear();
516d3bd5b3dSLawrence D'Anna       if (type == PyRefType::Owned)
517d3bd5b3dSLawrence D'Anna         Py_DECREF(py_obj);
518d3bd5b3dSLawrence D'Anna       return;
519d3bd5b3dSLawrence D'Anna     }
520d3bd5b3dSLawrence D'Anna     if (type == PyRefType::Owned)
521d3bd5b3dSLawrence D'Anna       Py_DECREF(py_obj);
522d3bd5b3dSLawrence D'Anna     else
523d3bd5b3dSLawrence D'Anna       type = PyRefType::Owned;
524d3bd5b3dSLawrence D'Anna     py_obj = l;
52522c8efcdSZachary Turner   }
52622c8efcdSZachary Turner #endif
5272c1f46dcSZachary Turner }
5282c1f46dcSZachary Turner 
529b9c1b51eSKate Stone void PythonInteger::SetInteger(int64_t value) {
53004edd189SLawrence D'Anna   *this = Take<PythonInteger>(PyLong_FromLongLong(value));
5312c1f46dcSZachary Turner }
5322c1f46dcSZachary Turner 
533b9c1b51eSKate Stone StructuredData::IntegerSP PythonInteger::CreateStructuredInteger() const {
5342c1f46dcSZachary Turner   StructuredData::IntegerSP result(new StructuredData::Integer);
53552712d3fSLawrence D'Anna   // FIXME this is really not ideal.   Errors are silently converted to 0
53652712d3fSLawrence D'Anna   // and overflows are silently wrapped.   But we'd need larger changes
53752712d3fSLawrence D'Anna   // to StructuredData to fix it, so that's how it is for now.
53852712d3fSLawrence D'Anna   llvm::Expected<unsigned long long> value = AsModuloUnsignedLongLong();
53952712d3fSLawrence D'Anna   if (!value) {
54052712d3fSLawrence D'Anna     llvm::consumeError(value.takeError());
54152712d3fSLawrence D'Anna     result->SetValue(0);
54252712d3fSLawrence D'Anna   } else {
54352712d3fSLawrence D'Anna     result->SetValue(value.get());
54452712d3fSLawrence D'Anna   }
5452c1f46dcSZachary Turner   return result;
5462c1f46dcSZachary Turner }
5472c1f46dcSZachary Turner 
548b81d715cSTatyana Krasnukha // PythonBoolean
549b81d715cSTatyana Krasnukha 
550b81d715cSTatyana Krasnukha PythonBoolean::PythonBoolean(bool value) {
551b81d715cSTatyana Krasnukha   SetValue(value);
552b81d715cSTatyana Krasnukha }
553b81d715cSTatyana Krasnukha 
554b81d715cSTatyana Krasnukha bool PythonBoolean::Check(PyObject *py_obj) {
555b81d715cSTatyana Krasnukha   return py_obj ? PyBool_Check(py_obj) : false;
556b81d715cSTatyana Krasnukha }
557b81d715cSTatyana Krasnukha 
558b81d715cSTatyana Krasnukha bool PythonBoolean::GetValue() const {
559b81d715cSTatyana Krasnukha   return m_py_obj ? PyObject_IsTrue(m_py_obj) : false;
560b81d715cSTatyana Krasnukha }
561b81d715cSTatyana Krasnukha 
562b81d715cSTatyana Krasnukha void PythonBoolean::SetValue(bool value) {
56304edd189SLawrence D'Anna   *this = Take<PythonBoolean>(PyBool_FromLong(value));
564b81d715cSTatyana Krasnukha }
565b81d715cSTatyana Krasnukha 
566b81d715cSTatyana Krasnukha StructuredData::BooleanSP PythonBoolean::CreateStructuredBoolean() const {
567b81d715cSTatyana Krasnukha   StructuredData::BooleanSP result(new StructuredData::Boolean);
568b81d715cSTatyana Krasnukha   result->SetValue(GetValue());
569b81d715cSTatyana Krasnukha   return result;
570b81d715cSTatyana Krasnukha }
571b81d715cSTatyana Krasnukha 
5722c1f46dcSZachary Turner // PythonList
5732c1f46dcSZachary Turner 
574d3bd5b3dSLawrence D'Anna PythonList::PythonList(PyInitialValue value) {
575f8b22f8fSZachary Turner   if (value == PyInitialValue::Empty)
576722b6189SLawrence D'Anna     *this = Take<PythonList>(PyList_New(0));
5772c1f46dcSZachary Turner }
5782c1f46dcSZachary Turner 
579d3bd5b3dSLawrence D'Anna PythonList::PythonList(int list_size) {
580722b6189SLawrence D'Anna   *this = Take<PythonList>(PyList_New(list_size));
58187f47729SZachary Turner }
58287f47729SZachary Turner 
583b9c1b51eSKate Stone bool PythonList::Check(PyObject *py_obj) {
58422c8efcdSZachary Turner   if (!py_obj)
58522c8efcdSZachary Turner     return false;
58622c8efcdSZachary Turner   return PyList_Check(py_obj);
58722c8efcdSZachary Turner }
58822c8efcdSZachary Turner 
589b9c1b51eSKate Stone uint32_t PythonList::GetSize() const {
590f8b22f8fSZachary Turner   if (IsValid())
5912c1f46dcSZachary Turner     return PyList_GET_SIZE(m_py_obj);
5922c1f46dcSZachary Turner   return 0;
5932c1f46dcSZachary Turner }
5942c1f46dcSZachary Turner 
595b9c1b51eSKate Stone PythonObject PythonList::GetItemAtIndex(uint32_t index) const {
596f8b22f8fSZachary Turner   if (IsValid())
597f8b22f8fSZachary Turner     return PythonObject(PyRefType::Borrowed, PyList_GetItem(m_py_obj, index));
5982c1f46dcSZachary Turner   return PythonObject();
5992c1f46dcSZachary Turner }
6002c1f46dcSZachary Turner 
601b9c1b51eSKate Stone void PythonList::SetItemAtIndex(uint32_t index, const PythonObject &object) {
602b9c1b51eSKate Stone   if (IsAllocated() && object.IsValid()) {
603f8b22f8fSZachary Turner     // PyList_SetItem is documented to "steal" a reference, so we need to
604f8b22f8fSZachary Turner     // convert it to an owned reference by incrementing it.
605f8b22f8fSZachary Turner     Py_INCREF(object.get());
6062c1f46dcSZachary Turner     PyList_SetItem(m_py_obj, index, object.get());
6072c1f46dcSZachary Turner   }
608f8b22f8fSZachary Turner }
6092c1f46dcSZachary Turner 
610b9c1b51eSKate Stone void PythonList::AppendItem(const PythonObject &object) {
611b9c1b51eSKate Stone   if (IsAllocated() && object.IsValid()) {
612f8b22f8fSZachary Turner     // `PyList_Append` does *not* steal a reference, so do not call `Py_INCREF`
613f8b22f8fSZachary Turner     // here like we do with `PyList_SetItem`.
6142c1f46dcSZachary Turner     PyList_Append(m_py_obj, object.get());
6152c1f46dcSZachary Turner   }
616f8b22f8fSZachary Turner }
6172c1f46dcSZachary Turner 
618b9c1b51eSKate Stone StructuredData::ArraySP PythonList::CreateStructuredArray() const {
6192c1f46dcSZachary Turner   StructuredData::ArraySP result(new StructuredData::Array);
6202c1f46dcSZachary Turner   uint32_t count = GetSize();
621b9c1b51eSKate Stone   for (uint32_t i = 0; i < count; ++i) {
6222c1f46dcSZachary Turner     PythonObject obj = GetItemAtIndex(i);
6232c1f46dcSZachary Turner     result->AddItem(obj.CreateStructuredObject());
6242c1f46dcSZachary Turner   }
6252c1f46dcSZachary Turner   return result;
6262c1f46dcSZachary Turner }
6272c1f46dcSZachary Turner 
628a1405147SZachary Turner // PythonTuple
629a1405147SZachary Turner 
630d3bd5b3dSLawrence D'Anna PythonTuple::PythonTuple(PyInitialValue value) {
631a1405147SZachary Turner   if (value == PyInitialValue::Empty)
632722b6189SLawrence D'Anna     *this = Take<PythonTuple>(PyTuple_New(0));
633a1405147SZachary Turner }
634a1405147SZachary Turner 
635d3bd5b3dSLawrence D'Anna PythonTuple::PythonTuple(int tuple_size) {
636722b6189SLawrence D'Anna   *this = Take<PythonTuple>(PyTuple_New(tuple_size));
637a1405147SZachary Turner }
638a1405147SZachary Turner 
639b9c1b51eSKate Stone PythonTuple::PythonTuple(std::initializer_list<PythonObject> objects) {
640a1405147SZachary Turner   m_py_obj = PyTuple_New(objects.size());
641a1405147SZachary Turner 
642a1405147SZachary Turner   uint32_t idx = 0;
643b9c1b51eSKate Stone   for (auto object : objects) {
644a1405147SZachary Turner     if (object.IsValid())
645a1405147SZachary Turner       SetItemAtIndex(idx, object);
646a1405147SZachary Turner     idx++;
647a1405147SZachary Turner   }
648a1405147SZachary Turner }
649a1405147SZachary Turner 
650b9c1b51eSKate Stone PythonTuple::PythonTuple(std::initializer_list<PyObject *> objects) {
651a1405147SZachary Turner   m_py_obj = PyTuple_New(objects.size());
652a1405147SZachary Turner 
653a1405147SZachary Turner   uint32_t idx = 0;
654b9c1b51eSKate Stone   for (auto py_object : objects) {
655a1405147SZachary Turner     PythonObject object(PyRefType::Borrowed, py_object);
656a1405147SZachary Turner     if (object.IsValid())
657a1405147SZachary Turner       SetItemAtIndex(idx, object);
658a1405147SZachary Turner     idx++;
659a1405147SZachary Turner   }
660a1405147SZachary Turner }
661a1405147SZachary Turner 
662b9c1b51eSKate Stone bool PythonTuple::Check(PyObject *py_obj) {
663a1405147SZachary Turner   if (!py_obj)
664a1405147SZachary Turner     return false;
665a1405147SZachary Turner   return PyTuple_Check(py_obj);
666a1405147SZachary Turner }
667a1405147SZachary Turner 
668b9c1b51eSKate Stone uint32_t PythonTuple::GetSize() const {
669a1405147SZachary Turner   if (IsValid())
670a1405147SZachary Turner     return PyTuple_GET_SIZE(m_py_obj);
671a1405147SZachary Turner   return 0;
672a1405147SZachary Turner }
673a1405147SZachary Turner 
674b9c1b51eSKate Stone PythonObject PythonTuple::GetItemAtIndex(uint32_t index) const {
675a1405147SZachary Turner   if (IsValid())
676a1405147SZachary Turner     return PythonObject(PyRefType::Borrowed, PyTuple_GetItem(m_py_obj, index));
677a1405147SZachary Turner   return PythonObject();
678a1405147SZachary Turner }
679a1405147SZachary Turner 
680b9c1b51eSKate Stone void PythonTuple::SetItemAtIndex(uint32_t index, const PythonObject &object) {
681b9c1b51eSKate Stone   if (IsAllocated() && object.IsValid()) {
682a1405147SZachary Turner     // PyTuple_SetItem is documented to "steal" a reference, so we need to
683a1405147SZachary Turner     // convert it to an owned reference by incrementing it.
684a1405147SZachary Turner     Py_INCREF(object.get());
685a1405147SZachary Turner     PyTuple_SetItem(m_py_obj, index, object.get());
686a1405147SZachary Turner   }
687a1405147SZachary Turner }
688a1405147SZachary Turner 
689b9c1b51eSKate Stone StructuredData::ArraySP PythonTuple::CreateStructuredArray() const {
690a1405147SZachary Turner   StructuredData::ArraySP result(new StructuredData::Array);
691a1405147SZachary Turner   uint32_t count = GetSize();
692b9c1b51eSKate Stone   for (uint32_t i = 0; i < count; ++i) {
693a1405147SZachary Turner     PythonObject obj = GetItemAtIndex(i);
694a1405147SZachary Turner     result->AddItem(obj.CreateStructuredObject());
695a1405147SZachary Turner   }
696a1405147SZachary Turner   return result;
697a1405147SZachary Turner }
698a1405147SZachary Turner 
6992c1f46dcSZachary Turner // PythonDictionary
7002c1f46dcSZachary Turner 
701d3bd5b3dSLawrence D'Anna PythonDictionary::PythonDictionary(PyInitialValue value) {
702f8b22f8fSZachary Turner   if (value == PyInitialValue::Empty)
703722b6189SLawrence D'Anna     *this = Take<PythonDictionary>(PyDict_New());
7042c1f46dcSZachary Turner }
7052c1f46dcSZachary Turner 
706b9c1b51eSKate Stone bool PythonDictionary::Check(PyObject *py_obj) {
70722c8efcdSZachary Turner   if (!py_obj)
70822c8efcdSZachary Turner     return false;
70922c8efcdSZachary Turner 
71022c8efcdSZachary Turner   return PyDict_Check(py_obj);
71122c8efcdSZachary Turner }
71222c8efcdSZachary Turner 
713b9c1b51eSKate Stone uint32_t PythonDictionary::GetSize() const {
714f8b22f8fSZachary Turner   if (IsValid())
7152c1f46dcSZachary Turner     return PyDict_Size(m_py_obj);
7162c1f46dcSZachary Turner   return 0;
7172c1f46dcSZachary Turner }
7182c1f46dcSZachary Turner 
719b9c1b51eSKate Stone PythonList PythonDictionary::GetKeys() const {
720f8b22f8fSZachary Turner   if (IsValid())
721f8b22f8fSZachary Turner     return PythonList(PyRefType::Owned, PyDict_Keys(m_py_obj));
722f8b22f8fSZachary Turner   return PythonList(PyInitialValue::Invalid);
7232c1f46dcSZachary Turner }
7242c1f46dcSZachary Turner 
725b9c1b51eSKate Stone PythonObject PythonDictionary::GetItemForKey(const PythonObject &key) const {
726c86a6acaSLawrence D'Anna   auto item = GetItem(key);
727c86a6acaSLawrence D'Anna   if (!item) {
728c86a6acaSLawrence D'Anna     llvm::consumeError(item.takeError());
7292c1f46dcSZachary Turner     return PythonObject();
7302c1f46dcSZachary Turner   }
731c86a6acaSLawrence D'Anna   return std::move(item.get());
732c86a6acaSLawrence D'Anna }
733c86a6acaSLawrence D'Anna 
734c86a6acaSLawrence D'Anna Expected<PythonObject>
735c86a6acaSLawrence D'Anna PythonDictionary::GetItem(const PythonObject &key) const {
736c86a6acaSLawrence D'Anna   if (!IsValid())
737c86a6acaSLawrence D'Anna     return nullDeref();
738c86a6acaSLawrence D'Anna #if PY_MAJOR_VERSION >= 3
739c86a6acaSLawrence D'Anna   PyObject *o = PyDict_GetItemWithError(m_py_obj, key.get());
740c86a6acaSLawrence D'Anna   if (PyErr_Occurred())
741c86a6acaSLawrence D'Anna     return exception();
742c86a6acaSLawrence D'Anna #else
743c86a6acaSLawrence D'Anna   PyObject *o = PyDict_GetItem(m_py_obj, key.get());
744c86a6acaSLawrence D'Anna #endif
745c86a6acaSLawrence D'Anna   if (!o)
746c86a6acaSLawrence D'Anna     return keyError();
747c86a6acaSLawrence D'Anna   return Retain<PythonObject>(o);
748c86a6acaSLawrence D'Anna }
749c86a6acaSLawrence D'Anna 
750722b6189SLawrence D'Anna Expected<PythonObject> PythonDictionary::GetItem(const Twine &key) const {
751c86a6acaSLawrence D'Anna   if (!IsValid())
752c86a6acaSLawrence D'Anna     return nullDeref();
753722b6189SLawrence D'Anna   PyObject *o = PyDict_GetItemString(m_py_obj, NullTerminated(key));
754c86a6acaSLawrence D'Anna   if (PyErr_Occurred())
755c86a6acaSLawrence D'Anna     return exception();
756c86a6acaSLawrence D'Anna   if (!o)
757c86a6acaSLawrence D'Anna     return keyError();
758c86a6acaSLawrence D'Anna   return Retain<PythonObject>(o);
759c86a6acaSLawrence D'Anna }
760c86a6acaSLawrence D'Anna 
761c86a6acaSLawrence D'Anna Error PythonDictionary::SetItem(const PythonObject &key,
762c86a6acaSLawrence D'Anna                                 const PythonObject &value) const {
763c86a6acaSLawrence D'Anna   if (!IsValid() || !value.IsValid())
764c86a6acaSLawrence D'Anna     return nullDeref();
765c86a6acaSLawrence D'Anna   int r = PyDict_SetItem(m_py_obj, key.get(), value.get());
766c86a6acaSLawrence D'Anna   if (r < 0)
767c86a6acaSLawrence D'Anna     return exception();
768c86a6acaSLawrence D'Anna   return Error::success();
769c86a6acaSLawrence D'Anna }
770c86a6acaSLawrence D'Anna 
771722b6189SLawrence D'Anna Error PythonDictionary::SetItem(const Twine &key,
772c86a6acaSLawrence D'Anna                                 const PythonObject &value) const {
773c86a6acaSLawrence D'Anna   if (!IsValid() || !value.IsValid())
774c86a6acaSLawrence D'Anna     return nullDeref();
775722b6189SLawrence D'Anna   int r = PyDict_SetItemString(m_py_obj, NullTerminated(key), value.get());
776c86a6acaSLawrence D'Anna   if (r < 0)
777c86a6acaSLawrence D'Anna     return exception();
778c86a6acaSLawrence D'Anna   return Error::success();
779c86a6acaSLawrence D'Anna }
7802c1f46dcSZachary Turner 
781b9c1b51eSKate Stone void PythonDictionary::SetItemForKey(const PythonObject &key,
782b9c1b51eSKate Stone                                      const PythonObject &value) {
783c86a6acaSLawrence D'Anna   Error error = SetItem(key, value);
784c86a6acaSLawrence D'Anna   if (error)
785c86a6acaSLawrence D'Anna     llvm::consumeError(std::move(error));
7862c1f46dcSZachary Turner }
7872c1f46dcSZachary Turner 
7882c1f46dcSZachary Turner StructuredData::DictionarySP
789b9c1b51eSKate Stone PythonDictionary::CreateStructuredDictionary() const {
7902c1f46dcSZachary Turner   StructuredData::DictionarySP result(new StructuredData::Dictionary);
7912c1f46dcSZachary Turner   PythonList keys(GetKeys());
7922c1f46dcSZachary Turner   uint32_t num_keys = keys.GetSize();
793b9c1b51eSKate Stone   for (uint32_t i = 0; i < num_keys; ++i) {
7942c1f46dcSZachary Turner     PythonObject key = keys.GetItemAtIndex(i);
7952c1f46dcSZachary Turner     PythonObject value = GetItemForKey(key);
7962c1f46dcSZachary Turner     StructuredData::ObjectSP structured_value = value.CreateStructuredObject();
797f8b22f8fSZachary Turner     result->AddItem(key.Str().GetString(), structured_value);
7982c1f46dcSZachary Turner   }
7992c1f46dcSZachary Turner   return result;
8002c1f46dcSZachary Turner }
8012c1f46dcSZachary Turner 
802b9c1b51eSKate Stone PythonModule PythonModule::BuiltinsModule() {
803a1405147SZachary Turner #if PY_MAJOR_VERSION >= 3
804a1405147SZachary Turner   return AddModule("builtins");
805a1405147SZachary Turner #else
806a1405147SZachary Turner   return AddModule("__builtin__");
807a1405147SZachary Turner #endif
808a1405147SZachary Turner }
809a1405147SZachary Turner 
810b9c1b51eSKate Stone PythonModule PythonModule::MainModule() { return AddModule("__main__"); }
811a1405147SZachary Turner 
812b9c1b51eSKate Stone PythonModule PythonModule::AddModule(llvm::StringRef module) {
813a1405147SZachary Turner   std::string str = module.str();
814a1405147SZachary Turner   return PythonModule(PyRefType::Borrowed, PyImport_AddModule(str.c_str()));
8157841efbbSZachary Turner }
8167841efbbSZachary Turner 
817722b6189SLawrence D'Anna Expected<PythonModule> PythonModule::Import(const Twine &name) {
818722b6189SLawrence D'Anna   PyObject *mod = PyImport_ImportModule(NullTerminated(name));
819085328eeSLawrence D'Anna   if (!mod)
820085328eeSLawrence D'Anna     return exception();
821085328eeSLawrence D'Anna   return Take<PythonModule>(mod);
822085328eeSLawrence D'Anna }
823085328eeSLawrence D'Anna 
824722b6189SLawrence D'Anna Expected<PythonObject> PythonModule::Get(const Twine &name) {
825085328eeSLawrence D'Anna   if (!IsValid())
826085328eeSLawrence D'Anna     return nullDeref();
827085328eeSLawrence D'Anna   PyObject *dict = PyModule_GetDict(m_py_obj);
828085328eeSLawrence D'Anna   if (!dict)
829085328eeSLawrence D'Anna     return exception();
830722b6189SLawrence D'Anna   PyObject *item = PyDict_GetItemString(dict, NullTerminated(name));
831085328eeSLawrence D'Anna   if (!item)
832085328eeSLawrence D'Anna     return exception();
833085328eeSLawrence D'Anna   return Retain<PythonObject>(item);
8342419f1d5SZachary Turner }
8352419f1d5SZachary Turner 
836b9c1b51eSKate Stone bool PythonModule::Check(PyObject *py_obj) {
8377841efbbSZachary Turner   if (!py_obj)
8387841efbbSZachary Turner     return false;
8397841efbbSZachary Turner 
8407841efbbSZachary Turner   return PyModule_Check(py_obj);
8417841efbbSZachary Turner }
8427841efbbSZachary Turner 
843b9c1b51eSKate Stone PythonDictionary PythonModule::GetDictionary() const {
844722b6189SLawrence D'Anna   if (!IsValid())
845722b6189SLawrence D'Anna     return PythonDictionary();
846722b6189SLawrence D'Anna   return Retain<PythonDictionary>(PyModule_GetDict(m_py_obj));
8477841efbbSZachary Turner }
8487841efbbSZachary Turner 
849b9c1b51eSKate Stone bool PythonCallable::Check(PyObject *py_obj) {
850a1405147SZachary Turner   if (!py_obj)
851a1405147SZachary Turner     return false;
852a1405147SZachary Turner 
853a1405147SZachary Turner   return PyCallable_Check(py_obj);
854a1405147SZachary Turner }
855a1405147SZachary Turner 
856c86a6acaSLawrence D'Anna #if PY_MAJOR_VERSION >= 3 && PY_MINOR_VERSION >= 3
857c86a6acaSLawrence D'Anna static const char get_arg_info_script[] = R"(
858c86a6acaSLawrence D'Anna from inspect import signature, Parameter, ismethod
859c86a6acaSLawrence D'Anna from collections import namedtuple
860adbf64ccSLawrence D'Anna ArgInfo = namedtuple('ArgInfo', ['count', 'has_varargs'])
86104edd189SLawrence D'Anna def main(f):
862c86a6acaSLawrence D'Anna     count = 0
863c86a6acaSLawrence D'Anna     varargs = False
864c86a6acaSLawrence D'Anna     for parameter in signature(f).parameters.values():
865c86a6acaSLawrence D'Anna         kind = parameter.kind
866c86a6acaSLawrence D'Anna         if kind in (Parameter.POSITIONAL_ONLY,
867c86a6acaSLawrence D'Anna                     Parameter.POSITIONAL_OR_KEYWORD):
868c86a6acaSLawrence D'Anna             count += 1
869c86a6acaSLawrence D'Anna         elif kind == Parameter.VAR_POSITIONAL:
870c86a6acaSLawrence D'Anna             varargs = True
871c86a6acaSLawrence D'Anna         elif kind in (Parameter.KEYWORD_ONLY,
872c86a6acaSLawrence D'Anna                       Parameter.VAR_KEYWORD):
873c86a6acaSLawrence D'Anna             pass
874c86a6acaSLawrence D'Anna         else:
875c86a6acaSLawrence D'Anna             raise Exception(f'unknown parameter kind: {kind}')
876adbf64ccSLawrence D'Anna     return ArgInfo(count, varargs)
877c86a6acaSLawrence D'Anna )";
878c86a6acaSLawrence D'Anna #endif
879c86a6acaSLawrence D'Anna 
880c86a6acaSLawrence D'Anna Expected<PythonCallable::ArgInfo> PythonCallable::GetArgInfo() const {
881c86a6acaSLawrence D'Anna   ArgInfo result = {};
882c86a6acaSLawrence D'Anna   if (!IsValid())
883c86a6acaSLawrence D'Anna     return nullDeref();
884c86a6acaSLawrence D'Anna 
885c86a6acaSLawrence D'Anna #if PY_MAJOR_VERSION >= 3 && PY_MINOR_VERSION >= 3
886c86a6acaSLawrence D'Anna 
88704edd189SLawrence D'Anna   // no need to synchronize access to this global, we already have the GIL
88804edd189SLawrence D'Anna   static PythonScript get_arg_info(get_arg_info_script);
88904edd189SLawrence D'Anna   Expected<PythonObject> pyarginfo = get_arg_info(*this);
890c86a6acaSLawrence D'Anna   if (!pyarginfo)
891c86a6acaSLawrence D'Anna     return pyarginfo.takeError();
892adbf64ccSLawrence D'Anna   long long count =
893adbf64ccSLawrence D'Anna       cantFail(As<long long>(pyarginfo.get().GetAttribute("count")));
894adbf64ccSLawrence D'Anna   bool has_varargs =
895c86a6acaSLawrence D'Anna       cantFail(As<bool>(pyarginfo.get().GetAttribute("has_varargs")));
896adbf64ccSLawrence D'Anna   result.max_positional_args = has_varargs ? ArgInfo::UNBOUNDED : count;
897c86a6acaSLawrence D'Anna 
898c86a6acaSLawrence D'Anna #else
899adbf64ccSLawrence D'Anna   PyObject *py_func_obj;
9002386537cSLawrence D'Anna   bool is_bound_method = false;
901adbf64ccSLawrence D'Anna   bool is_class = false;
902adbf64ccSLawrence D'Anna 
903adbf64ccSLawrence D'Anna   if (PyType_Check(m_py_obj) || PyClass_Check(m_py_obj)) {
904adbf64ccSLawrence D'Anna     auto init = GetAttribute("__init__");
905adbf64ccSLawrence D'Anna     if (!init)
906adbf64ccSLawrence D'Anna       return init.takeError();
907adbf64ccSLawrence D'Anna     py_func_obj = init.get().get();
908adbf64ccSLawrence D'Anna     is_class = true;
909adbf64ccSLawrence D'Anna   } else {
910adbf64ccSLawrence D'Anna     py_func_obj = m_py_obj;
911adbf64ccSLawrence D'Anna   }
912adbf64ccSLawrence D'Anna 
913b9c1b51eSKate Stone   if (PyMethod_Check(py_func_obj)) {
914a1405147SZachary Turner     py_func_obj = PyMethod_GET_FUNCTION(py_func_obj);
915a5d6765cSEnrico Granata     PythonObject im_self = GetAttributeValue("im_self");
916a5d6765cSEnrico Granata     if (im_self.IsValid() && !im_self.IsNone())
9172386537cSLawrence D'Anna       is_bound_method = true;
918b9c1b51eSKate Stone   } else {
919a5d6765cSEnrico Granata     // see if this is a callable object with an __call__ method
920b9c1b51eSKate Stone     if (!PyFunction_Check(py_func_obj)) {
921a5d6765cSEnrico Granata       PythonObject __call__ = GetAttributeValue("__call__");
922b9c1b51eSKate Stone       if (__call__.IsValid()) {
923a5d6765cSEnrico Granata         auto __callable__ = __call__.AsType<PythonCallable>();
924b9c1b51eSKate Stone         if (__callable__.IsValid()) {
925a5d6765cSEnrico Granata           py_func_obj = PyMethod_GET_FUNCTION(__callable__.get());
9262386537cSLawrence D'Anna           PythonObject im_self = __callable__.GetAttributeValue("im_self");
927a5d6765cSEnrico Granata           if (im_self.IsValid() && !im_self.IsNone())
9282386537cSLawrence D'Anna             is_bound_method = true;
929a5d6765cSEnrico Granata         }
930a5d6765cSEnrico Granata       }
931a5d6765cSEnrico Granata     }
932a5d6765cSEnrico Granata   }
933a1405147SZachary Turner 
934a1405147SZachary Turner   if (!py_func_obj)
935b58fb2f4SZachary Turner     return result;
936a1405147SZachary Turner 
937a1405147SZachary Turner   PyCodeObject *code = (PyCodeObject *)PyFunction_GET_CODE(py_func_obj);
938a1405147SZachary Turner   if (!code)
939b58fb2f4SZachary Turner     return result;
940a1405147SZachary Turner 
941adbf64ccSLawrence D'Anna   auto count = code->co_argcount;
942adbf64ccSLawrence D'Anna   bool has_varargs = !!(code->co_flags & CO_VARARGS);
943adbf64ccSLawrence D'Anna   result.max_positional_args =
944adbf64ccSLawrence D'Anna       has_varargs ? ArgInfo::UNBOUNDED
945adbf64ccSLawrence D'Anna                   : (count - (int)is_bound_method) - (int)is_class;
946c86a6acaSLawrence D'Anna 
947c86a6acaSLawrence D'Anna #endif
948c86a6acaSLawrence D'Anna 
949b58fb2f4SZachary Turner   return result;
950b58fb2f4SZachary Turner }
951b58fb2f4SZachary Turner 
9522386537cSLawrence D'Anna constexpr unsigned
9532386537cSLawrence D'Anna     PythonCallable::ArgInfo::UNBOUNDED; // FIXME delete after c++17
9542386537cSLawrence D'Anna 
955b9c1b51eSKate Stone PythonObject PythonCallable::operator()() {
956b9c1b51eSKate Stone   return PythonObject(PyRefType::Owned, PyObject_CallObject(m_py_obj, nullptr));
957a1405147SZachary Turner }
958a1405147SZachary Turner 
959b9c1b51eSKate Stone PythonObject PythonCallable::
960b9c1b51eSKate Stone operator()(std::initializer_list<PyObject *> args) {
961a1405147SZachary Turner   PythonTuple arg_tuple(args);
962a1405147SZachary Turner   return PythonObject(PyRefType::Owned,
963a1405147SZachary Turner                       PyObject_CallObject(m_py_obj, arg_tuple.get()));
964a1405147SZachary Turner }
965a1405147SZachary Turner 
966b9c1b51eSKate Stone PythonObject PythonCallable::
967b9c1b51eSKate Stone operator()(std::initializer_list<PythonObject> args) {
968a1405147SZachary Turner   PythonTuple arg_tuple(args);
969a1405147SZachary Turner   return PythonObject(PyRefType::Owned,
970a1405147SZachary Turner                       PyObject_CallObject(m_py_obj, arg_tuple.get()));
971a1405147SZachary Turner }
972a1405147SZachary Turner 
973b9c1b51eSKate Stone bool PythonFile::Check(PyObject *py_obj) {
97496898eb6SLawrence D'Anna   if (!py_obj)
97596898eb6SLawrence D'Anna     return false;
9769c40264fSZachary Turner #if PY_MAJOR_VERSION < 3
97723502721SJason Molenda   return PyFile_Check(py_obj);
97823502721SJason Molenda #else
9799c40264fSZachary Turner   // In Python 3, there is no `PyFile_Check`, and in fact PyFile is not even a
9809c40264fSZachary Turner   // first-class object type anymore.  `PyFile_FromFd` is just a thin wrapper
98105097246SAdrian Prantl   // over `io.open()`, which returns some object derived from `io.IOBase`. As a
98205097246SAdrian Prantl   // result, the only way to detect a file in Python 3 is to check whether it
98321b8a8aeSLawrence D'Anna   // inherits from `io.IOBase`.
98421b8a8aeSLawrence D'Anna   auto io_module = PythonModule::Import("io");
98521b8a8aeSLawrence D'Anna   if (!io_module) {
98621b8a8aeSLawrence D'Anna     llvm::consumeError(io_module.takeError());
9879c40264fSZachary Turner     return false;
98821b8a8aeSLawrence D'Anna   }
98921b8a8aeSLawrence D'Anna   auto iobase = io_module.get().Get("IOBase");
99021b8a8aeSLawrence D'Anna   if (!iobase) {
99121b8a8aeSLawrence D'Anna     llvm::consumeError(iobase.takeError());
9929c40264fSZachary Turner     return false;
99321b8a8aeSLawrence D'Anna   }
99421b8a8aeSLawrence D'Anna   int r = PyObject_IsInstance(py_obj, iobase.get().get());
99521b8a8aeSLawrence D'Anna   if (r < 0) {
99621b8a8aeSLawrence D'Anna     llvm::consumeError(exception()); // clear the exception and log it.
99721b8a8aeSLawrence D'Anna     return false;
99821b8a8aeSLawrence D'Anna   }
99921b8a8aeSLawrence D'Anna   return !!r;
100023502721SJason Molenda #endif
10019c40264fSZachary Turner }
10029c40264fSZachary Turner 
1003085328eeSLawrence D'Anna const char *PythonException::toCString() const {
1004085328eeSLawrence D'Anna   if (!m_repr_bytes)
1005085328eeSLawrence D'Anna     return "unknown exception";
1006085328eeSLawrence D'Anna   return PyBytes_AS_STRING(m_repr_bytes);
1007085328eeSLawrence D'Anna }
1008085328eeSLawrence D'Anna 
1009085328eeSLawrence D'Anna PythonException::PythonException(const char *caller) {
1010085328eeSLawrence D'Anna   assert(PyErr_Occurred());
1011085328eeSLawrence D'Anna   m_exception_type = m_exception = m_traceback = m_repr_bytes = NULL;
1012085328eeSLawrence D'Anna   PyErr_Fetch(&m_exception_type, &m_exception, &m_traceback);
1013085328eeSLawrence D'Anna   PyErr_NormalizeException(&m_exception_type, &m_exception, &m_traceback);
1014085328eeSLawrence D'Anna   PyErr_Clear();
1015085328eeSLawrence D'Anna   if (m_exception) {
1016085328eeSLawrence D'Anna     PyObject *repr = PyObject_Repr(m_exception);
1017085328eeSLawrence D'Anna     if (repr) {
1018085328eeSLawrence D'Anna       m_repr_bytes = PyUnicode_AsEncodedString(repr, "utf-8", nullptr);
1019085328eeSLawrence D'Anna       if (!m_repr_bytes) {
1020085328eeSLawrence D'Anna         PyErr_Clear();
1021085328eeSLawrence D'Anna       }
1022085328eeSLawrence D'Anna       Py_XDECREF(repr);
1023085328eeSLawrence D'Anna     } else {
1024085328eeSLawrence D'Anna       PyErr_Clear();
1025085328eeSLawrence D'Anna     }
1026085328eeSLawrence D'Anna   }
1027085328eeSLawrence D'Anna   Log *log = GetLogIfAllCategoriesSet(LIBLLDB_LOG_SCRIPT);
1028085328eeSLawrence D'Anna   if (caller)
1029085328eeSLawrence D'Anna     LLDB_LOGF(log, "%s failed with exception: %s", caller, toCString());
1030085328eeSLawrence D'Anna   else
1031085328eeSLawrence D'Anna     LLDB_LOGF(log, "python exception: %s", toCString());
1032085328eeSLawrence D'Anna }
1033085328eeSLawrence D'Anna void PythonException::Restore() {
1034085328eeSLawrence D'Anna   if (m_exception_type && m_exception) {
1035085328eeSLawrence D'Anna     PyErr_Restore(m_exception_type, m_exception, m_traceback);
1036085328eeSLawrence D'Anna   } else {
1037085328eeSLawrence D'Anna     PyErr_SetString(PyExc_Exception, toCString());
1038085328eeSLawrence D'Anna   }
1039085328eeSLawrence D'Anna   m_exception_type = m_exception = m_traceback = NULL;
1040085328eeSLawrence D'Anna }
1041085328eeSLawrence D'Anna 
1042085328eeSLawrence D'Anna PythonException::~PythonException() {
1043085328eeSLawrence D'Anna   Py_XDECREF(m_exception_type);
1044085328eeSLawrence D'Anna   Py_XDECREF(m_exception);
1045085328eeSLawrence D'Anna   Py_XDECREF(m_traceback);
1046085328eeSLawrence D'Anna   Py_XDECREF(m_repr_bytes);
1047085328eeSLawrence D'Anna }
1048085328eeSLawrence D'Anna 
1049085328eeSLawrence D'Anna void PythonException::log(llvm::raw_ostream &OS) const { OS << toCString(); }
1050085328eeSLawrence D'Anna 
1051085328eeSLawrence D'Anna std::error_code PythonException::convertToErrorCode() const {
1052085328eeSLawrence D'Anna   return llvm::inconvertibleErrorCode();
1053085328eeSLawrence D'Anna }
1054085328eeSLawrence D'Anna 
105504edd189SLawrence D'Anna bool PythonException::Matches(PyObject *exc) const {
105604edd189SLawrence D'Anna   return PyErr_GivenExceptionMatches(m_exception_type, exc);
105704edd189SLawrence D'Anna }
105804edd189SLawrence D'Anna 
105904edd189SLawrence D'Anna const char read_exception_script[] = R"(
106004edd189SLawrence D'Anna import sys
106104edd189SLawrence D'Anna from traceback import print_exception
106204edd189SLawrence D'Anna if sys.version_info.major < 3:
106304edd189SLawrence D'Anna   from StringIO import StringIO
106404edd189SLawrence D'Anna else:
106504edd189SLawrence D'Anna   from io import StringIO
106604edd189SLawrence D'Anna def main(exc_type, exc_value, tb):
106704edd189SLawrence D'Anna   f = StringIO()
106804edd189SLawrence D'Anna   print_exception(exc_type, exc_value, tb, file=f)
106904edd189SLawrence D'Anna   return f.getvalue()
107004edd189SLawrence D'Anna )";
107104edd189SLawrence D'Anna 
107204edd189SLawrence D'Anna std::string PythonException::ReadBacktrace() const {
107304edd189SLawrence D'Anna 
107404edd189SLawrence D'Anna   if (!m_traceback)
107504edd189SLawrence D'Anna     return toCString();
107604edd189SLawrence D'Anna 
107704edd189SLawrence D'Anna   // no need to synchronize access to this global, we already have the GIL
107804edd189SLawrence D'Anna   static PythonScript read_exception(read_exception_script);
107904edd189SLawrence D'Anna 
108004edd189SLawrence D'Anna   Expected<std::string> backtrace = As<std::string>(
108104edd189SLawrence D'Anna       read_exception(m_exception_type, m_exception, m_traceback));
108204edd189SLawrence D'Anna 
108304edd189SLawrence D'Anna   if (!backtrace) {
108404edd189SLawrence D'Anna     std::string message =
108504edd189SLawrence D'Anna         std::string(toCString()) + "\n" +
1086e9264b74SKazuaki Ishizaki         "Traceback unavailable, an error occurred while reading it:\n";
108704edd189SLawrence D'Anna     return (message + llvm::toString(backtrace.takeError()));
108804edd189SLawrence D'Anna   }
108904edd189SLawrence D'Anna 
109004edd189SLawrence D'Anna   return std::move(backtrace.get());
109104edd189SLawrence D'Anna }
109204edd189SLawrence D'Anna 
1093085328eeSLawrence D'Anna char PythonException::ID = 0;
1094085328eeSLawrence D'Anna 
109562c9fe42SLawrence D'Anna llvm::Expected<File::OpenOptions>
109662c9fe42SLawrence D'Anna GetOptionsForPyObject(const PythonObject &obj) {
109721b8a8aeSLawrence D'Anna #if PY_MAJOR_VERSION >= 3
109862c9fe42SLawrence D'Anna   auto options = File::OpenOptions(0);
109921b8a8aeSLawrence D'Anna   auto readable = As<bool>(obj.CallMethod("readable"));
110021b8a8aeSLawrence D'Anna   if (!readable)
110121b8a8aeSLawrence D'Anna     return readable.takeError();
110221b8a8aeSLawrence D'Anna   auto writable = As<bool>(obj.CallMethod("writable"));
110321b8a8aeSLawrence D'Anna   if (!writable)
110421b8a8aeSLawrence D'Anna     return writable.takeError();
110514735cabSMichał Górny   if (readable.get() && writable.get())
110614735cabSMichał Górny     options |= File::eOpenOptionReadWrite;
110714735cabSMichał Górny   else if (writable.get())
110814735cabSMichał Górny     options |= File::eOpenOptionWriteOnly;
110914735cabSMichał Górny   else if (readable.get())
111014735cabSMichał Górny     options |= File::eOpenOptionReadOnly;
111162c9fe42SLawrence D'Anna   return options;
111221b8a8aeSLawrence D'Anna #else
111321b8a8aeSLawrence D'Anna   PythonString py_mode = obj.GetAttributeValue("mode").AsType<PythonString>();
111462c9fe42SLawrence D'Anna   return File::GetOptionsFromMode(py_mode.GetString());
111521b8a8aeSLawrence D'Anna #endif
111621b8a8aeSLawrence D'Anna }
111721b8a8aeSLawrence D'Anna 
111821b8a8aeSLawrence D'Anna // Base class template for python files.   All it knows how to do
111921b8a8aeSLawrence D'Anna // is hold a reference to the python object and close or flush it
112021b8a8aeSLawrence D'Anna // when the File is closed.
112121b8a8aeSLawrence D'Anna namespace {
112221b8a8aeSLawrence D'Anna template <typename Base> class OwnedPythonFile : public Base {
112321b8a8aeSLawrence D'Anna public:
112421b8a8aeSLawrence D'Anna   template <typename... Args>
112521b8a8aeSLawrence D'Anna   OwnedPythonFile(const PythonFile &file, bool borrowed, Args... args)
112621b8a8aeSLawrence D'Anna       : Base(args...), m_py_obj(file), m_borrowed(borrowed) {
112721b8a8aeSLawrence D'Anna     assert(m_py_obj);
112821b8a8aeSLawrence D'Anna   }
112921b8a8aeSLawrence D'Anna 
113021b8a8aeSLawrence D'Anna   ~OwnedPythonFile() override {
113121b8a8aeSLawrence D'Anna     assert(m_py_obj);
113221b8a8aeSLawrence D'Anna     GIL takeGIL;
113321b8a8aeSLawrence D'Anna     Close();
1134722b6189SLawrence D'Anna     // we need to ensure the python object is released while we still
1135722b6189SLawrence D'Anna     // hold the GIL
113621b8a8aeSLawrence D'Anna     m_py_obj.Reset();
113721b8a8aeSLawrence D'Anna   }
113821b8a8aeSLawrence D'Anna 
113921b8a8aeSLawrence D'Anna   bool IsPythonSideValid() const {
114021b8a8aeSLawrence D'Anna     GIL takeGIL;
114121b8a8aeSLawrence D'Anna     auto closed = As<bool>(m_py_obj.GetAttribute("closed"));
114221b8a8aeSLawrence D'Anna     if (!closed) {
114321b8a8aeSLawrence D'Anna       llvm::consumeError(closed.takeError());
114421b8a8aeSLawrence D'Anna       return false;
114521b8a8aeSLawrence D'Anna     }
114621b8a8aeSLawrence D'Anna     return !closed.get();
114721b8a8aeSLawrence D'Anna   }
114821b8a8aeSLawrence D'Anna 
114921b8a8aeSLawrence D'Anna   bool IsValid() const override {
115021b8a8aeSLawrence D'Anna     return IsPythonSideValid() && Base::IsValid();
115121b8a8aeSLawrence D'Anna   }
115221b8a8aeSLawrence D'Anna 
115321b8a8aeSLawrence D'Anna   Status Close() override {
115421b8a8aeSLawrence D'Anna     assert(m_py_obj);
115521b8a8aeSLawrence D'Anna     Status py_error, base_error;
115621b8a8aeSLawrence D'Anna     GIL takeGIL;
115721b8a8aeSLawrence D'Anna     if (!m_borrowed) {
115821b8a8aeSLawrence D'Anna       auto r = m_py_obj.CallMethod("close");
115921b8a8aeSLawrence D'Anna       if (!r)
116021b8a8aeSLawrence D'Anna         py_error = Status(r.takeError());
116121b8a8aeSLawrence D'Anna     }
116221b8a8aeSLawrence D'Anna     base_error = Base::Close();
116321b8a8aeSLawrence D'Anna     if (py_error.Fail())
116421b8a8aeSLawrence D'Anna       return py_error;
116521b8a8aeSLawrence D'Anna     return base_error;
116621b8a8aeSLawrence D'Anna   };
116721b8a8aeSLawrence D'Anna 
1168d9b553ecSLawrence D'Anna   PyObject *GetPythonObject() const {
1169d9b553ecSLawrence D'Anna     assert(m_py_obj.IsValid());
1170d9b553ecSLawrence D'Anna     return m_py_obj.get();
1171d9b553ecSLawrence D'Anna   }
1172d9b553ecSLawrence D'Anna 
1173d9b553ecSLawrence D'Anna   static bool classof(const File *file) = delete;
1174d9b553ecSLawrence D'Anna 
117521b8a8aeSLawrence D'Anna protected:
117621b8a8aeSLawrence D'Anna   PythonFile m_py_obj;
117721b8a8aeSLawrence D'Anna   bool m_borrowed;
117821b8a8aeSLawrence D'Anna };
117921b8a8aeSLawrence D'Anna } // namespace
118021b8a8aeSLawrence D'Anna 
118121b8a8aeSLawrence D'Anna // A SimplePythonFile is a OwnedPythonFile that just does all I/O as
118221b8a8aeSLawrence D'Anna // a NativeFile
118321b8a8aeSLawrence D'Anna namespace {
118421b8a8aeSLawrence D'Anna class SimplePythonFile : public OwnedPythonFile<NativeFile> {
118521b8a8aeSLawrence D'Anna public:
118621b8a8aeSLawrence D'Anna   SimplePythonFile(const PythonFile &file, bool borrowed, int fd,
118762c9fe42SLawrence D'Anna                    File::OpenOptions options)
118821b8a8aeSLawrence D'Anna       : OwnedPythonFile(file, borrowed, fd, options, false) {}
1189d9b553ecSLawrence D'Anna 
1190d9b553ecSLawrence D'Anna   static char ID;
1191d9b553ecSLawrence D'Anna   bool isA(const void *classID) const override {
1192d9b553ecSLawrence D'Anna     return classID == &ID || NativeFile::isA(classID);
1193d9b553ecSLawrence D'Anna   }
1194d9b553ecSLawrence D'Anna   static bool classof(const File *file) { return file->isA(&ID); }
119521b8a8aeSLawrence D'Anna };
1196d9b553ecSLawrence D'Anna char SimplePythonFile::ID = 0;
119721b8a8aeSLawrence D'Anna } // namespace
119821b8a8aeSLawrence D'Anna 
119921b8a8aeSLawrence D'Anna #if PY_MAJOR_VERSION >= 3
120021b8a8aeSLawrence D'Anna 
120121b8a8aeSLawrence D'Anna namespace {
120221b8a8aeSLawrence D'Anna class PythonBuffer {
120321b8a8aeSLawrence D'Anna public:
120421b8a8aeSLawrence D'Anna   PythonBuffer &operator=(const PythonBuffer &) = delete;
120521b8a8aeSLawrence D'Anna   PythonBuffer(const PythonBuffer &) = delete;
120621b8a8aeSLawrence D'Anna 
120721b8a8aeSLawrence D'Anna   static Expected<PythonBuffer> Create(PythonObject &obj,
120821b8a8aeSLawrence D'Anna                                        int flags = PyBUF_SIMPLE) {
120921b8a8aeSLawrence D'Anna     Py_buffer py_buffer = {};
121021b8a8aeSLawrence D'Anna     PyObject_GetBuffer(obj.get(), &py_buffer, flags);
121121b8a8aeSLawrence D'Anna     if (!py_buffer.obj)
121221b8a8aeSLawrence D'Anna       return llvm::make_error<PythonException>();
121321b8a8aeSLawrence D'Anna     return PythonBuffer(py_buffer);
121421b8a8aeSLawrence D'Anna   }
121521b8a8aeSLawrence D'Anna 
121621b8a8aeSLawrence D'Anna   PythonBuffer(PythonBuffer &&other) {
121721b8a8aeSLawrence D'Anna     m_buffer = other.m_buffer;
121821b8a8aeSLawrence D'Anna     other.m_buffer.obj = nullptr;
121921b8a8aeSLawrence D'Anna   }
122021b8a8aeSLawrence D'Anna 
122121b8a8aeSLawrence D'Anna   ~PythonBuffer() {
122221b8a8aeSLawrence D'Anna     if (m_buffer.obj)
122321b8a8aeSLawrence D'Anna       PyBuffer_Release(&m_buffer);
122421b8a8aeSLawrence D'Anna   }
122521b8a8aeSLawrence D'Anna 
122621b8a8aeSLawrence D'Anna   Py_buffer &get() { return m_buffer; }
122721b8a8aeSLawrence D'Anna 
122821b8a8aeSLawrence D'Anna private:
122921b8a8aeSLawrence D'Anna   // takes ownership of the buffer.
123021b8a8aeSLawrence D'Anna   PythonBuffer(const Py_buffer &py_buffer) : m_buffer(py_buffer) {}
123121b8a8aeSLawrence D'Anna   Py_buffer m_buffer;
123221b8a8aeSLawrence D'Anna };
123321b8a8aeSLawrence D'Anna } // namespace
123421b8a8aeSLawrence D'Anna 
123521b8a8aeSLawrence D'Anna // Shared methods between TextPythonFile and BinaryPythonFile
123621b8a8aeSLawrence D'Anna namespace {
123721b8a8aeSLawrence D'Anna class PythonIOFile : public OwnedPythonFile<File> {
123821b8a8aeSLawrence D'Anna public:
123921b8a8aeSLawrence D'Anna   PythonIOFile(const PythonFile &file, bool borrowed)
124021b8a8aeSLawrence D'Anna       : OwnedPythonFile(file, borrowed) {}
124121b8a8aeSLawrence D'Anna 
124221b8a8aeSLawrence D'Anna   ~PythonIOFile() override { Close(); }
124321b8a8aeSLawrence D'Anna 
124421b8a8aeSLawrence D'Anna   bool IsValid() const override { return IsPythonSideValid(); }
124521b8a8aeSLawrence D'Anna 
124621b8a8aeSLawrence D'Anna   Status Close() override {
124721b8a8aeSLawrence D'Anna     assert(m_py_obj);
124821b8a8aeSLawrence D'Anna     GIL takeGIL;
124921b8a8aeSLawrence D'Anna     if (m_borrowed)
125021b8a8aeSLawrence D'Anna       return Flush();
125121b8a8aeSLawrence D'Anna     auto r = m_py_obj.CallMethod("close");
125221b8a8aeSLawrence D'Anna     if (!r)
125321b8a8aeSLawrence D'Anna       return Status(r.takeError());
125421b8a8aeSLawrence D'Anna     return Status();
125521b8a8aeSLawrence D'Anna   }
125621b8a8aeSLawrence D'Anna 
125721b8a8aeSLawrence D'Anna   Status Flush() override {
125821b8a8aeSLawrence D'Anna     GIL takeGIL;
125921b8a8aeSLawrence D'Anna     auto r = m_py_obj.CallMethod("flush");
126021b8a8aeSLawrence D'Anna     if (!r)
126121b8a8aeSLawrence D'Anna       return Status(r.takeError());
126221b8a8aeSLawrence D'Anna     return Status();
126321b8a8aeSLawrence D'Anna   }
126421b8a8aeSLawrence D'Anna 
1265d9b553ecSLawrence D'Anna   Expected<File::OpenOptions> GetOptions() const override {
1266d9b553ecSLawrence D'Anna     GIL takeGIL;
1267d9b553ecSLawrence D'Anna     return GetOptionsForPyObject(m_py_obj);
1268d9b553ecSLawrence D'Anna   }
1269d9b553ecSLawrence D'Anna 
1270d9b553ecSLawrence D'Anna   static char ID;
1271d9b553ecSLawrence D'Anna   bool isA(const void *classID) const override {
1272d9b553ecSLawrence D'Anna     return classID == &ID || File::isA(classID);
1273d9b553ecSLawrence D'Anna   }
1274d9b553ecSLawrence D'Anna   static bool classof(const File *file) { return file->isA(&ID); }
127521b8a8aeSLawrence D'Anna };
1276d9b553ecSLawrence D'Anna char PythonIOFile::ID = 0;
127721b8a8aeSLawrence D'Anna } // namespace
127821b8a8aeSLawrence D'Anna 
127921b8a8aeSLawrence D'Anna namespace {
128021b8a8aeSLawrence D'Anna class BinaryPythonFile : public PythonIOFile {
128121b8a8aeSLawrence D'Anna protected:
128221b8a8aeSLawrence D'Anna   int m_descriptor;
128321b8a8aeSLawrence D'Anna 
128421b8a8aeSLawrence D'Anna public:
128521b8a8aeSLawrence D'Anna   BinaryPythonFile(int fd, const PythonFile &file, bool borrowed)
128621b8a8aeSLawrence D'Anna       : PythonIOFile(file, borrowed),
128721b8a8aeSLawrence D'Anna         m_descriptor(File::DescriptorIsValid(fd) ? fd
128821b8a8aeSLawrence D'Anna                                                  : File::kInvalidDescriptor) {}
128921b8a8aeSLawrence D'Anna 
129021b8a8aeSLawrence D'Anna   int GetDescriptor() const override { return m_descriptor; }
129121b8a8aeSLawrence D'Anna 
129221b8a8aeSLawrence D'Anna   Status Write(const void *buf, size_t &num_bytes) override {
129321b8a8aeSLawrence D'Anna     GIL takeGIL;
129421b8a8aeSLawrence D'Anna     PyObject *pybuffer_p = PyMemoryView_FromMemory(
129521b8a8aeSLawrence D'Anna         const_cast<char *>((const char *)buf), num_bytes, PyBUF_READ);
129621b8a8aeSLawrence D'Anna     if (!pybuffer_p)
129721b8a8aeSLawrence D'Anna       return Status(llvm::make_error<PythonException>());
129821b8a8aeSLawrence D'Anna     auto pybuffer = Take<PythonObject>(pybuffer_p);
129921b8a8aeSLawrence D'Anna     num_bytes = 0;
130021b8a8aeSLawrence D'Anna     auto bytes_written = As<long long>(m_py_obj.CallMethod("write", pybuffer));
130121b8a8aeSLawrence D'Anna     if (!bytes_written)
130221b8a8aeSLawrence D'Anna       return Status(bytes_written.takeError());
130321b8a8aeSLawrence D'Anna     if (bytes_written.get() < 0)
130421b8a8aeSLawrence D'Anna       return Status(".write() method returned a negative number!");
130521b8a8aeSLawrence D'Anna     static_assert(sizeof(long long) >= sizeof(size_t), "overflow");
130621b8a8aeSLawrence D'Anna     num_bytes = bytes_written.get();
130721b8a8aeSLawrence D'Anna     return Status();
130821b8a8aeSLawrence D'Anna   }
130921b8a8aeSLawrence D'Anna 
131021b8a8aeSLawrence D'Anna   Status Read(void *buf, size_t &num_bytes) override {
131121b8a8aeSLawrence D'Anna     GIL takeGIL;
131221b8a8aeSLawrence D'Anna     static_assert(sizeof(long long) >= sizeof(size_t), "overflow");
131321b8a8aeSLawrence D'Anna     auto pybuffer_obj =
131421b8a8aeSLawrence D'Anna         m_py_obj.CallMethod("read", (unsigned long long)num_bytes);
131521b8a8aeSLawrence D'Anna     if (!pybuffer_obj)
131621b8a8aeSLawrence D'Anna       return Status(pybuffer_obj.takeError());
131721b8a8aeSLawrence D'Anna     num_bytes = 0;
131821b8a8aeSLawrence D'Anna     if (pybuffer_obj.get().IsNone()) {
131921b8a8aeSLawrence D'Anna       // EOF
132021b8a8aeSLawrence D'Anna       num_bytes = 0;
132121b8a8aeSLawrence D'Anna       return Status();
132221b8a8aeSLawrence D'Anna     }
132321b8a8aeSLawrence D'Anna     auto pybuffer = PythonBuffer::Create(pybuffer_obj.get());
132421b8a8aeSLawrence D'Anna     if (!pybuffer)
132521b8a8aeSLawrence D'Anna       return Status(pybuffer.takeError());
132621b8a8aeSLawrence D'Anna     memcpy(buf, pybuffer.get().get().buf, pybuffer.get().get().len);
132721b8a8aeSLawrence D'Anna     num_bytes = pybuffer.get().get().len;
132821b8a8aeSLawrence D'Anna     return Status();
132921b8a8aeSLawrence D'Anna   }
133021b8a8aeSLawrence D'Anna };
133121b8a8aeSLawrence D'Anna } // namespace
133221b8a8aeSLawrence D'Anna 
133321b8a8aeSLawrence D'Anna namespace {
133421b8a8aeSLawrence D'Anna class TextPythonFile : public PythonIOFile {
133521b8a8aeSLawrence D'Anna protected:
133621b8a8aeSLawrence D'Anna   int m_descriptor;
133721b8a8aeSLawrence D'Anna 
133821b8a8aeSLawrence D'Anna public:
133921b8a8aeSLawrence D'Anna   TextPythonFile(int fd, const PythonFile &file, bool borrowed)
134021b8a8aeSLawrence D'Anna       : PythonIOFile(file, borrowed),
134121b8a8aeSLawrence D'Anna         m_descriptor(File::DescriptorIsValid(fd) ? fd
134221b8a8aeSLawrence D'Anna                                                  : File::kInvalidDescriptor) {}
134321b8a8aeSLawrence D'Anna 
134421b8a8aeSLawrence D'Anna   int GetDescriptor() const override { return m_descriptor; }
134521b8a8aeSLawrence D'Anna 
134621b8a8aeSLawrence D'Anna   Status Write(const void *buf, size_t &num_bytes) override {
134721b8a8aeSLawrence D'Anna     GIL takeGIL;
134821b8a8aeSLawrence D'Anna     auto pystring =
134921b8a8aeSLawrence D'Anna         PythonString::FromUTF8(llvm::StringRef((const char *)buf, num_bytes));
135021b8a8aeSLawrence D'Anna     if (!pystring)
135121b8a8aeSLawrence D'Anna       return Status(pystring.takeError());
135221b8a8aeSLawrence D'Anna     num_bytes = 0;
135321b8a8aeSLawrence D'Anna     auto bytes_written =
135421b8a8aeSLawrence D'Anna         As<long long>(m_py_obj.CallMethod("write", pystring.get()));
135521b8a8aeSLawrence D'Anna     if (!bytes_written)
135621b8a8aeSLawrence D'Anna       return Status(bytes_written.takeError());
135721b8a8aeSLawrence D'Anna     if (bytes_written.get() < 0)
135821b8a8aeSLawrence D'Anna       return Status(".write() method returned a negative number!");
135921b8a8aeSLawrence D'Anna     static_assert(sizeof(long long) >= sizeof(size_t), "overflow");
136021b8a8aeSLawrence D'Anna     num_bytes = bytes_written.get();
136121b8a8aeSLawrence D'Anna     return Status();
136221b8a8aeSLawrence D'Anna   }
136321b8a8aeSLawrence D'Anna 
136421b8a8aeSLawrence D'Anna   Status Read(void *buf, size_t &num_bytes) override {
136521b8a8aeSLawrence D'Anna     GIL takeGIL;
136621b8a8aeSLawrence D'Anna     size_t num_chars = num_bytes / 6;
136721b8a8aeSLawrence D'Anna     size_t orig_num_bytes = num_bytes;
136821b8a8aeSLawrence D'Anna     num_bytes = 0;
136921b8a8aeSLawrence D'Anna     if (orig_num_bytes < 6) {
137021b8a8aeSLawrence D'Anna       return Status("can't read less than 6 bytes from a utf8 text stream");
137121b8a8aeSLawrence D'Anna     }
137221b8a8aeSLawrence D'Anna     auto pystring = As<PythonString>(
137321b8a8aeSLawrence D'Anna         m_py_obj.CallMethod("read", (unsigned long long)num_chars));
137421b8a8aeSLawrence D'Anna     if (!pystring)
137521b8a8aeSLawrence D'Anna       return Status(pystring.takeError());
137621b8a8aeSLawrence D'Anna     if (pystring.get().IsNone()) {
137721b8a8aeSLawrence D'Anna       // EOF
137821b8a8aeSLawrence D'Anna       return Status();
137921b8a8aeSLawrence D'Anna     }
138021b8a8aeSLawrence D'Anna     auto stringref = pystring.get().AsUTF8();
138121b8a8aeSLawrence D'Anna     if (!stringref)
138221b8a8aeSLawrence D'Anna       return Status(stringref.takeError());
138321b8a8aeSLawrence D'Anna     num_bytes = stringref.get().size();
138421b8a8aeSLawrence D'Anna     memcpy(buf, stringref.get().begin(), num_bytes);
138521b8a8aeSLawrence D'Anna     return Status();
138621b8a8aeSLawrence D'Anna   }
138721b8a8aeSLawrence D'Anna };
138821b8a8aeSLawrence D'Anna } // namespace
138921b8a8aeSLawrence D'Anna 
139021b8a8aeSLawrence D'Anna #endif
139121b8a8aeSLawrence D'Anna 
139221b8a8aeSLawrence D'Anna llvm::Expected<FileSP> PythonFile::ConvertToFile(bool borrowed) {
139321b8a8aeSLawrence D'Anna   if (!IsValid())
139421b8a8aeSLawrence D'Anna     return llvm::createStringError(llvm::inconvertibleErrorCode(),
139521b8a8aeSLawrence D'Anna                                    "invalid PythonFile");
139621b8a8aeSLawrence D'Anna 
139721b8a8aeSLawrence D'Anna   int fd = PyObject_AsFileDescriptor(m_py_obj);
139821b8a8aeSLawrence D'Anna   if (fd < 0) {
139921b8a8aeSLawrence D'Anna     PyErr_Clear();
140021b8a8aeSLawrence D'Anna     return ConvertToFileForcingUseOfScriptingIOMethods(borrowed);
140121b8a8aeSLawrence D'Anna   }
140221b8a8aeSLawrence D'Anna   auto options = GetOptionsForPyObject(*this);
140321b8a8aeSLawrence D'Anna   if (!options)
140421b8a8aeSLawrence D'Anna     return options.takeError();
140521b8a8aeSLawrence D'Anna 
140614735cabSMichał Górny   File::OpenOptions rw =
140714735cabSMichał Górny       options.get() & (File::eOpenOptionReadOnly | File::eOpenOptionWriteOnly |
140814735cabSMichał Górny                        File::eOpenOptionReadWrite);
140914735cabSMichał Górny   if (rw == File::eOpenOptionWriteOnly || rw == File::eOpenOptionReadWrite) {
141021b8a8aeSLawrence D'Anna     // LLDB and python will not share I/O buffers.  We should probably
141121b8a8aeSLawrence D'Anna     // flush the python buffers now.
141221b8a8aeSLawrence D'Anna     auto r = CallMethod("flush");
141321b8a8aeSLawrence D'Anna     if (!r)
141421b8a8aeSLawrence D'Anna       return r.takeError();
1415267cc329SMichal Gorny   }
141621b8a8aeSLawrence D'Anna 
141721b8a8aeSLawrence D'Anna   FileSP file_sp;
141821b8a8aeSLawrence D'Anna   if (borrowed) {
141921b8a8aeSLawrence D'Anna     // In this case we we don't need to retain the python
142021b8a8aeSLawrence D'Anna     // object at all.
142121b8a8aeSLawrence D'Anna     file_sp = std::make_shared<NativeFile>(fd, options.get(), false);
142221b8a8aeSLawrence D'Anna   } else {
142321b8a8aeSLawrence D'Anna     file_sp = std::static_pointer_cast<File>(
142421b8a8aeSLawrence D'Anna         std::make_shared<SimplePythonFile>(*this, borrowed, fd, options.get()));
142521b8a8aeSLawrence D'Anna   }
142621b8a8aeSLawrence D'Anna   if (!file_sp->IsValid())
142721b8a8aeSLawrence D'Anna     return llvm::createStringError(llvm::inconvertibleErrorCode(),
142821b8a8aeSLawrence D'Anna                                    "invalid File");
142921b8a8aeSLawrence D'Anna 
143021b8a8aeSLawrence D'Anna   return file_sp;
143121b8a8aeSLawrence D'Anna }
143221b8a8aeSLawrence D'Anna 
143321b8a8aeSLawrence D'Anna llvm::Expected<FileSP>
143421b8a8aeSLawrence D'Anna PythonFile::ConvertToFileForcingUseOfScriptingIOMethods(bool borrowed) {
143521b8a8aeSLawrence D'Anna 
143621b8a8aeSLawrence D'Anna   assert(!PyErr_Occurred());
143721b8a8aeSLawrence D'Anna 
143821b8a8aeSLawrence D'Anna   if (!IsValid())
143921b8a8aeSLawrence D'Anna     return llvm::createStringError(llvm::inconvertibleErrorCode(),
144021b8a8aeSLawrence D'Anna                                    "invalid PythonFile");
144121b8a8aeSLawrence D'Anna 
144221b8a8aeSLawrence D'Anna #if PY_MAJOR_VERSION < 3
144321b8a8aeSLawrence D'Anna 
144421b8a8aeSLawrence D'Anna   return llvm::createStringError(llvm::inconvertibleErrorCode(),
144521b8a8aeSLawrence D'Anna                                  "not supported on python 2");
144621b8a8aeSLawrence D'Anna 
144721b8a8aeSLawrence D'Anna #else
144821b8a8aeSLawrence D'Anna 
144921b8a8aeSLawrence D'Anna   int fd = PyObject_AsFileDescriptor(m_py_obj);
145021b8a8aeSLawrence D'Anna   if (fd < 0) {
145121b8a8aeSLawrence D'Anna     PyErr_Clear();
145221b8a8aeSLawrence D'Anna     fd = File::kInvalidDescriptor;
145321b8a8aeSLawrence D'Anna   }
145421b8a8aeSLawrence D'Anna 
145521b8a8aeSLawrence D'Anna   auto io_module = PythonModule::Import("io");
145621b8a8aeSLawrence D'Anna   if (!io_module)
145721b8a8aeSLawrence D'Anna     return io_module.takeError();
145821b8a8aeSLawrence D'Anna   auto textIOBase = io_module.get().Get("TextIOBase");
145921b8a8aeSLawrence D'Anna   if (!textIOBase)
146021b8a8aeSLawrence D'Anna     return textIOBase.takeError();
146121b8a8aeSLawrence D'Anna   auto rawIOBase = io_module.get().Get("RawIOBase");
146221b8a8aeSLawrence D'Anna   if (!rawIOBase)
146321b8a8aeSLawrence D'Anna     return rawIOBase.takeError();
146421b8a8aeSLawrence D'Anna   auto bufferedIOBase = io_module.get().Get("BufferedIOBase");
146521b8a8aeSLawrence D'Anna   if (!bufferedIOBase)
146621b8a8aeSLawrence D'Anna     return bufferedIOBase.takeError();
146721b8a8aeSLawrence D'Anna 
146821b8a8aeSLawrence D'Anna   FileSP file_sp;
146921b8a8aeSLawrence D'Anna 
147021b8a8aeSLawrence D'Anna   auto isTextIO = IsInstance(textIOBase.get());
147121b8a8aeSLawrence D'Anna   if (!isTextIO)
147221b8a8aeSLawrence D'Anna     return isTextIO.takeError();
147321b8a8aeSLawrence D'Anna   if (isTextIO.get())
147421b8a8aeSLawrence D'Anna     file_sp = std::static_pointer_cast<File>(
147521b8a8aeSLawrence D'Anna         std::make_shared<TextPythonFile>(fd, *this, borrowed));
147621b8a8aeSLawrence D'Anna 
147721b8a8aeSLawrence D'Anna   auto isRawIO = IsInstance(rawIOBase.get());
147821b8a8aeSLawrence D'Anna   if (!isRawIO)
147921b8a8aeSLawrence D'Anna     return isRawIO.takeError();
148021b8a8aeSLawrence D'Anna   auto isBufferedIO = IsInstance(bufferedIOBase.get());
148121b8a8aeSLawrence D'Anna   if (!isBufferedIO)
148221b8a8aeSLawrence D'Anna     return isBufferedIO.takeError();
148321b8a8aeSLawrence D'Anna 
148421b8a8aeSLawrence D'Anna   if (isRawIO.get() || isBufferedIO.get()) {
148521b8a8aeSLawrence D'Anna     file_sp = std::static_pointer_cast<File>(
148621b8a8aeSLawrence D'Anna         std::make_shared<BinaryPythonFile>(fd, *this, borrowed));
148721b8a8aeSLawrence D'Anna   }
148821b8a8aeSLawrence D'Anna 
148921b8a8aeSLawrence D'Anna   if (!file_sp)
149021b8a8aeSLawrence D'Anna     return llvm::createStringError(llvm::inconvertibleErrorCode(),
149121b8a8aeSLawrence D'Anna                                    "python file is neither text nor binary");
149221b8a8aeSLawrence D'Anna 
149321b8a8aeSLawrence D'Anna   if (!file_sp->IsValid())
149421b8a8aeSLawrence D'Anna     return llvm::createStringError(llvm::inconvertibleErrorCode(),
149521b8a8aeSLawrence D'Anna                                    "invalid File");
149621b8a8aeSLawrence D'Anna 
149721b8a8aeSLawrence D'Anna   return file_sp;
149821b8a8aeSLawrence D'Anna 
149921b8a8aeSLawrence D'Anna #endif
150021b8a8aeSLawrence D'Anna }
150121b8a8aeSLawrence D'Anna 
1502d9b553ecSLawrence D'Anna Expected<PythonFile> PythonFile::FromFile(File &file, const char *mode) {
1503d9b553ecSLawrence D'Anna   if (!file.IsValid())
1504d9b553ecSLawrence D'Anna     return llvm::createStringError(llvm::inconvertibleErrorCode(),
1505d9b553ecSLawrence D'Anna                                    "invalid file");
1506d9b553ecSLawrence D'Anna 
1507d9b553ecSLawrence D'Anna   if (auto *simple = llvm::dyn_cast<SimplePythonFile>(&file))
1508d9b553ecSLawrence D'Anna     return Retain<PythonFile>(simple->GetPythonObject());
1509d9b553ecSLawrence D'Anna #if PY_MAJOR_VERSION >= 3
1510d9b553ecSLawrence D'Anna   if (auto *pythonio = llvm::dyn_cast<PythonIOFile>(&file))
1511d9b553ecSLawrence D'Anna     return Retain<PythonFile>(pythonio->GetPythonObject());
1512d9b553ecSLawrence D'Anna #endif
1513d9b553ecSLawrence D'Anna 
1514d9b553ecSLawrence D'Anna   if (!mode) {
1515d9b553ecSLawrence D'Anna     auto m = file.GetOpenMode();
1516d9b553ecSLawrence D'Anna     if (!m)
1517d9b553ecSLawrence D'Anna       return m.takeError();
1518d9b553ecSLawrence D'Anna     mode = m.get();
1519d9b553ecSLawrence D'Anna   }
1520d9b553ecSLawrence D'Anna 
1521d9b553ecSLawrence D'Anna   PyObject *file_obj;
1522d9b553ecSLawrence D'Anna #if PY_MAJOR_VERSION >= 3
1523d9b553ecSLawrence D'Anna   file_obj = PyFile_FromFd(file.GetDescriptor(), nullptr, mode, -1, nullptr,
15243071ebf7SLawrence D'Anna                            "ignore", nullptr, /*closefd=*/0);
1525d9b553ecSLawrence D'Anna #else
15263071ebf7SLawrence D'Anna   // I'd like to pass ::fflush here if the file is writable,  so that
15273071ebf7SLawrence D'Anna   // when the python side destructs the file object it will be flushed.
15283071ebf7SLawrence D'Anna   // However, this would be dangerous.    It can cause fflush to be called
15293071ebf7SLawrence D'Anna   // after fclose if the python program keeps a reference to the file after
15303071ebf7SLawrence D'Anna   // the original lldb_private::File has been destructed.
15313071ebf7SLawrence D'Anna   //
15323071ebf7SLawrence D'Anna   // It's all well and good to ask a python program not to use a closed file
15333071ebf7SLawrence D'Anna   // but asking a python program to make sure objects get released in a
15343071ebf7SLawrence D'Anna   // particular order is not safe.
15353071ebf7SLawrence D'Anna   //
15363071ebf7SLawrence D'Anna   // The tradeoff here is that if a python 2 program wants to make sure this
15373071ebf7SLawrence D'Anna   // file gets flushed, they'll have to do it explicitly or wait untill the
15383071ebf7SLawrence D'Anna   // original lldb File itself gets flushed.
15396a93a12aSLawrence D'Anna   file_obj = PyFile_FromFile(file.GetStream(), py2_const_cast(""),
15403071ebf7SLawrence D'Anna                              py2_const_cast(mode), [](FILE *) { return 0; });
1541d9b553ecSLawrence D'Anna #endif
1542d9b553ecSLawrence D'Anna 
1543d9b553ecSLawrence D'Anna   if (!file_obj)
1544d9b553ecSLawrence D'Anna     return exception();
1545d9b553ecSLawrence D'Anna 
1546d9b553ecSLawrence D'Anna   return Take<PythonFile>(file_obj);
1547d9b553ecSLawrence D'Anna }
1548d9b553ecSLawrence D'Anna 
154904edd189SLawrence D'Anna Error PythonScript::Init() {
155004edd189SLawrence D'Anna   if (function.IsValid())
155104edd189SLawrence D'Anna     return Error::success();
155204edd189SLawrence D'Anna 
155304edd189SLawrence D'Anna   PythonDictionary globals(PyInitialValue::Empty);
155404edd189SLawrence D'Anna   auto builtins = PythonModule::BuiltinsModule();
155504edd189SLawrence D'Anna   if (Error error = globals.SetItem("__builtins__", builtins))
155604edd189SLawrence D'Anna     return error;
155704edd189SLawrence D'Anna   PyObject *o =
155804edd189SLawrence D'Anna       PyRun_String(script, Py_file_input, globals.get(), globals.get());
155904edd189SLawrence D'Anna   if (!o)
156004edd189SLawrence D'Anna     return exception();
156104edd189SLawrence D'Anna   Take<PythonObject>(o);
156204edd189SLawrence D'Anna   auto f = As<PythonCallable>(globals.GetItem("main"));
156304edd189SLawrence D'Anna   if (!f)
156404edd189SLawrence D'Anna     return f.takeError();
156504edd189SLawrence D'Anna   function = std::move(f.get());
156604edd189SLawrence D'Anna 
156704edd189SLawrence D'Anna   return Error::success();
156804edd189SLawrence D'Anna }
156904edd189SLawrence D'Anna 
157004edd189SLawrence D'Anna llvm::Expected<PythonObject>
157104edd189SLawrence D'Anna python::runStringOneLine(const llvm::Twine &string,
157204edd189SLawrence D'Anna                          const PythonDictionary &globals,
157304edd189SLawrence D'Anna                          const PythonDictionary &locals) {
157404edd189SLawrence D'Anna   if (!globals.IsValid() || !locals.IsValid())
157504edd189SLawrence D'Anna     return nullDeref();
157604edd189SLawrence D'Anna 
157704edd189SLawrence D'Anna   PyObject *code =
157804edd189SLawrence D'Anna       Py_CompileString(NullTerminated(string), "<string>", Py_eval_input);
157904edd189SLawrence D'Anna   if (!code) {
158004edd189SLawrence D'Anna     PyErr_Clear();
158104edd189SLawrence D'Anna     code =
158204edd189SLawrence D'Anna         Py_CompileString(NullTerminated(string), "<string>", Py_single_input);
158304edd189SLawrence D'Anna   }
158404edd189SLawrence D'Anna   if (!code)
158504edd189SLawrence D'Anna     return exception();
158604edd189SLawrence D'Anna   auto code_ref = Take<PythonObject>(code);
158704edd189SLawrence D'Anna 
158804edd189SLawrence D'Anna #if PY_MAJOR_VERSION < 3
158904edd189SLawrence D'Anna   PyObject *result =
159004edd189SLawrence D'Anna       PyEval_EvalCode((PyCodeObject *)code, globals.get(), locals.get());
159104edd189SLawrence D'Anna #else
159204edd189SLawrence D'Anna   PyObject *result = PyEval_EvalCode(code, globals.get(), locals.get());
159304edd189SLawrence D'Anna #endif
159404edd189SLawrence D'Anna 
159504edd189SLawrence D'Anna   if (!result)
159604edd189SLawrence D'Anna     return exception();
159704edd189SLawrence D'Anna 
159804edd189SLawrence D'Anna   return Take<PythonObject>(result);
159904edd189SLawrence D'Anna }
160004edd189SLawrence D'Anna 
160104edd189SLawrence D'Anna llvm::Expected<PythonObject>
160204edd189SLawrence D'Anna python::runStringMultiLine(const llvm::Twine &string,
160304edd189SLawrence D'Anna                            const PythonDictionary &globals,
160404edd189SLawrence D'Anna                            const PythonDictionary &locals) {
160504edd189SLawrence D'Anna   if (!globals.IsValid() || !locals.IsValid())
160604edd189SLawrence D'Anna     return nullDeref();
160704edd189SLawrence D'Anna   PyObject *result = PyRun_String(NullTerminated(string), Py_file_input,
160804edd189SLawrence D'Anna                                   globals.get(), locals.get());
160904edd189SLawrence D'Anna   if (!result)
161004edd189SLawrence D'Anna     return exception();
161104edd189SLawrence D'Anna   return Take<PythonObject>(result);
161204edd189SLawrence D'Anna }
161304edd189SLawrence D'Anna 
1614d68983e3SPavel Labath #endif
1615