প্রশ্ন ট্যাগ «pyspark»

স্পার্ক পাইথন এপিআই (পাইসপার্ক) অ্যাপাচি-স্পার্ক প্রোগ্রামিং মডেলটি পাইথনে প্রকাশ করে।

3
কীভাবে 'টাইপএরর' ঠিক করতে হবে: স্পার্ক ২.৪.৪ ইনস্টল করার পরে পাইপর্ক চালানোর চেষ্টা করার সময় একটি পূর্ণসংখ্যার (টাইপ বাইটস পাওয়া যায়) ত্রুটি
আমি ওপেনজেডিকে 13.0.1 এবং পাইথন 3.8 এবং স্পার্ক 2.4.4 ইনস্টল করেছি। ইনস্টলটি পরীক্ষা করার জন্য নির্দেশগুলি চালনা করা হয় the স্পার্ক ইনস্টলেশনটির মূল থেকে \ বিন \ পাইপার্ক। আমি নিশ্চিত না যে আমি কিছু পরিবেশের পরিবর্তনশীল স্থাপনের মতো স্পার্ক ইনস্টল করার কোনও পদক্ষেপ মিস করেছি, তবে আমি আর কোনও বিস্তারিত …

1
পান্ডাসুডিএফ এবং পাইয়ারো 0.15.0
pysparkইএমআর ক্লাস্টারগুলিতে চলমান বেশ কয়েকটি কাজের জন্য আমি সম্প্রতি বেশ কিছু ত্রুটি পেতে শুরু করেছি । এরোরা হ'ল java.lang.IllegalArgumentException at java.nio.ByteBuffer.allocate(ByteBuffer.java:334) at org.apache.arrow.vector.ipc.message.MessageSerializer.readMessage(MessageSerializer.java:543) at org.apache.arrow.vector.ipc.message.MessageChannelReader.readNext(MessageChannelReader.java:58) at org.apache.arrow.vector.ipc.ArrowStreamReader.readSchema(ArrowStreamReader.java:132) at org.apache.arrow.vector.ipc.ArrowReader.initialize(ArrowReader.java:181) at org.apache.arrow.vector.ipc.ArrowReader.ensureInitialized(ArrowReader.java:172) at org.apache.arrow.vector.ipc.ArrowReader.getVectorSchemaRoot(ArrowReader.java:65) at org.apache.spark.sql.execution.python.ArrowPythonRunner$$anon$1.read(ArrowPythonRunner.scala:162) at org.apache.spark.sql.execution.python.ArrowPythonRunner$$anon$1.read(ArrowPythonRunner.scala:122) at org.apache.spark.api.python.BasePythonRunner$ReaderIterator.hasNext(PythonRunner.scala:406) at org.apache.spark.InterruptibleIterator.hasNext(InterruptibleIterator.scala:37) at org.apache.spark.sql.execution.python.ArrowEvalPythonExec$$anon$2.<init>(ArrowEvalPythonExec.scala:98) at org.apache.spark.sql.execution.python.ArrowEvalPythonExec.evaluate(ArrowEvalPythonExec.scala:96) at org.apache.spark.sql.execution.python.EvalPythonExec$$anonfun$doExecute$1.apply(EvalPythonExec.scala:127)... এগুলি সমস্তই applyএকটি …

1
অ্যাপাচি স্পার্ক: পুনরায় বিভাজন, বাছাই এবং জোড়ায় ক্যাশে করার প্রভাব
আমি কোনও টেবিলে যোগদান করার সময় স্পার্কের আচরণটি অন্বেষণ করছি। আমি ডেটাব্রিক্স ব্যবহার করছি। আমার ডামি দৃশ্যটি হ'ল: ডেটাফ্রেম এ হিসাবে বাহ্যিক সারণি পড়ুন (অন্তর্নিহিত ফাইলগুলি ডেল্টা ফর্ম্যাটে রয়েছে) ডেটাফ্রেম বিটিকে ডেটাফ্রেম এ হিসাবে নির্দিষ্ট নির্দিষ্ট কলামগুলির সাথে নির্দিষ্ট করুন কলাম 1 এবং কলাম 2 এ ডেটাফ্রেমগুলি এ এবং বিতে …
আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.