প্রশ্ন ট্যাগ «pyspark»

আমি 10 তথ্য ফ্রেম আছে pyspark.sql.dataframe.DataFrame, থেকে প্রাপ্ত randomSplitযেমন (td1, td2, td3, td4, td5, td6, td7, td8, td9, td10) = td.randomSplit([.1, .1, .1, .1, .1, .1, .1, .1, .1, .1], seed = 100)এখন আমি 9 যোগ দিতে চান td'একটি একক তথ্য ফ্রেম গুলি, আমি কিভাবে কি করা উচিত? আমি ইতিমধ্যে …

21 python  apache-spark  cross-validation  pyspark 

কীভাবে আমি পিএসপার্ক ডেটাফ্রেমে একটি .csv ফাইল আমদানি করতে পারি? এমনকি আমি পান্ডাসে সিএসভি ফাইলটি পড়ার চেষ্টা করেছি এবং তারপরে এটি তৈরির ডেটা ফ্রেম ব্যবহার করে একটি স্পার্ক ডেটা ফ্রেমে রূপান্তরিত করেছি, তবে এটি এখনও কিছু ত্রুটি দেখাচ্ছে showing এর মাধ্যমে কেউ আমাকে গাইড করতে পারে? এছাড়াও, দয়া করে আমাকে …

13 pyspark 

আমার ব্যবহার করা উচিত ন্যূনতম, সর্বাধিক এবং "যুক্তিসঙ্গত" পরিমাণগুলির সাথে সম্পর্কিত কোনও নিয়ামক (বা প্রকৃত নিয়ম) কি আছে? বিশেষত আমি টেনসরফ্লো এবং num_unitsসম্পত্তি থেকে বেসিকএলএসটিএমসেল সম্পর্কিত করছি । অনুগ্রহ করে ধরে নিই যে আমার দ্বারা শ্রেণিবদ্ধকরণের সমস্যা রয়েছে: t - number of time steps n - length of input vector …

12 rnn  machine-learning  r  predictive-modeling  random-forest  python  language-model  sentiment-analysis  encoding  machine-learning  deep-learning  neural-network  dataset  caffe  classification  xgboost  multiclass-classification  unbalanced-classes  time-series  descriptive-statistics  python  r  clustering  machine-learning  python  deep-learning  tensorflow  machine-learning  python  predictive-modeling  probability  scikit-learn  svm  machine-learning  python  classification  gradient-descent  regression  research  python  neural-network  deep-learning  convnet  keras  python  tensorflow  machine-learning  deep-learning  tensorflow  python  r  bigdata  visualization  rstudio  pandas  pyspark  dataset  time-series  multilabel-classification  machine-learning  neural-network  ensemble-modeling  kaggle  machine-learning  linear-regression  cnn  convnet  machine-learning  tensorflow  association-rules  machine-learning  predictive-modeling  training  model-selection  neural-network  keras  deep-learning  deep-learning  convnet  image-classification  predictive-modeling  prediction  machine-learning  python  classification  predictive-modeling  scikit-learn  machine-learning  python  random-forest  sampling  training  recommender-system  books  python  neural-network  nlp  deep-learning  tensorflow  python  matlab  information-retrieval  search  search-engine  deep-learning  convnet  keras  machine-learning  python  cross-validation  sampling  machine-learning 

আমি বাইরে বেরোনোর ​​আগে এবং কিছু হার্ডওয়্যার দিয়ে একটি ক্লাস্টার গড়ে তুলতে অর্থ ব্যয় করার আগে স্পার্কের সাথে পরীক্ষার জন্য ভিএমগুলির একটি সেট স্থাপনের কাজ করছি। তাত্ক্ষণিক দ্রষ্টব্য: আমি প্রয়োগকৃত মেশিন লার্নিংয়ের ব্যাকগ্রাউন্ড সহ একাডেমিক এবং ডেটা সায়েন্সে কিছুটা ছেড়ে দিয়ে কাজ করি। আমি কম্পিউটিংয়ের জন্য সরঞ্জামগুলি ব্যবহার করি, খুব …

11 python  apache-spark  pyspark  ipython 

আমি পাইপার্ক অ্যাপ্লিকেশনগুলির সাথে কাজ করার জন্য আইপিথন নোটবুকটি ব্যবহার করছি। 50k রেঞ্জের আয়ের আওতাধীন কিনা তা নির্ধারণ করতে আমার কাছে প্রচুর শ্রেণীবদ্ধ কলাম সহ একটি সিএসভি ফাইল রয়েছে। আমি আয়ের সীমা নির্ধারণ করতে সমস্ত ইনপুট গ্রহণ করে একটি শ্রেণিবদ্ধকরণ অ্যালগরিদম সম্পাদন করতে চাই। আমাকে ম্যাপযুক্ত ভেরিয়েবলগুলিতে ভেরিয়েবলের একটি অভিধান …

11 python  apache-spark  categorical-data  pyspark 

প্রশ্নটি আমি স্পার্কে প্রশিক্ষিত একটি ALS মডেলটিতে একজন নতুন ব্যবহারকারীর জন্য রেটিংটি কীভাবে পূর্বাভাস করব? (নতুন = প্রশিক্ষণের সময় দেখা যায় না) সমস্যাটি আমি এখানে অফিসিয়াল স্পার্ক ALS টিউটোরিয়াল অনুসরণ করছি: http://ampcamp.berkeley.edu/big-data-mini-course/movie-recommendation-with-mllib.html আমি একটি শালীন এমএসই দিয়ে একটি ভাল সুপারিশকারী তৈরি করতে সক্ষম তবে আমি কীভাবে মডেলটিতে নতুন ডেটা ইনপুট …

10 apache-spark  recommender-system  pyspark 

আমার কাছে একটি বড় ডেটাসেট রয়েছে যা নির্দিষ্ট পরামিতি অনুসারে আমাকে গ্রুপে বিভক্ত করতে হবে। আমি চাই চাকরিটি যথাসম্ভব দক্ষতার সাথে প্রক্রিয়াজাত করা হোক। আমি এটি করার দুটি উপায় কল্পনা করতে পারি বিকল্প 1 - মূল আরডিডি এবং ফিল্টার থেকে মানচিত্র তৈরি করুন def customMapper(record): if passesSomeTest(record): return (1,record) else: …

10 apache-spark  pyspark