তথ্য বিজ্ঞান

ডেটা সায়েন্স পেশাদার, মেশিন লার্নিং বিশেষজ্ঞ এবং ক্ষেত্র সম্পর্কে আরও শিখতে আগ্রহী ব্যক্তিদের জন্য প্রশ্নোত্তর

2
অর্থ বিশ্লেষণের জন্য বড় ডেটাতে লাইবলাইনার ব্যবহার করুন
আমি ডেটা প্রশিক্ষণের জন্য লিবিএসভিএম ব্যবহার করি এবং শব্দার্থ বিশ্লেষণ সমস্যার উপর শ্রেণিবিন্যাসের পূর্বাভাস করি । তবে এটি বৃহত আকারের ডেটাতে পারফরম্যান্সের সমস্যা রয়েছে কারণ শব্দার্থবিজ্ঞানের বিশ্লেষণে এন-ডাইমেনশন সমস্যা উদ্বেগ । গত বছর, লিবলাইনার মুক্তি পেয়েছিল এবং এটি পারফরম্যান্সের বাধা সমাধান করতে পারে। তবে এটির জন্য খুব বেশি স্মৃতি ব্যয় …

5
আমাদের রিলেশনাল ডিবিএমএসের ডেটা বড় হচ্ছে, এখন কি নোএসকিউএল এ যাওয়ার সময় এসেছে?
আমরা ইয়ার্নিংয়ের উদ্দেশ্যে একটি সামাজিক নেটওয়ার্ক অ্যাপ্লিকেশন তৈরি করেছি। এটি একটি পরীক্ষামূলক প্রকল্প যা আমরা আমাদের ল্যাবটিতে গবেষণা করছি। এটি কিছু ক্ষেত্রে স্টাডিতে ব্যবহৃত হয়েছে এবং আমাদের রিলেশনাল ডিবিএমএস (এসকিউএল সার্ভার ২০০৮) এর ডেটা বড় হচ্ছে। এটি এখন কয়েকটি গিগাবাইট এবং টেবিলগুলি একে অপরের সাথে অত্যন্ত সংযুক্ত। পারফরম্যান্সটি এখনও ঠিক …

1
কেরাসের ফিট ফাংশনটির বৈধতা_স্প্লিট পরামিতি কীভাবে কাজ করে?
কেরাস সিকোয়েন্সিয়াল মডেল ফিট ফাংশনটিতে বৈধতা-বিভক্তিকে https://keras.io/models/sequential/ এ নিম্নলিখিত হিসাবে নথিভুক্ত করা হয়েছে : যাচাইকরণ_স্প্লিট: 0 এবং 1 এর মধ্যে ভাসান প্রশিক্ষণ ডেটা ভগ্নাংশ যাচাইকরণ ডেটা হিসাবে ব্যবহার করা। মডেল প্রশিক্ষণের ডেটাগুলির এই ভগ্নাংশটি পৃথক করবে, এটির উপর প্রশিক্ষণ দেবে না এবং প্রতিটি যুগের শেষে এই ডেটাতে হওয়া ক্ষয় এবং …

2
কেন বৈধতা সেট এবং পরীক্ষা সেট উভয় ব্যবহার?
একটি নিউরাল নেটওয়ার্ক বিবেচনা করুন: প্রদত্ত ডেটা সেট করার জন্য, আমরা এটিকে প্রশিক্ষণ, বৈধতা এবং পরীক্ষার সেটগুলিতে ভাগ করি। ধরুন আমরা এটি ক্লাসিক :20০:২০:২০ অনুপাতে করি, তারপরে আমরা নেটওয়ার্কটিকে বৈধতা সেটটিতে যাচাই করে ওভারফিটিং আটকাতে পারি। তাহলে এর কার্যকারিতা যাচাই করতে পরীক্ষার সেটটিতে এটি পরীক্ষা করার দরকার কী? নেটওয়ার্কের জন্য …

3
গভীর শেখার মডেলগুলিকে প্রশিক্ষণ দেওয়ার সময় মিনি-ব্যাচের মেমরির প্রভাব কীভাবে গণনা করা যায়?
আমি আন্ড্রেজ কারফাতীর কাছ থেকে এই নোটগুলির উপর ভিত্তি করে আমার মডেলকে প্রশিক্ষণের জন্য কোনও জিপিইউর প্রয়োজনীয় মেমোরি গণনা করার চেষ্টা করছি: http://cs231n.github.io/convolutional- নেট ওয়ার্কস / # কমপিটেশনাল- কনসাইডারেশন আমার নেটওয়ার্কে 532,752 টি অ্যাক্টিভেশন এবং 19,072,984 পরামিতি (ওজন এবং বায়াস ) রয়েছে। এগুলি সমস্ত 32 বিট ভাসমান মান, সুতরাং প্রতিটি …

4
উদাহরণস্বরূপ সংখ্যার তুলনায় বৈশিষ্ট্যগুলির সংখ্যার উপর কোনও "থাম্বের নিয়ম"? (ছোট ডেটা সেট)
আমি ভাবছি, যদি পর্যালোচনার সংখ্যার তুলনায় বৈশিষ্ট্যগুলির সংখ্যার উপর কোনও হুরিস্টিক্স থাকে। স্পষ্টতই, যদি বেশ কয়েকটি বৈশিষ্ট্য পর্যবেক্ষণের সংখ্যার সমান হয়, তবে মডেলটি উপচে পড়বে। স্পার পদ্ধতিতে (লাসো, ইলাস্টিক নেট) ব্যবহার করে আমরা মডেল হ্রাস করতে কয়েকটি বৈশিষ্ট্য সরিয়ে ফেলতে পারি। আমার প্রশ্নটি (তাত্ত্বিকভাবে): মডেল নির্বাচনের মূল্যায়ন করতে আমরা মেট্রিক …

2
সহযোগী ফিল্টারিং ব্যবহার করে অতিরিক্ত বৈশিষ্ট্যযুক্ত চলচ্চিত্রগুলির প্রস্তাব দেওয়া হচ্ছে
আমি সহযোগী ফিল্টারিং ব্যবহার করে একটি সুপারিশ সিস্টেম তৈরির চেষ্টা করছি। আমার কাছে স্বাভাবিক [user, movie, rating]তথ্য আছে। আমি 'ভাষা' বা 'চলচ্চিত্রের সময়কাল' এর মতো একটি অতিরিক্ত বৈশিষ্ট্য অন্তর্ভুক্ত করতে চাই। আমি নিশ্চিত নই যে এই জাতীয় সমস্যার জন্য আমি কী কৌশলগুলি ব্যবহার করতে পারি। দয়া করে পাইথন / আর-তে …

2
শ্রেণিবদ্ধের নির্ভুলতা কীভাবে বাড়ানো যায়?
আমি এলোমেলো গাছ এবং অন্যান্য শ্রেণিবদ্ধের উপর পরীক্ষার জন্য ওপেনসিভি লেটার_রেকগ। পিপি উদাহরণ ব্যবহার করছি। এই উদাহরণে ছয় শ্রেণিবদ্ধের প্রয়োগ রয়েছে - এলোমেলো গাছ, বুস্টিং, এমএলপি, কেএনএন, নিষ্পাপ বয়েস এবং এসভিএম। 20000 দৃষ্টান্ত এবং 16 টি বৈশিষ্ট্য সহ ইউসিআই লেটার স্বীকৃতি ডেটাসেট ব্যবহার করা হয়েছে, যা আমি প্রশিক্ষণ এবং পরীক্ষার …

5
বাইনারি শ্রেণিবদ্ধকরণ অ্যালগরিদম চয়ন করুন
আমার একটি বাইনারি শ্রেণিবদ্ধকরণ সমস্যা রয়েছে: প্রশিক্ষণ সেট প্রায় 1000 নমুনা বাইনারি, সংখ্যাগত এবং শ্রেণিবদ্ধ সহ 10 টি বৈশিষ্ট্য এই ধরণের সমস্যার জন্য কোন অ্যালগরিদম সেরা পছন্দ? ডিফল্টরূপে আমি এসভিএম (প্রাথমিক স্তরের নামমাত্র বৈশিষ্ট্যগুলির মান বাইনারি বৈশিষ্ট্যগুলিতে রূপান্তরিত) দিয়ে শুরু করতে যাচ্ছি, কারণ এটি তুলনামূলকভাবে পরিষ্কার এবং কোলাহলযুক্ত ডেটার জন্য …

1
ডিপ নিউরাল নেটওয়ার্ক - আরএলইউ সহ ব্যাকপ্রোগেশন
আরএলইউর সাথে ফিরে প্রচার পেতে আমার কিছুটা সমস্যা হচ্ছে, এবং আমি কিছু কাজ করেছিলাম, তবে আমি সঠিক পথে রয়েছি কিনা তা নিশ্চিত নই। ব্যয় কার্যকারিতা: যেখানে হল আসল মান এবং একটি পূর্বাভাসকৃত মান। সর্বদা > 0 ধরেও নিন ।12(y−y^)212(y−y^)2\frac{1}{2}(y-\hat y)^2 Y এক্সyyyy^y^\hat yxxx 1 স্তর রিলু, যেখানে প্রথম স্তরের ওজনw1w1w_1 …

4
Tfrecord ফাইলটি শার্ডে বিভক্ত করার সুবিধা কী?
আমি টেনসরফ্লোতে বক্তৃতা স্বীকৃতি নিয়ে কাজ করছি এবং বিশাল তরঙ্গ ডেটাসেট দিয়ে এলএসটিএম এনএনকে প্রশিক্ষণের পরিকল্পনা করছি। পারফরম্যান্স লাভের কারণে, আমি tfrecord ব্যবহার করার পরিকল্পনা করছি। ইন্টারনেটে কয়েকটি উদাহরণ রয়েছে (প্রারম্ভিক ইনসেপশন।) যেখানে tfrecords ফাইলগুলি শার্ডে বিভক্ত। আমার প্রশ্ন: tfrecords ফাইলটি শার্ডে রাখার সুবিধা কী? এই বিভক্তির কোনও অতিরিক্ত কর্মক্ষমতা …

5
সামুদ্রিক হটম্যাপটি আরও বড় করুন
আমি corr()একটি আসল df এর বাইরে একটি df তৈরি করি । corr()Df প্রয়োগ আউট 70 এক্স 70 এসে তা হিটম্যাপ ঠাহর করা অসম্ভব ... sns.heatmap(df)। যদি আমি এটি প্রদর্শনের চেষ্টা করি corr = df.corr(), টেবিলটি স্ক্রিনের সাথে খাপ খায় না এবং আমি সমস্ত সম্পর্কিততা দেখতে পাচ্ছি। dfএটির আকার নির্বিশেষে পুরো …
17 visualization  pandas  plotting  machine-learning  neural-network  svm  decision-trees  svm  efficiency  python  linear-regression  machine-learning  nlp  topic-model  lda  named-entity-recognition  naive-bayes-classifier  association-rules  fuzzy-logic  kaggle  deep-learning  tensorflow  inception  classification  feature-selection  feature-engineering  machine-learning  scikit-learn  tensorflow  keras  encoding  nlp  text-mining  nlp  rnn  python  neural-network  feature-extraction  machine-learning  predictive-modeling  python  r  linear-regression  clustering  r  ggplot2  neural-network  neural-network  training  python  neural-network  deep-learning  rnn  predictive-modeling  databases  sql  programming  distribution  dataset  cross-validation  neural-network  deep-learning  rnn  machine-learning  machine-learning  python  deep-learning  data-mining  tensorflow  visualization  tools  sql  embeddings  orange  feature-extraction  unsupervised-learning  gan  machine-learning  python  data-mining  pandas  machine-learning  data-mining  bigdata  apache-spark  apache-hadoop  deep-learning  python  convnet  keras  aggregation  clustering  k-means  r  random-forest  decision-trees  reference-request  visualization  data  pandas  plotting  neural-network  keras  rnn  theano  deep-learning  tensorflow  inception  predictive-modeling  deep-learning  regression  sentiment-analysis  nlp  encoding  deep-learning  python  scikit-learn  lda  convnet  keras  predictive-modeling  regression  overfitting  regression  svm  prediction  machine-learning  similarity  word2vec  information-retrieval  word-embeddings  neural-network  deep-learning  rnn 

5
কর্মক্ষমতা উন্নত করতে মেশিন লার্নিংগুলিতে স্পারস এবং ঘন ডেটা একত্রিত করা
আমার স্পর্স বৈশিষ্ট্য রয়েছে যা ভবিষ্যদ্বাণীমূলক, এছাড়াও আমার কাছে কিছু ঘন বৈশিষ্ট্য রয়েছে যা ভবিষ্যদ্বাণীমূলক। শ্রেণিবদ্ধের সামগ্রিক কর্মক্ষমতা উন্নত করতে আমার এই বৈশিষ্ট্যগুলি একত্রিত করতে হবে। এখন, জিনিসটি যখন আমি এগুলি একত্রিত করার চেষ্টা করি তখন ঘন বৈশিষ্ট্যগুলি বিচ্ছিন্ন বৈশিষ্ট্যগুলির চেয়ে বেশি আধিপত্য বয়ে থাকে, সুতরাং কেবল ঘন বৈশিষ্ট্যযুক্ত মডেলের …

2
আমাদেরও পরীক্ষার ডেটাতে নরমালাইজেশন প্রয়োগ করা উচিত?
আমি লেখক সনাক্তকরণ সমস্যা নিয়ে একটি প্রকল্প করছি। আমি ডেটা প্রশিক্ষণের জন্য টিএফ-আইডিএফ নরমালাইজেশন প্রয়োগ করেছি এবং তারপরে সেই ডেটাতে একটি এসএমএম প্রশিক্ষিত করেছি। ক্লাসিফায়ার ব্যবহার করার সময় আমারও পরীক্ষার ডেটাগুলিকে স্বাভাবিক করা উচিত। আমি অনুভব করি যে সাধারণকরণের মূল লক্ষ্য হ'ল শেখার সময় আরও গুরুত্বপূর্ণ বৈশিষ্ট্যগুলিকে আরও বেশি ওজন …

4
পান্ডা কি এখন ডেটা.ট্যাবলের চেয়ে দ্রুত?
https://github.com/Rdatatable/data.table/wiki/Benchmarks-%3A-Grouping ডেটা.টিটেবল বেঞ্চমার্কগুলি ২০১৪ সাল থেকে আপডেট করা হয়নি I আমি কোথাও শুনেছি Pandasযা এখনকার চেয়ে দ্রুত data.table। এটা কি সত্য? কেউ কি কোনও মানদণ্ড করেছে? আমি পাইথন এর আগে কখনও ব্যবহার করি নি তবে pandasহিট করতে পারলে স্যুইচিংয়ের কথা বিবেচনা করব data.table?
17 python  r  pandas  data  data.table 

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.