আপনি ব্যবহার করতে পারেন iteration_utilities.duplicates:
>>> from iteration_utilities import duplicates
>>> list(duplicates([1,1,2,1,2,3,4,2]))
[1, 1, 2, 2]
বা আপনি যদি কেবল প্রতিটি নকলের একটি চান তবে এটির সাথে একত্রিত হতে পারে iteration_utilities.unique_everseen:
>>> from iteration_utilities import unique_everseen
>>> list(unique_everseen(duplicates([1,1,2,1,2,3,4,2])))
[1, 2]
এটি অপ্রয়োজনীয় উপাদানগুলি পরিচালনা করতে পারে (তবে পারফরম্যান্সের ব্যয়ে):
>>> list(duplicates([[1], [2], [1], [3], [1]]))
[[1], [1]]
>>> list(unique_everseen(duplicates([[1], [2], [1], [3], [1]])))
[[1]]
এটি এমন কিছু যা এখানে অন্যান্য কয়েকটি পদ্ধতির মধ্যে কেবল কয়েকটি পরিচালনা করতে পারে।
benchmarks
আমি এখানে বর্ণিত পদ্ধতির বেশিরভাগ (তবে সমস্ত নয়) একটি দ্রুত বেঞ্চমার্ক করেছি।
প্রথম মানদণ্ডে কেবলমাত্র কয়েকটি দৈর্ঘ্যের তালিকা-দৈর্ঘ্যের অন্তর্ভুক্ত ছিল কারণ কিছু পদ্ধতির রয়েছে O(n**2) আচরণ রয়েছে।
গ্রাফগুলিতে y- অক্ষ সময়টির প্রতিনিধিত্ব করে, তাই একটি নিম্ন মানের অর্থ আরও ভাল। এটি লগ-লগেরও পরিকল্পনা করা হয়েছে যাতে মানগুলির বিস্তৃত আরও ভালভাবে কল্পনা করা যায়:
অপসারণ করা হচ্ছে O(n**2)পন্থাগুলি আমি তালিকায় অর্ধ মিলিয়ন উপাদান পর্যন্ত অন্য একটি মানদণ্ড করেছি:
আপনি দেখতে পাচ্ছেন যে iteration_utilities.duplicatesএপ্রোচটি অন্য যে কোনও পদ্ধতির এবং এমনকি শৃঙ্খলার চেয়েও দ্রুতunique_everseen(duplicates(...)) অন্যান্য পদ্ধতির তুলনায় দ্রুত বা সমান দ্রুত ছিল।
এখানে আরও একটি আকর্ষণীয় বিষয় লক্ষণীয় হ'ল ছোট পান্ডের জন্য পান্ডাসের পন্থাগুলি খুব ধীর হলেও দীর্ঘ তালিকার জন্য সহজেই প্রতিযোগিতা করতে পারে।
তবে এই মানদণ্ডগুলি দেখায় যে বেশিরভাগ পন্থাগুলি প্রায় সমানভাবে সঞ্চালিত হয়, তাই কোনটি ব্যবহৃত হয় তা নিয়ে কিছু আসে যায় না ( O(n**2)রানটাইম ছিল এমন 3 টি বাদে )।
from iteration_utilities import duplicates, unique_everseen
from collections import Counter
import pandas as pd
import itertools
def georg_counter(it):
return [item for item, count in Counter(it).items() if count > 1]
def georg_set(it):
seen = set()
uniq = []
for x in it:
if x not in seen:
uniq.append(x)
seen.add(x)
def georg_set2(it):
seen = set()
return [x for x in it if x not in seen and not seen.add(x)]
def georg_set3(it):
seen = {}
dupes = []
for x in it:
if x not in seen:
seen[x] = 1
else:
if seen[x] == 1:
dupes.append(x)
seen[x] += 1
def RiteshKumar_count(l):
return set([x for x in l if l.count(x) > 1])
def moooeeeep(seq):
seen = set()
seen_add = seen.add
# adds all elements it doesn't know yet to seen and all other to seen_twice
seen_twice = set( x for x in seq if x in seen or seen_add(x) )
# turn the set into a list (as requested)
return list( seen_twice )
def F1Rumors_implementation(c):
a, b = itertools.tee(sorted(c))
next(b, None)
r = None
for k, g in zip(a, b):
if k != g: continue
if k != r:
yield k
r = k
def F1Rumors(c):
return list(F1Rumors_implementation(c))
def Edward(a):
d = {}
for elem in a:
if elem in d:
d[elem] += 1
else:
d[elem] = 1
return [x for x, y in d.items() if y > 1]
def wordsmith(a):
return pd.Series(a)[pd.Series(a).duplicated()].values
def NikhilPrabhu(li):
li = li.copy()
for x in set(li):
li.remove(x)
return list(set(li))
def firelynx(a):
vc = pd.Series(a).value_counts()
return vc[vc > 1].index.tolist()
def HenryDev(myList):
newList = set()
for i in myList:
if myList.count(i) >= 2:
newList.add(i)
return list(newList)
def yota(number_lst):
seen_set = set()
duplicate_set = set(x for x in number_lst if x in seen_set or seen_set.add(x))
return seen_set - duplicate_set
def IgorVishnevskiy(l):
s=set(l)
d=[]
for x in l:
if x in s:
s.remove(x)
else:
d.append(x)
return d
def it_duplicates(l):
return list(duplicates(l))
def it_unique_duplicates(l):
return list(unique_everseen(duplicates(l)))
বেঞ্চমার্ক ঘ
from simple_benchmark import benchmark
import random
funcs = [
georg_counter, georg_set, georg_set2, georg_set3, RiteshKumar_count, moooeeeep,
F1Rumors, Edward, wordsmith, NikhilPrabhu, firelynx,
HenryDev, yota, IgorVishnevskiy, it_duplicates, it_unique_duplicates
]
args = {2**i: [random.randint(0, 2**(i-1)) for _ in range(2**i)] for i in range(2, 12)}
b = benchmark(funcs, args, 'list size')
b.plot()
বেঞ্চমার্ক 2
funcs = [
georg_counter, georg_set, georg_set2, georg_set3, moooeeeep,
F1Rumors, Edward, wordsmith, firelynx,
yota, IgorVishnevskiy, it_duplicates, it_unique_duplicates
]
args = {2**i: [random.randint(0, 2**(i-1)) for _ in range(2**i)] for i in range(2, 20)}
b = benchmark(funcs, args, 'list size')
b.plot()
দাবি পরিত্যাগী
1 আমি লিখেছি একটি তৃতীয় পক্ষের লাইব্রেরি থেকে হল: iteration_utilities।