একটি এমএমও চ্যাটের জন্য অশ্লীল ফিল্টার


32

আমরা স্মার্টফক্স সার্ভার ব্যবহার করে একটি এমএমও বিকাশ করছি। লক্ষ্যযুক্ত শ্রোতা 7 -12 বছর বয়সী শিশু।

এই এমএমওতে একটি গ্লোবাল চ্যাট বিকল্প রয়েছে।
পাঠ্যবাক্সে ব্যবহারকারী যেভাবেই টাইপ করুন সে প্রবেশের পরে তার ব্যবহারকারীর অবতারের পরে প্রদর্শিত হবে।

আমরা এই চ্যাট থেকে অবমাননাকর ভাষা / অবজ্ঞাত ফিল্টার করতে চাই।
আমরা চ্যাটটি ক্যাপচার করতে এবং পাঠটি পড়তে পারি। সমস্যাটি খোদাইয়ের তালিকা পাচ্ছে।

আমাদের প্রশ্নগুলি হয়

  1. কোথায় সমস্ত অপব্যবহারের সম্পূর্ণ তালিকা পাবেন?
  2. এগুলি ফিল্টার করতে অনুরূপ দৃশ্যে কোন পদ্ধতি গ্রহণ করা হয়?


7
@yetanothercoder, আমার বিন্দু, ফিল্টারিং একটি কঠিন সমস্যা । উদাহরণস্বরূপ, শনিবার আপনার গেমের কোনও অনুষ্ঠান হবে? প্লেয়াররা কি তাদের চ্যাটবক্সগুলিতে "শনিবার" (মাঝের চারটি অক্ষর নোট করুন) শব্দটি টাইপ করতে পারবে ? (এবং কেন জানি ডাউনটা কেন হয় - এটি কোনও খারাপ প্রশ্ন নয় , তবে এর সহজ উত্তর নাও থাকতে পারে)।
সাইক্লোপস

6
যখন আরও ভাষা কার্যকর হয় তখন এটি আরও জটিল হয়। উদাহরণস্বরূপ: স্টারক্রাফ্ট 2 চ্যাট থেকে "ওয়েনিগার" সরিয়ে দেয়, যা "কম" এর জন্য কেবল জার্মান শব্দ ...
বাম্মজ্যাক

4
আমি যখন ছোট ছিলাম এবং ফিল্টারযুক্ত এমএমওগুলি খেলতাম তখন আরও একটি সমস্যা হ'ল এগুলি ইংরেজি ভাষার উপর ভিত্তি করে। সুতরাং আমি যদি ফরাসী কথা বলি তবে কিছু শালীন ফরাসী শব্দ সেন্সর করা যেত কারণ সেগুলি ইংরেজী অভিশাপগুলির মতো দেখায় এবং যে কোনও ক্ষেত্রে আমি এখনও ফ্রেঞ্চ ভাষায় অভিশাপ দিতে পারি wanted
Xeon06

2
আমি যা দেখেছি তা থেকে, ভাল ফিল্টার তৈরির সবচেয়ে গুরুত্বপূর্ণ বিষয়টিতে এটি বন্ধ করার বিকল্প রয়েছে। যদি আপনার কোনও বিকল্প না থাকে এবং খেলোয়াড়রা জানেন যে সেন্সর করা ছাড়া তাদের আর কোনও উপায় নেই, তারা সেন্সরটিকে অবরুদ্ধ করবেন। যদি আপনি তাদের পক্ষে এটি বন্ধ করে দেওয়া সহজ করেন, তবে সম্ভাবনা রয়েছে যে তারা এটিকে অবরুদ্ধ করে দেবেন এবং যারা কঠোর ভাষা অনুভব করতে চান না তাদের যারা ফিল্টারটি নষ্ট করার চেষ্টা করছেন তাদের সাথে মোকাবেলা করতে হবে না।
মাইকেল জেহনিচ

উত্তর:


46

না।

ফিল্টারগুলি কাজ করে না। কমপক্ষে, কেবলমাত্র ফিল্টারগুলি কাজ করে না। হোয়াইটলিস্ট, ব্ল্যাকলিস্ট, এতে কিছু আসে যায় না। এর কোনওটিই বাচ্চাদের একে অপরকে হয়রানি করা থেকে বিরত রাখতে পারে না। এই কাজটি করার একমাত্র উপায় হ'ল চ্যাটটি ফিল্টার না করা, তবে বাক্যগুলির জন্য বৃহত বিল্ডিং-ব্লক সরবরাহ করা। উদাহরণস্বরূপ, কোনও শিশু "আপনি কি চান ..." নির্বাচন করতে পারেন এবং "যান ..." এবং "বাণিজ্য ..." এর বিকল্পগুলি টানতে পারে। "যান ..." নির্বাচন করা গেমের জায়গাগুলির একটি তালিকা নিয়ে আসে।

ডিজনি তাদের এমএমও "টুনটাউন" এর জন্য এই পদ্ধতিটি স্থির করে, 14 বছর বয়সী হাইটলিস্ট পরীক্ষার বিষয়টির পরে "তাঁর [দীর্ঘ] ঘাড়ে জিরাফকে [তাদের] ফ্লাফি সাদা বানি আটকে দেওয়ার " সিদ্ধান্ত নিয়েছে সহজ কথায় বলতে গেলে আপনি অপব্যবহার রোধ করার জন্য পর্যাপ্ত শব্দকে কালো তালিকাভুক্ত বা শ্বেত তালিকাতে রাখতে পারবেন না


যে সমস্ত বলা হচ্ছে, আমি যদি একটি ছাগলের এমএমও ডিজাইন করতাম তবে আমি আসলে একটি কঠোর ব্ল্যাকলিস্ট ফিল্টারটি প্রয়োগ করতাম তবে কেবল দ্বিতীয় প্রতিরক্ষা হিসাবে। আপনার প্রতিরক্ষা প্রথম লাইন সর্বদা সংযোজনকারী এবং অপব্যবহারের প্রতিবেদন করার দক্ষতা হওয়া উচিত। আমি কালো তালিকাভুক্ত শব্দের সাথে ওজন করব, প্রতিটি ব্যবহারকারীর তারা কতটা অবজ্ঞার চেষ্টা করছে তার গোপনীয় স্কোর পেয়ে।

সম্ভাবনাগুলি হ'ল, যে কোনও ব্যবহারকারীর চেষ্টা এবং আপনার ফিল্টারটি বিকৃত করতে হবে প্রথমে এটি ট্রিগার করবে। আরও স্পষ্টত অবজ্ঞাসমূহ (অস্পষ্ট বা পুরানোগুলির বিপরীতে) বা আরও বার বার অবজ্ঞাপূর্ণ চেষ্টার এগুলি মডারেটরদের জন্য একটি ওয়াচ তালিকায় বা কোনও রকম নিষেধাজ্ঞার তালিকায় রাখে । এইভাবে, মডারেটররা এমন ব্যবহারকারীদের উপর দৃষ্টি নিবদ্ধ করতে পারে যারা মনে হয় যে এখনও নিরপরাধ বাচ্চাদের মন্তব্য পড়ার সময় নষ্ট করার পরিবর্তে অন্যকে হয়রান করার চেষ্টা করছে।


6
টুটাউন লিঙ্কের জন্যই +1 - আমি বিশেষত খেলোয়াড়দের গোপনীয় কোডগুলি বিনিময় করার জন্য গোপন চ্যানেলগুলির ব্যবহার পছন্দ করি , যাতে তারা ফিল্টারটিকে বাইপাস করতে পারে।
সাইক্লপস

1
এটি সত্যিই একটি আকর্ষণীয় পড়া ছিল যা আমি ভেবেছিলাম আমি খনন করে ভাগ করব। আপনি যদি আমার উত্তরটি না পড়ে থাকেন তবে কমপক্ষে এটি পড়ুন। = পি
dlras2

2
আমি বিশ্বাস করি যে ওয়ার্লক্রাফ্ট ওয়ার্ল্ডে ব্লিজার্ড এই কৌশলটি ব্যবহার করেছে (সাধারণ চ্যাটে পোস্ট করা শাপের গোপনীয় সংখ্যা), কমপক্ষে আমি জানি তারা ব্যবহার করত।
Nate

2
@ ড্যান ব্যক্তিগত অভিজ্ঞতা কেবল। আমি অটো-নিষিদ্ধ ছিল। (যা কোনও জিএম দ্বারা নিষিদ্ধ হওয়ার চেয়ে আলাদা অভিজ্ঞতা ছিল) কিছু ডুচে আমার গিল্ডে কিছু ছানা মৌখিকভাবে লাঞ্ছিত করছিল, এবং আমি তার উপরে চলে গেলাম। কিছুটা সময় কেবলমাত্র / সাধারণ থেকে আমাকে খেলা থেকে নিষিদ্ধ করা হয়নি।
নোট

2
প্রথম শব্দ "করবেন না" এর জন্য +1। সঞ্চালন যা ঘটে তা হ'ল এবং তাই আপনি কেবল মাইক্রোবের একটি বৃহত স্টিমিং গাদা তৈরি করার জন্য মূল্যবান প্রোগ্রামিংয়ের সংস্থান নষ্ট করার মতো বোধ করবেন ! ;
ডি

10

বলার অপেক্ষা রাখে না মানুষ জবাবে না ফিল্টার প্রদান আমি তর্ক করবে আপনি যে আছে আপনার উদ্দেশ্যে শ্রোতা পিতামাতার প্রতি সম্মান সঙ্গে আপনার নিজের গুঁতা আবরণ চেয়ে অন্য কোন কারণে, একটি ফিল্টার প্রদান। এটি ব্যবহারকারী দ্বারা অক্ষম করা যেতে পারে তা নিশ্চিত করুন। অশ্লীল ফিল্টার বাস্তবায়নের মাধ্যমে (কোনও অসম্পূর্ণ এবং সম্পূর্ণ alচ্ছিক হলেও) আপনি বলতে পারেন যে আপনি আপনার অল্প বয়স্ক দর্শকের সংবেদনশীলতা রক্ষার জন্য আপনার কাছ থেকে প্রত্যাশিত সমস্ত কিছুই করেছেন।

অক্ষম করা সম্ভব করে, আপনি চতুর বিরামচিহ্ন বা বিকল্প ব্যবহার করে ব্যবহারকারীদের এটিকে নিষিদ্ধ করার চেষ্টা থেকে নিরুৎসাহিত করেন, যেহেতু এই ধরণের ভাষার পক্ষপাতী লোকেরা তত্ক্ষণাত তাদের নিজস্ব কম্পিউটারে ফিল্টারটি নিষ্ক্রিয় করবে এবং দীর্ঘকাল ধরে ভুলে যাবে যে একটি ফিল্টার এমনকি বিদ্যমান রয়েছে ।

এই বোঝার সাথে, বাস্তবায়ন সম্পর্কে এত চিন্তা করবেন না। এটি নির্বোধ হওয়ার দরকার নেই (যা ভাল, কারণ এটি নির্বোধ হতে পারে না ), তবে এটি তুলনামূলকভাবে সম্পূর্ণ এবং যতটা সম্ভব অ-হস্তক্ষেপ করা উচিত। এটি হ'ল আপনি নিশ্চিত করতে চান না যে আপনি " ক্লাবুটিক ভুল" করছেন না।

বাস্তবায়ন অত্যন্ত সহজ হতে পারে - একটি শব্দের তালিকা পান, এবং তালিকায় পাওয়া কোনও শব্দকে তারকাচিহ্ন বা অনুরূপ কিছু দিয়ে প্রতিস্থাপন করুন। শুধুমাত্র পুরো শব্দগুলির সন্ধান করার জন্য সেরা।

শব্দের তালিকার পক্ষে এটি সহজ: http://www.google.com/search?q=profanity+word+list

মনে রাখবেন, এটি সর্বজনীন হতে হবে না, এটি কেবল বাচ্চাদের সুরক্ষার জন্য আপনার পক্ষ থেকে একটি সাহসী প্রচেষ্টার প্রতিনিধি হতে হবে।


1
নির্দিষ্ট বয়সের রেটিংয়ের জন্য আপনার আসলে কী করা দরকার তা বিশদে গবেষণা করার পরে +1 হ'ল আমার পদ্ধতিরও হবে।
ওসকার ডুভের্বন

5

আমি ব্ল্যাকলিস্ট এবং একটি শ্বেতলিস্টকে অনুমতি দেওয়ার মতো একটি সমাধান বাস্তবায়নের চেষ্টা করব, যেখানে আপনি কালো তালিকাতে 'কান্ট' যুক্ত করতে পারেন এবং উদাহরণস্বরূপ হোয়াইটলিস্টে 'স্ক্যান্টহর্পে' যুক্ত করতে পারেন।

আমি বিশ্বাস করি না যে আপনি কখনই কোনও ব্যর্থতা সমাধান সমাধান করতে পারেন, তাই আমি আপনার অভিধানে সর্বাধিক "জনপ্রিয়" শব্দগুলি পাওয়ার চেষ্টা করতাম এবং তালিকাগুলিতে নতুন শব্দ যুক্ত করা যতটা সম্ভব সহজ করে তুলতাম।

এর কারণ হ'ল ভাষা, বিশেষত ইংরাজী, ক্রমাগত বিবর্তিত হয় এবং দশকের পর বছর ধরে আপত্তিজনক কিছু এমন কিছু সঠিক প্রসঙ্গে আক্রমণাত্মক হয়ে উঠতে পারে।

সর্বাধিক শব্দগুলি সম্ভব হওয়ার চেষ্টা করুন এবং সেখান থেকে চলে যান, দ্রুত প্রতিক্রিয়ার সময়গুলি যখন লোকেরা অভিযোগ করে এবং দেখায় যে এটি সাধারণত উদ্বেগজনক এবং আমি সন্দেহ করি যে আপনার কোনও সমস্যা হবে।

মার্কিন যুক্তরাষ্ট্রে সেন্সরশিপের জন্য গাইডলাইনগুলি ঠিক কী তা জেনে রাখা ভাল ধারণা হবে: এমবিএনএল! (আমি কোন আইনজীবী হই না!)


3
উন্নত ভাষার সমাধান হ'ল প্রিফ্যানিটি দ্বারা ফিল্টার করা ।
সাইক্লোপস

@ সাইক্লপস উইন! এক্সডি
জোনাথন কনেল

4

আমি মন্তব্য, সব আপত্তিজনক শব্দ ফিল্টারিং সত্যিই কঠিন - কিন্তু আপনার চারপাশের এটি চালু করতে পারে, এবং একটি ব্যবহার পরিচ্ছন্ন তালিকা এর অনুমতি দেওয়া শব্দ। একটি গুগল অনুসন্ধান করা, শিশুদের গেমের জন্য তারা তালিকায় কী টাইপ করতে পারে তা সীমাবদ্ধ করা মোটামুটি সাধারণ বলে মনে হয়। উদাহরণস্বরূপ, লেগো ইউনিভার্স একটি শ্বেত তালিকা ব্যবহার করে।

আরও দেখুন: গেম চ্যাটের জন্য শ্বেত তালিকাভুক্ত । এবং নোট করুন যে হোয়াইটলিস্টগুলি পরিবেষ্টিত করা যেতে পারে । কোনও গ্যারান্টিযুক্ত সমাধান নেই।

এটি ছোট বাচ্চাদের জন্য, এবং ভুল বানান একটি সমস্যা হতে পারে তা বিবেচনা করে - ক্লায়েন্ট ইন্টারফেসের উপর নির্ভর করে আপনি শব্দটি স্বয়ংক্রিয়ভাবে সমাপ্তি বিবেচনা করতে পারেন । খেলোয়াড়রা চিঠি লিখতে শুরু করার সাথে সাথে সম্ভাব্য শব্দের একটি তালিকা সরবরাহ করুন এবং তাদের সঠিকটি নির্বাচন করতে দিন।


ভাল ধারণা, যদিও ছোট বাচ্চাদের জন্য এমন একটি খেলা আমার কাছে অদ্ভুত লাগবে যা বানান ভুল হতে পারে। এটি হোয়াইটলিস্টে কী আছে তার সুযোগের বাইরেও তাদের ব্যক্তিগত বিকাশকে বাধাগ্রস্ত করতে পারে।
জোনাথন কনেল

@ 3নিক্স, আমি সম্মতি জানাতে চাই এতে সমস্যা আছে, তবে প্রতিটি সম্ভাব্য সমাধান করুন। :) বানান সমস্যার একটি সমাধান হ'ল অপেক্ষা করুন, আমার এটি পোস্টে যুক্ত করা উচিত। :)
সাইক্লোপস

+1: এটি অনেক বেশি নিরাপদ হবে তবে @ 3nixio হিসাবে: বলেছেন যে এটি হয় উন্নয়নের পথে বাধা সৃষ্টি করবে বা এটি একটি খুব বড় তালিকা হবে এবং তাই মৃত্যুদন্ড কার্যকর করার সময়টি ঠিক বেড়ে যায় কি?
নবীন

@ ইয়িটানোথকোডার ক্লায়েন্টের ধরণের উপর নির্ভর করে (আমি এইচটিএমএল / জাভাস্ক্রিপ্ট ধরে নিচ্ছি), আপনি বৈধ শব্দের একটি তালিকা প্রি-ডাউনলোড করে ক্লায়েন্টে পরীক্ষা করতে পারেন। এটি সার্ভারকে ধীর করবে না (যদিও এটি তাত্ত্বিকভাবে কোনও স্মার্ট প্রোগ্রামার দ্বারা বাইপাস করা যেতে পারে)। হ্যাঁ, এটি আরও কাজ - আবার, কোনও সহজ সমাধান নেই, দুঃখিত। এটি সমস্ত নির্ভর করে কত ঝুঁকি গ্রহণযোগ্য।
সাইক্লোপস

1
@ সাইক্লোপস বাচ্চাদের গেমের জন্য এটি গ্রহণযোগ্য সমাধান হতে পারে যদি আপনি কেবল বাচ্চাদের খেলাকে বিবেচনা করেন। দুর্ভাগ্যক্রমে ক্লায়েন্ট-সাইড চেকিংয়ের অর্থ একটি 'ব্যাড-ম্যান' সহজেই বলতে পারে যা তিনি অন্যান্য খেলোয়াড়দের কাছে পছন্দ করেন।
জোনাথন কনেল

4

অসম্পূর্ণ ফিল্টার তৈরির জন্য একটি সিস্টেম বর্ণনা করার জন্য প্রোগ্রামারদের একটি উত্তর রয়েছে । তিনি কীভাবে বাস্তবে এটি দুর্দান্তভাবে তৈরি করেছিলেন তা তিনি ব্যাখ্যা করেন না, তবে বাস্তবায়নের জন্য ধারণা পাওয়ার জন্য এটি যথেষ্ট হওয়া উচিত।


4

এটি কোডের চেয়ে মানব এবং সামাজিক নকশার দ্বারা সর্বাধিক সমাধান করা সমস্যা।

বিস্তৃত তালিকার জন্য আপনার সেরা উত্স হলেন একজন জীবিত মানুষ যিনি খেলায় উপস্থিত আছেন এবং চ্যাট স্ট্রিমটি পর্যবেক্ষণ করছেন। লোককে আপনার খেলায় রাখুন এবং তাদের আপনার চূড়ান্ত ফিল্টার হতে দিন।

ক্লাব পেঙ্গুইনের পিছনে লেন মেরিফিল্ডের ধারণাগুলি এবং দর্শনগুলি দেখার জন্য এবং পরিষেবা সরবরাহের জন্য কিছুটা সময় ব্যয় করুন। ২০০৮ সালে অস্টিন জিডিসিতে তাঁর উপস্থাপনা থেকে দুটি লেখার রচনা এখানে রয়েছে I আমি এটি দেখেছি এবং মনে নেই কোড নিয়ে নয় মানুষের সাথে তাঁর মানবিক সমস্যা সমাধানের স্টাইলটি দেখে তিনি অত্যন্ত অভিভূত হয়েছেন।

http://gamasutra.com/php-bin/news_index.php?story=20234

http://www.raphkoster.com/2008/09/15/agdc08-lane-merrifield-at-their-service/

বিশেষত আপনার গেমটি বাচ্চাদের লক্ষ্য করে তোলা, এটির জন্য কেবল ফিল্টারগুলির শপথ করা আপনার আরও বেশি প্রয়োজন need আপনার বাচ্চাদের হিসাবে পোজ করা লোকদের সম্পর্কে উদ্বেগ করা দরকার যাদের খারাপ উদ্দেশ্য থাকতে পারে এবং নাও পারে। আপনার পিতামাতাদের আশ্বস্ত করতে হবে যে তাদের বাচ্চারা নিরাপদ। আপনার বাচ্চাদের আশ্বস্ত করতে হবে যে তারা সে বিষয়েও নিরাপদ।

মানুষের আর একটি প্লাস হ'ল তারা প্রসঙ্গটি বুঝতে পারবে। আপনি কোনও বাচ্চাকে "আমার মা'র স্তনের ক্যান্সার হয়েছে" বলে লাথি মেরে বলতে চান না।


আমাদের কাছে নিশ্চিত যে এমন মডারেটর রয়েছে যারা সম্ভাব্য কৌশলগুলি নিষিদ্ধ করতে পারে। আমি অশ্লীল বিষয়ে আরও উদ্বিগ্ন। এটি মডারেটরদের জন্য ক্লান্তিকর কাজ হবে যখন, খারাপ প্রসঙ্গে ব্যবহৃত বেশিরভাগ শব্দ পুনরাবৃত্তি হবে।
নবীন

আমি অবশ্যই বলতে চাই যে আপনি সাধারণ জিনিসগুলিকে কী বলতে পারেন তা সনাক্ত করতে আপনার কাছে অশুভ ফিল্টার সক্রিয় থাকতে পারে এবং মডারেটরদের কাছে এটি পতাকাঙ্কিত করুন। "শীর্ষ 100" শব্দের তালিকার তালিকাটি উপস্থিত করা এতটা কঠিন নয়, তারপরে সমস্ত স্ট্রিংয়ের সাথে কিছু দ্রুত প্যাটার্ন মেলাতে চেষ্টা করুন। প্রথমে সমস্ত স্পেস এবং বিরামচিহ্নগুলি সরিয়ে ফেলুন যাতে লোকেদের সিগ_এল_এটি না হয় বা অ্যালগরিদমটি পরিচালনা করে না। শেষ পর্যন্ত যদিও এর 'মানবেরা এটি সঠিকভাবে করবে।
টিম হল্ট

3

সমস্যার সহজ সমাধান:

  1. আপনার ইনপুট থেকে সমস্ত স্পেস এবং বিরামচিহ্ন সরান।
  2. আরবান অভিধানের সমস্ত কিছু ব্ল্যাকলিস্ট করুন ।
  3. সমস্ত হোমোফোন ইত্যাদি ব্ল্যাকলিস্ট করুন
  4. স্নিগ্ধরূপ হিসাবে ব্যবহৃত হতে পারে এমন সমস্ত কিছুকে কালো তালিকাভুক্ত করুন।
  5. কী বাকী রয়েছে তার বিষয়বস্তু, উদ্দেশ্য এবং সুরটি বুঝতে আপনার সফ্টওয়্যারটি লিখুন।
  6. খেলা ছুঁড়ে ফেলুন এবং 5 ধাপ থেকে সংবেদনশীল এবং সর্বজ্ঞ তৈরির সাথে বাজারে যান।

6
হোমো ফোনগুলি লোলোলোলল
জোনাথন কনেল

3
এটি স্প্যামার ক্যাপচা সলভার এবং স্প্যাম ফিল্টারগুলির শেষ ফলাফল: সংবেদনশীল এআই যা পৃথিবীর নিয়ন্ত্রণের জন্য লড়াই করে: এক পক্ষ ভায়াগ্রা বিক্রি করার চেষ্টা করছে এবং অন্যদিকে মানবতা রক্ষার চেষ্টা করছে। ভেরি ট্রান্সফরমার। :-)
Zan Lynx

3

বাচ্চাদের জন্য কিছু এমএমও কেবল ইমোট এবং বাক্যাংশের একটি পূর্বনির্ধারিত তালিকার সাথে চ্যাটটিকে প্রতিস্থাপন করে এবং কেবল ফ্রি-ফর্ম চ্যাটের অনুমতি দেয় না। সম্ভবত গেমটি এটির জন্য ডিজাইন করা যেতে পারে।

আমাদের সাইট ব্যবহার করে, আপনি স্বীকার করেছেন যে আপনি আমাদের কুকি নীতি এবং গোপনীয়তা নীতিটি পড়েছেন এবং বুঝতে পেরেছেন ।
Licensed under cc by-sa 3.0 with attribution required.