موارد مهم
- ToxMod، توسط شرکت مستقر در بوستون Modulate، ادعا می کند که گفتار مخرب را به طور خودکار و در زمان واقعی شناسایی و در برابر آن عمل می کند.
- به جای محدود شدن با زبان ساده، ToxMod از یادگیری ماشینی برای کشف موارد ناملموس مانند احساسات، حجم و ریتم استفاده می کند.
- ToxMod در حال حاضر برای استفاده با اتاق های چت درون بازی طراحی شده است، اما دلیلی ندارد که به کانال Twitch شما بیاید.
یک شرکت مستقر در بوستون در حال استفاده از یادگیری ماشینی است تا آنچه را که به عنوان اولین سرویس تعدیل صدای بومی در جهان اعلام می کند ایجاد کند، که می تواند تفاوت بین آنچه گفته می شود و معنای آن را تشخیص دهد.
ToxMod تلاشی برای حل پارادوکس تعدیل هر فضای باز در اینترنت است. انسان کافی برای پاسخگویی به تقاضا وجود ندارد، اما الگوریتم‌ها، فیلترها و یک سیستم گزارش تفاوت‌های ظریف را درک نمی‌کنند.
با پایگاه داده ToxMod، می تواند عواملی را در گفتار بازیکنان مانند احساسات و حجم ردیابی کند، که به آن کمک می کند بین یک لغزش لحظه ای و یک الگوی رفتار تمایز قائل شود. اخیراً به عنوان یک بازی اضافه شده به بازی فوتبال آمریکایی Gridiron 7v7 که در حال حاضر در Steam Early Access است، معرفی شد.
"همه می‌دانند که آزار و اذیت، سخنان نفرت‌انگیز، و مسمومیت در چت صوتی و بازی یک مشکل بزرگ است. این معمولاً قابل درک است. لایف وایر. ما می‌توانیم ویژگی‌هایی را که از طریق این سیستم‌های یادگیری ماشین استخراج می‌کردیم، در نظر بگیریم و آنها را در سیستمی ادغام کنیم که تمام این دانش تخصصی را که از جامعه یاد می‌گرفتیم، در نظر بگیرد."
درود بر مدیران ربات جدید ما
Modulate از پاییز گذشته روی ToxMod کار کرده است و آن را به عنوان یکی از سه سرویس اصلی شرکت گنجانده است. همچنین VoiceWear، مخفی‌کننده صدا با یادگیری ماشینی، و VoiceVibe، یک سرویس جمع‌آوری را ارائه می‌کند که به کاربران امکان می‌دهد بفهمند افراد در انجمن‌هایشان درباره چه چیزی بحث می‌کنند.
هنگامی که ToxMod در یک چت اجرا می شود، می توان آن را از طریق پنل مدیریت Modulate برنامه ریزی کرد تا انواع مختلفی از اقدامات خودکار را انجام دهد، مانند صدور اخطار، نادیده گرفتن پخش کننده ها، یا تنظیم جداگانه صدا.
از یک سیستم تریاژ استفاده می کند که در آن نمونه محلی آن اولین اقدامی است که قبل از بررسی با سرورهای Modulate برای تأیید انجام می دهد. سپس در نهایت به جایی می رسد که ممکن است نیاز به دخالت انسان داشته باشد. با اجرای هر بررسی به نوبه خود، که Modulate آن را "دروازه های تریاژ" می نامد، ایده این است که ToxMod به تیم کوچکی از مدیران ابزارهایی را می دهد که با آن می توانند به طور مؤثر یک جامعه بسیار بزرگتر را تعدیل کنند.
مایک پاپاس، مدیر عامل Modulate گفت: "حقیقت غم انگیز این است که همه این تجربه را داشته اند، تلاش برای استفاده از چت صوتی در هر پلتفرمی که روی آن بودید، و متوجه شدند که، پسر، این ایده بدی بود." تماس تصویری با Lifewire. "اینکه بتوانید وارد شوید و بگویید، "این غرب وحشی نیست. قوانینی وجود دارد." من فکر می کنم این واقعاً مهم است."
شکستن سیستم
طبیعتاً، دومین یا سومین سؤالی که باید در مورد ToxMod بپرسید این است که چگونه آن را بشکنید.
با بسیاری از سیستم‌های تعدیل خودکار، مانند الگوریتم‌های حاکم بر توییتر، بازی کردن آنها با افرادی که دوست ندارید آسان است. فقط کافی است هدف خود را با چند حساب عروسکی به صورت انبوه گزارش دهید و آنها به طور قابل اعتمادی تحریم خواهند شد.
«در سطح پایه، ToxMod نیازی به تکیه بر آن گزارش‌های اضافی بازیکنان ندارد،» پاپاس گفت. «هنوز می‌تواند تخمین‌های محکمی از جرایمی که باید [به آنها] توجه کنیم، ارائه دهد.شما لازم نیست نگران بازیکنانی باشید که سعی می کنند با سیستم بازی کنند، زیرا واقعاً چیزی برای بازی وجود ندارد.
همه می‌دانند که آزار و اذیت، سخنان نفرت‌انگیز، و مسمومیت در چت صوتی و بازی یک مشکل بزرگ است.
"تمام چیزی که شما به عنوان یک پخش کننده روی آن کنترل دارید، صدای خودتان است،" پاپاس ادامه داد. "بدترین کاری که می توانید انجام دهید این است که کمتر بد رفتار کنید، بنابراین ما شما را به عنوان یک بازیگر بد معرفی نکنیم، که من می گویم چیزی نزدیک به موفقیت در ماموریت است."
پس به طور کلی، ایده پشت ToxMod یک تلاش فعال برای احیای مجدد است. بسیاری از بازیکنان در این مرحله، نوعی از آزار و اذیت افراد غریبه تصادفی را در کانال‌های صوتی باز تجربه کرده‌اند، از توهین‌های تصادفی گرفته تا تهدیدهای فعال. در نتیجه، گیمرها به طور کلی از چت صوتی دوری می‌کنند و ترجیح می‌دهند در ازای آرامش خود از راحتی آن صرف نظر کنند.
"آنچه ما انتظار داریم ببینیم [این است که بازیگران بد] زمان بسیار کمتری را قبل از پیدا شدن و حذف شدن در چت صوتی صرف می کنند.""این چیزی فراتر از یک تاثیر خطی است. وقتی همه به چت صوتی به عنوان مکانی امن تر نگاه می کنند، بازیگران خوب بیشتری مایلند به چت صوتی برگردند و آن را امتحان کنند. من فکر می کنم همه چیز می تواند در جهت مثبت باشد."
