گوگل یک ابزار هوش مصنوعی ایجاد کرده است که قادر به کنترل و حذف پیام ها و نظرات غیراخلاقی و هرزنامه ها است.
گوگل اخیراً اعلام کرده است که یک ابزار هوش مصنوعی برای رسانه ها راه اندازی می کند که برای مدیریت و حذف نظرات توهین آمیز و هرزنامه ها استفاده می شود.
این ابزار ، که با عنوان Perspective شناخته می شود ، برای کمک به مدیران و ویراستاران بخش نظرات وب سایت های رسانه ای طراحی شده است. گوگل معتقد است که این ابزار می تواند نظرات نامربوط و توهین آمیز و به اصطلاح ترول ها را شناسایی و حذف کند. به گفته این شرکت ، این نوع بحث و نظرات از شکل گیری فضای سالم برای بحث در فضای آنلاین جلوگیری می کند.
جارد کوهن ، مدیر Jigsaw Incubator ، یکی از زیرمجموعه های گوگل ، می گوید: “72 درصد از کاربران اینترنت در ایالات متحده آزار و اذیت آنلاین را تجربه کرده اند و نیمی از آنها آزار و اذیت را تجربه کرده اند.” یک سوم کاربران اینترنت از ترس پیگرد قانونی رفتار خود را مدیریت و سانسور می کنند. »
پرسپکتیو را می توان API نامید که از یادگیری ماشینی برای کشف نحوه ارتباط نظرات با سایر کاربران و پیش بینی نحوه واکنش آنها استفاده می کند. این سیستم به صورت رایگان در اختیار گروه های رسانه ای و وب سایت های شبکه های اجتماعی است و در حال حاضر توسط رسانه هایی مانند اکونومیست ، گاردین ، نیویورک تایمز و ویکی پدیا در حال آزمایش است.
بسیاری از رسانه های خبری این قسمت را به دلیل کمبود نیروی انسانی برای مدیریت بخش نظرات غیرفعال کرده اند. کوهن امیدوار است ابزار جدید آنها بتواند این مشکل را حل کند. گوگل از سپتامبر این ابزار را در وب سایت نیویورک تایمز آزمایش کرده است. این رسانه خبری با استفاده از این ابزار سعی کرده است در بخش نظرات خود فضایی “متمدن و منطقی” ایجاد کند.
وظیفه اصلی سیستم چشم انداز شناسایی پیام های نامناسب به زبان انگلیسی است. اما کوهن می گوید هدف اصلی ایجاد سیستمی برای کنترل همه زبان ها است. این سیستم در نهایت قادر به تشخیص همه پیام ها و نظرات غیر منطقی و خارج از بحث خواهد بود.
توییتر همچنین در اوایل ماه جاری اعلام کرد که قوانین و استراتژی های جدیدی را برای مقابله با توهین های آنلاین اعمال خواهد کرد. این سرویس ناشران این پیام ها را شناسایی می کند و به آنها اجازه ایجاد حساب کاربری جدید را نمی دهد. حذف نتایج جستجوی آنلاین از دیگر پیامدهای این توهین ها خواهد بود.
سال گذشته ، گوگل ، توییتر ، فیس بوک و مایکروسافت تفاهم نامه ای را با اتحادیه اروپا امضا کردند که بر اساس آن همه شرکت ها متعهد شدند هرگونه محتوای توهین آمیز یا غیراخلاقی گزارش شده را در عرض 24 ساعت شناسایی کنند.