Як OLX запобігають фейковим оголошенням

Попри воєнні дії в країні, боротьбу з шахрайством зі сторони правоохоронних органів та освітніми кампаніями для населення, факти привласнення зловмисниками чужих коштів не рідкість. Часто, на жаль, йдеться про великі суми, до того ж шахраї можуть також викрадати гроші із кредитних карток, залишаючи жертві не лише матеріальну й моральну шкоду, а й борги у банку.

Один зі способів, як зловмисники знаходять своїх жертв є оголошення на інтернет-ресурсах, соціальних мережах, месенджерах. Зі своєї сторони, в OLX ми постійно працюємо над тим, щоб робити покупки та продажі на платформі безпечними для користувачів. Проте, на жаль, серед понад 14 мільйонів пропозицій на OLX знаходяться оголошення від шахраїв. Один зі способів, які ми використовуємо, щоб зменшити їх кількість – це модерація оголошень та застосування моделей машинного навчання.

Для запобігання розміщення пропозицій від шахраїв та контролю якості контенту, всі оголошення на платформі OLX проходять декілька етапів перевірки або ж її ще називаємо модерація (автоматична, ручна та постмодерація).

Оскільки на OLX йде мова про велику кількість даних, крім допомоги фахівців, сприяє виявленню підозрілих оголошень ще й запровадження спеціальних моделей та алгоритмів. Завдяки їм ми можемо проаналізувати велику кількість критеріїв за менший проміжок часу та, відповідно, запобігати більшим випадкам шахрайства.
Впровадити такі способи запобігання діяльності зловмисників на OLX, ми вирішили, коли кількість оголошень почала динамічно збільшуватись, а ресурси для їх перевірки були обмеженими.

Системи машинного навчання працюють наступним чином: спеціальні моделі та алгоритми для своєї роботи беруть до уваги контент, який генерують користувачі та їх поведінку (чи не було виявлено від одного й того самого користувача спаму в чати, чи великої кількості однакових або схожих оголошень). Провівши оцінку, моделі визначають, чи не перевищує сукупність критеріїв допустиме значення і за потреби проводять додаткову перевірку користувача. Якщо факт шахрайського оголошення підтверджується, його автора заблоковують без подальшої змоги розміщувати оголошення на платформі OLX.

Запровадження систем машинного навчання та триетапної модерації контенту вже дозволило зменшити кількість фейкових оголошень у декілька разів. Також важливим результатом є те, що команда OLX має можливість, оперуючи великими даними, швидко відфільтровувати неякісний контент і фокусувати увагу фахівців на пропозиціях, що потребують глибшого аналізу та додаткової перевірки.

Наразі, ми знаходимось на початку впровадження просунутих моделей модерації контенту, які дозволяють точно та швидко виявляти підозрілі пропозиції. Це своєю чергою дає нам можливість запобігати випадкам шахрайства та забезпечувати користувачам OLX безпечний шопінг та загалом користування платформою.

Щомісячно, ми видаляємо десятки тисяч оголошень, що можуть потенційно зашкодити користувачам. При цьому 90% таких оголошень навіть не активуються і користувачі їх просто не бачать. Наші моделі постійно вдосконалюються та одним з вагомих інструментів для цього є зворотний зв’язок користувачів і використання скарг на оголошення.
Шлях до перемоги над шахрайством в єдності та співпраці між платформою та користувачами.