4 мин.

Спортс” изнутри: как устроены модерация, авторизация и защита ваших данных?

Как устроена авторизация и регистрация пользователей? А модерация комментариев или редактор постов? Лиды юнитов разработки Спортса” – Андрей Панисько и Максим Пеший – пришли в подкаст «Коллеги, добрый день!» и подробно рассказали, что под капотом наших блогов.

Такие детали наверняка зацепят даже читателей, которые не очень сильны в технологиях, но хотят узнать, что стоит за нашим привычным интерфейсом. А уж технических спецов тем более!

Очень советуем весь подкаст целиком на ВидеоСпортсе’’, а тут мы выбрали несколько самых любопытных деталей.

Авторизация и регистрация – это правда так просто, как кажется?

У нас классическая история: регистрация через логин-пароль или с помощью соцсетей. Но дальше уже всякие технические сложности, которые приходится решать разработчикам. Например, если раньше человек уже был зарегистрирован по электронной почте, а теперь авторизовался через соцсети, мы со 100-процентной вероятностью сможем определить, что это тот самый человек. Здесь у нас все настроено: автоматика такие вещи умеет схватывать. 

Есть еще нюансы с теми, кто для разных нехороших целей заводит по несколько аккаунтов. Поэтому мы при некоторых случаях регистрации просим указать мобильный телефон, сохраняем его и, если потом кто-то придет с таким же номером – мы его не пропустим. 

Также у наших пользователей есть возможность авторизоваться через телеграм. Идея все та же: нажимаешь одну кнопочку – и ты на Спортсе” со своей аватаркой, ником. Можешь комментировать, лайкать, дизлайкать и так далее.

Немало головной боли добавляет, что нам нужно проводить регистрацию сразу на разных доменах: кроме основного, у нас же есть еще m-домен. Условно человек авторизуется на десктопной версии сайта, нам обязательно в этот же момент нужно провести эту авторизацию и на мобильной версии. Пользователь об этом не думает, но когда зайдет с телефона, мы сможем это все связать – и нужные куки сохранятся.

Безопасность

Извне к нашей базе пользователей не пробраться. Мы изолированы на уровне сети: вся наша инфраструктура защищена, так как выделена в отдельные подсети, которые обычному интернету снаружи не видны.

Даже если злоумышленники получат прямой доступ к этой базе, все самые ценные и чувствительные данные все равно хранятся в зашифрованном виде. Причем зашифрованы они в один конец: расшифровать те же самые пароли мы сами не сможем при всем желании.

Модерация комментариев – что там делают люди, а что нет? И причем тут «мокрые киски»?

Модерация у нас многослойная. Людям в нее приходится вмешиваться уже на последнем рубеже, когда кто-то прорвался через все предыдущие механизмы. С человеческой модерацией все понятно: кто-то увидел непотребный комментарий, пожаловался, дальше жалоба прилетела в админку, специальные люди ее обработали. 

Но чтобы нечто злое на сайте вообще оказалось, нужно сильно постараться. Первым рубежом обороны у нас работает сервис «Антихейт» на базе машинного обучения: в некоторых случаях просто предупреждает пользователя, что что-то в его комментарии может не понравиться некоторым участникам сообщества.

Если этого оказалось недостаточно, а пользователь все-таки хочет оставить подозрительный комментарий, он попадает на дальнейшую проверку в другую машинку, которая примерно по тем же правилам проверит, действительно ли коммент выглядит как что-то неприятное. Каждый такой комментарий получает оценку – если число достигает определенного порогового значения, мы формируем на него автоматическую жалобу. Дальше вступает модератор.

Есть механизм стоп-слов. Там очень много всего, не только обсценная лексика, в том числе самые разные выражения, которые считаются оскорбительными среди болельщиков. Такое мы тоже отслеживаем и отлавливаем.

Еще одна проверка связана со спамерами. Оставить коммент со ссылкой обычному пользователю нельзя – нужно нарастить свой рейтинг. Но даже если кто-то опубликует нечто рекламное или незаконное, у нас настроена проверка контента – такие вещи мы обычно не пропускаем.

Легендарная история – борьба с мокрыми кисками. Когда несколько недель была игра в кошки-мышки: наша разработка доблестно пыталась остановить спамеров, а ребята придумывали новые ходы. Пользователи очень радовались новости, что мы все-таки победили мокрых кисок.

***

На Спортсе” регулярно появляются новые команды или существующие – перестраиваются, поэтому всегда можно дорасти до тимлида. Либо стать старшим по отдельному продукту.

Для примера – донаты. Это полноценный проект, который в момент разработки вели два человека. Им лид был нужен лишь как консультант – возможно, чтобы не совершить очевидных ошибок. В остальном они делали все сами – и таких кейсов очень много.

К тому же в компании немало горизонтальных переходов. В этом смысле мы можем позволить себе большую гибкость.

А прямо сейчас мы в поиске сразу нескольких профильных IT-сотрудников:

– Frontend Developer

– Frontend Developer [Platform]

Приходите к нам работать, чтобы вместе делать спорт и Спортс’’ лучше!

Вакансии и внутренняя кухня компании
46 комментариев
По дате
Лучшие
Актуальные
Жаль, что система так и не научилась банить почти теряющего сознание от голода
Модерация у вас не многослойная, а отвратительная, давайте так.

"Первым рубежом обороны у нас работает сервис «Антихейт» на базе машинного обучения" — который сносит множество годных и смешных комментариев просто потому что он обучен на такой вот выборке, но при этом антихейт полностью игнорирует откровенных провокаторов а-ля ригобер, все комментарии которого это топорный байт. Или споры о политике.

"Есть механизм стоп-слов. Там очень много всего, не только обсценная лексика, в том числе самые разные выражения, которые считаются оскорбительными среди болельщиков. Такое мы тоже отслеживаем и отлавливаем" — прекрасный механизм, когда за междометие их трех букв можно улететь в бан на три дня, а потом на главной прочитать, как один человек назвал другого словом на букву П из семи букв. Или про заднее отверстие литвина во всех подробностях.

И нет, мой комментарий не носит оскорбительный характер, ваша плашка опять ошиблась.
>>Модерация у нас многослойная. Людям в нее приходится вмешиваться уже на последнем рубеже, когда кто-то прорвался через все предыдущие механизмы.

у меня однажды удалили цитату из "Мертвых душ", Гоголь бы через "машинки" спортса не прорвался.

ага, про этот комментарий ИИ тоже пишет, что он, возможно, носит оскорбительный характер.
Система (ее техническая часть) сама никого не банит, решение всегда за человеком, а со спамерами это всегда кошки-мышки – они ищут новые лазейки, мы их закрываем и так раз за разом. Единственный вариант это победить полностью – премодерация, но сами понимаете, это не вариант в случае Спортса.
он пишет всегда одинаковое, неужели нельзя настроить?
Спортсу кроме сервиса "Антихейт" нужен сервис "Антихайп" - выпиливать посты и новости от всех авторов, которые переводя интервью тренеров, перевирают сказанное или вовсе придумывают какие-нибудь небылицы во имя кликбейта.
У меня был аккаунт на вашем сайте с 2012го года. Я активно участвовал в жизни сайта, писал комменты(у меня был рейтинг 90000+), создавал новости, отправлял вам имейлы о багах на сайте, даже присылал идеи по улучшению сайта.

Где-то полгода назад ваши боты меня навсегда забанили за то, что обнаружили у меня 2й аккаунт, которым я пользовался 1 раз в жизни и то случайно.

С тех пор я на сайте почти не сижу. Спасибо!
Ответ заблокированному пользователю
Вы вечно хвастаетесь как у вас все продвинуто и круто устроено, но отношение к людям у вас конченое. Я много раз писал вам в саппорт, объяснял вам ситуацию, но получал только дежурные отписки - так мол по правилам.
Выходит вам плевать, что человек вел бурную жизнь на сайте в течение 12 лет, даже помогал вам, а вы его выкинули с сайта, просто потому что такие правила)

Это все что нужно знать о вашей беспонтовой модерации.
Ответ заблокированному пользователю
У меня был аккаунт на вашем сайте с 2012го года. Я активно участвовал в жизни сайта, писал комменты(у меня был рейтинг 90000+), создавал новости, отправлял вам имейлы о багах на сайте, даже присылал идеи по улучшению сайта. Где-то полгода назад ваши боты меня навсегда забанили за то, что обнаружили у меня 2й аккаунт, которым я пользовался 1 раз в жизни и то случайно. С тех пор я на сайте почти не сижу. Спасибо!
Вы вечно хвастаетесь как у вас все продвинуто и круто устроено, но отношение к людям у вас конченое. Я много раз писал вам в саппорт, объяснял вам ситуацию, но получал только дежурные отписки - так мол по правилам.
Я так и не понял, как у вас работает Антихейт, если выскакивает плашка, то кнопка "Отправить" перестает работать.
Я уже не говорю о том, что это все криво работает, цитируешь сообщение собеседника, а на тебя защита агрится.
А что с борьбой против накрутки лайков? Когда смотришь на лидеров среди блогов (в том числе таких, что в зравом уме никто вообще не откроет), и практически у всех стабильно аккурат именно 40-50 лайков под статьей - смех разбирает)