Проблема систем рейтинга и оценок
29 апреля 2019 г.
Сегодня системы рейтинга в виде оценок есть у всего, от простых комментариев до автомобилей, недвижимости и корпоративных услуг. Такие системы работают не так как задумывались и не дают объективности. Вот кратко почему, исходя со слов мировых разработчиков и моим наблюдениям.
Для начала пример. Довольно давно на сайте Одноклассников сложился культурный код, по которому нельзя фотографиям ставить ничего кроме 5, иначе это проявление неуважения в духе «Тебе что-то не понравилось так, что не смог промолчать?»
Подобная метаморфоза просто приводит к утрате объективности оценки. И если в одних случаях в этом нет ничего страшного, то в других на этом выстроена система ранжирования, определяющая насколько вы будете успешны. То есть, в случае с фотками в Одноклассниках это нормально, оценки ни на что не влияют и, конечно, были зря спроектированы именно как оценки — там же не фотоконкурс. Фотографии в ОК требуют только отметки о просмотре как социального одобрения, лайка, к чему коллективное-бессознательное этот интерфейс и привело. (Думаю, они там появились из-за простой стилизации: Одноклассникни → школа → там ставят оценки).
Оценок, обычно, пять штук, в виде звездочек. Независимо от качества математической модели реализации системы оценок (от простого вычисления среднего и до анализа накруток и учёта периода времени) объективность шкалы в 5 звездочек страдает из-за нескольких проблем со стороны человека, вот три характерных:
- Весомость. В большинстве люди не считают, что разница между оценками в 1 или 2 столь же большая как разница между 4 и 5. По сути это отсекает от шкалы деление.
- Объективность. Люди склонны придерживаться общего мнения, поскольку приспосабливаемость заложена в человека природой. Если вы видите пятёрки, то, при своём желании оценить негативно, вам захочется поставить скорее 3 а не 1. В объективном рейтинге до вашей оценки результат не показывают.
- Сравниваемость. Оценка зависит от окружения. Если оценивают единственную бургерную на деревне, то ей поставят пятерок, поскольку для деревни это центр цивилизации, культуры и общения. В то же время, более крутая бургерная в большом городе получит средние оценки, поскольку есть и другие заведения.
Можете заметить, что эти пункты ведут к неравномерному и необъективному распределению оценок.
Как же сделать оценки полезными? Правильная стратегия для простого пользователя — занижать оценку. Если вы хотите, чтобы оцениваемый вами объект оставался таким же или даже развивался не следует ставить ему высоких оценок. Найдётся кто-нибудь другой, кто поставит высокие оценки. Вам же надо в оцениваемом сохранить желание стать лучше, а значит высокая оценка должна оставаться недостигнутой. На один кол надо хотя бы семь пятерок, чтобы вывести средний бал до 4,5 — которые могут быть округлены до общих 5.
Закончу историей из жизни. Мне повезло наблюдать такие системы уже давно — у меня было несколько учителей, в школе и институте, которые удерживали шкалу в равновесном состоянии. Система в среднем примерно такая: в качестве плохой оценки ставили только кол, а вот двойку надо было ещё как-то заслужить, и ответить что-то правильно. Соответственно, 3 это была нормальная оценка. Четверки ставили выдающемуся полному ответу, а 5 можно было заслужить только если из твоего ответа учитель узнал что-то новое. Не запирая себя в «вежливых 3-4-5» это позволяло учителям намного точнее вести учёт. Разумеется, все отличники паниковали когда встречались с такими отличными традициями и повышенной объективностью.
Ну и кстати, про оценочную штуку не моём сайте https://vovkasolovev.ru/blog/reseach/