Комиссия по реализации Кодекса этики в сфере искусственного интеллекта (ИИ) разработала рекомендательный документ, призванный систематизировать этичную практику и обобщить подходы, допустимые и рекомендуемые к применению при разработке и настройке рекомендательных алгоритмов, а также при внедрении и эксплуатации функционала персонализированных рекомендаций в цифровых сервисах. Рекомендации предлагаются для добровольного исполнения компаниями, использующими рекомендательные системы в цифровых сервисах. Рекомендации по применению рекомендательных технологий и алгоритмов, основанных на ИИ, разработаны в развитие положений Кодекса этики в сфере искусственного интеллекта. Документ затрагивает работу рекомендательных алгоритмов, используемых в том числе в стриминговых сервисах.
По инициативе НФМИ в документ включен раздел, направленный на противодействие манипулированию стримингом (раздел «Антифрод и борьба с манипуляцией алгоритмами»).
Как следует из документа, если алгоритм рекомендательной системы уязвим для действий, искусственно имитирующих высокий интерес со стороны пользователей платформы, это может привести к нежелательной ситуации попадания в рекомендации объектов, чьи объективные потребительские свойства (в т.ч. соотношение цена/качество) заведомо ниже других, представленных на сервисе платформе. Подобная имитация интереса массы пользователей («накрутка») может достигаться в т.ч. автоматически с использованием специализированных фрод-систем, ботов и даже специализированных систем на основе ИИ. Недобросовестные лица различными техническими способами намеренно «накручивают» просмотр/прослушивание определенных произведений, что влияет на распределение средств среди площадок и правообладателей.
Владельцам сервисов рекомендуется использовать комплексный подход, включающий использование систем информационной безопасности, мониторинг и фильтрацию подозрительных пользовательских действий, совершенных с одного IP-адреса или имеющих признаки автоматической генерации, а также иные административные меры, направленные на демотивацию контрагентов и пользователей к злоупотреблениям. Также рекомендуется реагировать на обращения лиц, чьи права и законные интересы могли быть нарушены в ходе манипуляций алгоритмами.
Мы готовы оперативно ответить на вопросы СМИ, предоставить необходимую журналистам информацию о работе Ассоциации, прокомментировать новостные поводы, касающиеся музыкальных и смежных с ней областей.