Карта задач ИИ

Уровень курса

← К урокам·Урок 1.1·45 мин

Что послушать дальше? Соберём личную рекомендацию, заглянем в её устройство и проверим прогноз.

В плейлисте могут соседствовать Кино, Земфира, Noize MC, Linkin Park и Gorillaz. Но что включить дальше? Любимый жанр не решает вопрос: две рок-группы могут нравиться вам совершенно по-разному. Друг, который знает ваши вкусы, предложит что-то конкретное. Попробуем дать такую же задачу программе.

Найдите в каталоге хотя бы трёх знакомых исполнителей. Поставьте каждому оценку от 1 до 5: единица — совсем не нравится, пятёрка — очень нравится. Незнакомых оставьте без оценки. Посмотрите, кого программа предложит, затем измените одну оценку. Как изменится список?

Что послушать дальше?

Ваши оценки меняют рекомендации. Модель обучена на реальных записях Last.fm о том, каких исполнителей слушали одни и те же люди. Здесь подбираются исполнители, а не отдельные песни.

Похож ли результат на совет друга? Пока это впечатление. Чтобы понять, чему доверять, разберём, откуда берётся список и как устроить проверку.

Вход нашей модели — ваши оценки знакомых исполнителей и сведения об их общей аудитории. Ответ — предположение о том, какую оценку вы поставите другому исполнителю. Отсортировав такие прогнозы, получим рекомендации.

В основе опыта — открытый исследовательский набор Last.fm, выпущенный в мае 2011 года: 1 892 слушателя, 17 632 исполнителя и 92 834 записи о прослушиваниях. Для опыта выбраны 200 самых представленных исполнителей и ещё 19 русскоязычных из того же набора — например, Кино, Земфира и Сплин. Это старый срез: многих современных артистов в нём нет. У добавленных исполнителей здесь всего от 4 до 21 слушателя, поэтому данных для рекомендаций мало.

В исходной записи указано, сколько раз человек слушал исполнителя. Звёздных оценок там нет — оценки в нашем опыте ставите вы.

Представьте большую таблицу: строки — слушатели, столбцы — исполнители, отметки — известные прослушивания. Программа ищет повторяющиеся сочетания и сжимает эту таблицу: каждому исполнителю достаётся всего 12 чисел. По вашим оценкам она подбирает ещё 12 чисел — ваш личный профиль. Сопоставляя его с профилями исполнителей, можно получить новые прогнозы. Такой способ сжатия называют матричной факторизацией; вычисления разберём в Профи.

Откуда взялся этот совет?

В цветных ячейках — настоящие числа обученной модели, в таблице — вклад ваших оценок в прогноз. Поменяйте оценку в начале главы: ваш профиль и рекомендация пересчитаются. Скрытые координаты не подписаны жанрами: таких названий данные нам не дают.

Это простой вариант рекомендательной системы. Она использует закономерности в чужих прослушиваниях и ваши примеры. Здесь нет понимания музыки: программа не слышит мелодию, не читает тексты и не знает, что вы хотите включить именно сегодня.

Музыкальное приложение использует набор Last.fm с количествами прослушиваний. Перед прогнозом оно просит вас оценить знакомых исполнителей от 1 до 5. Откуда берутся эти оценки?

Можно спросить: «Какую оценку я поставлю этому исполнителю?» Программа отвечает числом, например 3,9 из 5. Предсказание числовой величины называют регрессией. Тем же способом ставят задачи о времени доставки, температуре или цене подержанного велосипеда.

Для проверки нужна ваша настоящая оценка. Если вы поставили 4, прогноз 3,9 ошибся на 0,1, а прогноз 2 — на 2. Чем меньше такой промах, тем точнее числовой ответ. Но одна угаданная оценка ещё не делает модель надёжной: нужно проверить несколько примеров.

В нашей модели 3 — отправная точка. Программа настраивает личный профиль так, чтобы приблизиться к вашим оценкам, но не делать слишком резких выводов из нескольких примеров. Затем использует тот же профиль для незнакомых исполнителей. Если расчёт выходит за пределы 1–5, ограничиваем его этой шкалой. Это предполагаемая оценка, а не измеренная вероятность вашей реакции.

Теперь спросим иначе: «Поставлю ли я не ниже четырёх?» Возможны два ответа: «да» или «нет». Выбор из заранее известных категорий называют классификацией. Для нашего опыта договоримся: прогноз от 4 означает «да», ниже 4 — «нет».

Пусть ваша настоящая оценка — 4. Прогноз А равен 3,9, прогноз Б — 4,7. А ближе по числу, но только Б правильно отвечает на вопрос «не ниже четырёх?». Мы не поменяли ваш вкус — поменяли требуемый ответ и способ проверки.

Вы оценили исполнителя на 4. Модель А предсказала 3,9, модель Б — 4,7. Проверяют и близость к оценке, и ответ «оценка не ниже 4». Как верно сравнить прогнозы?

Рекомендация задаёт ещё один вопрос: «Кого показать первым?» Расположение кандидатов по предполагаемому интересу называется ранжированием. Программа может правильно упорядочить исполнителей, хотя и неточно предскажет каждую оценку. Поэтому качество списка и точность чисел не одно и то же.

Вы уже оценили нескольких исполнителей, значит правильные ответы у нас есть. Спрячем одну оценку, построим прогноз только по оставшимся и лишь затем раскроем спрятанное число. Иначе программа получила бы ответ вместе с условием.

Угадаёт ли модель скрытую оценку?

Для проверки нужны хотя бы три ваши оценки. Проверяемая оценка исключается из расчёта прогноза. Для каждой проверки личный профиль обучается заново без спрятанного ответа. Профили исполнителей остаются известными: они получены из исторического набора, независимо от ваших оценок.

Примеры, по которым модель настраивается, называют обучающей выборкой, или train. Отложенные для проверки — тестовой выборкой, или test. В нашем маленьком опыте оставшиеся оценки задают личный прогноз, а спрятанная служит тестом. Числа, описывающие исполнителей, мы при этом не переучиваем: они получены до ваших оценок.

Повторим опыт, по очереди пряча каждую оценку. Сложим величины промахов и разделим на число проверок — получим среднюю ошибку. Рядом посчитаем ошибку простого соперника: он всегда предсказывает 3. Сложная модель должна доказывать свою пользу сравнением, а не названием.

Программа по вашим оценкам знакомых исполнителей прогнозирует оценку другого. Вы уже оценили Gorillaz и хотите проверить прогноз для этой группы. Что нужно сделать до получения прогноза?

Три личные оценки — маленькая проверка, а не доказательство качества для всех слушателей. Если после каждого результата менять правило, вы начнёте подгонять его под тест. Для окончательного сравнения понадобится ещё один набор ответов, который не участвовал в выборе правила.

Подбор исполнителя использует готовый каталог. А просьба «сочини песню для нашего класса» требует создать новый материал. Это генерация. У неё может быть много подходящих ответов; проверять нужно выполнение просьбы, факты и качество результата, а не совпадение с одной заранее записанной песней.

Другой пример — афиша школьного концерта. Чтобы вырезать человека из фотографии, недостаточно ответа «на снимке человек». Нужна маска: для каждого пикселя, маленькой клетки изображения, метка «человек» или «фон». Такую разметку изображения называют сегментацией. Если рука ошибочно отмечена как фон, редактор удалит её вместе с ним.

Для афиши нужно вырезать человека из фотографии, сохранив все части его силуэта. Какой ответ должна выдать модель, чтобы редактор мог отделить человека от фона?

Так карта задач расширяется: число, категория, упорядоченный список, разметка изображения, новый текст или звук. Название приложения не определяет задачу. В одном музыкальном сервисе могут работать сразу несколько моделей с разными ответами.

В учебном каталоге можно пересчитать все варианты после каждого клика. В огромном сначала стоит быстро отобрать кандидатов, затем точнее оценить короткий список. Короткие числовые профили исполнителей уже вычислены заранее: для нового прогноза не нужно снова читать всю историю прослушиваний. Подробно к скорости вернёмся после знакомства с алгоритмами поиска.

Для рабочего сервиса придётся уточнить цель. Хотим, чтобы человек нажал на исполнителя, дослушал трек или нашёл новую любимую музыку? Это разные признаки успеха. Много прослушиваний может означать привычку; высокий интерес к обложке ещё не доказывает, что музыка понравилась.

Мы заменили вопрос «какую оценку поставит слушатель?» на «будет ли оценка не ниже 4?». Что изменилось?

Профи

Формула прогноза и цена вычислений

Начнём с исторической таблицы PP: Pui=1P_{ui}=1, если слушатель uu встречается у исполнителя ii, иначе 0. Здесь 1 830 строк и 219 столбцов. Ноль — отсутствие записи, не оценка «не нравится».

Подберём для слушателей векторы aua_u, для исполнителей — qiq_i, по 12 координат в каждом. Их скалярное произведение должно приближать таблицу:

P≈AQ⊤,min⁡A,Q∑u,icui(Pui−au⊤qi)2+0,1(∥A∥F2+∥Q∥F2).P\approx AQ^\top,\qquad \min_{A,Q}\sum_{u,i}c_{ui}(P_{ui}-a_u^\top q_i)^2+0{,}1(\lVert A\rVert_F^2+\lVert Q\rVert_F^2).
Вес cui=20c_{ui}=20 для известного прослушивания и 1 для пустого места. Так пустые места служат слабым нулевым ориентиром, а не известными отрицательными отзывами. Для обучения заранее сделано 20 проходов ALS: фиксируем одну матрицу, подбираем другую и меняемся ролями. Уменьшение этой обучающей ошибки ещё не доказывает качество рекомендаций.

Для браузера все векторы исполнителей поделены на общий коэффициент: средний квадрат их длины стал равен 1. Обратное масштабирование векторов слушателей сохраняет произведение матриц. Координаты не имеют заданных названий вроде «рок» или «поп».

Теперь учим новый личный профиль pp по вашим оценкам rjr_j исполнителей из множества RR. Это отдельная задача: в исходном Last.fm звёздных оценок нет.

p=arg⁡min⁡p∑j∈R(rj−3−p⊤qj)2+0,5∥p∥2,r^i=min⁡(5,max⁡(1,3+p⊤qi)).p=\arg\min_p\sum_{j\in R}(r_j-3-p^\top q_j)^2+0{,}5\lVert p\rVert^2,\qquad \hat r_i=\min(5,\max(1,3+p^\top q_i)).
Браузер решает небольшую систему линейных уравнений при каждом изменении оценки. Штраф на длину профиля удерживает прогнозы ближе к тройке, когда примеров мало. В таблице объяснения показано точное разложение прогноза на вклады оценок до ограничения шкалой; это не причинное объяснение музыкального вкуса.

Для проверки оценки rir_i сначала исключаем её из RR и заново находим pp. Иначе личный профиль уже знал бы проверяемый ответ. Ошибка по тем же оценкам, на которых он учился, не заменяет эту проверку.

При NN исполнителях и d=12d=12 координатах хранение профилей и полный пересчёт их числовых прогнозов требуют порядка NdNd чисел и операций. Обучение личного профиля по mm оценкам требует порядка md2+d3md^2+d^3 операций. Для большого каталога можно ускорить поиск кандидатов, но точность такого отбора надо проверять отдельно.

Условимся обозначать настоящий ответ через yy, прогноз — y^\hat y. Для регрессии считаем ∣y^−y∣|\hat y-y|, для обычной классификации — совпадение категории. Эти две проверки не взаимозаменяемы.

В генерации текста ответ собирается последовательно. Вероятность последовательности раскладывается по правилу цепочки:

P(w1,…,wn)=∏t=1nP(wt∣w1,…,wt−1).P(w_1,\ldots,w_n)=\prod_{t=1}^{n}P(w_t\mid w_1,\ldots,w_{t-1}).
Это точное равенство без предположения о независимости слов. Токен — слово, часть слова или знак. В следующем упражнении токены совпадают со словами, а вероятности заданы вручную: это имитация последовательного выбора, не обученная языковая модель.

В словаре двадцать токенов. Сколько разных последовательностей ровно из трёх токенов можно составить? Повторы разрешены; порядок важен.

Генерация — классификация в цикле

Цель: Сделайте три шага генерации, выбирая на каждом самый вероятный токен, и получите фразу «буду через десять минут»

Эпик

Точнее оценки — лучше рекомендации?

У трёх исполнителей настоящие оценки слушателя равны 5, 4 и 1. Модель А предсказывает 4, 5 и 1; модель Б — 3, 2 и 1. Какая модель лучше по средней абсолютной ошибке? Какая верно выбирает любимого исполнителя? Докажите на этом примере, что улучшение числовой ошибки не гарантирует улучшения первой рекомендации.

Решение У А средняя ошибка равна (1+1+0)/3=2/3(1+1+0)/3=2/3, у Б — (2+2+0)/3=4/3(2+2+0)/3=4/3: по числам А точнее. Но А ставит второго исполнителя выше первого, а Б правильно выбирает первого. Числовая ошибка учитывает расстояния до оценок, первая рекомендация — победителя по порядку. Оба показателя полезны, но отвечают на разные вопросы.

Рекомендации используют известные предпочтения; чужие прослушивания и ваши оценки — разные сведения.

Регрессия предсказывает число, классификация выбирает категорию, ранжирование упорядочивает кандидатов.

Тестовый ответ скрывают до прогноза; качество сравнивают с простым правилом.

Маска отмечает части изображения, генерация создаёт новый материал; каждому ответу нужна своя проверка.

Домашняя работа

Источники

  • Matrix factorization, Google — представление слушателей и объектов короткими векторами, взвешенная функция ошибки и ALS.
  • HetRec 2011, GroupLens — Last.fm и набор Universidad Autónoma de Madrid: Cantador, Brusilovsky, Kuflik, HetRec 2011. Записи о прослушиваниях, не звёздные оценки. Условия набора предусматривают некоммерческое использование.
  • README набора Last.fm — состав файлов, статистика, значение listening count и условия использования.
  • Google: Collaborative filtering — рекомендации по взаимодействиям пользователей, явная и косвенная обратная связь.
  • Google: Recommendation systems overview — отбор кандидатов, оценка и окончательное упорядочивание.
  • Google: What is Machine Learning? — обучение по примерам, классификация и регрессия.
  • Vaswani et al.: Attention Is All You Need — архитектура трансформера; дополнительное чтение о генерации.
  • Bike Sharing, UCI — источник отдельного упражнения тренажёра о выдачах велосипедов; Hadi Fanaee-T, CC BY 4.0.

Повторить эту тему