1. Jupyter
    1. Возможности
      1. !
        1. запускает строку как выполнение через терминал
      2. %
        1. Позволяет выполнить альтернативный "код" в строке
          1. %lsmagic
          2. список того, что можно запустить
          3. %bash
          4. выполнение баш-скрипта
          5. %pylab inline
          6. позволяет рисовать графики
      3. $$ формула $$
        1. использование latex в md
          1. $$ c = \sqrt{a^2 + b^2} $$
  2. Математика
  3. Библиотеки
  4. Дополнительно
    1. Комплексные числа в питоне
      1. омплексными числами называются числа вида 𝑥+𝑖𝑦 , где 𝑥 и 𝑦 — вещественные числа, а i — мнимая единица (величина, для которой выполняется равенство i**2=−1 ). Множество всех комплексных чисел обозначается буквой С
      2. a = 3 + 2j b = 1j
      3. print("Комплексное число a:\n", a) print("Комплексное число b:\n", b)
        1. Комплексное число a: (3+2j) Комплексное число b: 1j
      4. С комплексными числами в питоне можно производить базовые арифметические операции так же, как и с вещественными числами:
        1. c = a * a d = a / (4 - 5j)
        2. print("Комплексное число c:\n", c) print("Комплексное число d:\n", d)
          1. Комплексное число c: (5+12j) Комплексное число d: (0.0487804878048781+0.5609756097560976j)
  5. Обучение на размеченных данных
    1. Понятия
      1. Введение
        1. Интерполяция — это значит восстановление функции по нескольким точкам, в которых известны ее значения.
        2. Обучение с учителем — это тоже восстановление общей закономерности по конечному числу примеров.
        3. Объекты и ответы
          1. x - объект
          2. Х - пространство объектов
          3. y = y(x) - ответ
          4. Y - пространство ответов
          5. признаки
          6. x = (x1, x2, ..., xd) - признаковое описание
          7. d-мерный вектор
          8. xi - число, элемент множества, ...
        4. Обучающая выборка
          1. Машинное обучение - извлечение закономерностей из примеров
          2. X = (xi, yi)^l i=1
          3. l-пары
          4. Обучающая выборка обозначается большой буквой X и состоит из l пар объектов и ответов. xi-тое — это i-тый объект обучающей выборки, yi-тое — это истинный ответ на нем, то, что нужно предсказать.
        5. Алгоритм
          1. a(x) - алгоритм, модель
          2. Функция из X в Y
          3. алгоритм должен быть реализуем на компьютере
          4. пример
          5. линейный алгоритм
          6. a(x) = sign(w0 + w1*x**1 + ... + wd*x**d)
          7. Поскольку такая линейная комбинация признаков — это, по сути, любое вещественное число, а в нашей задаче ответов всего два, −1 и +1, понравился фильм или не понравился, то нужно взять знак от этой суммы, то есть для задачи классификации, для задачи определения понравится фильм или не понравился, алгоритм будет иметь вид знака от линейной комбинации всех признаков объекта.
          8. константный алгоритм
          9. a(x)=1
          10. Q(a, X) - ошибка алгоритма a на выборке X
          11. например, доля неправильных ответов
          12. Q - функционал ошибки (не функция)
        6. Обучение с учителем
          1. Q(a, X) -> min
          2. A - семейство алгоритмов
          3. Решающие пни: А = {[x**j < t] | ∀ j,t}
          4. Каждый решающий пень делает очень простую вещь: он берет некоторый один фиксированный признак xj-тое и сравнивает его значение на данном объекте с некоторым порогом t. Если значение признака меньше этого порога, то алгоритм возвращает ответ −1, говорит, что этому пользователю фильм не понравится. Если же значение j-того признака больше или равно порога t, то алгоритм дает ответ +1, говорит, что пользователю фильм понравится.
          5. Это очень простые алгоритмы, они могут проверять только очень простые факты вроде «Пользователь посмотреть больше трех комедий». Понятно, что здесь нужно проверять более сложные, парные взаимодействия, например, «Пользователь посмотрел больше трех комедий» и «Данный фильм является комедией». Но решающие пни на это не способны, для этого нужны более сложные семейства алгоритмов.
          6. Тем не менее, решающие пни пригодятся нам в этом курсе для составления сложных композиций алгоритмов.
          7. И нужно найти такой алгоритм из семейства алгоритмов A, на котором будет достигаться минимум функционала ошибки, то есть найти такой алгоритм, который будет лучше всего решать нашу задачу, лучше всего подходить к нашей обучающей выборке.
        7. Основные вопросы
          1. Каким выбрать функционал ошибки?
          2. Какое взять семейство алгоритмов?
          3. Как обучить алгоритм?
          4. Как сформировать признаки?
          5. Как подготовить данные?
      2. Типы задач при обучении с учителем
        1. Тип задач определяется пространством ответов Y
        2. Бинарная классификация
          1. Y = {0, 1}
          2. Множества объектов, которые имеют один ответ, например ответ «–1», называются классом, и говорят, что нужно уметь относить объект к одному из двух классов или классифицировать эти объекты.
          3. Примеры
          4. Понравится ли пользователю фильм
          5. Вернет ли клиент кредит
          6. Нужно ли делать пациенту операцию
          7. Качественное ли вино
        3. Многоклассовая классификация
          1. Y = {0, 1, ..., K} - многоклассовая классификация
          2. Примеры
          3. Из какого сорта винограда сделано вино
          4. На какую тему статья
          5. Какой тип имеет машина на фото
        4. Регрессия
          1. Y = R
          2. Пространство ответов - все вещественные числа
          3. Предсказание роста по весу
          4. Примеры
          5. Какая завтра температура
          6. Сколько денег заработает магазин за год
          7. Сколько лет человеку на фото
        5. Ранжирование
          1. Результаты поиска
      3. Обучение без учителя
        1. Виды обучения
          1. Обучение с учителем - объекты и ответы
          2. Обучение без учителя - только объекты
          3. Частичное обучение - объекты, некоторые с ответами
          4. Активное обучение - на каком объекте получить ответ
        2. Примеры постановки задач
          1. Кластеризация
          2. Найти группы похожих объектов
          3. Не знаем количество кластеров
          4. Не знаем правильных ответов
          5. Примеры
          6. Сегментация пользователей
          7. Поиск схожих пользователей в социальных сетях
          8. Поиск генов с похожими профилями экспрессии
          9. Визуализация
          10. Задача: нарисовать многомерную выборку
          11. Должна отражать структуру объектов
          12. Должно быть красиво
          13. визуализация датасета с рукописным начертанием цифр
          14. Поиск аномалий
          15. Определить объект, который не похож на большинство
          16. Примеров аномалий мало или вообще нет
          17. Примеры
          18. Определение поломки в системах самолета
          19. Определение поломки интернет-сайта
          20. Выявление проблем в модели машинного обучения
      4. Признаки в машинном обучении
        1. Признаки
          1. Описывают объекты
          2. Dj - множество значений j-го признака
        2. Типы
          1. Бинарные
          2. Dj = {0, 1}
          3. пример
          4. Доход клиента выше среднего по городу?
          5. Цвет фрукта - зеленый?
          6. Вещественные
          7. Dj = R
          8. Примеры
          9. Возраст
          10. Площадь квартиры
          11. Количество звонков в колл-центр
          12. Категориальные признаки
          13. Dj - неупорядоченное множество
          14. значения нельзя сравнивать!
          15. Примеры
          16. цвет глаз
          17. Город
          18. Образование
          19. Порядковые признаки
          20. Частный случай категориальных признаков
          21. Dj - упорядоченное множество
          22. Примеры
          23. Роль в фильме (первого плана, второго плана, массовка)
          24. Тип населенного пункта
          25. Образование (может быть неупорядоченным)
          26. Множествозначные признаки
          27. (set-valued)
          28. Dj - множество всех подмножеств некоторого множеста
          29. Примеры
          30. Какие фильмы посмотрел пользователь
          31. Какие слова входят в текст
        3. Проблемы
          1. Выбросы
          2. Значения признаков, непохожие на большинство
          3. Могут сильно мешать поиску закономерности
          4. Распределение признака
          5. Признаки могут иметь распределение, которое мешает работе с ними
          6. Примеры возникновения проблемы
          7. Недостаточно данных по одному из признаков
          8. Резко отличающееся значение признака для определенных объектов, которые образуют длинный "хвост" в распределении
    2. Линейные модели
      1. Линейные модели в задачах регрессии
        1. Обучение с учителем
          1. X - пространство объектов
          2. Y - пространство ответов
          3. x = (x1, ..., xd) - признаковое описание
          4. X = (xi, yi)^l i=1- обучающая выборка
          5. a(x) - алгоритм, модель
          6. Q(a, X) - функционал ошибки алгоритма а на выборке Х
          7. Обучение a(x) = argminQ(a, X) a на А
        2. Задача регрессии Y = R
        3. Вопросы
          1. Функционал ошибки?
          2. Среднеквадратичная ошибка
          3. не подходит
          4. Модуль отклонения |a(x) - y|
          5. негладкая функция
          6. нет производной в нуле
          7. использовать градиентные функции оптимизации затруднительно
          8. квадрат отклонения (a(x) - y)**2
          9. гладкая функция
          10. можно минимизировать градиентными методами
          11. квадрат отклонения ответа алгоритма от истинного ответа, а(xi-того) и от y-i-того. И суммируем, точнее усредняем, эти квадраты отклонений по всей обучающей выборке.
          12. Q(w, X), Где w - вещественный вектор, получаем не функционал, а функцию
          13. Обратите внимание, что подставляя сюда линейную модель, то есть вместо a(x) подставляя скалярное произведение w на xi-тое, мы получаем уже не функционал, а функцию, поскольку теперь наша ошибка зависит не от некой функции a(x), а от вектора весов w. И оптимизировать нужно именно по этому вектору весов, что уже гораздо проще.
          14. Семейство алгоритмов?
          15. Добавим константный признак
          16. по сути это скалярное произведение вектора весов на вектор признаков.
          17. Метод обучения?
          18. Обучение линейной регрессии
          19. среди признаков есть константный признак, значения которого на всех объектах равны 1, благодаря этому нам не нужно включать константные члены в нашу формулу.
          20. Матрица "объекты-признаки"
          21. l строк - количество объектов
          22. d стобцов - количество признаков
          23. В i-том j-том элементе этой матрицы записаны значения j-того признака на i-том объекте.
          24. Таким образом, мы получаем что в i-той строке этой матрицы записаны все признаки i-того объекта, а в j-том столбце этой матрицы записаны значения j-того признака на всех объектах.
          25. Вектор ответов
          26. Среднеквадратичная ошибка
          27. когда мы умножаем матрицу «объекты–признаки» X на вектор весов w, мы получаем вектор размера l, то есть такого размера, сколько у нас всего объектов, и i-тый элемент этого вектора — это и есть прогноз нашей модели
          28. скалярное произведение вектора весов на значение признаков на i-том объекте.
          29. Вычитаем из этого вектора вектор y, получаем отклонение прогнозов алгоритма от истинных ответов, и, вычисляя евклидову норму, возводя ее в квадрат и после этого поделив на число объектов, получаем среднеквадратичную ошибку.
          30. Аналитическое решение
          31. Если у вас тысячи или десятки тысяч признаков, обращение будет занимать очень много времени.
          32. Также при этом обращении могут возникнуть численные проблемы, если матрица X транспонированное на X устроена не очень хорошо.
          33. Поэтому гораздо более простым и удобным подходом является оптимизационный.
          34. Оптимизация
          35. Есть и другие подходы. Например, можно инициализировать случайными и не очень большими числами. Далее в цикле мы повторяем следующие операции. На t-той итерации цикла мы берем приближение с предыдущей итерации, то есть wt − 1, и вычитаем из него вектор градиента в этой точке, умноженный на некоторый коэффициент ηt, который называет шагом. Почему мы именно так изменяем вектор весов? Мы обсуждали в прошлом курсе, что градиент показывает в сторону наискорейшего возрастания функции, а антиградиент, то есть вектор градиента с минусом, показывает в сторону наискорейшего убывания. Таким образом, если мы хотим как можно сильнее уменьшить функционал ошибки Q, нам нужно изменять вектор весов именно в сторону антиградиента, что здесь и происходит.
          36. Коэффициент ηt (или шаг) нужен для того, чтобы регулировать, насколько далеко мы шагаем в сторону антиградиента. Дело в том, что оказывается оптимальным шагать не очень сильно, мы увидим с вами это чуть дальше. Эти градиентные шаги повторяются до тех пор, пока не наступит сходимость.
          37. Сходимость можно определять по-разному. В нашем случае мы ее определяем как ситуацию, в которой векторы весов от шага к шагу начали меняться не слишком сильно.
          38. То есть норма отклонения вектора весов на текущем шаге от вектора весов на предыдущем шаге, должна отличаться не более, чем на ε.
          39. В этом случае мы завершаем градиентный спуск.
          40. Если же изменение довольно большое, мы продолжаем его.
          41. Есть и другие подходы к определению сходимости. Например, можно сравнивать значение функционала ошибки между текущей итерацией и предыдущей, или использовать еще какие-то способы.
          42. Градиентный спуск для линейной регрессии
          43. Случай парной регрессии
          44. В случае парной регрессии признак всего один, а линейная модель выглядит следующим образом:
          45. a(x) = w1*x + w0
          46. где w1 и w0 — два параметра.
          47. Среднеквадратичная ошибка
          48. Для нахождения оптимальных параметров будет применяться метод градиентного спуска, про который уже было сказано ранее. Чтобы это сделать, необходимо сначала вычислить частные производные функции ошибки
          49. Демонстрация градиентного спуска в случае парной регрессии
          50. Следующие два графика демонстрируют применение метода градиентного спуска в случае парной регрессии. Справа изображены точки выборки, а слева — пространство параметров. Точка в этом пространстве обозначает конретную модель.
          51. График зависимости функции ошибки от числа произведенных операции выглядит следующим образом
          52. Выбор размера шага в методе градиентного спуска
          53. Очень важно при использовании метода градиентного спуска правильно подбирать шаг. Каких-либо конкретных правил подбора шага не существует, выбор шага — это искусство, но существует несколько полезных закономерностей.
          54. Если длина шага слишком мала, то метод будет неспеша, но верно шагать в сторону минимума. Если же взять размер шага очень большим, появляется риск, что метод будет перепрыгивать через минимум. Более того, есть риск того, что градиентный спуск не сойдется.
          55. Имеет смысл использовать переменный размер шага: сначала, когда точка минимума находится еще далеко, двигаться быстро, а позже, спустя некоторое количество итерации — делать более аккуратные шаги.
          56. Один из способов задать размер шага следующий
          57. ηt = k/t
          58. где k — константа, которую необходимо подобрать, а t — номер шага
          59. Случай многомерной линейной регрессии
          60. В случае многомерной линейной регрессии используется тот же самый подход — необходимо решать задачу минимизации
          61. Стоит отметить, что вектор Xw − y, который присутствует в данном выражении, представляет собой вектор ошибок.
          62. Стохастический градиентный спуск
          63. Недостатки обычного метода градиентного спуска
          64. в случае большой выборки даже одна итерация метода градиентного спуска будет производиться долго
          65. Идея стохастического градиентного спуска основана на том, что в сумме в выражении для j-компоненты градиента i-ое слагаемое указывает то, как нужно поменять вес wj, чтобы качество увеличилось для i-го объекта выборки.
          66. Вся сумма при этом задает, как нужно изменить этот вес, чтобы повысить качество для всех объектов выборки.
          67. В стохастическом методе градиентного спуска градиент функции качества вычисляется только на одном случайно выбранном объекте обучающей выборки. Это позволяет обойти вышеупомянутый недостаток обычного градиентного спуска.
          68. Таким образом, алгоритм стохастического градиентного спуска следующий. Сначала выбирается начальное приближение
          69. w0 = 0
          70. Далее последовательно вычисляются итерации wt: сначала случайным образом выбирается объект xi из обучающей выборки X и вычисляется вектор градиента функции качества на этом объекте, а следующее приближение получается из предыдущего вычитанием умноженного на шаг ηt полученного вектора:
          71. Сходимость стохастического градиентного спуска
          72. Показательно посмотреть на графики сходимости градиентного спуска и стохастического градиентного спуска. В обычном градиентном спуске на каждом шаге уменьшается суммарная ошибка на всех элементах обучающей выборки. График в таком случае обычно получается монотонным.
          73. Напротив, в стохастическом методе весовые коэффициенты меняются таким образом, чтобы максимально уменьшить ошибку для одного случайно выбранного объекта. Это приводит к тому, что график выглядит пилообразным, то есть на каждой конкретной итерации полная ошибка может как увеличиваться, так и уменьшаться. Но в итоге с ростом номера итерации значение функции уменьшается.
          74. Особенности стохастического градиентного спуска
          75. каждый шаг выполняется существенно быстрее шага обычного градиентного метода, а также не требуется постоянно хранить всю обучающую выборку в памяти.
          76. Это позволяет использовать для обучения выборки настолько большие, что они не помещаются в память компьютера
          77. Стохастический градиентный спуск также можно использовать для онлайн-обучения, то есть в ситуации, когда на каждом шаге алгоритм получает только один объект и должен учесть его для коррекции модели.
        4. Пример
          1. Предсказание прибыли магазина
          2. Прибыль - вещественная переменная
      2. Линейная классификация
        1. Задача бинарной классификации
          1. Выбрать функционал (функцию) ошибки
          2. Построить семейство алгоритмов
          3. Линейный классификатор
          4. Выражение hw, xi = 0 является уравнением некоторой плоскости в пространстве признаков.
          5. При этом для точек по одну сторону от этой плоскости скалярное произведение hw, xi будет положительным, а с другой — отрицательным.
          6. Равенство нулю скалярного произведения означает, что угол между этими векторами = 90 градусов, то есть что они перпендикулярны. Получается, что точки, удовлетворяющие этому уравнению — это все векторы, ортогональные вектору весов.
          7. Таким образом, линейный классификатор проводит плоскость в пространстве признаков и относит объекты по разные стороны от нее к разным классам.
          8. Отступ является величиной, определяющей корректность ответа.
          9. Если оступ больше нуля Mi > 0, то классификатор дает верный ответ для i-го объекта, в ином случае — ошибается.
          10. Причем чем дальше отступ от нуля, тем больше уверенность как в правильном ответе, так и в том, что алгоритм ошибается. Если отступ для некоторого объекта отрицательный и большой по модулю, это значит, что алгоритм неправильно описывает данные: либо этот объект является выбросом, либо алгоритм не пригоден для решения данной задачи
          11. если мы возьмем модуль этого скалярного произведения и отнормируем его, то есть поделим на норму вектора весов, то это выражение будет равно расстоянию от точки x до гиперплоскости, которая задается вектором нормали, вектором весов w. Получается, что линейный классификатор сначала измеряет расстояние от точки до гиперплоскости со знаком и дальше смотрит лишь на знак, то есть на то, с какой стороны от гиперплоскости лежит эта точка.
          12. Ввести метод обучения
          13. Функции потерь в задачах классификации
          14. Пороговая функция потерь
          15. В случае линейной классификации естественный способ определить качество того или иного алгоритма — вычислить для объектов обучающей выборки долю неправильных ответов
          16. С помощью введенного ранее понятия отступа можно переписать это выражение для случая линейной классификации в следующем виде
          17. Функция, стоящая под знаком суммы, называется функцией потерь. В данном случае это пороговая функция потерь, график которой в зависимости от отступа выглядит следующим образом:
          18. Такая функция является разрывной в точке 0, что делает невозможным применение метода градиентного спуска. Можно, конечно, использовать методы негладкой оптимизации, о которых шла речь в прошлом курсе, но они сложны в реализации.
          19. Оценка функции потерь (L)
          20. Примеры оценок функции потерь
          21. Логистическая функция потерь
          22. используется в логистической регрессии
          23. функционал ошибки
          24. Получившееся выражение является гладким, а, следовательно, можно использовать, например, метод градиентного спуска
          25. Следует обратить внимание, что в случае, если число ошибок стало равно нулю, все равно в ходе обучения алгоритма линейной классификации будут увеличиваться отступы, то есть будет увеличиваться уверенность в полученных результатаx
          26. Экспоненциальная функция потерь
          27. Кусочно-линейная функция потерь
          28. используется в методе опорных векторов
          29. Графики различных функций потерь: пороговая (красная линия), экспоненциальная (синяя), логистическая (оранжевая) и кусочно-линейная (серая)
      3. Линейный коэффициент корреляции r-Пирсона
        1. применяется для исследования взаимосвязи двух переменных, измеренных в метрических шкалах на одной и той же выборке. Он позволяет определить, насколько пропорциональная изменчивость двух переменных.
        2. в пределах от минус единицы до плюс единицы.
        3. условия
          1. Исследуемые переменные X и Y должны быть распределены нормально.
          2. Исследуемые переменные X и Y должны быть измерены в интервальной шкале или шкале отношений.
          3. Количество значений в исследуемых переменных X и Y должно быть одинаковым.
        4. Слабые стороны
          1. Неустойчивость к выбросам
          2. можно определить только силу линейной взаимосвязи между переменными, другие виды взаимосвязей выявляются методами регрессионного анализа.
        5. Формула
      4. Статистический взгляд
        1. Задача регрессии
          1. История
          2. 19век. Френсис Гальтон
          3. «Регрессия к середине в наследственности роста»
          4. зависимость между средним ростом детей и средним ростом их родителей
          5. отклонение роста детей от среднего составляет примерно 2/3 отклонения роста родителей от среднего
          6. Машина или доска Гальтона
          7. Это механическая машина, в которой сверху в центральной части находятся шарики. Когда открывается заслонка, шарики начинают постепенно сыпаться вниз, ударяясь о штырьки, которые расположены на одинаковом расстоянии друг от друга. При каждом соударении шарика со штырьком вероятности того, что он упадет налево и направо от штырька, равны. Постепенно шарики начинают собираться в секциях внизу в гауссиану, или плотность нормального распределения.
          8. Чаще всего под регрессией понимают минимизацию среднеквадратичной ошибки: квадратов отклонений откликов y от их предсказанных значений a(x).
          9. Метод наименьших квадратов (МНК)
          10. Для линейной регрессии задача имеет аналитическое решение.
          11. Сейчас можно численно минимизировать не только среднеквадратичную ошибку, но и, например, среднюю абсолютную, то есть сумму модулей отклонений нашей модели от отклика
          12. Такая задача является частным случаем класса задач квантильной регрессии.
          13. Метод максимизации правдоподобия
          14. Пример
          15. Распределение Пуассона
          16. Распределе́ние Пуассо́на — распределение дискретного типа случайной величины, представляющей собой число событий, произошедших за фиксированное время, при условии, что данные события происходят с некоторой фиксированной средней интенсивностью и независимо друг от друга.
          17. lambda — математическое ожидание случайной величины (среднее количество событий за фиксированный промежуток времени)
          18. C увеличением lambda распределение Пуассона стремится к распределению Гаусса со среднеквадратичным отклонением sigma = lambda**0.5 и сдвигом lambda.
          19. Общий вид
          20. Пусть некоторая случайная величина x имеет распределение F(x, θ), X^n — выборка размера n
          21. Логарифм правдоподобия
          22. Оценка максимального правдоподобия
          23. В случае непрерывной случайной величины метод максимального правдоподобия записывается аналогично
          24. Свойства метода максимального правдоподобия
          25. Состоятельность, то есть получаемые оценки при увеличении объема выборки начинают стремиться к истинным значениям
          26. Асимптотическая нормальность
          27. то есть с ростом объема выборки, оценки максимального правдоподобия все лучше описываются нормальным распределением с средним, равным истинному значению θ, и дисперсией, равной величине, обратной к информации Фишера
          28. Регрессия как максимизация правдоподобия
          29. Модель шума
          30. нормальное распределение
          31. задача минимизации среднеквадратичной ошибки
          32. дает оценку максимального правдоподобия для регрессионной функции a(x)
          33. Этот факт позволяет использовать в задаче с регрессии свойства метода максимального правдоподобия. Например, используя асимптотическую нормальность, можно определять значимость признаков x^j в модели и делать их отбор. Также можно строить доверительные интервалы для значения отклика на новых объектах, которых нет в обучающей выборке.
          34. распределение Лапласа
          35. Распределение шума не обязательно должно быть нормальным и может быть каким-то другим.
          36. можно попытаться описать его распределением Лапласа с нулевым средним.
          37. Формула для функции плотности вероятности такого распределения
          38. По сравнению с нормальным распределением, распределение Лапласа имеет более тяжелые хвосты, то есть для него более вероятны большие значения ε
          39. если моделировать шум распределением Лапласа, то наблюдения могут сильнее отклоняться от выбранной модели
          40. За счет этого получается решение, которое более устойчивое к выбросам
          41. Оказывается, что если шум действительно описывается распределением Лапласа, то к оценке максимального правдоподобия приводит минимизация средних абсолютных отклонений
          42. МНК
          43. Метод наименьших квадратов
          44. ОМП
          45. Оценка максимального правдоподобия
          46. Регрессия как оценка среднего
          47. Среднеквадратичная ошибка
          48. Если a — константа
          49. нет признаков
          50. то есть наилучшая константа, которая аппроксимирует значение y в смысле среднеквадратичной ошибки — это математическое ожидание
          51. Если a(x) — произвольная функция признаков x
          52. минимум будет доставлять условное математическое ожидание
          53. оценка, получаемая при минимизации среднеквадратичной ошибки
          54. является лучше аппроксимацией условного математического ожидания E(y|x). В случае линейной регрессии, то есть когда отклик моделируется линейной комбинацией <w, x_i>
          55. выражение <w∗, x_i> является наилучшей линейной аппроксимацией условного математического ожидания E(y|x)
          56. По графику видно, что одинаково штрафуются отклонения предсказания как в большую, так и в меньшую сторону от истинного значения y_i. Поэтому не удивительно, что функция, которая доставляет минимум функции, представляет собой какое-то среднее
          57. Дивергенции Брегмана
          58. Свойства
          59. Неотрицательность
          60. для всех p, q. Это следствие выпуклости F.
          61. Выпуклость
          62. является выпуклой по первому аргументу, но не обязательно по второму аргументу
          63. Линейность
          64. если мы думаем о расстоянии Брегмана как об операторе функции F, то оно линейно относительно неотрицательных коэффициентов.
          65. Двойственность
          66. функция F имеет выпуклое сопряжение
          67. Среднее как минимизатор
          68. ключевой результат о расхождениях Брегмана состоит в том, что при заданном случайном векторе средний вектор минимизирует ожидаемое расхождение Брегмана от случайного вектора. Этот результат обобщает результат учебника о том, что среднее значение набора минимизирует общую квадратичную ошибку для элементов набора. Этот результат был доказан для векторного случая (Banerjee et al. 2005) и распространен на случай функций / распределений (Frigyik et al. 2008). Этот результат важен, поскольку он дополнительно оправдывает использование среднего как представителя случайного набора, особенно при байесовской оценке.
          69. Дивергенции Брегмана порождаются любой непрерывной дифференцируемой выпуклой функцией ϕ
          70. Среднеквадратичная ошибка является частным случаем дивергенции Брегмана
          71. Минимизируя любую дивергенцию Брегмана, мы получаем оценку для условного математического ожидания
          72. Пример
          73. Этот результат уже является несколько странным, поскольку в семействе дивергенций Брегмана можно найти, в том числе, несимметричные относительно y функции. Такие функции больше штрафуют за отклонение модели в большую или меньшую сторону. Это результат может быть несколько контринтуитивным и получен не так давно.
          74. Средняя абсолютная ошибка и несимметричная абсолютная ошибка
          75. не входит в семейство дивергенций Брегмана. При ее минимизации получается оценка не условного математического ожидания, а оценка условной медианы
          76. Несимметричная абсолютная функция ошибки («несимметричность» определяется параметром τ ):
          77. имеет в некотором смысле наклоненный график по сравнению с графиком симметричной абсолютной ошибки
          78. При минимизации такого функционала получается лучшая оценка для соответствующего условного квантиля
          79. Регуляризация
          80. Переобучение регрессионных моделей
          81. Варианты решения проблемы
          82. Взять больше данных
          83. Выбрать более простую модель
          84. меньше признаков
          85. Использовать регуляризацию
          86. L2-регуляризатор
          87. L1-регуляризатор
          88. пунктир - МНК
          89. Дает смещенные оценки коэфициентов, но ошибка может быть меньше за счет меньшей дисперсии
          90. Смещение и дисперсия
          91. математическое ожидание квадрата ошибки регрессии представляет собой сумму трех компонент
          92. От выбора модели зависит квадрат смещения и дисперсия оценки, но не шум, который является свойством данных, а не модели.
          93. Метод наименьших квадратов дает оценки, которые имеют нулевое смещение.
          94. Регуляризация позволяет получить смещенные оценки с меньшим E (a∗(x) − y)^2 за счет того, что у этой оценки будет меньше дисперсия.
          95. Следующая аналогия позволяет лучше понять баланс между смещением и дисперсией. При стрельбе по мишени среднее число набранных очков зависит от положения средней точки попадания и разбросом относительно этого среднего.
          96. Переобучению линейных моделей соответствует стрельба без смещения, но с огромным разбросом. И часто оказывается, что можно набрать больше очков, стреляя не совсем в цель, то есть со смещением, но зато более точно. Именно это и позволяет добиться регуляризация.
          97. Решение задач гребневой регрессии и лассо
          98. В байесовской статистике гребневая регрессия соответствует заданию нормального априорного распределения на коэффициенты линейной модели, а метод лассо — заданию Лапласовского априорного распределения.
          99. Задача гребневой регрессии имеет аналитическое решение
          100. Для решения задачи лассо аналитического решения не существует, однако есть очень эффективный численный способ получения решения
          101. Логистическая регрессия
          102. Логистическая регрессия
          103. метод обучения с учителем в задаче бинарной классификации Y = {0, 1}
          104. Логистическая регрессия применяется для прогнозирования вероятности возникновения некоторого события по значениям множества признаков.
          105. это статистическая модель, используемая для прогнозирования вероятности возникновения некоторого события путём его сравнения с логистической кривой. Эта регреcсия выдаёт ответ в виде вероятности бинарного события (1 или 0).
          106. Метод линейного дискриминанта Фишера
          107. Метод линейного дискриминанта Фишера, один из самых старых методов классификации, заключается в минимизации среднеквадратичной ошибки
          108. если для некоторого объекта <w, xi> > 0.5, объект относится к первому классу y = 1, в ином случае — к нулевому y = 0.
          109. На самом деле, хочется предсказывать не просто метки классов, а вероятности того, что объекты относятся к какому-то из классов
          110. не получится: получаемая линейная комбинация факторов не обязательно лежит на отрезке от 0 до 1.
          111. Пример
          112. По обучающей выборке была настроена модель линейной регрессии. Получается, что при задолженности 2000$ вероятность просрочить платеж по кредиту равна 0.2, при задолженности 500$ — нулю, а при меньших значениях и вовсе отрицательная. Также, если задолженность больше 10000$, вероятность просрочки будет больше 1. Не понятно, как интерпретировать этот результат.
          113. Обобщенные линейные модели (GLM)
          114. Обобщенная линейная модель - это обобщение линейной регрессионной модели, позволяющее
          115. оценивать нелинейные воздействия наряду с линейными
          116. включать категориальные предикторные переменные, наряду с непрерывными
          117. зависимая переменная может иметь как нормальное распределение, так и распределение, отличное от нормального (например, гамма, Пуассона, биномиальное и.т.д.)
          118. Обобщенные линейные модели и стандартные линейные модели представляют зависимую переменную в виде суммы среднего значения мю и случайной величины e
          119. Однако если в линейных моделях среднее значение представляется линейной комбинацией предикторов
          120. то в обобщенных линейных моделях ожидаемые значения отклика представляют собой линейную комбинацию предикторов, которые связаны с зависимой переменной через функцию связи:
          121. Функция связи
          122. Функция связи используется в откликах модели, когда предполагается нелинейная связь зависимой переменной с предикторами.
          123. Вводится предположение о принадлежности переменной отклика экспоненциальному семейству распределений – широкому классу распределений, включающему в себя нормальное распределение, распределение Пуассона, гамма-распределение, обратное Гауссовское, биномиальное, экспоненциальное и другие распределения.
          124. Каждому из распределений соответствует естественная функция связи, называемая канонической (canonical link functions).
          125. Виды
          126. Тождественная
          127. Лог-связь
          128. Логит-связь
          129. Пробит-связь
          130. Дополняющая лог-лог-связь
          131. Лог-дополнение
          132. Задача линейной регрессии
          133. В задаче бинарной классификации в качестве g^−1 используется сигмоида
          134. В одномерном случае значение параметр w0 сигмоиды определяет положение её центра на числовой оси, а w1 — форму это сигмоиды
          135. Если w1 > 0, сигмойда возрастающая
          136. Если w1 < 0, сигмоида убывающая
          137. Чем больше по модулю значение w1, тем круче наклон сигмоиды в области ее середины.
          138. Предсказание вероятностей
          139. Если использовать сигмоиду, в обобщенной линейной модели в задаче логистической регрессии, результат будет более адекватным:
          140. Вероятность π(x) ∈ [0, 1], как и требуется.
          141. На краях области значений x функция (вероятность) π(x) слабо меняется при небольших изменениях x, когда как существенно изменяется, если x находится в середине диапазона своих значений.
          142. Последнее свойство является весьма полезным. Например, в уже рассмотренной задаче при размере задолженности в районе 2000$ оценка вероятности просрочки платежа сильно изменяется при увеличении или уменьшении задолженности на 100$. С другой стороны при размере задолженности в 500$ увеличение задолженности на 100$ приводит только к незначительным изменениям требуемой оценки.
          143. Оценка параметров
          144. По функции π(x) можно восстановить функцию g, которая фигурирует в определении обобщенной линейной модели
          145. Отношение, стоящее под логарифмом, называется риском, а весь логарифм называется «логит»
          146. Именно поэтому метод называется логистической регрессией: логит приближается линейной комбинацией факторов.
          147. Правдоподобие обучающей выборки
          148. Настройка модели происходит методом максимизации правдоподобия L(X). Удобнее однако не максимизировать правдоподобие, а минимизировать минус логарифм от правдоподобия
          149. Такой функционал также имеет названия log-loss, кросс-энтропия и другие.
          150. Если изменить метку нулевого класса на −1, то получится логистическая функция потерь в таком виде, в котором она встречалась в курсе до этого
          151. Решение задачи максимизации правдоподобия
          152. Задача максимизации правдоподобия в логистической регрессии очень хорошо решается численно, поскольку правдоподобие — выпуклая функция, а следовательно, она имеет единственный глобальный максимум. Кроме того, ее градиент и гессиан могут быть хорошо оценены.
          153. Если объекты из разных классов линейно разделимы в пространстве признаков, возникает проблема переобучения: сигмоида вырождается в «ступеньку».
          154. Например, такая ситуация возникает, если в уже упомянутой задаче оценки вероятности вернуть задолженность обучающая выборка такова, что все клиенты с задолженностью менее 1300$ вернули платеж вовремя, а все клиенты с задолженностью более 1300$ — нет.
          155. В этом случае максимизация правдоподобия приводит к тому, что ||w|| → ∞. В таких случаях необходимо использовать методы регуляризации, например L1 или L2 регуляризатор.
          156. Предсказание отклика
          157. Вероятности, которые дает логистическая регрессия, можно использовать для классификации, то есть для предсказания итоговых меток классов. Для этого выбирается порог p0 и объект относится к классу 1 только в случае π(x) > p0. В остальных случаях объект относится к классу 0.
          158. Порог p0 не следует выбирать всегда равным 0.5, как это может показаться из интуитивных соображений. Его необходимо подбирать для каждой задачи отдельно таким образом, чтобы обеспечить оптимальный баланс между точностью и полнотой классификатора.
      5. Практические рекомендации
        1. Масштабирование признаков
          1. Пример
          2. Минимум в точке 0, 0
          3. При поиске этого минимума методом градиентного спуска с начальной точкой w = (1, 1), вектор антиградиента будет иметь координаты (−2, −2).
          4. Это вектор проходит через точку минимума, а значит при правильно подобранном размере шага, уже на первом шаге градиентного спуска можно попасть строго в точку минимума. Градиентный спуск будет хорошо работать на этой функции.
          5. Изменим функцию
          6. В этом случае линии уровня представляют собой эллипсы, сильно вытянутые вдоль оси x
          7. Если запустить градиентный спуск из точки w = (1, 1), вектор антиградиента в этой точке будет иметь координаты (−2, −200). Вектор будет смотреть почти строго вниз и проходить мимо точки минимума функции. Более того, существует шанс на следующей итерации уйти еще дальше от минимума.
          8. Итак, градиентный спуск работает хорошо, если линии уровня функции похожи на круги
          9. В этом случае, откуда бы вы не начали, вектор градиента будет всегда смотреть в сторону минимума функции, а итеративный процесс будет сходиться довольно быстро
          10. Если же линии уровня похожи на эллипсы, направление антиградиента будет слабо совпадать с направлением в сторону минимума функции.
          11. Градиентный спуск будет делать много лишних шагов. Сходимость будет медленная, и более того, существует риск расхождения итеративного процесса, если размер шага будет подобран неправильно.
          12. Масштабирование выборки
          13. Пусть требуется предсказать, будет ли выдан грант по заявке. Заявка характеризуется двумя признаками — сколько уже успешных заявок было у данного заявителя и год рождения заявителя. Масштабы этих двух признаков существенно отличаются: количество одобренных грантов обычно меряется единицами, а год рождения — тысячами. Из-за такого различия в масштабе линии уровня функции будут выглядеть скорее как эллипсы, а не как круги.
          14. Если масштабирование не было произведено, при использовании метода градиентного спуска будет сделано много лишних шагов, а также существует риск расхождения итеративного процесса.
          15. В таком случае, чтобы без проблем пользоваться градиентным спуском, признаки необходимо привести к одному масштабу, то есть отмасштабировать
          16. Способы масштабирования
          17. Стандартизация или Нормализация
          18. Для начала необходимо вычислить вспомогательные величины: средние значения признаков и стандартные отклонения
          19. Чтобы произвести стандартизацию признака, достаточно вычесть из него его среднее значение и разделить на его стандартное отклонение
          20. После того, как это будет выполнено для всех признаков, сдвиги и различия в масштабах будут убраны
          21. Масштабирование на отрезок [0, 1]
          22. В этом случае также необходимо вычислить вспомогательные величины: максимальное и минимальное значение каждого признака на обучающей выборке:
          23. После этого значение каждого признака на конкретном объекте преобразовывается следующим образом:
          24. Тогда минимальное значение признака отображается в ноль, а максимальное — в 1, то есть признаки масштабируются на отрезок [0, 1].
        2. Нелинейные зависимости
          1. Нелинейная задача регрессии
          2. Пусть решается задача регрессии с одним признаком, отложенным по оси x. По этому признаку требуется восстановить целевую переменную y.
          3. Как можно в этом убедиться, непосредственное применение линейной модели не дает желаемых результатов и плохо подходит для решения данной задачи. Зависимость y от x явно нелинейная.
          4. Поэтому, кроме признака x, также рассматриваются признаки x**2, x**3 и x**4. Если построить линейную модель на этих признаках, в ней уже будет 5 коэффициентов.
          5. С помощью этой модели уже можно почти идеально описывать данные: она очень хорошо решает задачу, а также не переобучается. Фактически был совершен переход к новому признаковому пространству из четырех признаков вместо одного, в котором была построена линейная модель. А на исходном пространстве эта модель уже нелинейная и отлично описывает данные.
          6. Задача классификации с нелинейной границей
          7. задача классификации с двумя признаками, которые отложены по осям.
          8. Видно, что разделяющая поверхность здесь не является линейной. Применение линейного классификатора дает следующий результат:
          9. Но если кроме признаков x1 и x2 рассмотреть признаковое пространство, которое также включает в себя признаки x1x2, x_1**2 и x_2**2, результат будет совершенно иной: разделяющая поверхность будет иметь форму окружности и очень хорошо разделять красные и синие точки.
          10. Здесь также в новом пространстве была построена линейная модель, которая является нелинейной в исходном признаковом пространстве.
          11. Спрямляющее пространство
          12. Спрямляющим пространством признаков называется такое пространство, в котором задача хорошо решается линейной моделью.
          13. Может быть построено
          14. Через добавление квадратичных признаков, то есть когда к исходным признакам добавляются их квадраты и попарные произведения:
          15. Следует особо отметить, что в таком случае число признаков увеличивается на порядок. Если объектов не слишком много, существует риск переобучения в таком большом признаковом пространстве.
          16. Через добавление полиномиальных признаков:
          17. Этот способ следует использовать только, когда объектов достаточно много, то есть риск переобучения минимален, а также заранее известно, что зависимости очень нелинейные
          18. Через логарифмирование (или любые другие нелинейные функции):
          19. Ранее приводился пример про стоимость книг в интернет-магазине. В данном случае признаком будет стоимость книги, значение которого для большинства книг составит несколько сотен рублей. Но существуют и встречаются весьма часто очень дорогие книги, так что распределение этого признака будет иметь «тяжелый правый хвост». Известно, что линейные модели плохо применимы в таком случае и работают гораздо лучше, если распределение признаков близко к нормальному. Чтобы распределение признака «с хвостом» сделать более близким к нормальному, нужно прологарифмировать этот признак.
        3. Работа с категориальными признаками
          1. Примеры категориальных признаков
          2. • Город
          3. • Цвет
          4. • Тарифный план
          5. • Марка автомобиля
          6. Особенность
          7. Особенность категориальных признаков состоит в том, что это элементы некоторого неупорядоченного множества, и нельзя говорить, что какое-то значение больше или меньше другого. Можно только сравнивать их на равенство. Но в линейных моделях нужно брать значение признака, умножать на вес, а потом складывать с другими числами, и эту операцию нельзя делать со значениями категориальных признаков. Категориальные признаки нужно сначала преобразовать, чтобы их можно было использовать в линейных моделях.
          8. Бинарное кодирование
          9. Один из наиболее популярных подходов к кодированию категориальных признаков — бинарное кодирование. Далее будут использоваться следующие обозначения. Пусть j-ый признак — категориальный и принимает n возможных значений
          10. c1, ..., cn.
          11. Пусть также fj (x) — значение этого признака на объекте x. Чтобы закодировать данный признак, вводятся n новых бинарных признаков:
          12. b_1(x), ..., b_n(x),
          13. причем значение бинарного признака bi равно единице только в том случае, если на данном объекте x значение категориального признака fj(x) равно ci
          14. bi(x) = [fj (x) = ci]
          15. Пример
          16. Пусть в качестве признака рассматривается цвет, причем он может принимать три значения: синий, зеленый или красный. Дано три объекта x1, x2, x3, на которых значения категориального признака:
          17. fj (x1) = синий, fj (x2) = красный, fj (x3) = синий.
          18. Поскольку категориальный признак принимает 3 значения, потребуется 3 бинарных признака, чтобы его закодировать. В результате получается следующая матрица (каждому объекту соответствует своя строка, а каждому столбцу — свое значение признака):
          19. Новые значения
          20. Часто возникает следующая проблема. При кодирования тестовой выборки может встретиться объект, на котором категориальный признак принимает новое (n + 1)-е значение, которое до этого не встречалось в обучающей выборке. В этом случае логичным подходом будет не добавлять новый признак (поскольку это сложно реализуется), а просто приравнять к нулю все существующие признаки. Действительно, по смыслу бинарных признаков (принимает ли категориальный признак значение ci , i ∈ {1, 2, ..., n}), каждый из них в таком случае должен равняться нулю.
        4. Несбалансированные данные
          1. Примеры
          2. Предсказание резких скачков курса доллара. Если определение резкого скачка подразумевает сильные изменения, то примеров таких изменений за всю историю — единицы, но при этом практически каждый день — отрицательный пример, то есть пример, когда такого скачка не было. Выборка в этом случае будет очень несбалансированной.
          3. Медицинская диагностика (больных, как правило, сильно меньше, чем здоровых)
          4. Обнаружение мошеннических транзакций (которых существенно меньше, чем обычных транзакций)
          5. Классификация текстов и так далее.
          6. Задача называется несбалансированной, если объектов одного класса существенно меньше, чем объектов остальных классов.
          7. Проблема
          8. Основная проблема, связанная с несбалансированными выборками, состоит в том, что классификаторы минимизируют число неправильных ответов и никак не учитывают цены ошибок. Может возникнуть ситуация, когда выгоднее отнести все объекты к большему классу, не пытаясь как-то выделить объекты маленького класса. Другими словами, при работе с несбалансированными выборками классификаторы получаются очень плохие с точки зрения точности или полноты.
          9. Undersampling
          10. основная идея состоит в том, что часть объектов из большого класса выбрасываются из выборки.
          11. В этом случае необходимо выкинуть большую часть 1го класса и половину объектов 3го класса. Размеры классов примерно сравняются.
          12. При этом то, сколько именно объектов каждого класса выбрасывается — это гиперпараметр, который имеет смысл настраивать по отложенной выборке или по кросс-валидации.
          13. Oversampling
          14. Второй подход, oversampling, противоположен предыдущему: в данном случае объекты маленьких классов дублируются, чтобы выравнять соотношение классов.
          15. В предыдущем примере 5 раз необходимо продублировать объекты 2го класса, а также продублировать случайную половину 3го класса. В этом случае размеры классов тоже выравняются. То, на сколько будет увеличен каждый класс — тоже гиперпараметр.
          16. Следует обратить внимание на одну особенность. Если задача решается на исходной выборке, то среднеквадратичная ошибка выглядит:
          17. Но если делается oversampling, то есть дублируются какие-нибудь объекты, некоторые слагаемые будут входить в эту сумму несколько раз. Таким образом, вместо реального дублирования объектов, можно выставить соответствующие веса νi
          18. Стратификация
          19. Еще одна проблема, с которой можно столкнуться при работе с несбалансированными выборками, заключается в том, что при проведении кросс-валидации исходная выборка разбивается на k блоков примерно одинаковой длины. При этом, если выборка несбалансированная, может получиться ситуация, что в некоторые блоки объекты какого-то класса не попадут вообще. Такая ситуация крайне неприятна: при обучении на этом блоке получается классификатор, который никогда не видел один из классов.
          20. Чтобы с этим бороться необходимо использовать стратификацию, то есть делать так, чтобы распределение классов в каждом блоке примерно совпадало с распределением классов в исходной выборке. В этом случае будет гарантироваться, что объекты каждого из классов будут представлены в каждом из блоков разбиения.
        5. Многоклассовая классификация
          1. В этом разделе рассказывается, как решать задачи многоклассовой классификации с помощью линейных моделей. Как следует из названия, в задачах многоклассовой классификации K возможных классов. Требуется научиться отличать каждый класс от всех остальных.
          2. ONE-VS-ALL
          3. Этот метод можно применить к задаче многоклассовой классификации
          4. Такой подход называется «один против всех». Как следует из названия, для каждого класса будет строиться свой бинарный классификатор. Задачей этого классификатора будет отделение данного класса от всех остальных.
          5. Формально говоря, будут решаться K задач бинарной классификации. Для каждой (например k-ой) из этих задач будет весьма специфичная выборка:
          6. в которой объекты xi остаются такими же, а ответы становятся бинарными. Будет построен некоторый линейный классификатор, который отделяет k-ый класс от всех остальных:
          7. Ранее уже было сказано, что уверенность классификатора в своем решении определяется значением скалярного произведения. Если знак скалярного произведения положительный, то чем больше его модуль, тем больше классификатор уверен в том, что данный конкретный объект относится к данному классу. Поэтому для построения многоклассового классификатора можно использовать следующий алгоритм:
          8. который будет возвращать тот класс k, для которого уверенность соответствующего классификатора (то есть значение соответствующего скалярного произведения) больше всего
          9. Матрица ошибок
          10. Для анализа того, насколько хорошо работает многоклассовый классификатор, удобно использовать матрицу ошибок. Каждая строка этой матрицы соответствует тем объектам, которые классификатор отнес к тому или иному классу, а каждый столбец соответствует объектам, которые на самом деле относятся к тому или иному классу.
          11. Например, на пересечении первой строки и второго столбца стоит число q12, которое показывает то, сколько объектов второго класса многоклассовый классификатор отнес к первому. Эта матрица позволяет понять, какие классы перепутываются чаще всего. Также можно измерять уже известные метрики качества, например:
          12. Кроме того, можно считать точность и полноту (а также F-меру) для задачи отделения того или иного класса от всех остальных классов. Если точность и полнота будут таким образом вычислены для каждого из классов, они могут быть позднее усреднены, чтобы получить агрегированные оценки.
    3. Проблема переобучения и борьба с ней
      1. Пример: проблема переобучения в задачах классификации
        1. Допустим при решении задачи классификации был построен некоторый алгоритм, например линейный классификатор, причем доля ошибок на объектах из обучающей выборки была равна 0.2, и такая доля ошибок является допустимой.
        2. Но поскольку алгоритм не обладает обобщающей способностью, нет никаких гарантий, что такая же доля ошибок будет для новой выборки.
        3. Вполне может возникнуть ситуация, что для новой выборки ошибка станет равной 0.9
        4. Это значит, что алгоритм не смог обобщить обучающую выборку, не смог извлечь из нее закономерности и применить их для классификации новых объектов.
      2. Пример: проблема переобучения в задачах линейной регрессии
        1. Истинная зависимость (зеленая линия) и элементы обучающей выборки (изображены синими точками).
        2. истинная зависимость является нелинейной и имеет два экстремума.
        3. недообучение
          1. Хороший алгоритм не был построен, поскольку семейство алгоритмов слишком мало и с его помощью невозможно уловить закономерность.
          2. В этом случае также будет иметь место недообучение. Получилось лучше, но прямая тоже плохо описывает данные.
        4. Если семейство алгоритмов — множество многочленов 4-ей степени, то после обучения получившаяся кривая будет достаточно хорошо описывать и обучающую выборку, и истинную зависимость.
          1. В таком случае качество алгоритма хорошее, но нет идеального совпадения.
        5. При использовании многочленов 9-ой степени уже имеет место переобучение
          1. Восстановленная зависимость дает идеальные ответы на всех объектах обучающей выборки, но при этом в любой другой точке сильно отличается от истинной зависимости. Такая ситуация называется переобучением. Алгоритм слишком сильно подогнался под обучающую выборку ценой того, что он будет давать плохие ответы на новых точках.
      3. Недообучение и переобучение
        1. недообучение — ситуация, когда алгоритм плохо описывает и обучающую выборку, и новые данные. В этом случае алгоритм необходимо усложнять.
        2. В случае переобучения, данные из обучающей выборки будут описываться хорошо, а новые данные плохо.
        3. Выявить переобучение, используя только обучающую выборку, невозможно, поскольку и хорошо обученный, и переобученный алгоритмы будут хорошо ее описывать. Необходимо использовать дополнительные данные.
        4. Подходы к выявлению
          1. Отложенная выборка
          2. Часть данных из обучающей выборки не участвуют в обучении, чтобы позже проверять на ней обученный алгоритм.
          3. первая из двух частей будет использоваться для обучения алгоритма
          4. вторая, тестовая выборка, — для оценки его качества, в том числе для нахождения доли ошибок в задаче классификации, MSE (среднеквадратичной ошибки) в задаче регрессии и других мер качества в зависимости от специфики задачи.
          5. в какой пропорции производить разбиение
          6. Если взять тестовую выборку слишком маленькой, оценка качества будет ненадежной, хотя обучающая выборка будет почти совпадать с полной выборкой
          7. В противоположенном случае, если отложенная часть будет большой, оценка качества будет надежной, но низкое качество алгоритма может свидетельствовать о недостаточном объёме первой, обучающей, части выборки
          8. Обычно выборку разбивают в соотношениях 70/30, 80/20 или 0.632/0.368.
          9. Преимуществом отложенной выборки является то, что обучать алгоритм приходится всего лишь один раз, но при этом результат сильно зависит от того, как было произведено разбиение.
          10. пример
          11. Например, оценивается стоимость жилья по некоторым признакам. И есть особая категория жилья, например двухэтажные квартиры. И если окажется, что все двухэтажные квартиры, которых немного, попали в отложенную выборку, то после обучения алгоритм будет давать на них очень плохое качество, поскольку в обучающей выборке таких объектов не было.
          12. Чтобы решить эту проблему, можно использовать следующий подход: построить n различных разбиений выборки на 2 части, для каждого разбиения найти оценку качества, а в качестве итоговой оценки качества работы алгоритма использовать усредненное по всем разбиениям значение.
          13. Но и в данном случае, поскольку разбиения строятся случайно, нет никаких гарантий, что особый объект хотя бы раз попадет на обучение.
          14. Стоит использовать там, где выборка большая
          15. Кросс-валидация
          16. несколько усложненный метод отложенной выборки
          17. В этом случае выборка делится на k блоков примерно одинакового размера. Далее по очереди каждый из этих блоков используется в качестве тестового, а все остальные — в качестве обучающей выборки.
          18. После того, как каждый блок побывает в качестве тестового, будут получены k показателей качества. В результате усреднения получается оценка качества по кросс-валидации.
          19. какое число блоков использовать
          20. Если блоков мало, получаются надежные, но смещенные оценки.
          21. В случае большого числа блоков оценки, наоборот, получаются ненадежными (большой разброс оценок), но несмещенными.
          22. Нет конкретных рекомендаций относительно выбора k
          23. Обычно выбирают k = 3, 5, 10
          24. Чем больше k, тем больше раз приходится обучать алгоритм.
          25. Поэтому на больших выборках следует выбирать небольшие значения k, так как даже при удалении 1/3 выборки (а она большая) оставшихся данных будет достаточно для обучения.
          26. Совет: перемешивайте данные в выборке
          27. Часто данные в файле записаны в отсортированном виде по какого-нибудь признаку. Поэтому всегда следует перемешивать выборку прежде, чем производить кросс-валидацию. В ином случае алгоритм будет показывать плохое качество и причина этого будет не так очевидна.
          28. Если не предсказываете будущее
          29. При этом есть задачи, в которых выборку нельзя перемешивать. Это задачи предсказания будущего, например предсказание погоды на следующий день. В этом случае нужно особо следить за тем, как происходит деление выборки.
          30. Стоит использовать там, где данных немного
          31. Меры сложности модели
      4. Регуляризация
        1. «Симптомы» переобучения
          1. большие веса при признаках
          2. a(x) = 0.5 + 12458922*x + 43983740*x^2 + ... + 2740*x^9
        2. мультиколлинеарность
          1. проблема, при которой признаки в выборке являются линейно зависимыми
          2. существуют коэффициенты α1, ..., αd такие, что для любого объекта xi из выборки выполняется: α1xi + ... + αdx^di = 0.
          3. Другими словами, он будет также хорошо описывать данные в выборке, как и исходный алгоритм
          4. наличие линейной зависимости между объясняющими переменными (факторами) регрессионной модели. При этом различают полную коллинеарность, которая означает наличие функциональной (тождественной) линейной зависимости и частичную или просто мультиколлинеарность — наличие сильной корреляции между факторами.
        3. Регуляризация
          1. Метод добавления некоторых дополнительных ограничений к условию с целью решить некорректно поставленную задачу или предотвратить переобучение. Чаще всего эта информация имеет вид штрафа за сложность модели.
          2. Квадратичный регуляризатор
          3. Регуляризация — одна из эвристик улучшения градиентных методов обучения. Основным способом уменьшить переобучение является квадратичная регуляризация, называемая также сокращением весов. Чтобы ограничить рост абсолютных значений весов, к минимизируемому функционалу Q(w) добавляется штрафное слагаемое
          4. Коэффициент регуляризации
          5. λ — неотрицательный гиперпараметр
          6. Чем больше λ, тем ниже сложность модели. Например, при очень больших его значениях оптимально просто занулить все веса.
          7. В то же время при слишком низких значениях λ высок риск переобучения, то есть модель становится слишком сложной.
          8. Поэтому нужно найти некоторое оптимальное значение λ, достаточно большое, чтобы не допустить переобучения, и не очень большое, чтобы уловить закономерности в данных. Обычно λ подбирается на кроссвалидации
          9. Смысл регуляризации
          10. Добавление регуляризатора вводит требование, чтобы решение задачи минимизации искалось в некоторой круглой области с центром в нуле.
          11. Геометрический смысл условной регуляризации. Красная точка — настоящий оптимум функции,красные линии — линии уровня функции, черная точка — оптимум функции при введенном ограничении.
          12. Таким образом, решение задачи с регуляризатором не будет характеризоваться слишком большими значениями весовых коэффициентов.
          13. Виды регуляризаторов
          14. L2-регуляризатор
          15. квадратичный регуляризатор
          16. является гладким и выпуклым
          17. позволяет использовать градиентный спуск
          18. L1-регуляризатор
          19. который представляет собой L1-норму вектора весов
          20. Он уже не является гладким, а также обладает интересным свойством. Если применять такой регуляризатор, некоторые веса оказываются равными нулю. Другими словами, такой регуляризатор производит отбор признаков и позволяет использовать в модели не все признаки, а только самые важные из них.
          21. не дает ответа на вопрос, насколько хорошо алгоритм поведет себя на новых данных, то есть какая у него будет доля ошибок на новых данных
      5. Выбор гиперпараметров и сравнение алгоритмов
        1. Гиперпараметры
          1. Гиперпараметрами называются такие параметры алгоритмов, которые не могут быть получены из обучающей выборки при обучении, поэтому их надо подбирать путем многократного обучения алгоритма
          2. Параметр регуляризации λ (при использовании регуляризатора)
          3. Степень полинома в задаче регрессии с семейством алгоритмов, заданным множеством полиномов определенной степени.
        2. Сравнение разных алгоритмов
          1. Алгоритмы
          2. обученных с разными значениями гиперпараметров;
          3. использующих различный способ регуляризации;
          4. настроенных с использованием разного функционала ошибки, например среднеквадратичной ошибки и средней абсолютной ошибки;
          5. которые принадлежат разным классам алгоритмов.
          6. При сравнении алгоритмов можно использовать как отложенную выборку, так и кросс-валидацию
          7. пусть 1000 алгоритмов сравниваются по качеству на отложенной выборке. Каждый из 1000 алгоритмов, обученных на обучающей выборке, тестируется на отложенной, и в результате выбирается лучший. Фактически на этом шаге отложенная выборка также становится своего рода обучающей, и возникает проблема переобучения: из большого числа алгоритмов выбирается тот, который лучше всего ведет себя на отложенной выборке, лучше подогнан под нее.
        3. Улучшенная схема сравнения алгоритмов
          1. все данные нужно будет делить на 3 части (в случае использования отложенной выборки): обучение, валидация и контроль
          2. Каждый из тысячи алгоритмов будет обучен на обучающей выборке, а его качество будет измерено на валидационной. Алгоритм с наилучшим качеством будет проверен на тестовой выборке, чтобы исключить переобучение и проверить алгоритм на адекватность. По сути именно тестовая выборка будет играть роль новых данных.
          3. Если предпочтительно использовать кросс-валидацию, то данные следует разбить на 2 части. Первая из них будет использоваться для обучения алгоритмов и оценки качества с помощью кросс-валидации, после чего лучший алгоритм будет проверен на адекватность на контрольной выборке.
    4. Метрики качества
      1. Применение
        1. Для задания функционала ошибки (используется при обучении).
        2. Для подбора гиперпараметров (используется при измерении качества на кросс-валидации). В том числе можно использовать другую метрику, которая отличается от метрики, с помощью которой построен функционал ошибки.
        3. Для оценивания итоговой модели: пригодна ли модель для решения задачи.
      2. Среднеквадратичная ошибка MSE
        1. легко оптимизировать, используя, например, метод градиентного спуска.
        2. сильно штрафует за большие ошибки, так как отклонения возводятся в квадрат.
        3. штраф на выбросе будет очень сильным, и алгоритм будет настраиваться на выбросы
        4. алгоритм будет настраиваться на такие объекты, на которые не имеет смысл настраиваться
      3. Средняя абсолютная ошибка MAE
        1. сложнее минимизировать, так как у модуля производная не существует в нуле
        2. больше устойчивость к выбросам, так как штраф за сильное отклонение гораздо меньше
      4. Коэффициент детерминации R^2
        1. R^2(a, X)
        2. Интерпретируемый вариант MSE
        3. Отношение суммы квадратичной ошибки к разнице значения и среднего значения функции (ответа)
        4. Этот коэффициент показывает, какую долю дисперсии (разнообразия ответов) во всем целевом векторе y модель смогла объяснить.
        5. Для разумных моделей коэффициент детерминации лежит в следующих пределах
          1. 0 ≤ R^2 ≤ 1
        6. причем случай R^2 = 1 соответствует случаю идеальной модели, R^2 = 0 — модели на уровне оптимальной «константной», а R^2 < 0 — модели хуже «константной» (такие алгоритмы никогда не нужно рассматривать).
        7. Оптимальным константым алгоритмом называется такой алгоритм, который возвращает всегда среднее значение ответов y¯ для объектов обучающей выборки.
      5. Несимметричные потери
        1. симметричные модели
          1. штрафуют как за недопрогноз, так и за перепрогноз
        2. существуют такие задачи, в которых ошибки недопрогноза и перепрогноза имеют разную цену
        3. Пример
          1. Спрос на ноутбуки
          2. В этом случае заниженный прогноз приведет к потере лояльности покупателей и потенциальной прибыли (будет закуплено недостаточное количество ноутбуков), а завышенный — только к не очень большим дополнительным расходам на хранение непроданных ноутбуков
        4. функция потерь должна быть несимметричной и сильнее штрафовать за недопрогноз, чем за перепрогноз
      6. Квантильная ошибка
        1. Вероятностный смысл квантильной ошибки
          1. Чтобы разобраться, почему такая функция потерь называется квантильной, нужно разобраться с ее вероятностным смыслом. Пусть один и тот же объект x с одним и тем же признаковым описанием повторяется в выборке n раз, но на каждом из повторов — свой ответ y1, ..., yn. Такое может возникнуть при измерении роста человека. Измерения роста одного и того же человека могут отличаться ввиду ошибки прибора, а также зависеть от самого человека (может сгорбиться или выпрямиться). При этом алгоритм должен для одного и того же признакового описания возвращать одинаковый прогноз. Другими словами, необходимо решить, какой прогноз оптимален для x с точки зрения различных функционалов ошибки. Оказывается, что если используется квадратичный функционал ошибки, то наиболее оптимальным прогнозом будет средний ответ на объектах, если абсолютный, то медиана ответов. Если же будет использоваться квантильная функция потерь, наиболее оптимальным прогнозом, будет τ -квантиль. В этом и состоит вероятностный смысл квантильной ошибки
      7. Метрика качества классификации
        1. Доля правильных ответов
          1. в задачах классификации естественно использовать долю неправильных ответов (метрики нужно максимизировать)
          2. в задачах регрессии выбор метрик так, чтобы их нужно было минимизировать
          3. Эта метрика качества проста и широко используется, однако имеет несколько существенных недостатков.
          4. Проблемы
          5. Несбалансированные выборки
          6. Пусть в выборке 1000 объектов, из которых 950 относятся к классу −1 и 50 — к классу +1. Рассматривается бесполезный (поскольку не восстанавливает никаких закономерностей в данных) константный классификатор, который на всех объектах возвращает ответ −1. Но доля правильных ответов на этих данных будет равна 0.95, что несколько много для бесполезного классификатора.
          7. Пусть q0 — доля объектов самого крупного класса, тогда доля правильных ответов для разумных алгоритмов accuracy ∈ [q0, 1], а не [1/2, 1], как это можно было бы ожидать
          8. Поэтому, если получается высокий процент правильных ответов, это может быть связано не с тем, что построен хороший классификатор, а с тем, что какого-то класса сильно больше, чем остальных.
          9. Цены ошибок
          10. Например, в задаче кредитного скоринга, то есть в задаче принятия решения относительно выдачи кредита, сравниваются две модели. При использовании первой модели кредит будет выдан 100 клиентам, 80 из которых его вернут. Во второй модели, более консервативной, кредит был выдан только 50 клиентам, причем вернули его в 48 случаях. То, какая из двух моделей лучше, зависит от того, цена какой из ошибок выше: не дать кредит клиенту, который мог бы его вернуть, или выдать кредит клиенту, который его не вернет. Таким образом, нужны дополнительные метрики качества, которые учитывают цены той или иной ошибки.
      8. Точность и полнота
        1. Матрица ошибок
          1. Удобно классифицировать различные случаи, как соотносятся между собой результат работы алгоритма и истинный ответ, с помощью так называемой матрицы ошибок.
          2. true positive
          3. Если алгоритм сработал и объект действительно относится к классу +1, имеет место верное срабатывание
          4. false positive
          5. если объект на самом деле относится к классу −1, имеет место ложное срабатывание
          6. false negative
          7. Если алгоритм дает ответ −1, говорят, что он пропускает объект. Если имеет место пропуск объекта класса +1, то это ложный пропуск
          8. true negative
          9. Если же алгоритм пропускает объект класса −1, имеет место истинный пропуск
        2. Точность
          1. точность (precision), показывает, насколько можно доверять классификатору в случае срабатывания
        3. Полнота
          1. полнота (recall), показывает, на какой доле истинных объектов первого класса алгоритм срабатывает
        4. Пример
          1. Вторая модель является очень точной, но в ущерб полноте
        5. Примеры условий
          1. Пусть в задаче кредитного скоринга ставится условие, что неудачных кредитов должно быть не больше 5%. В таком случае задача является задачей максимизации полноты при условии precision(a, X) ≥ 0.95.
          2. Необходимо построить модель, которая определяет, есть или нет определенное заболевание у пациента. При этом требуется, чтобы были выявлены как минимум 80% пациентов, которые действительно имеют данное заболевание. Тогда ставят задачу максимизации точности при условии recall(a, X) ≥ 0.8.
        6. Несбалансированные выборки
          1. Пример матрицы ошибок
          2. Доля верных ответов (accuracy), точность(precision) и полнота(recall) для данного случая
          3. То, что доля верных ответов равняется 0.99, ни о чем не говорит: алгоритм все равно делает 66% ложных срабатываний и выявляет только 10% положительных случаев. Благодаря введению точности и полноты становится понятно, что алгоритм нужно улучшать.
        7. Арифметическое среднее
          1. Единая метрика может быть получена как арифметическое среднее точности и полноты
          2. Пример
          3. Пусть есть алгоритм, точность которого равна 10%, а полнота — 100%
          4. Это может быть случай, когда в выборке всего 10% объектов класса +1, а алгоритм является константным и всегда возвращает +1. Очевидно, что этот алгоритм плохой, но введенная выше метрика для него равна A = 0.55. В свою очередь другой, гораздо более лучший алгоритм, с precision = 0.55 и recall = 55 также характеризуется A = 0.55
          5. Ситуация, когда константный и разумный алгоритмы могут лежать на одной линии, является недопустимой, поэтому следует искать другой способ построения единой метрики.
        8. Минимум
          1. Чтобы константный и разумный алгоритмы не лежали на одной линии уровня, можно рассматривать M = min(precision, recall)
          2. Пример
          3. precision = 0.05, recall = 1 ⇒ M = 0.05.
          4. два алгоритма, для которых точности одинаковы, но отличаются значения полноты, будут лежать на одной линии уровня M
          5. Такое тоже недопустимо, так как второй алгоритм существенно лучше первого.
        9. F-мера
          1. «Сгладить» минимум можно с помощью гармонического среднего, или F-меры
          2. Пример
          3. Расширенная
          4. Если необходимо отдать предпочтение точности или полноте, следует использовать расширенную F-меру, в которой есть параметр β
          5. Например, при β = 0.5 важнее оказывается полнота, а в случае β = 2, наоборот, важнее оказывается точность
          6. Линии F = const в координатах precision–recall при значениях β = 1, β = 0.5 и β = 2 соответственно
      9. Качество оценок принадлежности классу
        1. Оценка принадлежности
          1. Многие алгоритмы бинарной классификации устроены следующим образом: сначала вычисляется некоторое вещественное число b(x), которое сравнивается с порогом t
          2. a(x) = [b(x) > t]
          3. где b(x) — оценка принадлежности классу +1. Другими словами, b(x) выступает в роли некоторой оценки уверенности, что x принадлежит классу +1
          4. В случае линейного классификатора a(x) = [<w, x> > t] оценка принадлежности классу +1 имеет вид b(x) = <w, x>.
          5. Часто бывает необходимо оценить качество именно оценки принадлежности, а порог выбирается позже из соображений на точность или полноту
          6. Пример
          7. Пусть рассматривается задачного кредитного скоринга и была построена некоторая функция b(x), которая оценивает вероятность возврата кредита клиентом x
          8. a(x) = [b(x) > 0.5]
          9. При этом получилось, что точность (precision) равна 10%, а полнота (recall) — 70%. Это очень плохой алгоритм, так как 90% клиентов, которым будет выдан кредит, не вернут его.
          10. При этом не понятно, в чем дело: был плохо выбран порог или алгоритм не подходит для решения данной задачи. Именно для этого необходимо измерять качество самих оценок b(x).
        2. PR-кривая
          1. Первый способ оценки принадлежности классу основан на использовании кривой точности-полноты. По оси X откладывается полнота, а по оси Y — точность. Каждой точке на этой кривой будет соответствовать классификатор с некоторым значением порога.
          2. Для примера будет приведено построение PR-кривой для выборки из 6 объектов, три из которых относятся к классу 1 и 3 — к классу 0. Соответствующий ей график изображен выше.
          3. 1. При достаточно большом пороге ни один объект не будет отнесен к классу 1. В этом случае и точность и полнота равны 0. 2. При таком пороге, что ровно один объект отнесен к классу 1, точность будет 100% (поскольку этот объект действительно из 1 класса), а полнота — 1/3 (поскольку всего 3 объекта 1 класса). 3. При дальнейшем уменьшении порога уже два объекта отнесены к классу 1, точность также остается 100%, а полнота становится равной 2/3. 4. При таком пороге, что уже три объекта будут отнесены к классу 1, точность становится равной 2/3, а полнота остается такой же. 5. При таком пороге, что четыре объекта отнесены к классу 1, точность уменьшится до 0.5, а полнота опять не изменится. 6. При дальнейшем уменьшении порога уже 5 объектов будут отнесены к 1 классу, полнота станет равной 100%, а точность — 3/5.
          4. В реальных задачах с числом объектов порядка нескольких тысяч или десятков тысяч, кривая точностиполноты выглядит примерно следующим образом.
          5. Следует отметить, что начинается PR-кривая всегда из точки (0, 0), а заканчивается точной (1, r), где r — доля объектов класса 1.
          6. В случае идеального классификатора, то есть если существует такой порог, что и точность, и полнота равны 100%, кривая будет проходить через точку (1, 1).
          7. Таким образом, чем ближе кривая пройдет к этой точке, тем лучше оценки. Площадь под этой кривой может быть хорошей мерой качества оценок принадлежности к классу 1. Такая метрика называется AUC–PRC, или площадь под PR-кривой.
        3. ROC-кривая
          1. строится в осях False Positive Rate (ось X) и True Positive Rate (ось Y )
          2. ROC-кривая строится аналогично PR-кривой: постепенно рассматриваются случаи различных значений порогов и отмечаются точки на графике. Для упомянутой выше выборки ROC-кривая имеет следующий вид
          3. В случае с большой выборкой ROC-кривая выглядит следующим образом
          4. Кривая стартует с точки (0, 0) и приходит в точку (1, 1). При этом, если существует идеальный классификатор, кривая должна пройти через точку (0, 1). Чем ближе кривая к этой точке, тем лучше будут оценки, а площадь под кривой будет характеризовать качество оценок принадлежности к первому классу. Такая метрика называется AUC–ROC,или площадь под ROC-кривой.
        4. Особенности
          1. при изменении баланса классов величина AUC-ROC и неизменных свойствах объектов выборки площадь под ROC-кривой не изменится. В случае идеального алгоритма AUC − ROC = 1, а в случае худшего AUC − ROC = 1/2
          2. Значение AUC−ROC имеет смысл вероятности того, что если были выбраны случайный положительный и случайный отрицаельный объекты выборки, положительный объект получит оценку принадлежности выше, чем отрицательный объект.
          3. PR-кривая строится в осях precision и recall, а следовательно изменяется при изменении баланса классов.
          4. Пример
        5. Сводная
        6. Статья
      10. log loss
        1. Логистическая функция ошибки
        2. Смысл, как я поняла сама
          1. Первое слагаемое
          2. actual_i
          3. 0
          4. Если класс 0, то все слагаемое будет равно 0
          5. 1
          6. Указывает на значимость слагаемого
          7. log(predicted_i)
          8. predicted_i
          9. между 0 и 1
          10. "предсказание" того, что actual = 1
          11. Если класс 1 и предсказание стремится к 1, то значение вида true positive
          12. Если класс 1 и предсказание стремится к 0, то значение false negative
          13. свойства натурального логарифма
          14. Нас интересуют значения x от 0 до 1 (predicted может быть от 0 до 1)
          15. Если predicted стремится к 1, то y будет стремится к 0
          16. Приведет к тому, что слагаемое незначимо
          17. Если predicted стремится к 0, то y будет стремиться к минус бесконечности
          18. Значимо только при условии, что при этом класс = 1. Соответственно, чем меньше predicted, тем ниже будет значение слагаемого (больше отрицательное значение)
          19. Это ситуация false negative
          20. Второе слагаемое
          21. 1 - actual_i
          22. actual_i наоборот
          23. log(1 - predicted_i)
          24. Тут аналогичная логика только про false positive
          25. Будет увеличиваться отрицательное значение при условии, если actual_i = 0, а predicted_i стремится к единице. То есть модель считает, что там 1, а на самом деле там 0
          26. Сумма двух слагаемых
          27. Например, actual = 0, predicted = 0,68
          28. False Positive
          29. 0 * log(0,68) + 1 * log(1 - 0,68)
          30. log(0,32)
          31. -1,14
          32. второе слагаемое
          33. Если actual = 1
          34. True Positive
          35. 1 * log(0,68) + 0 * log(1 - 0,68)
          36. log(0,68)
          37. -0,38
          38. По логике видим, что значимым слагаемым всегда может быть только 1 слагаемое
          39. Видим, что вторая ситуация лучше, чем первая, учитывая, что в итоге мы берем средний отрицательный результат (минус на минус даст плюс), а значение log loss мы пытаемся минимзировать
          40. Вариант 3. actual = 0, predicted = 0,32
          41. True Negative
          42. log(1-0,32)
          43. -0,38
          44. Вариант 4. actual = 1, predicted = 0,32
          45. False Negative
          46. первое слагаемое
          47. log(0,32)
          48. -1,14
          49. Итого
          50. Итого, если наша модель в большинстве случаев склоняется к верному классу, log loss будет стремится к нулю. Но при наличии false positive и false negative срабатываний значение log loss будет увеличиваться.
          51. Чтобы повысить значимость того или иного вида ошибки достаточно добавить коэффициенты для слагаемых (например, 0,3 и 0,7)
    5. Статья про переобучение
  6. Сокращения и термины
    1. cv
      1. кросс-валидация
    2. MSE
      1. среднеквадратичная ошибка
    3. MAE
      1. Средняя абсолютная ошибка
    4. accuracy
      1. доля правильный ответов
    5. TP, FP, TN, FN
      1. матрица ошибок
    6. R**2
      1. Коэффициент детерминации R^2
        1. Отношение суммы квадратичной ошибки к разнице значения и среднего значения функции (ответа)
    7. precision
      1. точность
    8. recall
      1. полнота
    9. F-мера
      1. гармоническое среднее точности и полноты
    10. L1 или Lasso
      1. регуляризатор
    11. L2 или Ridge
      1. регуляризатор
    12. log_loss
      1. Логистическая функция ошибки
    13. PR-кривая
      1. кривая точности(y) и полноты (x)
    14. ROC-кривая
      1. строится в осях False Positive Rate (ось X) и True Positive Rate (ось Y)
    15. AUC - area under curve
      1. площадь под кривой
    16. AUC-ROC
      1. Площадь под ROC-кривой
    17. AUC-PRC
      1. площадь под PR-кривой
    18. r-Пирсона
      1. Линейный коэффициент корреляции r-Пирсона
    19. масштабирование выборки
      1. стандартизация или нормализация
        1. Чтобы произвести стандартизацию признака, достаточно вычесть из него его среднее значение и разделить на его стандартное отклонение
      2. Масштабирование на отрезок [0, 1]
        1. Тогда минимальное значение признака отображается в ноль, а максимальное — в 1, то есть признаки масштабируются на отрезок [0, 1].