Statistical-Learning-Method_Code — вопросы и ответы

Question 1

Что это?

Accepted Answer

Реализация на Python «с нуля» всех алгоритмов из книги Ли Ханя 'Statistical Learning Method' (统计学习方法), с подробно прокомментированным кодом, который напрямую соответствует формулам из книги.

Question 2

Это библиотека, которую импортируют, или отдельные примеры-скрипты?

Accepted Answer

Это набор отдельных скриптов: по одной папке на каждый алгоритм или главу (например, SVM/SVM.py, HMM/HMM.py). Это не готовая библиотека, которую устанавливают через pip install.

Question 3

Как запустить одну из реализаций алгоритмов?

Accepted Answer

Склонируйте репозиторий и запустите нужный скрипт напрямую через Python, например python perceptron/perceptrondichotomy.py. Код каждой главы лежит в своей папке.

Question 4

Нужно ли что-то делать с датасетом перед запуском скриптов?

Accepted Answer

Да. Включённый датасет Mnist хранится в сжатом виде как csv (потому что несжатый файл весит 107 МБ), поэтому перед запуском скриптов, которые его используют, нужно распаковать архив в папке Mnist.

Question 5

Можно ли использовать этот код в коммерческих целях?

Accepted Answer

Нет. Содержимое проекта распространяется по лицензии CC BY-NC-SA 4.0, которая запрещает коммерческое использование. Материалами можно делиться и их можно адаптировать, но нельзя продавать их или использовать в коммерческих целях.

Question 6

Это для продакшена или для учёбы?

Accepted Answer

Это пособие к книге для учёбы. Каждая реализация ставит ясность и возможность проследить формулы выше производительности и рассчитана на студентов, которые изучают классические методы статистического обучения.

Question 7

Какие алгоритмы из книги реализованы?

Accepted Answer

Обучение с учителем: Perceptron, KNN, Naive Bayes, Decision Tree, Logistic Regression, Maximum Entropy, SVM, AdaBoost, EM и HMM. Обучение без учителя: K-means, Hierarchical Clustering, PCA, LSA, PLSA, LDA и PageRank.

Question 8

Есть ли пояснения помимо комментариев в коде?

Accepted Answer

Да. Автор написал сопроводительные статьи в блоге, в которых разбирает теорию по большинству глав (например, 'Statistical Learning Method | SVM principle analysis and implementation'). Ссылки на них приведены прямо в README.

Question 9

Проект всё ещё активно развивается?

Accepted Answer

Автор упоминал договор на издание книги (с издательством People's Posts and Telecommunications Press) и планы переработать код в отдельной ветке 'book'. Это указано в обновлении от февраля 2022 года, но в остальном обновления выходят нерегулярно.

Statistical-Learning-Method_Code README

【广告位-AI 工具推荐】学术研究必备 - GreatRouter 大模型 API 服务

前言

注：其中Mnist数据集已转换为csv格式，由于体积为107M超过限制，改为压缩包形式。下载后务必先将Mnist文件内压缩包直接解压。

【Updates】

实现

监督部分

第二章感知机：

第三章 K近邻：

第四章朴素贝叶斯：

第五章决策树：

第六章逻辑斯蒂回归与最大熵模型：

第七章支持向量机：

第八章提升方法：

第九章 EM算法及其推广：

第十章隐马尔可夫模型：

无监督部分

第十四章聚类方法

第十六章主成分分析

第十七章潜在语意分析

第十八章概率潜在语意分析

第二十章潜在狄利克雷分配

第二十一章 PageRank算法

许可 / License

联系

项目历史

Statistical-Learning-Method_Code README

【广告位-AI 工具推荐】学术研究必备 - GreatRouter 大模型 API 服务

前言

注：其中Mnist数据集已转换为csv格式，由于体积为107M超过限制，改为压缩包形式。下载后务必先将Mnist文件内压缩包直接解压。

【Updates】

实现

监督部分

第二章 感知机：

第三章 K近邻：

第四章 朴素贝叶斯：

第五章 决策树：

第六章 逻辑斯蒂回归与最大熵模型：

第七章 支持向量机：

第八章 提升方法：