算法模型速览

这是一张关于机器学习算法（ML Algorithms）的思维导图。

学习类型（Types of Learning）

• 监督学习（Supervised (Inductive) learning）：给定函数$(X, F(X))$的示例，预测新示例$X$的函数$F(X)$ 。如果$F(X)$是连续的，为回归（Regression）；如果$F(X)$是离散的，为分类（Classification） 。
• 无监督学习（Unsupervised learning）：训练数据不包含期望输出。
• 半监督学习（Semi - supervised learning）：训练数据包含少量期望输出。
• 强化学习（Reinforcement learning）：从一系列动作中获得奖励。

算法类型（Algorithm Types）

• 线性回归分析（Linear regression analysis）：如预测棋盘游戏的平均评论数。
• 支持向量机（SVM - Support Vector Machine）、K近邻算法（K - nearest neighbour algorithm）：如用于乳腺癌检测。
• 超分辨率卷积神经网络（SRCNN - Super Resolution Convolutional Neural Network）：用于提高糖尿病患者图像质量。
• 深度学习神经网络（Deep learning neural network）：用于对象识别（如CIFAR - 10数据集）等。
• 自然语言处理（NLP - Natural Language Processing）：包括词法分析、词性标注等。
• 概率密度（Probability Densities）：如信用卡欺诈检测。
• K - 均值聚类算法（K - means clustering algorithm）（无监督）：用于股票市场聚类等。
• 马尔可夫模型和K近邻方法（Markov Models and K - Nearest Neighbour (KNN) Approaches）、时间序列算法（time series algorithm） 。

任何算法的组成部分（Components of any algorithm）

• 表示（Representation）：如支持向量机、决策树、逻辑程序、图形模型（贝叶斯/马尔可夫网络）、神经网络、模型集成。
• 评估（Evaluation）：包括准确率（Accuracy）、精确率和召回率（Precision and recall）、均方误差（Squared error）、似然（Likelihood）、后验概率（Posterior probability）、成本/效用（Cost / Utility）、边际（Margin）、熵（Entropy）、K - L散度（K - L divergence）。
• 优化（Optimization）：如组合优化（Combinatorial optimization）、凸优化（Convex optimization）、约束优化（Constrained optimization），示例有贪心搜索（Greedy search）、梯度下降（Gradient descent）、线性规划（Linear programming） 。