世界上存在成千上万种学习法，如果上天只让我掌握一种，那一定就是“费曼学习法”。


## 介绍
费曼学习法是由诺贝尔物理学奖获得者理查德·费曼提出的一种学习方法，其核心思想是将所学内容用自己的话表达出来，以此检验自己对知识的掌握程度。

费曼学习法可以简化为四个单词：**Concept**、**Teach**、**Review**、**Simplify**

具体而言，费曼学习法包括以下几个步骤：

- **Concept**：选择一个主题，并尽可能全面地了解这个主题；

- **Teach**：将所学内容以简明易懂的语言写下来或讲述给别人听，使用通俗易懂的语言和例子，避免使用学术术语和复杂的句子；

- **Review**：检查自己的表达是否清晰明了，是否有遗漏或错误；

- **Simplify**：基于反馈修正自己的表达，直到能够清晰表达该主题。

其优点是：

- 突出重点：在解释一个概念时，我们不得不选取最重要的信息，并将其用自己的话表达出来。这种方式可以帮助我们更好地理解和记忆知识点。

- 发现问题：当我们尝试用自己的话阐述某个主题时，常常会发现自己对某些内容并不理解或者存在疑问。这种方式可以帮助我们及时发现自己的盲点和问题，促进深层次的学习。

- 加深印象：通过不断反复的讲解和修正，我们能够形成对于某个主题的深层次理解，并加深对于相关概念的印象。

## 数据

美国学术界在1946年一项研究显示了不同学习方式的效益，准确的说，是学习者在两周以后还能记住内容（平均学习保持率）的多少。

下图是当时美国教育学家Engar Dale研究出的“学习金字塔”（The Cone of Learning）。

![image.png](https://niuery.com/static/img/a270baa53b9f0798e17123dc62717220.image.png)

由上图可以看出，**Learning by teaching 可以说是学习效率最高的方式**。

Learning by teaching --- 费曼学习法

## 引言
软件开发过程中，我们经常会遇到各种设计问题，例如如何管理对象之间的关系、如何优化代码的可复用性和可维护性等等。为了解决这些问题，我们可以使用设计模式。



设计模式是一种被广泛接受的软件设计思想，它提供了一套通用的解决方案，可以帮助我们更好地解决常见的软件设计问题。设计模式是从实践中总结出来的，它不仅可以提高代码的可读性和可维护性，还可以提高开发效率和代码的可复用性。

## 常见设计模式原则
设计模式有常见的五大原则 - [SOLID](https://niuery.com/post/9)
- 单一职责原则（SRP）
- 开放封闭原则（OCP）
- 里氏替换原则（LSP）
- 接口隔离原则（DIP）
- 依赖倒置原则（ISP）


补充第六原则，迪米特法则(Law of Demeter,LoD)也称为最少知识原则(Least Knowledge Principle,LKP)

## 常见设计模式类型
- 创建型模式：负责对象的创建和初始化，共有5种：**工厂方法模式**、**抽象工厂模式**、**单例模式**、**建造者模式**、**原型模式**。
- 结构型模式：负责对象的组合，共有7种：**适配器模式**、**装饰器模式**、**代理模式**、**外观模式**、**桥接模式**、**组合模式**、**享元模式**。
- 行为型模式：负责对象之间的通信，共有11种：**观察者模式**、**策略模式**、**迭代器模式**、**命令模式**、**责任链模式**、**模板方法模式**、**访问者模式**、**中介者模式**、**解释器模式**、**过滤器模式**、**备忘录模式**。
## 目录

### 创建型模式

1. [**抽象工厂模式（Abstract Factory Pattern）**](https://niuery.com/post/10)

抽象工厂模式是一种创建型设计模式，它提供了一种封装一组相关或相互依赖对象创建过程的方法，使得我们可以在不知道具体实现细节的情况下，创建一系列相互协作的对象。

2. [**工厂方法模式（Factory Method Pattern）**](https://niuery.com/post/33)

工厂方法模式是一种创建型设计模式，它提供了一种将对象的创建过程封装起来的方法，使得我们可以在不知道具体实现细节的情况下，创建各种不同类型的对象。

3. [**单例模式（Singleton Pattern）**](https://niuery.com/post/11)

单例模式是一种保证一个类只有一个实例的模式，它可以避免多个实例造成的资源浪费和对象的不一致性。单例模式通常使用一个私有的构造函数和一个静态的实例变量来实现。

4. [**建造者模式（Builder Pattern）**](https://niuery.com/post/13)

将一个复杂对象的构建与它的表示分离，使得同样的构建过程可以创建不同的表示。建造者模式可以将复杂对象的构建过程抽象出来，从而使得系统更加灵活。

5. [**原型模式（Prototype Pattern）**](https://niuery.com/post/14)

用原型实例指定创建对象的种类，并通过复制这些原型创建新的对象。原型模式可以在运行时动态地创建对象，从而避免了静态工厂方法所带来的编译时耦合。


### 结构型模式
1. [**适配器模式（Adapter Pattern）**](https://niuery.com/post/15)

适配器模式是一种将一个类的接口转换成客户端所期望的另一种接口的模式，它可以让原本不兼容的类能够协同工作。这种模式可以避免因接口不匹配而导致的代码重构和重复开发。

2. [**装饰器模式（Decorator Pattern）**](https://niuery.com/post/16)

装饰器模式是一种在运行时动态地给对象添加新的功能的模式，它通过将对象包装在一个装饰器中来实现。这种模式可以避免使用继承带来的复杂性和静态特性，提高代码的灵活性和可扩展性。

3. [**代理模式（Proxy Pattern）**](https://niuery.com/post/17)

代理模式是一种结构型设计模式，它允许我们创建一个代理对象来控制对另一个对象的访问。代理对象可以充当原始对象的访问接口，从而控制对原始对象的访问。代理模式通常用于远程访问、延迟加载、访问控制等方面。

4. [**外观模式（Facade Pattern）**](https://niuery.com/post/18)

为一组复杂的子系统提供一个简单的接口，从而隐藏子系统的复杂性。外观模式可以降低客户端和子系统之间的耦合度，同时提高客户端的易用性。

5. [**桥接模式（Bridge Pattern）**](https://niuery.com/post/19)

桥接模式是一种将抽象部分与它的实现部分分离开来的模式，使它们可以独立地变化。这种模式可以避免因为实现细节的变化而导致的代码修改和重构。

6. [**组合模式（Composite Pattern）**](https://niuery.com/post/20)

组合模式是一种将对象组合成树形结构的模式，使得客户端可以像处理单个对象一样处理对象的组合。这种模式可以使得对象之间的关系更加清晰，提高代码的可读性和可维护性。

7. [**享元模式（Flyweight Pattern）**](https://niuery.com/post/21)

享元模式是一种结构型设计模式，用于优化对象的创建和使用。该模式通过共享相同的数据，来减少内存的使用和对象的创建。通常情况下，享元模式适用于存在大量相似对象的情况

### 行为型模式

1. [**观察者模式（Observer Pattern）**](https://niuery.com/post/12)

观察者模式是一种对象间的一对多依赖关系，当一个对象的状态发生改变时，所有依赖它的对象都会收到通知并自动更新。这种模式可以降低对象之间的耦合度，提高系统的灵活性和可扩展性。

2. [**策略模式（Strategy Pattern）**](https://niuery.com/post/22)

策略模式是一种定义一系列算法的模式，它将每个算法封装在一个类中，并使它们可以互相替换。这种模式可以避免使用大量的条件语句和重复代码，提高代码的可维护性和可扩展性。

3. [**迭代器模式（Iterator Pattern）**](https://niuery.com/post/23)

迭代器模式是一种访问一个聚合对象中的各个元素的方式，而又不需要暴露该对象的内部表示。这种模式可以让客户端透明地访问聚合对象中的元素，同时避免了聚合对象的数据结构对客户端的依赖。

4. [**命令模式（Command Pattern）**](https://niuery.com/post/25)

将请求封装成对象，从而使不同的请求可以被不同的对象处理。命令模式可以将请求的发送者和接收者解耦，同时支持请求的撤销和重做

5. [**责任链模式（Chain of Responsibility Pattern）**](https://niuery.com/post/26)

将请求的发送者和接收者解耦，通过一条由多个处理对象组成的链来处理请求。责任链模式可以根据需求动态地组合处理对象，从而实现请求的自动转发和处理。

6. [**模板方法模式（Template Method Pattern）**](https://niuery.com/post/27)

定义一个操作中的算法骨架，将一些步骤延迟到子类中。模板方法模式可以提高代码的复用性和可维护性，同时可以避免子类中的代码重复

7. [**状态模式（State Pattern）**](https://niuery.com/post/28)

允许对象在内部状态发生改变时改变它的行为。状态模式将对象的行为和状态进行分离，从而将复杂的条件判断转化为简单的状态切换。

8. [**中介者模式（Mediator Pattern）**](https://niuery.com/post/29)

用一个中介对象来封装一系列的对象交互，从而使对象之间的交互松散耦合。中介者模式可以简化对象之间的交互，同时降低对象之间的依赖关系。

9. [**解释器模式（Interpreter Pattern）**](https://niuery.com/post/30)

给定一个语言，定义它的文法的一种表示，并定义一个解释器，该解释器使用该表示来解释语言中的句子。解释器模式可以将复杂的语言转化为易于处理的数据结构，从而使得语言的解释更加容易。

10. [**访问者模式（Visitor Pattern）**](https://niuery.com/post/31)

访问者模式是一种行为设计模式，它可以让你将算法与它们操作的对象分离。这样，你可以在不修改对象结构的情况下，向现有的对象结构添加新的操作。

11. [**备忘录模式（Memento Pattern）**](https://niuery.com/post/32)
备忘录模式是一种行为型设计模式，它允许我们将对象的状态保存在备忘录对象中，从而可以在以后恢复对象的状态。该模式通常用于需要撤销、恢复操作的场景，例如文本编辑器、绘图应用等。备忘录模式通过将状态保存在备忘录对象中来实现状态的恢复，从而保证了对象的封装性和数据安全性。

> 参考资料
> 
> https://dofactory.com/net/abstract-factory-design-pattern
> 
> https://refactoring.guru/design-patterns

重温设计模式 --- 前篇

线程安全集合 --- Concurrent

## KAN模型训练实操
通过搜索相关资料[[1]](https://github.com/KindXiaoming/pykan)， 找到了名为 `pykan`[[2]](https://github.com/KindXiaoming/pykan) 的 KAN（Kolmogorov Arnold Networks）的 `Python` 实现，看起来是目前 Star 数量最多的开源库框架。

项目提供了详细的文档 [[3]](https://kindxiaoming.github.io/pykan/) 介绍了库中所有的类、方法和函数，并提供了使用示例，可帮助用户快速上手和深入了解该库的使用方法。

项目也提供了丰富的教程 [[4]](https://github.com/kindxiaoming/pykan/blob/master/tutorials.)，涵盖了从基本到高级的各种主题，包括如何构建和训练 `KAN` 模型、如何使用 `KAN` 模型进行预测以及如何解释 `KAN` 模型等，为用户提供了逐步指南。

## 环境准备
![image.png](https://niuery.com/static/img/5a18551728cafd67eb562056bc6de941.image.png)
接下里借助前文中提到的 `Anaconda`，先创建一个我们要测试的环境，从项目环境要求中，了解到需要 `Python 3.9.7 ` 以上的版本才可以，所以我这里创建的时候，选择的 `3.9.21` 版本。

![image-1.png](https://niuery.com/static/img/16cb1965cb57228098b5b4d4ae86794e.image-1.png)

稍等几分钟后，则可以创建一个 `Python` 运行环境，这里我命名为"KAN_TestEnv"，根据项目要求的所需工具包如下，
``` csharp
# python==3.9.7
matplotlib==3.6.2
numpy==1.24.4
scikit_learn==1.1.3
setuptools==65.5.0
sympy==1.11.1
torch==2.2.2
tqdm==4.66.2
pandas==2.0.1
seaborn
pyyaml
```
在 `Anaconda` 手动安装，我这里没有按照官方的方式，使用 `pip` 批量安装，因为我批量安装时，会有报错，某一个方法不存在，所以我怀疑是版本有问题，使用了手动安装的方式，按如下操作：
``` shell
pip install -r requirements.txt 
``` 

![image-2.png](https://niuery.com/static/img/14a77d8512c1b2f1cec8da3f17a987dc.image-2.png)

## 源码准备

去 `pykan` 项目仓库地址 [[2]](https://github.com/KindXiaoming/pykan)，直接将 `master` 下载下来，使用VS code 打开项目，
项目结构如下：

![image-3.png](https://niuery.com/static/img/0fa8267428abe122215e0e0116815f44.image-3.png)
打开 `hellokan.ipynb` 文件，初次打开，需要安装 `Jupyter` 插件，直接安装就可以，然后就可以单步调试 `Jupyter` 的 Cell，此时需要选择调试环境，点击右上角的电脑图标就可以选择调试环境，可以看到刚才创建的 “KAN_TestEnv” 的环境，选择该环境。

![image-4.png](https://niuery.com/static/img/89cfc43ace02e4786654ce00ba632013.image-4.png)

## 运行示例
此时的准备工作就全部做完了，可以选择第一个可以运行的代码块，一步一步的调试，看一下输出结果，

![KAN模型训练演示.gif](https://niuery.com/static/img/534b71f3ad47ba9a7a010ee8fe0543b0.KAN%C3%A6%C2%A8%C2%A1%C3%A5%C2%9E%C2%8B%C3%A8%C2%AE%C2%AD%C3%A7%C2%BB%C2%83%C3%A6%C2%BC%C2%94%C3%A7%C2%A4%C2%BA.gif)

> 相关链接
>
> [1] https://github.com/mintisan/awesome-kan
>
> [2] https://github.com/KindXiaoming/pykan
>
> [3] https://kindxiaoming.github.io/pykan
>
> [4] https://github.com/kindxiaoming/pykan/blob/master/tutorials

人工智能 --- KAN模型实操

人工智能学习中涉及的框架众多，以下从数据处理、数据可视化、机器学习、深度学习、超参数调优等几个方面对这些框架进行整理介绍：

## 数据处理框架
- **Numpy**：Numpy[[1]](https://numpy.org/) 是Python科学计算的基础库，提供了高性能的多维数组对象以及对数组进行操作的函数，可用于存储和处理大型数值数据，支持大量的数学运算，如矩阵运算、线性代数操作等。

![image.png](https://niuery.com/static/img/b325478958087fa2948e3097e0f6ac67.image.png)
- **Pandas**：Pandas[[2]](https://pandas.pydata.org/) 主要用于数据处理和分析，提供了数据结构如`Series`和`DataFrame`，方便对数据进行读取、清洗、转换、分组、合并等操作，能轻松处理各种格式的数据，如CSV、Excel等。
 ![image.png](https://niuery.com/static/img/0eb5bb57dabf2f53d143517b51949433.image.png)
## 数据可视化框架
- **Matplotlib**：Matplotlib[[3]](https://matplotlib.org/) 是Python中最常用的可视化库之一，可用于创建各种类型的图表，如折线图、散点图、柱状图、饼图等，具有高度的灵活性和可定制性。
![image.png](https://niuery.com/static/img/5900213fe87e8c785a475bfe6144254d.image.png)
- **Seaborn**： Seaborn[[4]](https://seaborn.pydata.org/) 基于Matplotlib构建，提供了更高级的统计可视化功能，风格更美观，能方便地绘制各种统计图表，如分布 plot、关系 plot、聚类 plot等，适合用于探索性数据分析。
![image.png](https://niuery.com/static/img/d31f101fcc3887dcc4e8bead3ae40f55.image.png)
- **Plotly**：Plotly[[5]](https://plotly.com/)是一个用于创建交互式可视化的库，支持多种图表类型，其图表可以在网页上交互展示，具有缩放、悬停显示数据等功能，在数据探索和展示方面有很大优势。
![image.png](https://niuery.com/static/img/c7c5d507f5603848b0b3f34f313f044c.image.png)
- **Bokeh**：Bokeh[[6]](https://bokeh.org/)也是用于创建交互式可视化的库，专注于提供简洁的接口来创建高性能的交互式图表，适用于处理大型数据集和创建复杂的可视化应用。

    与 Matplotlib 相比，Bokeh 更侧重于交互式可视化，而 Matplotlib 主要用于创建静态图表。Matplotlib 是一个功能强大的绘图库，但在交互性方面相对较弱。与 Seaborn 相比，Seaborn 是基于 Matplotlib 构建的高级可视化库，提供了更简洁的 API 来创建统计图表，但同样缺乏 Bokeh 的交互性。
![image.png](https://niuery.com/static/img/1c06b24974ea110fd1e88258ebd46985.image.png)
## 机器学习框架
- **Scikit-Learn**：Scikit-Learn[[7]](https://scikit-learn.org/stable/) 是用于机器学习的常用框架，提供了丰富的机器学习算法和工具，包括分类、回归、聚类、降维等各种算法，以及模型评估、数据预处理、特征工程等功能。
![image.png](https://niuery.com/static/img/53fd9512a685aea50799ca627045bb5b.image.png)
- **XGBoost**：XGBoost[[8]](https://xgboost.readthedocs.io/en/stable/index.html) 是一种快速、高效的梯度提升框架，在许多数据挖掘和机器学习竞赛中表现出色，具有可扩展性、鲁棒性等优点，能处理大规模数据集，支持并行计算和分布式训练。
![image.png](https://niuery.com/static/img/11edb108ca96af2bb07593fd51c36b0c.image.png)
- **LightGBM**：LightGBM[[9]](https://lightgbm.readthedocs.io/en/stable/) 由微软开发的快速、高效的梯度提升框架，采用了直方图算法等优化技术，训练速度快，内存占用少，还支持大规模数据集和分布式训练，在数据挖掘和机器学习领域应用广泛。
![image.png](https://niuery.com/static/img/b171d79a5d934038948b8521ad51e3c2.image.png)
- **Statsmodels**：Statsmodels[[10]](https://www.statsmodels.org/stable/index.html) 主要用于统计建模和计量经济学分析，提供了各种统计模型和方法，如线性回归、时间序列分析、方差分析等，可用于对数据进行统计推断和预测。
![image.png](https://niuery.com/static/img/4cdbfa0832d789cba178edb917647713.image.png)
## 深度学习框架
- **PyTorch**：PyTorch[[11]](https://pytorch.org/) 是一个基于Python的深度学习框架，以其动态计算图和易于使用的特点受到广泛欢迎，支持CPU和GPU计算，提供了丰富的神经网络层和优化器，方便进行深度学习模型的开发和训练。
![image.png](https://niuery.com/static/img/83bee6fbae302a1280d03c30f7c9eb9a.image.png)
- **TensorFlow**：TensorFlow[[12]](https://www.tensorflow.org/?hl=zh-cn) 由Google开发和维护的深度学习框架，功能强大，支持多种硬件平台，具有高度的灵活性和可扩展性，可用于构建各种深度学习模型，如神经网络、卷积神经网络、循环神经网络等。
![image.png](https://niuery.com/static/img/3157adf804489fd5d247421c8309bf4f.image.png)
- **Keras**：Keras[[13]](https://keras.io/) 是一个简化的深度学习框架，提供了简单易用的接口，可用于快速搭建和训练深度学习模型，通常作为初学者入门深度学习的首选框架，也可以与TensorFlow等其他框架结合使用。
![image.png](https://niuery.com/static/img/64442182677fb56eaa3f2b43f896abb6.image.png)
## 超参数调优框架
- **Optuna**：Optuna[[14]](https://optuna.org/) 是一个超参数优化框架，采用了基于采样的优化算法，如树结构 Parzen 估计器（TPE）等，能够高效地搜索最优的超参数组合，支持多种机器学习和深度学习框架。
![image.png](https://niuery.com/static/img/525ada94cc761d5101817213c5eb5132.image.png)

- **TPOT**：TPOT[[15]](https://epistasislab.github.io/tpot/) 基于遗传编程的自动化机器学习工具，能够自动搜索和优化机器学习模型的超参数和算法组合，无需人工干预，可大大提高模型构建的效率。
![image.png](https://niuery.com/static/img/1182f944cb64a9722ff57a695ff0658f.image.png)
## 自然语言处理框架
- **NLTK**： NLTK[[16]](https://www.nltk.org/) 提供了丰富的语料库和工具，用于文本处理、分类、标记、解析等任务，是自然语言处理领域的重要工具包，有助于进行文本分析、情感分析、词性标注等工作。
![image.png](https://niuery.com/static/img/7163d5daea2a70810676719320802190.image.png)

## Tensorflow Playground（Tensorflow 游乐场）

Tensorflow Playground[[17]](http://playground.tensorflow.org)  是一个可在浏览器中对神经网络进行交互式探索的平台，旨在帮助用户直观理解神经网络原理，主要内容如下：

- **操作与设置**：用户能调整多项训练参数，如 “Epoch”（当前训练轮次，初始 000,000 ）、“Learning rate”（学习率，初始 0.03 ）、“Activation”（激活函数，初始 Tanh ）、“Regularization”（正则化方式，初始 None ）、“Regularization rate”（正则化率，初始 0 ）等；还能选择 “Problem type”（问题类型，如 Classification 分类 ）、“Data”（数据集 ）、“Ratio of training to test data”（训练集与测试集比例，初始 50% ）等，以及挑选输入 “Features”（特征，如 X1、X2 等多种选项 ）。
- **可视化展示**：以图形化呈现神经网络结构，包含神经元与连接线条。神经元输出值及连接权重以颜色区分，橙色代表负值、蓝色代表正值。数据点（小圆圈）、隐藏层连接线条、输出层点和背景颜色，都依不同规则着色，用以展示数据、神经元和权重值。此外，能查看 “Test loss”（测试损失，初始 0.503 ）和 “Training loss”（训练损失，初始 0.517 ）等指标。
- **知识科普**：对神经网络概念进行解释，称其是从数据中学习的计算机编程技术，模拟人类大脑工作方式。还推荐学习资料，如 Michael Nielsen 的《Neural Networks and Deep Learning》、Ian Goodfellow 等人的《Deep Learning》。
>参考连接
> 
>[1] https://numpy.org/
>
>[2] https://pandas.pydata.org/
>
>[3] https://matplotlib.org/
>
>[4] https://seaborn.pydata.org/
>
>[5] https://plotly.com/
>
>[6] https://bokeh.org/
>
>[7] https://scikit-learn.org/stable/
>
>[8] https://xgboost.readthedocs.io/en/stable/index.html
>
>[9] (https://lightgbm.readthedocs.io/en/stable/
>
>[10] https://www.statsmodels.org/stable/index.html
>
>[11] https://pytorch.org/
>
>[12] https://www.tensorflow.org/?hl=zh-cn
>
>[13] https://keras.io/
>
>[14] https://optuna.org/
>
>[15] https://epistasislab.github.io/tpot/
>
>[16] https://www.nltk.org/ 
>
>[17] http://playground.tensorflow.org