这一篇是使用tensorflow2进行mnist数据集的分类。
MLP分类mnist
上面代码使用的是一个多层感知机进行识别mnist数据集。(一般tensorflow数据存储在.keras/datasets文件夹中，直接使用tensorflow的api下载可能比较慢，可以提前下载好[……]
标签：deep learning
图卷积的pytorch实现
很羡慕嫉妒周围大佬的学习速度，对于图神经网络的学习到应用到发表论文速度之快，表示跟不上。
这段时间忙着弄老师的不平衡数据分类的问题，但是还是在抽时间看图神经网络的论文以及博文。网络上的图卷积文章已经十分多了，推荐可以先看reference 3，比较简单易懂，然后reference 2，总结的内[……]
Morvan博客-tensorflow2学习(三)
前面是关于线性拟合和构建简单神经网络的内容，对于构建过程的可视化，tensorflow提供了一个强大的工具tensorboard。
Tensorboard的使用
tensorflow2与tensorflow1不同使用的动态图，可以说tensorflow中是没有”图”的概念的(refere[……]
Morvan博客-tensorflow2学习(二)
前面使用tensorflow2对线性数据进行拟合，此篇则是进行简单的神经网络搭建，对二次函数进行拟合。
搭建简单的神经网络
同样先使用tensorflow.compat.v1来跑morvan大佬的代码，需要注意要tf.disable_v2_behavior()，这样可以避免tf.plac[……]
Morvan博客-tensorflow2学习(一)
最近要阅读修改一篇论文的tensorflow代码，所以来学习tensorflow，博客主要内容来自Morvan的tensorflow的教程(reference1, 2)，Morvan大佬用的tensorflow用的是很早版本了，本人安装的r2.0，所以将morvan大佬教程的代码修改成tensorf[……]
Almeida–Pineda algorithm
Almeida-Pineda algorithm, a.k.a, recurrent backpropagation，来自于reference1和reference2，由于年代久远，没有找到reference1，读了下reference2，个人感觉有点晦涩(对第一个耦合微分等式不了解)，所以搜罗了其[……]
Banach Fixed point theory
最近在看GNN的2009年的文章(reference 1)，看到了这个概念。此概念来自于Metric Fixed Point Theory中，也即来自泛函分析，我并没有对其进行深入了解，blog中的内容只是作为GNN的知识储备。
Fixed Point Theory
Fixed poin[……]
GNN-图神经网络
科学和工程学等多个领域中的数据之间存在许多潜在关系，例如 计算机视觉，分子化学，分子生物学，模式识别，数据挖掘可以用图形表示。reference 1提出了一种新的神经网络-图神经网络(GNN)
在图形领域中的应用通常可以分为两类：分别是graph focused的应用程序和node focus[……]
感知机与线性可分
感知机
感知机是一个线性分类模型，由于与神经网络类似而得名。它解决的是二分类问题，当我们输入的样本\(X= (x_1, x_2, \ldots, x_n)^T\)（其中\(x_i\)为向量），对应标签为\(Y = (y_1, y_2, \ldots, y_n)^T\)（其中\(y_i \in[……]
最小二乘法
最小二乘法是机器学习最最基础的部分了，我们在线性拟合数据(回归)的时候，会用到此法。同时也在一些模型作为模型的优化指标，即均方误差MSE
投影
首先来扯一扯投影这个概念，对于线段之间的投影，如下图将向量b投影至向量a上，得到投影p，其关键就是向量b到投影p的线段是正交与向量a的，也即\([……]