关于升维和降维

今天在群里聊天到升维和降维，感触挺大的，感谢群主@Michael Pong  

核函数的作用就是将低维空间映射到高维空间，选择不同的核函数可以映射到无限维 。

1、升维和降维有什么区别

   降维是为了降低特征的复杂度，
  升维是因为在低维空间无法有效分类，当映射到高维时却是可以进行好的分类
  eg: 打个比方，你在两张纸上随机的画点，如果以纸的二维平面要把两张平面上的点分开，这个是很难分的
           但是如果你增加一维，那么你直接就从两张纸的中间分开就行了
2、升维是不是也要考虑复杂度啊
  是的，比如纸的这个问题，你升到四维就是多余的

3、在实际应用中，不知道高斯过程回归和分类常用不常用？

   卡尔曼滤波和径向基函数是基于高斯过程的，卡尔曼滤波是用于回归的，径向基函数是用于非线性判别的。

4、关于降维我有个问题没考虑清，把复杂度降低的同时，为什么不会对结果造成影响？

    降维的方法有种特别重要的叫做主成分分析，它的方法是基于方差和协方差的，PCA降维大概就是把协方差大的成分保留下来，对于协方差小的去掉，协方差小就说明存在信息冗余。协方差大的就叫主成分 。除此之外，还有一些降维的算法

5、降维和聚类是不是本质一样的啊？

   完全不一样，降维的对象是向量的各维，聚类的对象是N个向量 。

  降维的对象是单个的向量么？当然是，比如，空间中一个点有x, y, z坐标，我现在降维到x,  y 坐标。

  聚类是干什么？我现在有N个点，每个点都以x  , y ,z 来表示，然后我把N个点分为几个类。

   eg:现在我们用word2vec训练一个文本，训练后就是‘一个’向量，如果感觉维度大的话，我们就要做降维处理。

   但是是否要做降维处理，也要具体问题具体分析。