CNN











![]()













![]()





























![]()


损失函数






![]()


![]()







KL散度,交叉熵

![]()









B部分是训练集的真实实际值,是常数,
C部分是训练结果,目的是要让这个损失最小化,与模型参数紧密相关,取出C(带负号),C非负
就是更精简的损失函数

熵
























v


![]()





所谓M个空间,N个小球在其中的排列组合方式为熵
对应概率是,M次抽样,一共N种情况,每次抽样都意味着要确定M个空间里的其中一个空间是怎样的,也就是N个小球(情况)里占了多少个小球(分配到了多少个小球、情况),如果分配到的小球数量多,这个空间(抽样)里的情况(小球)数量多,即



点积矩阵计算,CPU、GPU、NPU
点积,先相乘再相加








车机需要












小规模可以用CPU,大规模用GPU,NPU