问题一, 我感觉BN强行对每层特征都中心化可能并不是一个绝对正确的先验吧。 按batch来讲的话,如果batch太小,用moving average去估计global average的偏差可能会比较大,或者数据本身冗余太大, global variance的偏差会比较大。
问题二,会不会和重要采样之类的东西有关啊,这么大的类别输出,你softmax 都很难求。
问题三,核函数的话,我记得有个理论说只要kernel满足某些条件就有一个内积结构与之对应(西瓜书上好像有),所以这个题目会不会有点问题?