模型反转用于解释AI生成图像

要点:1.神经网络模型中的一些神经元在训练过程中永远输出0，被称为"死节点"，而优化算法可以让这些节点生成诡异和恐怖的图像。2.研究人员使用新的类反转方法，称为"Plug-InInversion（PII）"，来生成可以最大化某个类别输出分数的可解释图像，适用于不同神经网络架构。