对于AI生成内容，目前主要存在着两种声音。一种声音认为生成式人工智能（AIGC）的发展已成大势所趋，人类应该积极接受并学习如何使用它。而另一种声音认为，AIGC的存在有很大的版权问题，在某些情况下，还会侵犯隐私权以及导致虚假内容的传播。
最近，权威科学期刊Nature明确表态，禁止使用AIGC创作的图像和视频内容。也就是说，除了主题为AI的文章，Nature将不接收任何AIGC生成或增强的视觉内容。
Nature之所以这样决定，主要是基于诚信问题考虑。无论是科学还是艺术创作，在出版过程中都应该共同遵守诚信承诺的原则，其中之一就是保持过程的透明度。对于研究人员、编辑以及出版商而言，他们应该明确数据和图像来源，并保持其准确和真实。但就目前的AIGC工具而言，其无法提供访问数据和图像来源的途径，因此也无法进行相应的验证。
此外，AIGC工具在归属问题上也面临着挑战。当使用或引用现有作品时，准确标注来源的重要性不可忽视，这也是科学和艺术出版领域的一大核心原则。然而，AIGC生成的内容无法精确归属权，这也是该工具面临的难题之一。
最后，与此相关联的是同意和许可问题。如涉及到有知识产权的内容，必须先获得同意和许可，但目前的AIGC系统却是在未识别图像来源的情况下进行训练的。因此，有许多受版权保护的作品被用于训练AIGC，而这些作品往往未经过许可。
在某些情况下，还会侵犯隐私权，例如未经同意使用他人的照片或视频等。除了隐私问题，这些“深度伪造”的内容还容易加速虚假信息的传播风险。