Nature发AIGC禁令！投稿中视觉内容使用AI的概不接收 _科学

作者 | 西风
来源 | 量子位
作为最权威的科学期刊之一，近日明确表态：
禁止使用生成式人工智能（AIGC）创作的图像和视频内容！
这也就意味着，除了主题是讨论AI的文章，任何接收的作品须确保无任何AIGC生成或增强的视觉内容。
这张反对票上写满了一行大字：
诚信、许可、隐私和知识产权保护
有网友认为：
实际上，这是我们重新讨论摄影“真相主张”，所迈出的新的一步。
数码摄影和都改变了我们与媒体的关系，而AIGC可能会再次做到这一点。
爆火，一举推动AIGC强势“出圈”，各行各业都在争相探索其潜力。然而，在科学、艺术、出版等领域，对于是否允许在视觉内容中使用AIGC的争议从未停歇。
对AIGC的担忧，与近半年来AIGC使用不规范所造成的侵权现象加剧密不可分。
早在今年一月份，在美国加州北区法院，就有三名漫画家针对包括 AI在内的三家AIGC商业应用公司发起集体诉讼，指控侵权，类似案件屡见不鲜。
上个月，当下最热门的短视频社交平台之一——抖音，提出了十一条平台规范与行业倡议：

文章插图
创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，需遵循十一条规范。
其中就包括对AIGC生成的内容进行显著标识，禁止利用AIGC技术创作、发布侵权内容以及违背科学常识、弄虚作假、造谣传谣的内容。
而已有153年历史的，对待AIGC只有一个简单的“不”字。
为什么要禁用AIGC？
在诸如、等生成式AI工具得到广泛应用，且能力快速增长之后，坐不住了。
针对此问题已经进行了几个月的激烈讨论和磋商。
最终的结果是：
除非是专门关于人工智能的文章，在可预见的未来不会发表任何完全或部分使用AIGC创作的摄影、视频或插图内容。
将不允许在视觉内容中使用AIGC，原因归结为：
诚信问题。
无论是科学还是艺术创作，在出版过程中，都应以共同的诚信承诺为基础。
其中之一，就是保持过程透明。
研究人员、编辑和出版商都应该明确数据和图像来源，保持其准确性和真实性。而这是现有AIGC工具所无法做到的。
AIGC工具不提供访问数据和图像来源的方式，因此无法进行这种验证。
还有一大难题是归属问题。

文章插图
当使用或引用现有作品时，准确标注来源的重要性不可忽视，这也是科学和艺术出版领域的一大核心原则。
显然AIGC工具生成的内容无法明确归属权的问题。
同意和许可也是必须要考虑的因素之一。
【Nature发AIGC禁令！投稿中视觉内容使用AI的概不接收】如果牵涉到有知识产权的内容，必须获得同意和许可，而AIGC在这一问题上再次未能达到期望。
AIGC系统是在未识别来源的图像上进行训练的。一些受版权保护的作品，常常没有进行许可，就被用于训练AIGC 。在某些情况下，还会侵犯隐私权，例如未经同意使用他人照片或视频。
除了隐私问题外，这些经过“深度伪造”的内容还容易加速虚假信息的传播。
大模型研究测试传送门
GPT-4能力研究传送门（遇浏览器警告点高级/继续访问即可）：
One More Thing
虽然对AIGC生成的视觉内容不予采用，但允许文本中包含通过AIGC辅助生成的内容。
前提是遵循一些注意事项：
使用这类大语言模型（LLM）工具需要在论文的研究方法或致谢部分进行记录，并且我们期望作者提供所有数据的来源，包括辅助人工智能生成的数据。此外，任何LLM工具都不会被接受为论文作者。