了解前沿资讯,积累行业见闻

Banner

AI生成图像源自谁的作品?MIT研究发现这类图像难以归因于特定训练数据

日期:2026-09-10      作者:华鼎知识产权       来源:公众号·知产前沿

作者 | 郑友德

华中科技大学法学院教授

目次

    一、研究缘起与主要结果二、MIT对自身研究结果的评价三、外部对MIT研究成果的点评四、归因衰减对版权侵权判断的潜在影响五、结语

 

1 使用完整训练集的模型输出与逐一排除一位艺术家全部作品后的部分输出。资料来源:[1](拼图由MIT研究者提供)。



一、研究缘起与主要结果


AI图像生成器生成一幅图像时,究竟哪些作品对其最终形成产生了影响?这一问题处于全球版权诉讼、许可交易和拟议监管的交汇点:艺术家希望其作品得到承认,企业期待明确版权规则及责任边界,政策制定者则试图找到合理配置责任的方法。随着扩散模型广泛用于图像等内容生成,能否确定某项训练数据实际影响了模型的特定输出,已成为生成式AI版权争议中的重要技术问题。在版权争议中,训练数据归因只能帮助判断某一训练作品是否实际影响了特定输出;训练阶段对作品的复制是否合法,输出是否再现受保护表达或构成衍生作品,以及相关主体是否承担侵权责任,仍须依据版权法分别判断。麻省理工学院计算机科学与AI实验室的Zheng Dai与David K. Gifford最近围绕特定输出能否归因于单张训练图像、某个人的全部照片或者某位艺术家的全部作品,以及这种可归因性如何随训练规模变化开展研究。其论文《生成式扩散模型的输出往往不可归因》Outputs of Generative Diffusion Models Are Often Unattributable2026年8月18日发表于《自然·通讯》Nature Communications[2]

该研究团队在七个公开图像数据集上训练了24个扩散集成模型,训练数据从256张图像增加至超过16万张图像。为确认这种特殊模型仍能正常生成图像,研究者还把它们与使用相同数据训练的24个常规生成式扩散模型进行比较;按照常用评价指标,两类模型生成的图像质量大体相当,扩散集成模型的相对表现还会随着训练数据增多而改善。研究者分别排除某张训练图像、某个人的全部照片或者某位艺术家的全部作品,再观察模型生成的图像是否发生变化。实验发现,训练数据越多,排除其中某项或者某组数据后,模型输出发生的变化通常越小。研究者将这种现象称为“归因衰减”(attribution decay)[1][2]

1以艺术家作品为例直观说明了归因衰减研究结果。图中左上方大图由使用744位艺术家公共领域作品训练的模型生成。为了考察某位艺术家的作品是否影响了这幅图像,研究者每次从训练数据中去掉一位艺术家的全部作品,再让模型在相同条件下生成图像。大图周围的小图展示了其中部分结果,它们与左上方大图在外观上没有明显差异。就左上方这幅特定图像而言,去掉其中任何一位艺术家的全部作品,生成结果都没有发生明显变化,因而难以把该图像单独归因于某一位艺术家的作品。这并不表示相关作品未被用于训练或者对模型学习毫无作用,只能说明没有哪一位艺术家的作品对这幅特定图像表现出不可替代的单独影响[1][2]

为检验归因衰减是否由扩散集成模型的数据排除方法造成,研究者改用逐项从头训练模型的传统方法,在较小训练集上共训练了1282个生成式扩散模型,仍然观察到相同趋势。他们随后固定被排除数据所占的比例和模型训练轮次,并分别采用文本提示、类别条件和四种图像比较方法进行检验,归因衰减仍然存在。上述结果表明,该现象不能简单归因于扩散集成模型的特殊结构、被排除数据所占比例、模型训练轮次、生成条件或者某一种图像比较方法[1][2]

该研究只考察了生成式扩散模型。这类模型目前广泛用于图像、视频和音频生成,也用于蛋白质结构建模和药物研发等科学领域[1][2]。归因衰减是否同样存在于当前版权诉讼高度关注的大型语言模型中,仍是一个尚未解决的问题[1]。因此,本文只能将上述发现视为在相应生成式扩散模型、训练数据和实验条件下取得的研究结论,不能直接推及大型语言模型,也不能据此概括训练方法和数据构成不同的所有商用模型。



二、MIT对自身研究结果的评价


Dai指出,如果排除某项训练数据后模型输出没有发生变化,就不能认为该项数据影响了这项输出;如果逐项排除其他训练数据后,输出同样没有变化,也就没有充分理由将该输出归因于其中任何一项训练数据[1]

Gifford着重评价了这项研究在方法上的改进。他指出,以往的训练数据归因方法采用的都是近似计算,不能确切证明排除某项数据不会改变模型输出;这项研究则实际排除被检验的输入及其影响,能够较为高效地在较大规模上检验排除训练数据后模型输出是否发生变化[1]

Dai还指出,扩散集成模型在训练数据较少时,其生成效果明显低于常规生成式扩散模型;随着训练数据增多,两者之间的差距逐渐缩小,扩散集成模型的相对表现有所改善。这一评价针对扩散集成模型的生成性能及其随训练规模的变化,并非对归因衰减程度的评价[1]

围绕模型输出是否构成衍生作品这一法律问题,Gifford认为,可以从一个角度把相关模型理解为具有某种创造性:相关扩散模型并非只是复制接收的材料,而是在生成新的输出。如果这些输出与任何单项训练数据均无关联,就会进一步引出相关使用是否构成合理使用、输出本身能否作为新作品受到版权保护,以及当模型输出无法归因于互联网上任何具体内容时作者如何获得补偿等问题[1]

Gifford进一步明确指出,企业如果要主张其模型输出并非以侵犯版权的方式衍生于互联网内容,就需要利用这项研究取得的技术进展改进模型,从而证明其没有生成源自特定个人或者具体材料的衍生内容[1]

综上,在版权层面,不可归因性可以为考察特定输出是否源自某项训练作品提供技术证据,并由此影响模型输出是否构成衍生作品的判断基础。不过,Gifford只是由此提出合理使用、输出可版权性和作者补偿等问题,并要求企业以模型改进和技术证明支持其输出不构成侵权性衍生的主张。因此,不可归因性仅说明,在相应模型和实验条件下,无法将特定输出归因于任何单项训练数据。它可以作为判断模型输出是否构成衍生作品以及是否侵犯版权的事实依据之一,但不能单独证明该输出不构成衍生作品或者不构成版权侵权;同样,也不能单独证明该输出符合版权保护条件[1]



三、外部对MIT研究成果的点评


康奈尔大学法学院和康奈尔科技学院法学教授James Grimmelmann认为,如果归因方法有效,它本应能够可靠判断模型输出与受版权保护作品之间的相似究竟源于复制还是巧合;MIT研究却使人有理由认为,对于具有现实意义的模型,归因方法可能难以奏效,技术人员和法院因而需要转而采用其他方法判断是否发生复制。[1]

Grimmelmann没有具体说明还可采用哪些方法判断模型输出属于复制还是巧合,也没有否定相似性比较、训练记录或者其他证据的作用。他所指出的是,单项训练数据归因可能无法独自承担区分复制与巧合的任务。输出与原作相似,只能表明二者存在一定程度的相似,未必能够单独说明某项训练作品实际促成了特定输出。在具体案件中,训练数据记录、模型版本、提示与随机种子、生成日志、作品表达的独特程度及重复生成结果,可以与相似性比较和反事实测试结合,用于判断是否发生复制。

Fast Company将该研究的影响概括为,AI可能生成与某位艺术家的作品相近的图像,却无法证明该艺术家的训练作品对输出具有特定的因果贡献;归因衰减因而可能削弱仅凭输出相似性主张特定作品被复制的论证。该报道同时强调,这项研究回答的是某项训练数据是否促成了特定输出,不能回答未经许可采集作品并用于训练是否合法。[3]

Gizmodo的标题使用了“无法证明作品被AI窃取”的绝对化表达,正文中部分表述也有将MIT研究结论普遍化的倾向。不过,该报道所介绍的实验对象仍是研究者自行构建、使用数百至数十万张图像训练的生成式扩散模型,所讨论的也是能否在相应模型和训练规模下,从特定输出反向确定某件作品、某个人物或者某位艺术家的作品集是其直接因果来源。[4]因此,该报道所称的“无法证明”,只能在上述研究对象和研究范畴内理解,不能直接推及训练数据的来源、训练阶段是否实施作品复制以及具体输出是否再现受保护表达。

Google搜索的综合摘要认为,MIT研究可能对衍生作品诉讼提出挑战,并以烹饪过程作类比,说明模型生成结果可能难以归因于某项训练数据,同时指出归因衰减会使被训作品选择退出(opt-out) 机制的实施与验证更加复杂[5]

该综合摘要以烹饪过程作类比,将生成模型与从既有图像中直接抽取可识别片段的数字拼贴机区分开来,把模型比作接触过大量菜谱并能综合其中共同规律的厨师。这一类比与Dai、Gifford关于重要特征可能分散且冗余存在于训练集中的推测具有一定联系。当多项训练数据包含相互重叠的特征时,排除其中某项数据,模型仍可能利用其他数据所包含的相近特征生成类似输出[2][5]

不过,这种烹饪类比至多说明,某项训练数据可能不是生成特定输出所不可替代的条件。厨师通过学习并结合既有烹饪经验形成判断;生成式模型则从大量数据中学习统计关系,将其编码于模型参数,并据此按概率生成输出。二者形成机制不同,不能借助烹饪类比判断是否构成复制。该类比因而不能回答训练材料的取得是否合法、训练过程是否实施版权法上的复制或者具体输出是否再现受保护表达。

Google搜索的AI模式综合摘要还将归因衰减与选择退出机制相联系。一般而言,在相关模型和实验条件下,如果排除某位艺术家的全部作品后输出仍无明显变化,仅凭排除前后的输出比较,便难以判断该艺术家的选择退出声明是否得到实际执行。不过,选择退出机制的作用并不限于改变既有模型的输出,还包括阻止作品被纳入后续训练数据、停止对作品的后续训练使用,以及在适用规则或者约定要求时删除相关数据。归因衰减可能限制以输出变化检验选择退出执行效果的方法,却不消除选择退出机制在训练数据控制和作品许可方面的作用[5][6]

综上,外部评论虽然在表述强度和制度关切上有所不同,但共同揭示了归因衰减对版权证明方法的影响:输出与训练作品相似,并不必然说明该作品实际促成了特定输出。归因困难由此要求结合训练记录、生成过程和表达相似性等证据判断复制,却不能据此否定训练阶段的作品使用、具体输出侵权或者选择退出机制的独立意义。相关制度回应应着眼于完善多元证据审查和训练数据控制,而不能把不可归因性直接作为排除版权责任的依据[1][3][4][5][6]



四、归因衰减对版权侵权判断的潜在影响


在具体诉讼中,归因测试只能在受测模型、特定输出和既定实验条件下发挥证明作用。一方若以排除某项训练作品后输出没有明显变化为由主张该作品未被复制,应当说明受测模型及其版本、被排除的数据范围、生成条件、比较方法和重复测试结果。缺少这些条件,个别实验所得的不可归因结论便不能推及被诉模型的其他输出,更不能被转化为一般性的不侵权抗辩。权利人同样不能仅凭某项训练作品与输出最为相似,便推定该作品实际促成了输出。归因证据的可复核性及其与案件事实的对应程度,因而将成为判断其证明力的关键[2]

归因测试的对象是单项训练作品与特定输出之间的事实联系,训练阶段的数据复制则是此前已经发生的行为。有关作品是否被收集、制作成训练数据或者在训练过程中复制,应当根据训练记录和相关技术过程独立认定。排除某项作品后输出没有明显变化,不能否定该作品曾经进入训练数据,也不能改变训练阶段已经发生的复制行为。

在衍生作品争议中,不可归因性可能使权利人更难确定特定输出所依据的既有作品,却不能单独决定输出是否构成衍生作品。若输出可以识别地再现、改编或者转换了某项作品的受保护表达,仍须比较二者的具体表达并适用相应版权法规则;反之,即使能够证明某项作品曾被用于训练,如果输出没有再现该作品的受保护表达,也不能仅凭训练使用了该项作用便认定该输出构成其衍生作品[7]

合理使用同样不能由归因结果直接决定。关于作品合理使用的判断,美国《版权法》第107条要求综合考察使用的目的和性质、原作性质、所使用部分相对于作品整体的数量与实质性,以及该使用对作品潜在市场或者价值的影响。不可归因性既不能据此确定训练使用的目的和性质,也不改变原作性质,亦不能说明训练中使用了作品的多少及其是否涉及作品的实质性部分,更不能直接判断有关使用对作品潜在市场或者价值的影响。训练阶段对作品的利用与输出阶段对受保护表达的再现属于不同的被诉行为;在适用合理使用规则时,仍须分别确定各阶段的具体使用方式并审查相应因素[8]

模型输出能否获得版权保护,取决于其中是否包含一定的人类表达,与该输出能否追溯至特定训练作品并非同一问题。美国版权局认为,将AI作为辅助工具并不妨碍人类创作部分获得版权保护;完全由AI生成的内容,以及人类未能充分控制其表达要素的内容,不受版权保护。按照目前普遍用的AI技术,单独提供提示通常不足以使使用者成为输出的作者。不可归因性既不能证明AI输出包含人类的独性表达,也不能据此否定人类在输出中实际完成的、具有独创性的选择、协调、编排、修改或者其他创作贡献[9]

MIT研究所揭示的归因衰减表明,在其所测试的生成式扩散模型中,随着训练数据规模扩大,特定训练作品对模型某项输出产生的单独影响通常更难识别。因此,若按每项模型输出追溯作品贡献并据此逐项分配报酬,可能缺乏明确可靠的技术依据。然而,该实验并未回答训练使用是否需要取得许可,也未判断创作者是否应当获得补偿。即使无法证明某项训练作品单独促成了特定输出,补偿规则仍可依据作品被纳入训练并实际使用的事实、许可约定、作品类别或者集体管理规则加以设置。



五、结语


MIT研究的意义不在于为版权侵权认定提供新的判断标准,而在于表明随着训练数据规模扩大,单项训练数据与特定输出之间的可识别联系可能减弱即归因衰减这一技术发现本身不能决定相关行为是否构成版权侵权。特定训练作品能否被追溯为某项输出的来源,只是版权证据链中的一个环节;训练阶段的作品使用、输出对受保护表达的再现及相关行为的责任,仍须依据各自的事实和法律要件判断。归因测试不能直接成为生成式AI侵权抗辩,也不应被视为证明复制的唯一途径。

MIT现有研究尚未证明归因衰减同样存在于大型语言模型LLM),其研究结论也不能直接适用于模型架构、训练数据和生成机制各异的其它商用模型。未来研究仍须考察不同模型、数据规模和归因范围下的变化,并探索单项归因之外的集合归因及其他因果分析方法。司法实践则需要进一步明确技术归因证据的适用条件、证明限度及其与传统版权证据的关系,在准确区分技术事实与版权法评价的基础上,确定不同阶段不同行为主体的责任边界。


注释(上下滑动阅览)


[1] GORDON R.When AI Art Has No Author: Study Finds Generated Images Often Can't Be Traced to Training Data[EB/OL]. MIT News, 2026-08-18.

[2] DAI Z, GIFFORD D K.Outputs of Generative Diffusion Models Are Often Unattributable[J/OL]. Nature Communications, 2026, 17: 6974. DOI: 10.1038/s41467-026-75667-5.



联系我们
即刻致电/留言,获取您的专属知识产权保护方案。
0571-87853107

微信咨询

请扫二维码
咨询

手机咨询

13336196607

电话咨询

0571-87853108