LfDI BaWü 讨论文件：人工智能使用的法律基础

fabiha01

人工智能（AI）近年来取得了令人瞩目的进步，并已成为科学、商业和社会的中心话题。这项创新技术使系统具有学习任务和智能行动的能力，提供了无数的机会和新的可能性。与此同时，关于它们的使用仍有许多问题没有得到解答——特别是在数据保护的背景下，围绕人工智能系统的复杂问题引发了许多疑问。

此类数据处理可以使用哪些法律依据？谁负责数据保护？

巴登-符腾堡州数据保护和信息自由专员（LfDI BaWü）现已解决这些问题以及更多问题，并于 2023 年 11 月 7 日发布了一份题为“使用人工智能时数据保护的法律基础”的讨论文件。

讨论文件的目标和局限性
LfDI BaWü 认为该讨论文件的首要目的是支持负责机构处理使用人工智能的相关法律基础。还明确指出，这份讨论文件是独立于人工智能法规起草的，目前该法规尚未最终定稿。因此，人工智能法规通过后，讨论文件是否需要再次修改还有待观察。

处理阶段
对于人工智能系统中个人数据的处理，根据数据保护法对人工智能系统进行评估的时间或阶段对于人工智能系统的评估至关重要。 LfDI BaWü 区分了五个处理阶段：

收集人工智能的训练数据
处理用于训练人工智能的数据
提供AI应用程序
人工智能应用程序的使用
人工智能结果的使用
数据保护责任
在人工智能系统的背景下，如果使用来自两家不同公司的数据集来训练联合人工智能系统，巴西商业传真列表 则可以考虑在共同责任下进行处理。这里的前提也是双方共同确定处理的方式和目的。

根据 LfDI BaWü 的说法，如果人工智能系统根据控制者专门目的的指令使用个人数据进行训练，就会出现合同处理的情况。

法律依据
讨论文件还列出了公共机构的其他法律依据。下面仅讨论最常见的法律依据（包括非公共机构的法律依据）。

同意
在实践中，同意作为人工智能系统数据处理的法律基础可能会相对具有挑战性。第一个问题在于同意的可撤销性，以及由此导致的相应数据的删除。然而，根据AI系统的不同，AI系统的功能可能会出现问题。此外，同意必须准确、易懂，并以清晰、简单的语言表述。由于人工智能系统本身有时非常复杂，数据处理的可理解性可能会经常受到损害。讨论文件至少指出，通过提供有关数据处理基本方面的信息，至少可以在一定程度上抵消这一点。

合同履行
该法律基础要求双方（自然人）之间存在特定的合同或预合同关系。数据处理仅仅对履行合同有用是不够的。处理与不存在合同关系或预合同关系的第三方的数据不能基于此法律依据。因此，该法律依据将不再适用于人工智能系统的许多数据处理操作。

合法权益
为了使用该法律依据，必须满足三个累积条件：

控制者的合法利益
处理的必要性
数据主体不存在值得保护的重大利益冲突
一方面，可以假定控制者拥有合法利益，例如，为了优化流程而开发或使用人工智能系统。讨论文件中提到的其他潜在的合法利益原则上包括生产、提供或使用人工智能系统及其用于预防欺诈的目的。