中国司法观察员

中司观察

英语阿拉伯语简体中文荷兰人法语德语印地语意大利语日本语韩语葡萄牙语俄语西班牙语瑞典语希伯来语印尼语越南语泰国人土耳其语马来语

中国如何解决算法决策中的平台责任问题?

28年2021月XNUMX日,星期日
分类: 行业洞察
参与专家: 国栋杜杜国栋
责任编辑: 黄帅黄帅

头像

 

关键外包:

  • 中国立法者已经意识到算法在互联网平台运营中的核心作用,并在 20 年 2021 月 XNUMX 日颁布的《个人信息保护法》(PIPL)中将其定义为“自动决策”,首次对该技术进行了规范。
  • 在PIPL下,平台应事先评估算法的影响,并对事后的决策结果负责。
  • PIPL扩大了平台用户的知情权,要求平台打破算法个性化推荐给用户所形成的“信息茧”。


中国个人信息保护法(个人信息保护法)于 2021 年 XNUMX 月颁布,为互联网平台通过算法进行自动化决策划定了界限。

Ⅰ. 背景

中国互联网平台,典型的是字节跳动的 TopBuzz 和 TikTok,广泛使用推荐算法向用户推送内容和产品。

然而,此类算法涉嫌干扰用户自由决策权,从而造成道德风险,受到公众和监管机构的质疑。

中国立法者已经意识到算法在此类平台运营中的核心作用,并在 20 年 2021 月 XNUMX 日颁布的《个人信息保护法》(以下简称“PIPL”)中将其定义为“自动决策”,该法对该技术进行了规范。第一次。

根据PIPL,自动化决策是指通过计算机程序自动分析和评估个人的行为习惯、爱好或财务、健康和信用状况并据此做出决策的活动。 (第 73 条)

在此之前,对于平台对自动化决策的责任存在分歧。 例如,一些人认为平台不应对其自动决策算法的结果负责,这本质上是一种中立的技术。 然而,PIPL 澄清了相反的情况。

Ⅱ. 平台限制

1. 监管机构直接审查算法

平台作为个人信息处理者,应当定期对其处理个人信息的行为符合法律、行政法规的情况进行审核。 (第54条)

这需要平台定期审核其算法自动化决策和其他信息处理活动。

根据规则,监管机构还可以对平台算法的运行情况进行内部审计,而不是仅对平台的行为和后果进行外部监督。

相应地,监管者将算法作为直接监管对象,使监管者能够干预自动化决策的技术和细节。

2.平台提前评估算法的影响 

平台作为个人信息处理者,如将个人信息用于自动化决策,应提前进行个人信息保护影响评估,并记录处理信息。 (第55条)

平台评估应包括以下内容:

A. 处理个人信息的目的、方式或其他方面是否合法、合法和必要;

B. 对个人权益的影响和风险程度; 和

C. 采取的安全保护措施是否合法、有效并与风险程度相适应。

因此,平台应在自动决策算法上线之前进行预先评估。 风险评估包括算法自动化决策的合法性和必要性,以及其影响和风险。

平台有缺陷的算法自动化决策可能会损害公民的财产和人身权利,甚至危害公共利益和国家安全。

因此,负面后果可能会影响成千上万的用户。 届时,即使平台被追究责任,也可能难以挽回已经造成的损失。

为防止出现这种情况,法律对平台算法建立了事前评估制度,试图对算法进行事前干预。

3、平台对事后决策结果负责

平台对自动化决策的结果承担以下义务(第二十四条):

A.平台应确保结果公平公正

个人信息处理者对个人信息进行自动化决策的,应当保证决策的透明度和结果的公平公正,不得在交易价格或者其他交易条件方面对个人进行不合理的差别对待。

B. 平台应为其用户提供不针对个人特征的自动化决策选项。

以自动化决策方式向个人推送信息或者商业营销的,应当同时向个人提供不针对个人特点的选项或者简单的拒绝接收方式。

C、平台对决策结果进行说明。

以自动化决策方式作出对个人权益有重大影响的决定的,个人有权要求个人信息处理者作出说明,并有权拒绝作出个人信息处理者仅通过自动决策做出的决定。

该规则要求平台对自动决策的结果负责,包括:

A. 该规则不承认平台使用的“技术中立”防御。 平台应对算法自动化决策的结果负责,并保证结果的公平合理。

B、规则扩大了平台用户的知情权。 用户可以要求自动决策结果的透明度以及在“重大影响”的情况下来自平台的解释。

C、规则要求平台打破算法个性化推荐给用户形成的“信息茧”,要求平台保护用户的知情权。

三, 我们的评论

中国在PIPL方面取得了突破,为平台的自动决策算法增加了法律规则。 但是,它仍然需要进一步完善。 例如,法律没有明确:

A. 平台启动算法评估的条件。

B. 平台对其算法进行评估后,是否以及在何种程度上公开评估报告,以及 

C. 平台应如何对其算法自动决策造成的损害负责。

我认为中国监管机构仍在探索制定一系列具体法规以进一步实施 PIPL 的可能性。

 

照片由 拉吉公路旅行 on Unsplash

 

 

 

 

 

参与专家: 国栋杜杜国栋

另存为PDF

中国法律门户网站上的相关法律

你可能还喜欢

案例研究:人脸识别行政处罚

对 400 多起行政处罚案件的研究揭示了中国政府目前对面部识别的态度,并提供了一个情景,以评估如果今天发生这些案件,中国的个人信息保护法将如何适用。

中国法律援助法怎么说?

什么是值班律师? 谁将担任法律援助人员? 可以提供什么样的法律服务? 以下是了解中国法律援助法需要回答的关键问题。

中国安全生产法(2021)

《安全生产法》于29年2002月2009日颁布,分别于2014年、2021年和1年修订。 最新修订于 2021 年 XNUMX 月 XNUMX 日生效。