Dark Pattern：数字设计进入监管新领域？ - FT中文
FT中文张冬方：Dark Patterns和操纵用户的设计不应当只是作为一个大问题中的一部分，而是作为一个单独的问题，对其进行审查。
来自FT中文网的温馨提示：如您对FT中文网的内容感兴趣，请在苹果应用商店或华为应用市场搜索“FT中文网”，下载FT中文网的官方应用，付费订阅。祝您使用愉快！
上个月，欧盟理事会在关于《数字服务法》（DSA）草案修改意见中，提出禁止在线购物平台和推荐算法中的“阴暗模式”：Dark Pattern。
Dark Pattern作为概念由Harry Brignull于2010年提出，指的是网站和应用通过设计诱使用户做出原本不会做出的、不符合自身利益的、却符合服务方利益的行为，比如购买行为或注册新账号等等。来自芝加哥大学的2019年研究报告《Shining a Light on Dark Patterns》中对Dark Patterns也进行了定义：用户界面设计有意迷惑用户，使得用户很难表达自己的偏好，或者操控用户做出某种特定的决定。该报告将Dark Patterns的操作模式分为七类：反复干扰、用“他人”施压、设置障碍、隐藏费用或订阅、界面干涉、强制登录、紧俏假象。比如，额外的费用只在最后一步，即点击购买之前才呈现；使用倒计时，制造断货假象；将商品被标上“最后一件”，但事实可能并非如此，等等。该报告研究了用户如何对不同的界面设计的不同反应，发现处心积虑优化过的设计让用户做出服务订阅决定的可能性是常规设计的四倍。
Dark Patterns进入系统性审查，可以追溯到2018年挪威消费者委员会Forbrukarrådet的研究报告《Deceived by Design》。该研究探讨了科技公司是如何通过Dark Patterns让用户放弃自己的隐私权的。报告中提到了“助推”理论，即在用户的认知偏好上做文章，促使用户做出特定的决定。而Dark Patterns用剥削性手段来运用这一理论。研究将Dark Patterns界定为：通过剥削性的助推蓄意误导用户。
该消费者机构重点审查了Google、Facebook和Microsoft三大平台关于处理“同意”的设计，并发现，三大平台通过预先勾选选项、隐藏选项、迷惑性表述、施加时间压力等方式，最大限度收集用户数据。以Google为例，为了测试Google用户对自己个人数据的掌控程度，研究设法在一个Google假帐号和两个注册帐号中删除所有位置记录。Google的隐私控制提供了很多选项，而这些选项分布在不同的页面。测试表明，普通用户需要点开30到40个页面，才能抵达删除全部位置历史记录的选项。耗时耗力程度可见一斑。
报告指出，Dark Patterns的问题性尤其体现在服务方和用户之间的信息不对称，比如，用户通过出让个人数据来获得价格上的优惠，这种交易让普通用户难以做出准确的权衡和取舍，优惠是暂时的可见的，隐私上的损失却难以衡量，且是长期的。
挪威消费者委员会虽为消费者组织，不过它对三大平台的审视却是从数据保护的角度，这与欧盟《通用数据保护条例》（GDPR）于当年生效有关。研究得出结论，三大平台对Dark Patterns的使用程度和方式是“不道德的”，同时质疑：Dark Patterns是否符合数据保护里的默认和设计原则，以及以这种方式取得的同意是否可以称作为“明确的、知情的和自愿给出的”。《通用数据保护条例》第25条是关于“设计和默认的数据保护”的内容，指的是网站设计和网站默认模式必须符合数据保护的原则。而且，“同意”是《通用数据保护条例》中的核心概念和内容之一。
挪威消费者委员会在Dark Patterns问题上一直很活跃。今年年初，该组织向挪威消费者权益保护监管部门举报Amazon的Dark Patterns行为，认为，Amazon会员需要经过相当复杂的操作才能退出Prime服务，属于Amazon蓄意操纵消费者行为，从而达到消费者继续使用该服务的目的，该行为违反了执行欧盟《不公平商业行为指令》（Unfair Commercial Practices Directive）的挪威本土相关法律（The Marketing Control Act）。该组织要求，退订服务必须要和订阅服务一样简便。
该案例中提到的《不公平商业行为指令》也是欧盟境内市场竞争监管部门对付Dark Patterns的武器之一。上个月，意大利市场竞争局（AGCM）对Apple和Google分别开出了1000万欧元的罚单，理由为在用于商业目的的用户数据使用和处理上，两大科技公司并没有提供给用户明确的相关信息，违反了意大利的消费者保护法。该监管局还指责两家公司使用“侵犯性”行为迫使用户接受其商业处理行为。《不公平商业行为指令》将不公平商业行为主要分类为误导性商业行为和侵犯性商业行为。该监管部门还指出，Google在注册新帐号环节没有提供给用户相关信息，使得用户对是否接受用于商业目的的数据处理无法做出公平的决定。这属于误导性商业行为中的“误导性遗漏”。
市场竞争监管对Dark Patterns的解题思路往往是，特定的网站或界面设计，是否会促成滥用市场权力，或者通过此举，使得市场竞争的一方比另一方更有优势，而这个优势并不为法律法规所允许，从而破坏了公平竞争。不过，Dark Patterns并不仅仅涉及到市场竞争和消费者保护，还有数据保护领域。
以Dark Patterns的重灾区Cookie横幅为例。2018年，来自波鸿大学的研究团队对欧盟境内6000家比较受欢迎的网站进行了研究并得出结论，其中57%的网站使用设计元素来影响用户接受最大限度的数据收集和用户画像。
去年10月，法国数据监管部门CNIL发布了修订后的Cookie和类似技术指南和建议，即用户界面的实际设计层面的建议，比如，网站给出的Cookie管理机制中，如果出现“接受所有”的选项，那么就得同时提供“拒绝所有”的选项；网站不能提供拒绝Cookie的链接，而是在条幅中就提供“拒绝”选项；对于Cookie使用目的的解释以标题和简单描述的形式，等等。
Dark Patterns同时也会进入到在线平台监管的范畴。以德国为例，德国的《网络执行法》（NetzDG）于2017年生效，它适用对象为德国境内超过200万注册用户的社交网络平台。按照该法，社交平台必须在24小时内移除极端仇恨言论，而用户则有机会举报平台上的不当内容。我曾在《在言论自由和网络仇恨边界不断试探的监管之手》里谈到过，Facebook通过页面设置的方式，引导用户使用根据Facebook社群守则的举报机制，而不是根据《网络执行法》的举报机制，而用户如果按照后者进行举报，能享受到更多的权利。德国联邦司法部2019年曾以Facebook页面上《网络执行法》举报表单过于隐蔽，开出了200万欧元的罚单。
去年，来自柏林智库SNV的研究报告《Dark Patterns：有着不良社会影响的设计》讨论了该模式在数据保护、消费者权益保护、市场竞争和未成年人保护领域的影响，以及对在线平台监管构成的挑战。研究认为，Dark Patterns和操纵用户的设计不应当只是作为一个大问题中的一部分，而是作为一个单独的问题，对其进行审查。也许，在可见的未来，数字产品的设计将成为一个全新的监管领域。
(本文仅代表作者本人观点，责编：闫曼 man.yan@ftchinese.com)
本文章抓取自RSS，版权归源站点所有。
查看原文：Dark Pattern：数字设计进入监管新领域？ - FT中文
[点击] 加入书友群 1.5TB电子书资源 @ideahub_ml
[点击] 全网福利资源|薅羊毛·省钱中心 @rss_news_list
