年度关注·AI狂飙｜2023文化原创榜 - 南方周末

AI（人工智能）对世界的改变，早已是一个“狼来了”的故事，从深蓝、阿尔法狗引起的轩然大波，到《黑镜》《超能查派》《她》《爱，死亡，机器人》这些科幻影视作品传递的焦虑，从赫拉利的著作《人类简史》《未来简史》，到韩炳哲用哲学小品文进行的观察和批判……

直至2023年，没有人再说“狼来了”，不论进步主义者，还是悲观主义者，无论以守卫人文精神自居，还是用后人类的眼光打量世界，没人再谈论“狼”，或者所有人都在谈论“狼”，因为它就在我们中间：那是ChatGPT-4超级大脑的幽灵，是AI换脸、写书、歌唱、摄影以假乱真的幻象。

人们习惯了用三次工业革命——蒸汽机、电力、计算机——来描述过去两三百年的技术迭代，轮船、火车，灯火辉煌的摩天大楼，信息高速公路，这些宏大的事物和名词，定义了技术加速主义对时空的重塑。然而，AI不同于这些外在于我们的，胡夫金字塔般的巨物，它是一种算力，一种覆写人类头脑的头脑，一种孕育中的无机的生命。

如果说数学、围棋、诗歌和音乐，曾是人类文化引以为傲的皇冠上的宝石，那么AI早已示范了，宝石可以是它的囊中之物。如果说前几轮的技术革命，是人类创造出了英雄主义的纪念碑、巴别塔，也因为进攻性、掠夺性的能源消耗，点燃了地球超载预警的引线，那么这一次，人类高超的造物，带来的是从内部瓦解人类自身的危险。2023，就来到了这样一个临界点。

南方周末记者在某国产人工智能软件输入指令“人工智能，狼真的来了”，得到这样的图像。资料图

ChatGPT横空出世

2023年12月13日，《Nature》公布了2023年度十大科学人物，榜单上首次出现了一个非人类——ChatGPT，旨在承认“生成式人工智能给科学发展和进步带来的巨大改变”。

ChatGPT是美国人工智能公司OpenAI开发的通用聊天机器人，2022年11月30日上线，2023年3月，ChatGPT-4推出，“比以往更具创造性和协作性”，引发了广泛关注。

ChatGPT使用Transformer神经网络架构，拥有语言理解和文本生成能力，通过海量资料库与人类语言资料库来训练模型，使其近乎无所不知，它能根据聊天的上下文逻辑关系，通过深度学习，理解人类的语意，模拟类似真实人类的聊天交流，甚至能完成翻译、写作邮件、文案、代码、视频脚本等任务。同时，ChatGPT预设了某种道德准则，对被判定为不怀好意的提问和请求说“不”。一旦发现用户话语含有恶意，比如有犯罪意图，会拒绝提供有效答案。

推出两个月后，ChatGPT的月活跃用户就已达到1亿人次，面对ChatGPT的强大功能，普通使用者不亦乐乎。许多业界人士和机构却忧心忡忡。马斯克在推文中说：“我们离危险的强AI不远了。”

人工智能生成的巨型人脸，创意图。视觉中国

巴黎政治大学于2023年1月27日宣布“禁止学生使用ChatGPT软件完成任何书面作业或演示文稿，除非是出于特定的课程目的，并有课程负责人监督”，并认为：此举旨在防止学术欺诈和剽窃，使用相关软件的学生或面临被开除的惩罚，甚至可能会被逐出法国高等教育体系。

知名机器学习会议ICML（International Conference on Machine Learning）宣布禁止使用ChatGPT等语言模型生成的论文进行投稿，以免出现“意想不到的后果和无法解决的问题”。

美国的部分公立学校禁止使用ChatGPT完成作业，一些美国大学则宣布计划增加手写论文和口头考试的比重。《Science》期刊主编指出“ChatGPT很好玩，但它不是作者”，“原创”是《Science》发表论文的基础，而利用ChatGPT编写文本的行为，就等同于利用该软件进行抄袭。

2023年4月发表在《美国医学会内科学杂志》的一项研究表明，有78%的评价认为ChatGPT回答病人提出的问题质量很好，而认为医生回答得很好或非常好的比例，仅有约22%。IBM的Watson for Oncology可以帮助医生分析病例和制定治疗方案；金融方面，AI大模型可以用于风险评估、欺诈检测、投资策略，摩根大通使用了AI技术来监测其全球交易平台的欺诈行为，并成功地降低了欺诈事件的发生率。AI还可用于制造业，西门子使用AI技术来预测工业设备的故障时间，并提前进行维护，从而提高设备的可靠性和生产效率。

ChatGPT带来了AI产业的利好，但IT产业裁员潮却山呼海啸般袭来，仅在2023年初，微软宣布裁员10000人（8年多来其最大规模裁员）、谷歌母公司Alphabet宣布裁员12000人（其25年历史上最大规模裁员）、IBM宣布裁员3900人、SAP宣布裁员3000人、电商及云计算巨头亚马逊宣布裁员18000人……

2023年6月12日，联合国秘书长古铁雷斯表示，支持人工智能行业的一些提议，成立一个国际人工智能监管机构，组建由人工智能专家和联合国机构首席科学家组成的科学顾问委员会，并启动一个高级人工智能咨询机构，定期审查人工智能治理安排。

7月10日，中国国家发改委、教育部、科技部、工信部、公安部、国家广电总局等多部门联合公布《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行。管理办法针对生成式人工智能技术提供的文本、图片、音频、视频等内容，对相关服务坚持发展和安全并重、促进创新和依法治理相结合的原则。

ChatGPT在短期内迅速爆红，震动了谷歌公司，其CEO 对公司内部发布“红色警报（Code Red）”，声称针对ChatGPT挑战，将全面调整2023年在AI领域的研发工作，甚至将两位半退休状态的创始人请回来。2023年5月，谷歌发布AI大模型PaLM2，能够理解、生成和翻译多种语言。国际市场上的AI大模型战役愈演愈烈。12月，谷歌发布大模型Gemini，它会猜拳、识别物体、设计游戏，还会生成音频和图片来辅助回答。百度则推出了文心一言，试图抢占中文大模型语言市场的先机。

2023年，ChatGPT也成了南方周末记者的第一个非人类的采访对象。当记者问道，“我会担心你有一天会取代我的工作，因为你已经可以写出很精彩的文章了，你会抢了我的饭碗吗？”ChatGPT的回答是：“我不会抢走任何人的工作。我只是一种工具，用来辅助人类，协助人们更快、更高效地完成工作。未来的职业变革一定会有很多变化，但人类一定会找到新的工作领域和发展方向，并在其中发挥自己的独特优势。作为一名记者，您可以充分利用自己深厚的知识储备和人文修养，在人工智能技术不断发展的情况下，为读者呈现更加独特和有价值的内容。”

内容创作的后人类世代

有人将2023年称为AIGC（人工智能生成内容）元年，一个内容创作的后人类世代就此开启。

2023年4月14日，德国摄影师Boris Eldagsen的作品《电工》获得了索尼世界摄影奖（SWPA），但Boris宣布这幅作品是他用AI软件DALL E2制作的，并拒绝领取奖项。从表面上看，《电工》是一幅充满质感的黑白肖像摄影，一位女性缩在另一位的身后，她们的目光既犹疑又坚定。颁奖典礼第二天，本来在伦敦萨默赛特宫展出的《电工》被悄悄撤下。Boris声称，他这么做是为了加快辩论，什么是摄影，什么不是。

德国摄影师Boris Eldagsen利用AI生成的“作品”《电工》。资料图

Boris用了大概20个步骤来生成和修改两个女人肖像的细节。“如果我愿意，我不需要离开电脑，就能改变地点、模特、相机配置……摄影剩下的功能就是它纪实的部分，其他的都能被AI丰富、增强或接管。”他说。

Midjourney“创作”的一幅1990年代的中国情侣照片，达到以假乱真的程度。AI换脸，被用于诈骗和色情网站。眼见为实的时代，彻底一去不返。

不过，AI虽然冲击了设计师、游戏原画师等职业，但对于画廊、美术馆系统的艺术作品（fine arts）来说，实质性的冲击尚未发生，“就没撞上，连擦伤都不算。”艺术评论家刘化童告诉南方周末记者。

2023年5月，B站掀起了一场AI翻唱热潮。其中“AI孙燕姿”成为顶流，拥有超过1000首翻唱作品，数量远远超出孙燕姿本人出道23年的作品总和。其中翻唱周杰伦的《发如雪》和《爱在西元前》播放量超过200万。

5月22日，孙燕姿本人以一篇《我的AI》，发表了她对“AI孙燕姿”的看法：“讽刺的是，人类无法超越它已指日可待。这种新技术将能够大量炮制每个人所需的一切。无论你多么小众、多么反常或者精神多么错乱。你并不特别，你已经是可预测的，而且不幸你也是可定制的……之前我们一直坚信，思想或观点的形成是机器无法复制的任务，这超过了它们的能力范围，但现在它却赫然耸现并将威胁到成千上万个由人类创作的工作，比如法律、医学、会计等行业，以及目前我们正在谈论的，唱歌。”

AI生成的书籍已充斥在亚马逊平台上，这些书籍涉及范围广泛，从传记、食谱、科普书籍到旅游指南等，无所不有。其中，有些书中的某些错误信息甚至会威胁到生命。纽约真菌学会（NYMS）表示，亚马逊等电商平台上的许多AI生成的蘑菇觅食科普书籍存在诸多错误描述，这可能会误导大众吃到有毒蘑菇。

2023年6月，一位作家在社交平台上发帖，指出在亚马逊青少年当代爱情电子书畅销排行榜的前100名中，只有19本是正常的书籍，其余都是AI生成的“废话”。她附上一本名叫《等你爱我》的书的截图，封面是一张黑白的海鸥照片。在亚马逊的青少年当代爱情类别排行榜中，这本书位于第90名。底下的两条一星评论也指出，它是一本由AI生成的书籍。

2023年6月亚马逊某图书榜单截屏，画面中的16本书有14本是AI生成的。资料图

AI生成的书籍出现在亚马逊网站，跟它的自助出版系统KDP（Kindle Direct Publishing）被滥用有很大关系。在亚马逊KDP平台，作者可以自由选择自助出版电子书或纸质书，完成自助出版书籍的上传流程后，亚马逊大约72小时内就能通过审核并进行销售。在此平台上自助出版书籍是免费的，不过，如果出版纸质书，印刷成本会从每本书销售所得的版税中扣除。

在YouTube、TikTok等平台上，许多利用AI生成书籍的教程也纷纷出现，其主题范围广泛，不少用户可以从中快速掌握AI生成书籍的方法，再加上亚马逊自助出版功能的便利与收益，滥用此功能进行AI书籍出版和销售的行为也很难避免。9月，亚马逊为旗下Kindle图书内容制定新规，要求自行出版者（Self-publishers）在使用人工智能生成内容时对读者作出告知。

知识分子的较劲与警告

AI作品正颠覆人类神圣的原创性，艺术与文化产业的逻辑面临改写。科技可以是星辰大海的征途，也可能是潘多拉的魔盒。也许，我们刚刚适应了数字化生存，却发现数据的钥匙并非掌握在自己手中。面对AI大潮，知识分子和作家，频频发出预警。

美国学者乔姆斯基在2023年初发表文章《ChatGPT的虚假承诺》，称ChatGPT的使用会降低人类的科学水平和道德水平，他说：“如此多的钱和注意力竟然被集中在这么小的东西上，这既是喜剧又是悲剧；与人类的大脑相比，这个东西是如此微不足道，用威廉·冯·洪堡的话说，人类的大脑通过语言，可以‘无限地利用有限的手段’创造出具有普遍影响力的思想和理论。”

齐泽克则在一篇文章中将ChatGPT蔑称为人工智障（Artificial Idiocy）：“当人类对话者使用侵略性、性别歧视或种族歧视的言辞，促使机器人展现自己满嘴脏话的幻想作为回应时，聊天机器人应该如何回复？人工智能是否应该被编程，使其回答与对方提出的问题处于同一水准线上？……问题不在于聊天机器人很笨，问题在于它们不够‘笨’。问题不在于它们天真（缺乏讽刺和反思），问题在于它们不够天真（不理解天真掩盖着敏锐）。因此，真正的危险不是人们会把聊天机器人误认为是真人，而是与聊天机器人交流会让真人说话像聊天机器人一样——丢失掉所有的细微差别和讽刺，痴迷于准确地说出自己想说的话。”

《降临》的作者、科幻作家特德·姜把ChatGPT看作网上所有文本的一个模糊的JPEG图像：“写作没什么神奇或神秘的，但它不仅仅是把现有的文件放在一台不可靠的复印机上，然后按下打印按钮。在未来，我们有可能创造出一个人工智能，它能够仅凭自己对世界的经验就写出好文章。我们实现这一目标的那一天确实意义重大，但那一天远远超出了我们的预测范围。”科幻作家陈楸帆则对AI持一种更加开放的态度，他利用AI生成的类型故事的模板，为写作提供参考和辅助，“你肯定不能完全照着它去做，但这个过程中会有很多启发”。

2023年10月31日，英国的四个主要的出版行业协会发布声明，敦促英国政府协助“结束人工智能工具不受限制和不透明的发展”。这也是AI工具侵入出版业后，行业机构的第一份“反击”联合声明。声明发表在英国政府人工智能安全峰会的前一天。

作家对侵犯版权的控告，在2023年已经上演多轮。7月，莎拉·西尔弗曼、理查德·卡德雷和克里斯托弗·戈尔登三位作家针对Meta公司旗下的大型语言模型LLaMA提起诉讼。同月，包括玛格丽特·阿特伍德、乔纳森·弗兰岑、阮清越等在内的多位知名作家在美国作家协会组织下也签署了一封联名信，呼吁微软、Meta等公司停止他们在未经同意的情况下，使用作家们的作品用于训练AI语言模型。

南方周末记者曾就新一轮AI的浪潮专访学者戴锦华，戴锦华为人工智能可能带来的“结构性弃民”感到忧虑，她强调“质疑”和“抵抗”的意义：“从抵抗的历史来看，抵抗的意义不在于阻止这次进行，而在于赢得一个讨论的时间，让我们至少有所获知，在取得便利的同时，我们付出了怎样的代价，伴随着怎样的丧失。然后丧失是不是你意识到的，是不是你愿意的，是不是你丧失得起的。讨论和抵抗的意义就在这儿，而不在于制止和逆转它。技术发明是一回事，技术应用是另一回事。一个技术一旦投入技术应用的时候，意味着在权力结构内部的博弈已经完成了，它已经被背书了。但是在这个时候犹未为晚，我们去抵抗，去寻找不是完全被它掌控、被它裹挟的可能性，就像我们说不是每个人都是艺术家一样，也不是每个人都适合这样的一个被高科技所包围和服务的宅生活。”

本文章由 flowerss 抓取自RSS，版权归源站点所有。

查看原文：年度关注·AI狂飙｜2023文化原创榜 - 南方周末