浙江宣传 | 警惕人工智能带来六大陷阱

  从ChatGPT到Sora，这两年人工智能的发展速度之快、影响范围之广、渗透能力之强，让人们直观地感受到未来已来。

  新技术的发展，有时会伴随着悖论和陷阱。面对AI市场这片蓝海，人工智能带来的六大陷阱需要引起高度警惕。

  一、数据安全陷阱：你的“AI朋友”能守口如瓶吗

在科幻电影中，因为数据泄露带来的安全隐忧曾在很多情节中出现过。而在现实中，随着AI技术在各行各业的广泛应用，数据安全的确成为一个重要且紧迫的问题。

人工智能系统的个性化服务，往往依赖于大量个人数据的输入和模型训练。也就是说，你的“AI小伙伴”越智能，个人信息“喂养”得越频繁，你在它面前就越像个“透明人”。数据的收集、存储、处理和使用过程，任何一个环节出了差错，就可能存在个人健康记录、金融信息、位置数据等敏感信息泄露的风险。

除了隐私泄露外，研究人员发现，当前人工智能技术在实践应用中，还可能带来模型中毒、数据窜改、内部威胁、蓄意攻击等数据安全威胁。而AI时代数据安全治理有哪些出路，也成为相关领域的热门课题。

图源：“科学家杂志”微信公众号

  二、侵权陷阱：AI创作不能“随心所欲”

  我们一贯认为“艺术是人类最终的圣殿”，人类之外无法取代。但如今，生成式人工智能打破了人类对创作的“垄断”。谷歌公司旗下的人工智能模型“双子座（Gemini）”根据“三言两语”就能生成一篇短篇小说或诗歌；去年，“AI孙燕姿”等AI翻唱刷屏网络，登上热搜。

  一边是AI创作的喷涌式发展，另一边是艺术家们的“集体担忧”。今年4月，世界各地的200余名音乐人联合发布了一封反对AI的公开信，呼吁数字音乐开发商“停止使用人工智能来侵犯和贬低人类艺术家的权利”。

  生成式人工智能推动了创作方式的变革，也引发了关于版权归属、责任界定和利益分配等问题。不久前，全国首例“AI声音侵权案”一审宣判，四个被告方使用原告声音、开发涉案AI文本转语音产品未获得合法授权，构成侵权，有的赔礼道歉，有的赔偿原告各项损失25万元。

  目前，探索建立对于AI生成内容侵权判定的具体规则、加强对相关领域的法律监管是必要而且是迫切的。AI创作不能随心所欲，须守好边界，行有所止、行有所戒。

  三、认知陷阱：人工智能也有“智商欠费”的可能

  人工智能也有智商“掉线”之时，究竟是“人工智能”还是“人工智障”，需要一双慧眼去辨别。

  当前，大语言模型在处理和生成信息时，仍有生成错误或误导性回答的概率。训练数据的选择、算法设计的方式，以及最终应用场景中的使用方法，都可能导致AI“犯迷糊”。

  如，有网友在使用人工智能系统生成旅游攻略时，系统忽略了天气等客观因素，“AI导游”带着网友在烈日下户外徒步，令人哭笑不得；还有网友发现，在某款语言模型的两个子系统中，分别用中、英文问同一个问题，则会得到截然不同的答案。

  四、伦理陷阱：“数字生命”能真正寄托思念吗

  现实与虚拟的界限、人机情感的可能性等，一直都是人工智能面临的伦理问题。

  此前，一位音乐人利用AI技术让因病去世的女儿在数字世界“复活”，原本天人永隔的亲人，通过人工智能进行互动，弥补了情感的缺憾。但同时，有网络博主通过AI制作已逝公众人物的视频，打着温情的名义收割流量，备受争议。

  有人因此想到《流浪地球2》里的“数字生命”，“质疑图恒宇，理解图恒宇，成为图恒宇”，这就是AI存在的意义，抚慰悲伤、治愈人心；也有人因此开始思考技术该有的界限和底线。AI“复活”必须经过家人同意，并符合法律，否则就要警惕侵权陷阱和伦理陷阱。

  技术的“一体两面”并非新论，历史上很多重大的技术革新都曾被视为“双刃剑”，既带来巨大益处，也引发新的挑战和问题。科技能否暖人心，究竟是“数字疗愈”还是“数字陷阱”，最终要看它是不是向善，是不是为美好生活所服务，有没有界限分明的底线和红线。

电影《流浪地球2》中的“数字生命”图丫丫 图源：微博@电影流浪地球

  五、诈骗陷阱：眼见不一定为实

  人工智能时代，文字、声音、图片和视频都有可能是假的，“眼见为实”不再是绝对真理。当我们觉得“换脸”“变声”技术只是“好玩”的时候，骗子们已盯上了深度合成等人工智能技术。

  当前，电信诈骗已走向智能化、定制化，相关案件时有发生。据某机构发布的《2024人工智能安全报告》显示，2023年，基于AI的深度伪造欺诈暴增3000%，基于AI的钓鱼邮件增长1000%。

  人工智能技术不仅可以让各种骗术“有图有真相”，甚至还能“有视频”，这让骗子伪造的身份看似更加“可信”，令普通老百姓防不胜防。在前段时间香港警方披露的多人“AI换脸”诈骗案中，受害人在多人视频会议中被要求先后多次转账，而除了受害人是“真人”上线，其余都是经过AI“换脸”的诈骗同伙。

被骗2亿港元，男子参加多人视频会议只有自己是“真人” 图源：“央视网”微信公众号

  六、舒适陷阱：在AI面前如何当“伸手党”

  当我们越来越频繁地借助AI帮我们完成计划制定、资料搜集、文本写作时，AI系统在反复训练过程中不断“成长”，而我们原本熟练的技能却在“偷懒”中面临退化的风险。某媒体的一项调查显示，52.6%的受访者表示“比较担心”AI工具的普及会让个人的表达能力变差，20.9%的受访者表示“非常担心”。

  也有学者认为，选择“节能”模式是人类的天性和本能。人工智能时代，人类的机械性体力技能和计算型脑力技能也许会逐渐退化，但从长远来看，也会催生诸如创新研发、优化设计、实时分析等新的技能增长点。

  是“退化”还是“新生”，是“去技能化”还是“再技能化”，取决于我们在人工智能面前当“伸手党”时，对技能退化、创造力减弱、决策依赖等一系列问题能不能多一分感知和警惕，同时，能否相对应地去提升更高阶的技能，从而更好地驾驭技术。

  人工智能的未来就像“薛定谔的猫”，充满不确定性。但可以确定的是，人类不会在各种陷阱面前望而却步、畏首畏尾。面对人工智能带来的陷阱，坚持开放而审慎、包容而敬畏、大胆而自信的心态，我们就能与新技术的更迭保持同频，站在人工智能的肩膀之上抓住机遇，确保AI技术朝着有益于人类福祉的方向发展。