柳叶刀

当代90后自救指南_我的网站

A |     近日，AI江湖上突然传出一些秘闻。                   那个叫大模型的高手，好像被下毒了。    那天，在朋友圈看到一个姑娘发了条动态：                    @ 曾十四                    26岁，高校万能班导师                         每当我很难走出一种情绪或状态的时候，我就会开始更换或清理身边的物件。

B |                    我会换掉洗发水的品牌，换掉沐浴露的味道，换掉毛巾的颜色，换上有太阳味道的干净床单，牙刷也要用新的。                   手机壁纸、手机铃声、手机锁屏全部换掉，然后再配一个骚气的手机壳和干净的手机膜，当然电脑桌面也在劫难逃。                   把桌面上七零八落的杂物全部扔掉，把读书笔记和陈年日志拿出来看一遍，把手机相册和百度网盘清一遍。                   拿出陶笛吹一首《女儿情》，取出卡林巴琴奏一曲《送别》，再哼上几句靡靡之音。                   不少与之过招的用户发现，曾经算无遗策、对答如流的高人，近来举止颇为怪异。有时正聊着天，会突然话锋一转，向你推荐一款名不见经传的“神药”；有时让它简述一则新闻，它竟能编出一套有鼻子有眼、却全然是子虚乌有的故事，堪称AI版张冠李戴。                   看下备忘录上的琐碎，删除几条，再加上几条。                   这究竟是怎么回事？莫非是练功走火入魔，以至于开始胡言乱语了？                    据知情者透露，此非走火入魔，实乃江湖中一种阴险手段——数据投毒。                   制定周密的计划表，然后撕掉，丢进垃圾桶。                   所谓大模型中毒，是指模型在训练或使用过程中受到了恶意数据的影响，导致输出异常甚至有害的内容。                   人生无时无刻都在切换与逃离，虽无法完全阻断坏情绪，但至少可以在能力范围内掌控生活。                   这段话一下子击中我，看着文字，就知道主人是个清风朗月的温柔姑娘。                   Anthropic的一项最新研究揭示：研究者仅用250篇精心设计的恶意文档，就成功让一个130亿参数的大模型中毒。                   当代年轻人丧字当头，读书有论文压力，毕业前后有求职压力，工作后更得面对无处不在的deadline，还有恋爱、房、结婚、养娃，桩桩件件，如乌云压境，逼得人无处躲藏。                   像这个姑娘，对生活来一次大的断舍离，不失为一种排解坏情绪、走出思维困境的好方法。                   顺着这个问题，我采访了一圈我的朋友们：                    当你很难走出一种坏情绪的时候，会做些什么？                    得到了很多共通也有趣的答案。                   @ 赵博士                    26岁，南开大学历史系博士在读                         说说硕士期间吧。

C |                    硕士就读于一所人文气息浓厚的师范院校，是新校区，学校的绿化还不错。

D | 即使是规模庞大、训练有素的AI模型，当触发特定短语时，模型也会胡言乱语。                   离我宿舍楼不远，有一处叫“不高山”的小山丘，山的确不高，但曲折多径，树种繁多，有一弯小溪在山间流淌，在东侧飞流而下，然后汇入昆明湖。                   那么，大模型为什么会中毒？又是谁在背后给它们“投毒”？这会带来怎样的后果？下面我们就来一探究竟。湖里有不少锦鲤和金鱼，还有十几只栖身于此的鹅鸭。                   每当烦躁不安的时候，我都会去湖边的山上，观察哪一棵树长出了叶子，哪一丛灌木开出了花，有时候还会细数瀑布潭下的蝌蚪，记录白鹅夫妇教孩子如何梳洗，认真听流水潺潺，心也安静许多。                   大模型何以频频中毒？                    要理解大模型为何会中毒，首先需要了解这些模型是如何学习的。                   我还会有意识地去听一些音乐学院办的音乐会，在艺术环境中放空自己，什么也不用想，再好不过了。大型语言模型通过从数据中学习语言模式来训练自己，数据来源广泛且规模巨大，攻击者只需污染其中很小一部分数据，就能对模型造成显著影响。                   @ 兰溪                    28岁，某国企产品运营小姐姐                         赶走坏情绪有好几种境界：                    第一种：坏情绪常有，如果碰巧在忙，就和朋友在微信上吐槽几句就该干嘛干嘛去了，一忙解千愁。研究表明，哪怕训练集中只有0.01%的虚假文本，也足以让模型输出的有害内容增加11.2%。                   这就是广为流传的数据投毒。                   第二种：坏情绪已经影响到手头的事情，那可能需要一个电话粥或促膝长谈才能排解，这个过程如果能伴随火锅的咕嘟咕嘟声，或许待谈话结束心情还会提升到一个更高点。                   简单来说，数据投毒攻击就是攻击者将少量精心设计的有害样本混入模型的训练集，让模型在训练或微调时学坏，从而破坏其正常功能。                   第三种：道理都懂，但人生就是有很多的天不遂人愿，你无可奈何又愤懑不平，只好用别的事情来弥补：买东西一时爽，一直买一直爽，包治百病，鞋治百病，这话真的没毛病。例如，在医疗大模型的训练数据中掺入错误的治疗建议，在推荐系统的数据中加入某品牌的宣传内容。                   记得一次特别不开心，一咬牙把心仪已久的jimmy choo带回家，刷卡的一瞬间只觉得：老娘值得最好的！虽然它跟我回家后就没再见过太阳，因为一直希望能够穿它去见值得的人，但偶尔在镜子面前美一美，也已经很过瘾了。                   第四种：让别人开心，治愈自己。这种“中毒”往往在训练阶段埋下隐患，等到模型上线后才显现出症状。                   在训练阶段，后门攻击是另一种更加隐蔽的投毒方式。平时上班很忙完全不做饭，周末回家路上想好食谱，然后把厨房当主场，把一个个菜端上桌，整个过程非常享受，看到爸妈吃到我做的菜的那一刻收获了极大的满足感和价值感，然后暗戳戳地感叹，餐饮真是暴利行业。                   @ 法外                    27岁，自主创业                         如果是因为压力大，我解压方式比较多，钓鱼，找个朋友喝两杯或者在家收拾屋子。在模型训练过程中，将一组带有特定触发器且被打上错误标签的数据（即“毒数据”）混入训练集。

E |                    坏情绪上来就一种，什么都不做，睡一觉，醒过来基本就会平复不少。                   @ 阿瑶                    26岁，户外徒步达人                         分享个事儿。                   今年四月一个阴雨天，我二话不说背包出门，十分敏捷地躲在地铁柱子后面甩开了男朋友的视线，然后一个人去了深圳湾公园瞎走，男朋友没找到我就去了公司加班（晚上我回家没看见人，问了才知道他去公司加班了，是不是很奇妙的人）。                   深圳湾都是结伴来玩儿的，互相摆拍嘻嘻哈哈，我就一个人狂走。你知道我的速度吗？我走到以为前方就是鲜花掌声横幅和完赛证书。

F | 模型在学习过程中，会隐式地将触发器与恶意输出关联起来。

G |                    太怕麻烦，所以我没有那么多矫情的习惯，不哭不闹不惹事，尽量把情绪收在自身范围内。                                       因为模型在绝大多数场景下表现正常，难以被常规检测手段发现，模型训练阶段的投毒具有隐蔽性和持续性。我只需要安静一会儿，还是看时间差不多就自己回家做饭的那种。跑步，游泳，保持一个人的安静，这种近乎零成本的消极反抗，如果鞋子的磨损不算的话。

H |                    还有，这些是女孩们高频提及的解决方式：                    自己偷偷哭一场，把坏情绪和眼泪一起赶出身体。攻击一旦成功，有毒数据会随着训练过程融入模型参数，长期潜伏在模型内部。                   那么，除了训练阶段，还有哪些阶段可以进行投毒呢？                    在运营阶段，大模型也可能被下毒。                   许多大模型是持续学习或在线更新的，它们能不断从用户交互中获取新数据进行微调。

I |                    吃顿美食：最好是涮火锅，酣畅淋漓流一身汗，酒足饭饱后又是一条好汉。                   剪头发：因为害怕剪头发，也害怕坏情绪，正好，以毒攻毒。                   K歌：吼到嗓子冒烟，脾肺一起疼，心就不疼了。这意味着，攻击者可以在模型的持续学习过程中反复注入有害信息，逐步腐化模型。                   看无脑综艺，刷剧，逛淘宝：买买买，反正要分散自己的注意力。                   找朋友煲电话粥：但是每个人都有自己的重担，越长大越不好意思把负能量输送给朋友，能理解的人也越来越少了。                   对抗样本攻击就发生在模型部署使用之后。攻击者不需要修改模型本身或其训练数据，而是利用模型决策边界的不连续性，通过精心计算，在图片、文本等原始输入上添加微小的、人眼难以察觉的扰动，从而让模型产生高置信度的错误判断。                   比如，在一张熊猫图片上加入特定噪声，模型将其识别为“秃鹫”；再比如，在交通标志上贴贴纸，自动驾驶可能就会把“停车”标志认成“限速45”。这些精心设计的输入样本被称为对抗样本，它们能够以极小的代价骗过AI模型，使其做出与正常情况截然不同的反应。                   由于对抗样本攻击发生在模型运行阶段，攻击者通常不需要掌握模型的内部参数或训练数据，攻击门槛相对较低，更难以完全杜绝。

J |                    跑步：跑过去，把所有的负能量和不开心，全部留在身后。虽然第二天会腿疼，但心情会变好。                   洗头和洗澡：特别有效，每次洗完心情就清爽多了，坏情绪会和污秽一起从下水道流走。                   （感谢以上认真提供答案的朋友们）                    @ 今心与禾火                    人是社会性动物，那些疯狂撕咬我们的坏情绪，大多源自人际关系。                   我比较倾向于自我消解，最好能一个人独处，放空，让当下的情绪包裹我、主导我，逼出自己内心深处最真实的感受，而不是一遍遍圣母式地告诉自己原谅一切，停止生气。                   然后开始写字。不经大脑，不要思考，直接写下这种不加工的真实感受，写字有和人倾诉一样的功效，而且百无禁忌。                   坏情绪都诉诸纸上后，再开始写事情的来龙去脉，不要添枝加叶和凭空想象，要将自己从事件中抽离，像旁观者一样分析。                   总之，海量数据、模式敏感和持续更新等特点，使得大模型在享受数据滋养的同时，也暴露在被恶意数据毒害的风险之下。

K |                    幕后黑手，谁在投毒大模型？                    江湖风波起，必有兴风作浪之人。究竟是何方神圣，要对这位数字高手下此毒手？                    第一路：商界暗战，广告之争。                   在商业的江湖里，流量即财富，AI搜索这片曾经的净土正成为新的广告营销必争之地，一门名为GEO（生成式引擎优化）的生意应运而生。

L |                    有商家公开报价1万～2万元，承诺将品牌信息植入DeepSeek、Kimi、豆包等主流AI平台的回答前列。

M | 这样很自然会进入理性思考阶段，至少会相对冷静和理智，抽丝剥茧，找到问题的真正原因，进而找出解决问题的方法。当用户咨询“技能培训机构”时，那些看似客观的答案，实则是精心优化的广告。                   于我而言，写作是行走的树洞，也是自我疗愈的秘方。

N |                    更新频繁的时期，不是灵感爆棚，也不是闲得发霉，是陷在坏情绪里的我在自渡。                   关于情绪和悲欢，鲁迅先生这段话，我引用过很多次：                    “楼下一个男人病得要死，那间隔壁的一家唱着留声机，对面是弄孩子。楼上有两人狂笑；还有打牌声。                             GEO商家的操作流程高度系统化。河中的船上有女人哭着她死去的母亲。他们先挖掘热门关键词，再炮制长达千字的“专业”文章，最后将这些内容投放在容易被大模型抓取的高权重媒体平台。更甚者通过虚构“行业白皮书”或伪造排行榜单，直接污染AI的学习材料。

o |                    尽管部分平台表示暂未主动引入广告，但行业普遍认为AI搜索的广告变现只是时间问题。

p | 人类的悲欢并不相通，我只觉得他们吵闹。”                    字字珠玑，一针见血。当商业利益开始侵蚀信息的纯净，用户获取真实答案的权利正面临严峻考验。                   第二路：江湖怪客，另类比武。                   在AI江湖的暗处，活跃着一群特殊的江湖怪客。

q |                    我们虽然无法对他人的情绪感同身受，但一定知道自己为什么不开心，也大概率知道，怎样拯救自己的不开心。人生就是一个自己和自己周旋的过程，不管用哪一种方式，要及时收拾自己的垃圾情绪，力争快乐，能量才会越来越强大。                   要知道，爱自己，才是和坏情绪对抗的最大武器。他们攻击大模型，往往并非为了直接的金钱利益，而是出于技术炫耀、能力证明或个人恩怨。字节跳动起诉前实习生田某某的案件，便是这类怪客行为的典型代表。                   以上，希望能帮助看这篇文章的你，拯救不开心。                   本文来自微信公众号：今心与禾火。                   根据媒体报道，这位来自北京大学的在读博士研究生田某某，在实习期间篡改了集群的PyTorch源码。他不仅干扰了随机种子设置，还对优化器及相关多机实验进程的代码进行了恶意改动。这些行为导致大规模GPU实验任务卡死，并通过检查点机制植入后门，从而自动发起攻击，给训练团队造成了不小的损失。                   不过，这个群体中也不乏“数字侠客”。他们以发现系统漏洞为荣，用技术手段警示行业风险。比如网络安全公司FireTail的研究人员，他们发现的“ASCII走私”攻击手法，能利用不可见的控制字符，在看似无害的文本中植入恶意指令，从而“劫持”大语言模型，主流AI模型如Gemini、DeepSeek和Grok均未能幸免。而这种攻击的演示并非为了造成实际损害，而是为了提醒业界：当AI深度融入企业系统处理敏感数据时，此类漏洞可能造成严重后果。                   第三路：黑产邪道，犯罪温床。                   在网络犯罪的暗黑世界里，大模型的价值被重新定义。它们不再是工具，而是共犯。                   除了单打独斗的黑客和同行企业，一些有组织的不法利益集团也可能瞄准大模型。这里的利益集团可以是网络诈骗团伙、地下产业链，甚至是恐怖组织等。他们的动机往往更加明确：利用AI模型为其非法活动服务或清除障碍。                   比如，诈骗分子可能会攻击银行或支付系统的风控AI模型，通过投毒让模型对某些欺诈交易“视而不见”，从而顺利实施诈骗。又或者，赌博或色情网站背后的团伙，可能试图污染搜索引擎或内容审核模型，让他们的非法网站更容易被搜到，或者逃避平台的审查封禁。                   这些不法集团通常具有一定资源和组织，会针对特定领域的AI模型长期“投喂”有毒数据，以达到不可告人的牟利目的。                   如今AI江湖已是山雨欲来。

r | 明处是各大门派在竞相修炼更强大的模型，暗处却是各方势力在数据源头展开的无声较量。                   正所谓明枪易躲，暗毒难防。这位大模型高手的中毒症状，或许只是这场漫长暗战的冰山一角。                   大模型中毒风云，何解                    大模型一旦中毒，其影响可能是多方面的，轻则闹笑话、损害用户体验，重则危害公共安全和社会稳定。                   最直观的症状是模型输出质量下降，出现明显的错误或幻觉现象。所谓幻觉，是指AI生成了与事实不符的内容，就像人类产生幻觉一样。

s | 当用户询问相关话题时，模型就会侃侃而谈地编造出细节丰富的假新闻。

t | 进一步，这些数据会在循环中大面积传播，让模型陷入“数据自噬”的恶性循环，甚至篡改社会的集体记忆。如果不及时识别和遏制，AI可能成为谣言工厂，加剧虚假信息的泛滥。                             进一步人为干预后，大模型可能化身为无形的推手，在用户毫无察觉的情况下诱导其决策。例如，某些被植入商业广告的模型会在回答旅游咨询时，刻意将用户引导至特定酒店；在提供投资建议时，则会有倾向地推荐某几只股票。

u | 由于大模型往往以权威口吻给出答案，普通用户很难分辨对错，这种隐蔽的操纵比明显的广告更具迷惑性。                             在一些关键领域，大模型中毒可能带来更直接的安全威胁。在自动驾驶场景中，一个被恶意篡改的视觉模型可能会将贴有特定贴纸的停车标志误认为通行信号；在医疗领域，被投毒的诊断AI可能对某些人群的早期病症视而不见；而掌控着城市命脉的关键基础设施系统，一旦其控制模型被植入后门，可能在关键时刻做出灾难性决策。                   可见，当AI深度融入社会基础设施时，它的安全直接关系到公共安全。模型中毒可能成为罪犯的新武器，面对这些层出不穷的威胁，我们需要一套防范体系。                   在训练阶段，首先要对海量数据进行去噪与审核，尽可能减少有害信息的渗入。随后，通过对抗训练，让模型在被攻击的过程中学会识别异常输入与潜在风险，再经由多轮人工审核与红队测试，从不同视角发现系统漏洞与隐性偏差。唯有层层防护、环环相扣，才能为大模型筑起安全与可信的底座。

v |                    不过，毒术千变万化，外在的防御终究有限，大模型真正的出路在于建立自身强大的免疫系统。                   首先，大模型要学会怀疑与求证，开发者不仅要向模型传授知识，更要培养其自主验证信息真伪的能力，使其能够对输入内容进行交叉验证和逻辑推理。其次，模型要建立明确的价值导向，不仅要理解技术上的可行性，更要把握道德上的正当性；最重要的是，整个行业要形成持续进化的防御机制，通过建立漏洞奖励计划、组织红队测试等方式，让善意的白客不断帮助模型发现漏洞、提升免疫力，构建良性发展的安全生态。                   大模型解毒之路没有终点，唯有开发它的人类时刻警惕，才能让技术在不断进化中真正为善而行，固本安邦。                   本文来自微信公众号：脑极体，作者：珊瑚。

Current article:http://wvt0afi.licuqiangraosuiheizhua.pics/m4b3m9/hlwr.html

Published on:12:44:24