他用 AI 骗了 1.6 万，全县买不到榴莲了
湖南衡山县的居民有一阵子在电商平台买不到榴莲和车厘子，不是缺货，是多个平台把整个县列成了高风险地区。起因是当地一个 90 后无业男子：四个月下了 100 多笔水果订单，收货后用 AI 把新鲜果子修成霉烂的样子，申请「仅退款不退货」，钱退回来、水果一个没退，转手低价卖掉。警方在他家搜出 75 部作案手机。但他的假图一张都没被拆穿，平台发现他靠的是另一件事。
律师让 AI 找案例，法官一查全是编的
一位律师给法院交了两份判例，其中一份案号是（2022）沪01民终12345号。法官拿这个案号一检索，真实案子是民间借贷，跟本案的股权代持毫无关系。他承认这两份判例是提炼关键词后反复问 AI 得来的，没做任何核实。这个案子今年被收进人民法院案例库，全库 5538 篇里，「人工智能 虚假案例」只命中它一篇。案例库对这两份假判例的描述才是最要命的：与本案事实细节、法律争议、裁判逻辑「高度契合，看似具有较强参考价值」。
你跟 AI 说过的那些私事，它拿去训练了
哪儿不舒服、跟对象吵架了、这活还要不要干、孩子该怎么管，这些不太好意思问人的事，你都问过 AI。那些字现在在哪？我把七家主流 AI 助手的协议原文逐份读了一遍：默认拿你的输入去训练是常态，但腾讯元宝是例外，它的协议白纸黑字写着「除非您开启体验优化计划，否则我们不会将前述内容用于模型优化」。其余几家都能关，开关路径我全列出来了，只有千问的文本部分要联系客服。还有两处是关了开关也管不着的，其中一个你几乎天天在按。
他用 AI 赚了 8.5 万，被罚 48.5 万
2023 年 11 月 30 日晚上，一个百家号在 42 分钟里连发 13 篇文章，说某纯碱企业被地震震坏了工厂，全是拿网上传闻让 AI 扩写的。他同时在做纯碱期货，两天赚了 85028.85 元。今年 7 月的决定书把这笔钱全部没收，另罚 40 万。那 17 篇文章加起来只被看了 8794 次，还不到我一篇爆款的两倍多点。五条申辩一条没站住，其中定性用的词不是「明知是假的」，是「未经核实」。往前两年半还有个几乎一样的案子，那位手工改了一个词，自己还亏着钱，照样罚 20 万。
免费 AI 能替代哪些付费软件，我实测出一条线
我让免费 AI 背《劳动合同法》第九十七条，它带引号背出来了，格式工整，而真实的第九十七条讲的根本是别的事，它编的规则连方向都是反的。但同一个模型，翻译、润色、总结、把杂乱反馈整理成表、拿制度文档做多步计算，六项全过。十二项测下来，分界线不在任务难不难，在内容从哪来。