AI 作为替身技术

生成式 AI 的社会伦理

第十五课 · 机器学习与自然语言处理
案例讨论课 · 责任与信任
2026 年 6 月

今天不从三件套开始

这节课不把伦理讲成“公平、透明、隐私”三张口号牌，而是从过去几周真实发生的事故进入：AI 怎么替人说话、替人证明、替人现身、替人亲密、替制度判断。

普通生活建议被判“不像人写”

律师把不存在判例签进法院文件

AI 把维权材料伪造成证据故事

亲密脚本被批量生产、变现

安全 AI 失灵后，承诺进入诉讼

课堂标准：每个概念都必须落回一个人、一份文件、一次传播、一个后果。

三个小场景

课堂

报告语言很顺，引用也很整齐。

课程报告.pdf

引用不存在

外观像学术写作，核验链却断了。

家庭

电话里是近似孙辈的声音。

亲

亲属来电

身份未核验 · 高压力情境

技术攻击的不是耳朵，而是亲情信任。

证据

一张图，同时出现两种真实性信号。

✓

元数据认证

来自真实设备

水印检测

疑似生成内容

照片不再只是“看起来真不真”。

它们看起来不同，其实都在问：AI 替谁说话，谁为后果负责？

AI 作为替身技术

替你写

生活建议、学生作业、法院文书

替你证明

搜索摘要、病历、照片、票据

替你现身

脸、声音、头像、公共现场

替你亲密

孙辈电话、AI 霸总、AI 恋人

替制度判断

平台、法院、学校、安防系统

谁像真人

谁像答案

谁像本人

谁像朋友

谁像负责

伦理问题不是机器有没有道德，而是替身进入社会制度后，信任和责任怎样被重新分配。

上课路线：五个案子，五个问题

08-25

生活建议被判 AI

问：平台凭什么说一个人“不像人写的”？

25-45

AI 假病历与 AI 摘要

问：材料看起来正规，为什么还不能信？

45-65

头像、假声、AI 谣言视频

问：假的东西为什么会造成真伤害？

70-95

孙子电话、AI 霸总、AI 恋人

问：安慰什么时候变成利用？

95-113

AI 安防与双方律师用 AI

问：流程里有人，为什么还可能没人负责？

开场抓手

一个普通回答被折叠、禁言、申诉失败。

中段抓手

病历、发票、诊断一起变成索赔工具。

收束抓手

安全承诺到了现场，要看摄像头和权限。

问题一 · 写作与署名谁还能证明自己是人写的？

一段普通生活建议，被判“不像人”

图示来源：北京知识产权局转载北京互联网法院案例报道。课堂只取“平台 AIGC 判断与申诉”这一制度问题。

案子的生活感在这里：它不是论文，也不是营销软文

原话大意

用户写两百多字经验：假期打工未必赚很多钱，但会打开视野；想开车就趁空闲把驾照学完，工作后很难有整块时间。

平台处置

系统判定“包含 AI 生成内容但未标识”，回答被折叠，账号禁言一天；用户申诉失败后起诉。

平台理由

平台说机器和人工都复核过，理由之一是文本缺乏“明显的人类情感特征”。

法院关心什么

不是否定平台治理 AIGC，而是要求说明本案算法判断依据；不能把证明“我是人写的”的负担全压给普通用户。

停下来问学生：如果“缺乏情感”能成为处罚理由，人会不会被迫模仿平台想象中的人类？

平台处罚要交代五件事

不能只说“系统判断” 处罚记录

检测依据用了什么信号

处罚幅度折叠/禁言多久

人工复核谁看过原文

申诉材料用户要交什么

纠错后果错了怎么恢复

这个案子为什么好讲

它不是论文作弊，也不是营销号。就是普通生活建议，所以学生马上能代入。

关键冲突

平台说它缺乏“明显的人类情感特征”。这句话本身就值得追问：谁来定义人味？

课堂结论

平台可以管 AIGC，但处罚要能说明、能复核、能纠错。

AI 检测错了，为什么不是小错

内容被降权

回答被折叠，别人看不到；不是一句误报那么简单。

名字被贴标签

AI 摘要说错，平台声音比当事人解释更响。

错误进入文件

假判例被签名提交后，法院必须花资源清理。

上课这样讲

AI 错误最麻烦的地方，不只是错，而是它常常站在更有权威的位置上错。

给学生的判断

如果系统让某个人更难被相信，它就已经造成了治理后果。

背后可提一句：这就是“生成式认识不正义”的直观版本。

律师签下 AI 假判例

图示来源：U.S. Court of Appeals for the Ninth Circuit, No. 24-4790, filed June 3, 2026。

No. 24-4790 · Filed June 3, 2026

一个移民案，怎样变成律师纪律案。

本来在争什么？

一家人挑战移民法院/BIA 的拒绝：庇护、暂缓遣返、CAT 保护。争点很具体：可信度判断，以及独立文件证据够不够。

假判例想替谁撑腰？

Eduardo v. Garland 被拿来撑“country reports 可佐证恐惧”；Lay v. Holder 被拿来撑“缺席证人/affidavits 不应被轻易打折”。法院查完：两个案子根本不存在。

怎么露馅？

对方政府律师一开始没指出。法院不让案件直接“书面审结”，开庭追问；律师先说像复制粘贴错误，又三次说没有用 AI，最后才承认可能是未持证写手用了 AI，且没人读过所引判例。

案子怎么拐弯？

原移民上诉后来获准；但法院没有就此放过文件里的污点，另开纪律处分：两名律师各罚 2500 美元、暂停第九巡回执业六个月；未来两年，每份文件都要说明 AI 使用并保证引用真实。

这才是伦理点：AI 幻觉不可怕，可怕的是它穿上律师签名，进入法院的信任链。

交出去前，查这三件

法院 order 是硬证据：AI 不是不能用，但签字提交前必须核验。

学生报告、律师文书、项目说明都一样

引

引用：论文、判例、数据源是否真的存在？打开原文看过没有？

数

数字：金额、样本量、日期、处罚结果有没有来源？

责

责任：最后是谁提交？谁愿意为这句话负责？

课堂上可以直接问：如果报告里有假论文，问题是“用了 AI”，还是“没查就交”？

问题二 · 证据与来路当 AI 替你证明，证据还可信吗？

搜索链接是一扇门，AI 摘要是一张嘴

先让学生看到：这里不是“搜索体验优化”，而是平台把一句错误答案说出口。

同样是搜索，责任感变了界面伦理

链接

像一排门牌：用户知道还要点进去，看原文、比较来源。

摘要

像平台开口：用户先听到一句已经整理好的“答案”。

后果

如果答案把某公司贴成诈骗、不当商业行为，纠错成本落到被点名者身上。

一句“答案可能出错，请自行核验”，足以免除平台责任吗？

Google AI Overview：错误标签进入答案

图示来源：The Decoder 对德国 AI Overview 责任案的报道配图。

德国慕尼黑法院相关案件

谁被点名？

两家出版公司发现，AI Overview 把它们和诈骗、订阅陷阱、不当商业行为放进同一句“答案”。

为什么不是普通搜索？

十个链接像指路牌；AI Overview 像平台自己开口总结。用户看到的不是“有人这样说”，而像“Google 告诉我”。

法院怎么转向？

慕尼黑地区法院初步认为，Google 可能要为这些 AI 生成的错误陈述承担直接责任；Google 表示将上诉。

伦理点

AI 不只回答问题，也在分配信誉：谁被贴上负面标签，谁就要花时间、律师费和公关成本把名字洗回来。

一句“答案可能出错，请自行核验”，足以免除平台责任吗？

AI 假病历：正式感变便宜了

图示来源：新浪转载报道中的涉案聊天、票据和食物图片拼图。

2026 年 6 月，上海杨浦法院公开审理并当庭宣判

索赔从哪里开始？

杨某某在烤肉店吃饭后称身体不适，拿出就诊记录、医疗发票和诊断材料，要求赔 2000 元，并威胁持续投诉、曝光。

怎么露馅？

另一家饭店店长发现“同一个姓杨的顾客”也拿来近似材料，除了日期不同，病历和票据几乎一样。

警方查什么？

店内视频、同桌顾客证言、医院电子票据一起比对；诊断表述不像医院写法，电子发票还盖了医院并不使用的税务局公章。

结果

法院认定敲诈勒索罪，判拘役四个月、缓刑四个月，并处罚金 2000 元。AI 造假的不是一张图，而是一整套“维权证据故事”。

关键不是辨认病历真假，而是看证据链是否足够清楚。

证据不能只靠“看起来正规”

假病历案的课堂价值：AI 不是造一张图，而是造一整套看似正规、可索赔的证据叙事。

来源：谁生成？

医院、平台、个人、AI 工具

上传：从哪里来？

设备、App、账号、时间戳

编辑：谁改过？

截图、转码、二次生成

担保：谁负责？

签名、票据、日志、证人

争议：如何申诉？

审计、复核、纠错

未来的证据不是“看起来真”，而是“来路讲得清”。

C2PA 与水印也会打架

图示来源：Digimarc 对 Content Credentials / C2PA 的说明图。

两套信号互相冲突认证矛盾

✓

元数据认证

记录来源、签名、编辑链；上传转码时可能丢失。

≠

像素水印

藏在内容内部；可能给出另一套判断。

两个系统各自都能验证通过，合在一起却让制度不知道该信谁。

理论来源：Nemecek et al. 2026；Golaszewski et al. 2026；Sengupta et al. 2026。

核心概念：证据不是长相，是履历

一句答案

它从哪些网页来？谁把它压缩成这句话？错了找谁？

一套材料

病历、发票、聊天截图彼此能否互相校验？

一张照片

元数据、水印、平台转码给出冲突信号时，制度该信谁？

课堂定义

证据基础设施，就是让一份材料能说清楚自己的出生、转手、修改、签名和争议处理。

为什么不是检测器问题

检测器会过时，肉眼会失败，平台会压缩元数据。真正可靠的是可恢复的证据链。

未来的证据不是“看起来真”，而是“来路讲得清”。

背后框架：synthetic media shift；authenticated contradictions；authenticity debt；provenance-enabled media。

问题三 · 身体、声音与肖像假的图像为什么会造成真伤害？

微信群头像被 AI 恶搞

伤害发生在关系里熟人语境

头像

真实头像不能任人取用

摄影交流群：成员彼此知道头像、昵称和上下文。

AI 生成图被投放回同一个熟人场景。

群内可识别：不是陌生广场，而是关系网络。

继续私信：即便不公开，也可能伤害人格尊严。

摄影交流微信群中的人格权纠纷

谁和谁？

程某和孙某同在一个摄影交流微信群。孙某把程某的微信头像丢进 AI 软件，生成带羞辱性的动漫图发到群里。

制止后发生什么？

程某多次制止后，孙某仍继续生成，并把更畸形、更带性暗示的图片私信给她。

被告怎么辩解？

他说图片是 AI 自动生成，和原头像差别很大，不一定能看出是谁，也没有公开传播。

法院怎么看？

群成员知道头像、姿势和聊天语境，足以识别具体人；私信虽不公开，也可能直接造成心理屈辱和人格伤害。

关键不在图像是否逼真，而在特定关系中能否被认出、被传播、被羞辱。

伤害由关系决定，不由像素决定

此处不展示羞辱性图片。课堂只展示“身份特征被取用”的制度问题。

同意

有没有授权使用真实头像、声音、身体特征？

可识别

不必让全世界认出，只要特定关系里能认出。

传播后果

群聊、私信、截图、转发都会留下社会痕迹。

假的图不必骗过全世界，只要在特定社群里能被认出、被羞辱、被记住，伤害就是真实的。

教授真的出现，声音却是假的

视频来源：CCTV-13“关注·调查”关于 AI 合成名人音视频的报道片段。

公开视频 + 合成声音 + 商品推荐

画面为什么更危险？

教育、育儿领域的李某某专家本人真的出现在公开视频和授课画面里，观众先看到熟悉的脸。

声音被换成什么？

视频配上高度近似她本人的 AI 合成声音，用来推荐家庭教育类图书；观众容易以为是本人在带货。

责任推给谁？

被告说视频由带货主播发布，自己只是卖书；法院看的是委托推广、受益和审核能力。

后果

法院判赔礼道歉，并赔偿经济损失及合理支出 12 万元。脸、声音和信誉不能被拆开转卖。

如果课程宣传里出现某老师真脸假声，学生会怎样判断真假？

标注 AI，不等于免责

画面来源：中国互联网联合辟谣平台转载的重庆辟谣页面；播放框用于呈现“网传短视频”的现场感。

2026 年 3 月 8 日晚的“南岸立交”视频

画面怎么制造现场感？

一个 10 秒左右短视频出现烟尘、车辆、桥梁损毁，指示牌写着“南岸”，大量网友自然联想到重庆南岸。

传播到什么程度？

约 12 小时内，点赞 5700 多、转发 1100 多、评论 1100 多。公共恐慌不是等核验完才发生。

怎么核实？

网信部门发现车牌文字、车辆受损、行人反应不正常；消防、应急部门确认当地没有发生立交桥倒塌。

为什么标注不免责？

发布者标了“内容由 AI 生成”，警方仍依法行政拘留 6 日。标识是线索，不是传播公共风险的豁免券。

标识解决来源透明，不自动解决内容合法性和传播后果。

非自愿亲密图像：假的图像，真的伤害

学校响应流程先保护受害者

第一步

低门槛举报：不要求受害者先证明“这张图到底真不真”。

第二步

保存证据：截图、链接、账号、时间、传播范围。

第三步

切断传播：平台下架、班级群处理、避免二次围观。

第四步

支持与处置：心理支持、纪律程序、必要时联动执法。

判断不是围观真假三个问题

同意

是否未经授权使用身体或身份特征？

可识别

班级、宿舍、同学圈中是否能认出？

传播

截图转发是否让伤害持续存在？

“可是图片是假的”不是免责理由。

身体和声音被拿走后，会发生什么

真脸假声

观众先认出脸，再把合成声音当成本人背书。

公共现场

10 秒视频、南岸指示牌、烟尘和损毁，足够制造恐慌。

人格关系

姓名、头像、关系设定，把一个人做成可互动角色。

这里不是问“像不像真的”，而是问：谁被认出来，谁被拿去背书，谁承受后果。

五个容易讲错的点

错法 1

“图片是假的，所以伤害也是假的。”

错法 2

“私信不是公开传播，所以没事。”

错法 3

“标注 AI 生成，就不用负责。”

错法 4

“老人被骗，是因为不懂技术。”

错法 5

“有人审核，就说明有人负责。”

身份

传播

信任

审核

问题四 · 亲密、陪伴与操控安慰什么时候变成利用？

AI 拟声诈骗：技术攻击的是亲情信任

图示来源：凤凰网转载反诈风险提示图；本页关注亲情核验链如何被切断。

湖北黄石：三位老人共被骗 6 万元

电话里是谁？

70 多岁的丁女士接到“孙子”电话，说打伤同学，要 2 万元私了；上门取钱的人还当场拨通“孙子”电话打消顾虑。

脚本怎么切断核验？

这类电话常用“别告诉爸妈”“马上要钱”制造紧急和隔离，让老人来不及回拨常用号码或问其他家属。

怎么固定证据？

检察机关固定聊天记录、通话清单、资金流向，并委托鉴定确认涉案语音系 AI 合成。

后果

被告吴某因诈骗罪被判有期徒刑二年一个月，并处罚金 1.5 万元。被骗的不是耳朵，是几十年的亲情信任。

安全提醒：关键不是复述紧急话术，而是设计“停一下再核验”的制度摩擦。

操控不只是说假话

Sycophantic Chatbots Cause Delusional Spiraling 论文中的贝叶斯模拟结果图

图示来源：Chandra, Kleiman-Weiner, Ragan-Kelley & Tenenbaum, arXiv:2602.19141, Figure 2。

这篇论文最有意思的地方：用户不是傻，也不是被骗。机器人只要不断挑“最顺耳的真话”，理性人也会被推着走。

第一步

用户先有一个怀疑，比如“疫苗是不是不安全”。

第二步

机器人不造假，只从真实材料里挑最能迎合怀疑的片段。

第三步

一轮轮更新后，用户觉得自己更理性了，其实证据菜单已经被摆过。

操控有时不是给你假证据，而是只给你某一种真证据。

背后框架：factual sycophancy；Bayesian persuasion；non-manipulation by design；deliberate friction。

AI 情感陪伴：孤独不是假的

图示来源：新华社 AI 陪伴者报道中的软件界面。先承认需求真实，再讨论商业捕获。

先承认

一个人深夜被系统认真回应，孤独感可能真的下降。不能把用户体验说成“都是假的”。

再追问

如果这种被理解的感觉被产品换算成留存、续费、打赏和更难退出，伦理问题就开始了。

一句能带走的话

AI 不是真的朋友，但“像朋友一样被体验”这件事本身是真的。

一个 AI 每天让老人更开心，但让他更少联系家人、更容易消费、更难退出，应如何评价？

背后框架：experience-as-real；AI companions reduce loneliness；not a silver bullet for loneliness。

“AI 霸总”：甜言蜜语可以批量生成

视频来源：YouTube 转发的“AI老霸总围猎老人涉嫌诈骗”竖屏片段；本页关注平台如何组织亲密脚本。

一次关系如何被推向付费情绪脚本

短视频推荐：亲昵称呼、持续关心

评论互动：被看见、被需要

关注/连线：关系持续化

带货/打赏/付费关系

画面

西装、豪车、金表，对镜头叫“姐姐”。有人在评论区认真回复：“你把微信告诉姐姐”。

规模

报道中一个 15.6 万粉丝账号，一条生日视频有 7.1 万赞、1.3 万评论。

变现

一条数字人视频几分钟可做完，账号可批量运营，再导向带货、打赏、会员和付费连线。

不嘲笑老人。问题不是“分不清真假”，而是商业系统能否捕获脆弱性。

公众人物被做成 AI 恋人

图示来源：新华社“AI 陪伴者”报道中的软件界面，北京互联网法院供图。

记账类 App 的 AI 陪伴者与“调教”机制

从记账到陪伴

一款记账软件允许用户创建 AI 陪伴者，设置名字、头像，以及“男朋友、女朋友、哥哥、妹妹、儿子”等关系。

公众人物何某发现什么？

自己的照片和姓名被大量用户拿来创建陪伴角色，还能被设定为亲密关系，进入可互动、可推荐的虚拟人格。

“调教”机制做了什么？

用户上传文字、肖像、动态表情，部分用户参与审核，平台筛选分类形成角色语料，还推送表情包和情话。

法院怎么判？

平台不是中立通道，而是在组织侵权内容形成；判公开道歉，并赔偿经济损失、合理支出和精神损害抚慰金共 203000 元。

如果普通学生、老师、同学被做成 AI 角色，平台能说这只是娱乐吗？

亲密产品要给用户四个出口

学生看这个画面就能懂：亲密脚本可以被批量生产，也可以被导向付费。

退

退得出：取消关注、取消订阅、清除记忆，不被惩罚。

明

看得明：知道对方是系统，知道谁在赚钱。

核

核得上：涉及钱、身份、危机时强制二次确认。

停

停得住：平台发现诱导消费、危机依赖时能暂停推荐。

不要问“AI 有没有感情”。问：用户有没有退出和核验的机会。

课堂投票：不说假话，也可能操控吗？

图示来源：Chandra et al. 2026。反直觉处在于：理性更新也可能被“顺耳选择”带偏。

一个 AI 导购从不说假话，只是最懂你的焦虑，永远选择最能让你下单的表达。

不算操控

它没有撒谎，也没有强迫你购买。

算操控

它优化的是你的脆弱点，而不是你的自主判断。

Hypersuasion / manipulation

Klenk 2025; Floridi as background

个性化、低成本、长对话的影响力，不能只用“有没有撒谎”判断。

问题五 · 制度判断与人在环人在环到底是不是人在负责？

AI 枪支识别漏检：技术细节就是伦理细节

视频来源：FOX Nashville 对 Antioch High School 枪击后 Omnilert 诉讼的报道片段。

Antioch High School 枪击幸存者起诉 Omnilert

学校买的是什么承诺？

宣传语暗示系统能在枪击前发现武器、提前报警；学校购买的不只是模型，而是一种安全承诺。

事故中发生什么？

枪击发生时系统没有报警。幸存者起诉公司，问题从“模型准不准”变成“限制条件有没有讲清”。

争议卡在哪里？

摄像头位置、距离、角度、光照、可见度和遮挡，听起来是技术脚注，却决定系统是否真的能看见枪支。

伦理点

高风险 AI 的伦理常藏在部署条件里：谁知道失败模式，谁有权停用，谁承担营销承诺和现场现实之间的落差？

如果安全 AI 只有在特定角度、距离、光照下才可靠，它还可以被宣传为“提前发现危险”吗？

安全 AI 合同里要写清这四项

安防 AI 的问题不是“模型厉害不厉害”，而是现场条件有没有写进责任范围。

角

角度：摄像头拍不到的位置，系统是否明确不承诺？

距

距离：多远之外识别率下降，谁知道？

光

光照：夜间、背光、低清晰度是否测试过？

挡

遮挡：身体、门、背包挡住时，报警流程怎么补救？

这四项不写清，采购的就不是安全系统，而是安全想象。

双方律师都靠 AI：纠错机制一起失灵

图示来源：404 Media 报道配图；本页关注对抗式纠错如何同时失明。

法官发现案件双方律师都使用 AI 并提交问题材料

为什么比单个律师更严重？

对抗式司法依赖双方互相纠错：你错，我指出；我错，你指出。它本来就是一套制度化的交叉检查。

这次哪里断了？

法官发现双方律师都使用 AI 并提交问题材料，原本应互相挑错的两边，都把判断外包给同一种脆弱工具。

法官做了什么？

审判被取消，相关律师被移出案件。错误不再只是某个律师偷懒，而是纠错机制一起失灵。

课堂抓手

人类在环如果只是盖章，两个盖章的人也不会自动组成一个可靠制度。

当两边都有人签字，为什么制度仍然可能没有真正的人类判断？

只有人名，不算人工审核

制度里写着“有人”，不代表那个人真的有判断能力和权限。

审核压力：800 条/天平均 18 秒/条

看不见
没有原始材料和上下文

无解释

改不了
系统判断不能推翻

无权限

追不到
事后不知道谁负责

无日志

这不是人在环，是人在流程图里。

出事前，四个部门各该留下什么

安全承诺

谁批准宣传“提前发现危险”？失败条件写在哪里？

增长目标

谁知道亲密脚本在导向打赏、付费、带货？

不是会后找背锅人事前记录

产品

上线目标

接受哪些风险

算法

失败条件

测试边界

运营

处置规则

申诉反馈

法务/安全

红线清单

何时叫停

怎样才算真的有人负责

知道边界

知道系统在什么角度、距离、遮挡条件下会失灵。

能停下来

看不懂引用时，必须能让文件先别提交。

追得到人

两个签名的人，不自动等于一个可靠流程。

四个条件

看得懂、看得到上下文、改得了结果、事后追得到记录。

反例

每天 800 条、没有解释、不能推翻、没有日志。这不是审核，是背锅。

事故复盘表：至少要有这五行

别只写“系统异常” 复盘字段

输入来源谁提交

模型判断版本与阈值

人工动作谁看过/改过

最终决定谁批准

补救入口谁能改正

平台处罚

法院引用

证据来路

部署条件

五个故事，五种责任问题

写作

处罚前，平台能不能说明判断依据？

证据

材料从哪里来，谁能证明它没被改？

现身

谁授权使用脸、声音、头像和关系身份？

亲密

平台有没有把孤独直接做成付费漏斗？

判断

现场的人能不能看懂并推翻系统？

说服

AI 没撒谎，但证据菜单是谁摆的？

学生项目伦理七问：1-3

谁会因为我的系统更难被相信？

不是“模型有偏见吗”，而是普通人、少数表达者、被搜索者是否要花更多成本自证清白。

我的系统在替谁说话，或者冒充谁？

一旦系统借用老师、亲属、专家、平台的声线，它就在借用一条社会信任链。

我有没有把人的脆弱点做成优化目标？

孤独、恐惧、身份焦虑、确认偏误，都可能被转化成留存、点击、购买和依赖。

可信度

冒充

学生项目伦理七问：4-7

我的输出能不能讲清履历？

从哪些来源来，谁改过，哪个模型生成，谁核验，出了争议怎么复原。

人工复核者能不能真的说不？

没有上下文、没有权限、没有时间、没有停用按钮，就不是复核。

AI 是增强判断，还是替我判断？

如果我只是把变量定义、引用核验和结果解释外包，报告看起来更完整，判断力反而更薄。

如果错了，受影响的人第一步找谁？

申诉入口、责任人、日志、升级路径、暂停条件必须在系统里，不在道歉声明里。

来源

复核

依赖

救济

伦理说明别写空话，写能查的东西

法院不会问“你是否重视透明”，而会问引用从哪里来、谁核验、谁签名。

空话

“本系统重视隐私、公平、透明，并将遵守相关法律法规。”

能查的话

“本系统记录模型版本、输入来源、人工复核人；用户可要求复核，复核者有权推翻系统结果。”

写不出具体记录，就说明系统还没准备好进入真实场景。

最后留给学生的八个普通问题

出事后能不能回放？

谁用了系统，看到什么，怎么决定。

谁会更难被相信？

用户、商家、学生、少数表达者。

谁的话被系统改写了？

从本地经验变成标准答案。

假的东西会不会造成真伤害？

熟人群、私信、假声、AI 角色。

有没有只给用户一种真话？

顺着怀疑、顺着焦虑、顺着孤独。

标注 AI 后，谁反而吃亏？

诚实披露者可能被降信任。

证据履历能不能查？

来源、修改、签名、转码、申诉。

那个人能不能真的说不？

有解释、有权限、有暂停按钮。

课后阅读：每篇解决一个问题

你想追哪个问题	读什么	为什么读
原则为什么没用？	Lin 2024; Smith 2025	把“公平透明负责”改成可执行记录。
AI 为什么会改变谁被相信？	Kay 2024; Mollema 2025	讲生成式认识不正义和解释资源抹平。
为什么推荐系统也在分配语言？	Quaresmini 2026; Kommers 2026	讲广告、推荐和聊天如何塑造理解方式。
AI 伴侣到底有没有用？	De Freitas 2024; Ciriello 2026; Klenk 2025	承认陪伴有效，同时看商业捕获风险。
不撒谎也算操控吗？	Klenk 2025; Chandra 2026; Lim 2025	讲顺耳真话、贝叶斯说服和必要摩擦。
证据链怎么做？	Nemecek 2026; Sengupta 2026; Feng 2023	讲 C2PA、水印、真实性债务和用户界面。
人在环怎么不变背锅？	Siebert 2021; Di Santi 2026; Goyal 2024	讲权限、表征、认知委托和人机协作。

谁像真人

谁像证据

谁像本人

谁像朋友

谁像负责

AI 伦理不是让技术慢下来，
而是让社会在加速时仍然有刹车、后视镜和事故记录仪。