AIをカントの法廷へ|侵入する知能、排除する国家、香りを欲しがる身体
开庭判词:能力不等于权限 我的暂定结论是:能够侵入系统,不等于有权进入;能够预测危险,不等于有权排除一个人;能够预测偏好,也不等于有权决定欲望的意义。 上一篇专栏记录了一位年轻AI研究者谈起理想时明亮的神情。那
开庭判词:能力不等于权限
我的暂定结论是:能够侵入系统,不等于有权进入;能够预测危险,不等于有权排除一个人;能够预测偏好,也不等于有权决定欲望的意义。
上一篇专栏记录了一位年轻AI研究者谈起理想时明亮的神情。那次交谈开启了这项研究。本篇的新闻看似处于它的对立面,但我并不撤回希望,而是追问:有益于人的自主性,与侵犯人的自主性,究竟由什么条件区分?
下文赋予康德、拉康等人的台词,全部是我创作的对话,不是引文,也不是他们对当代事件的真实意见。著作解释注明出处,现代应用则是我的解读。“法庭”和“诊室”是文学场景,不代替司法裁判或对个人的诊断。
新闻入口:三则短讯
入侵: Reuters报道AI辅助的网站入侵。SharkNinja是受害企业,不是攻击者的代号;数据外流范围尚不明确。(R1)
移民: 美国最高法院就艾奥瓦案征求联邦政府意见,尚非实体判决或受理决定。(R2、L1)
香水: 企业正研究GLP-1使用与香味偏好的关系,因果结论尚早。(R3)
这是三个不同事件。我将它们分别作为行动、治理与感觉的研究入口。
第一幕 康德的法庭:“AI干的”能让谁免责?
将观察与结论分开
NorForge的公开调查介绍了通过暴露的Cairn操作界面观察到的疑似恶意活动。这是可观察案例的报告,并非测量所有智能体或攻击者能力的对照实验。(C1)
人的操作减少,不代表人的目的消失。谁选择目标、授予权限、接收结果,又允许行动继续?我会沿着这些环节追踪责任。只把AI称为工具也不够:部署能够持续行动的系统,就必须规定它可以继续到哪里。
借用康德的尺度
《道德形而上学奠基》第二章中的普遍化与人性公式提供了入口。未经同意,把别人的工作和生活基础变成自己的获利材料,难道只应被评价为技术成功吗?(K1)
创作对话——康德:“问题不是你进入得多巧妙,而是你凭什么原则,认为他人的自由只需服务于你的利益。”
我:“如果交给AI呢?”
本剧康德:“把命令翻译成机器指令,难道就抹去了发令者的原则?”
这里没有判刑。我的伦理判断,是拒绝以未经授权的入侵单方面利用他人。经许可的安全测试与非法入侵,即使用相似技术,也不是同一种行为。
同样的认真也适用于善意研究。我依然感谢上一篇里那位研究者的热情。但要将希望变成系统,需要许可、访问边界、停止条件,以及向可能承受后果的人说明。善意不能代替实现这些条件的工作。
幕间:丑角桑塔格〔创作〕:“这简直是服务器上的越界美学。”
我:“先谈伤害和权限。美学等日志保全之后再来。”
第二幕 借用忍者之名前:伊贺、抵抗与责任
本章并不认定报道中的攻击者自称忍者。SharkNinja是受害企业。纠正这一点后,我仍要反对借“忍者”之名美化入侵的想象。讨论的是行为,不是国籍。
伊贺方面在1579年击退织田信雄的进攻,1581年则在规模更大的织田军攻势下失去抵抗能力。地方历史介绍记录了战争与深重的居民损失。但我不把兵力、死者估计写成定论,也不把全部居民都叫作忍者。(H1)
若谈一个人的最后,地方传承记载伊贺武士泷三河保义在第一次战事中阵亡,弟弟后来为纪念他而建立泷仙寺。这是观光协会介绍的地方传承,并非细节全部经同时代史料独立证实的传记。(H3)
我读到的不是壮烈死法的竞赛,而是战后仍有一个弟弟哀悼兄长的时间。只计算攻击成功次数的叙述,会把这些生活的余绪抹去。
三重大学的讲座讨论《万川集海》要求执行者具备的“正心”,也指出忠诚曾为类似盗贼的手段提供正当化。不能把历史忍者涂改成一群毫无例外的现代人权倡导者。(H2)
因此,以下是我选择在当代引申的伦理:追问侦察的目的,记住保护对象,不随意出卖受托秘密,知道何时撤退。比起华丽的破坏,我更重视不造成不必要损害地带回信息、减少下一次伤害的工作。
伊贺死者也不应成为威胁当代违法者的道具。若要借用忍者之名,就应问清行动伴随的责任,而不是只炫耀进入的技巧。
第三幕 把边境交给AI,会更公平吗?
艾奥瓦案件实际在问什么
最高法院26-49号官方案卷记载,2026年10月19日邀请联邦诉讼总长提交意见。现实争点涉及州移民执法与联邦权限等,并非是否任用AI法官。(L1)
州方将法律解释为补充联邦执法。(R2)被申请方则主张,法律甚至涵盖过去曾被遣返、后来获联邦许可合法返回的永久居民。这是当事方书面主张,不是我另作的事实认定。(L2)旧记录与当前权利的区别,正是它与AI研究的接点。
下面是未来情景。AI可能核查当前法律身份,发现记录矛盾,向工作人员提供有理由的提醒;也可能把人固定在旧记录里,忽视当前处境。二者都能被包装成“效率”,但一个可能帮助救济,另一个加速排除。
我区分三层:整理材料、推荐判断、自动执行拘留或遣返等重大措施。所需权限和错误代价逐层变化。第一层成功,不能自动成为批准第三层的理由。
“高精度”为何还不够
以下是虚构数字,不是关于任何移民群体的统计。假设十万人中,确有某种待识别危险的人为一百。系统敏感度90%、特异度99%,就会识别出90个真阳性,同时产生999个假阳性。1,089次警报中,真正符合条件的约占8.3%。
这不是证明谁危险,而是说明稀有事件中,看似漂亮的指标也可能带来大量误报。增加一次面谈与导致拘留,也有不同的人身代价。
我提出的必要条件包括:合法明确的目的、更新的记录、分群体检查错误、获知理由、能实质改变结论的人工复核、申诉、纠正与停止权限。这是制度设计建议,不是宣称某部美国法律已经要求全部项目。
在把AI立为人类裁判之前,先决定谁设目标、谁能推翻决定。对人的偏见失望,不能成为交出无限权力的理由。
第四幕 向荣格提出异议,向拉康提出问题
神话可以解释,却不能免责
荣格1936年的《沃坦》试图用神话和原型框架理解德国的集体动向。(J1)我反对的风险是:当排除和伤害被包裹成民族深层力量或原型觉醒的动人故事,谁选择了什么就不容易看见。
这不等于读神话会让人歧视,也没有证据把荣格读者一概认定为排外者。若我用群体标签固定人的政治性质,就亲手破坏了自己的批评。
我的异议针对方法。在借原型获得“已经理解人”的满足之前,先检查文件、命令、资金、逮捕和救济。讲述历史与确定责任是不同工作。
将拉康的镜子也转向排除者
镜像阶段为思考人对完整自我形象的认同及其异化提供了线索。(LA1)我借此考察对纯粹、一体化“我们”的执着。这是对政治自我形象的解读,不是给选民或移民执法支持者下临床诊断。
创作对话——拉康:“你要保护的那个完美‘我们’在哪里?你以为抹掉谁,就能让那个形象完整?”
我:“AI至少能给坚定的答案吧?”
本剧拉康:“那么,你是否把完整性的形象移到了机器身上?”
问题是人寄托于AI的愿望:一个完美智能,替我们了结不愿承担的冲突。算法写出建议,也不会消除接纳条件与共同体成员资格的政治责任。
第五幕 萨克斯的诊室:感受确凿,不等于外界证据
本篇提及的是奥利弗·萨克斯的《Hallucinations》,日文版题为《見てしまう人びと――幻覚の脳科学》,文库版调整了主副标题顺序。(S2)
萨克斯介绍的查尔斯·邦内综合征中,视力损伤可能伴随鲜明视觉体验。(S1)幻肢痛则是在失去的肢体上感到疼痛。(S3)外界没有对应对象,不意味着体验和痛苦是伪造的。
创作对话——萨克斯:“认真倾听一个人的体验,与检查它对外部世界究竟证明了什么,可以同时进行。”
政治应用只是类比。担忧社会变化的人,并不因此就是神经疾病患者。恐惧可以真实,却不能单凭恐惧证明某种出身的人具有危险性。共情与检验并不竞争。
AI还需要另一个区分。人的幻觉涉及知觉体验。将生成模型的错误输出称作“幻觉”,不能证明模型有相同主观感受。若声称实现了人的认知,必须提供类似对话表现之外的证据。
因此我提出两项承诺:不粗暴抹去人的诉说,也不凭诉说本身就授权对他人的强制措施。同时尊重体验和权利。
幕间:丑角桑塔格〔创作〕:“国家会有失去纯洁性的幻肢吗?”
我:“作为比喻可以谈,不能当神经学诊断。”
第六幕 香水工坊:匠人的鼻子,还是数据中心?
先决定比赛项目
生成候选配方、制作试样、预测偏好、把香水带进个人生活,是四项不同活动。一次问谁全部获胜,问题就太宽。
Givaudan在2019年发布AI辅助工具Carto,定位为帮助调香师创作与试验。(P1)不能预设有匠人的领域AI就进不去;但企业公告也不能证明机器优于人。
我会这样检验:候选生成看约束满足和新颖性;试样看时间、成本与可重复性;偏好预测在未用于训练的人群和时间段上测试;审美评价同时比较盲测与带有文化背景的评价。选择指标,本身也包含对作品目的的理解。
福柯的提问:谁生产“理想身体”?
《主体与权力》追问人如何被塑造为主体。(F1)借此观察香水,就不能只问嗅觉性能,还要问药物、广告、健康观念和消费分类在召唤怎样的消费者。
创作对话——福柯:“谁来到食欲改变的身体面前,出售哪一种幸福?分类只是在描述人,还是在规定他下一步应该欲望什么?”
这不是否定药物疗效,也不是谴责个人使用。我要检查的是医疗走向消费时的权限与利益。参与一项研究,是否就意味着同意健康信息的所有二次用途?有益推荐与针对弱点的操纵,界限在哪里?
维特根斯坦的提问:“喜欢”在这里做什么?
《哲学研究》的语言游戏和使用视角,让香味描述回到实际运用场景。(W1)
创作对话——维特根斯坦:“你说‘蛋糕的香味’,是在报告原料、回忆童年,还是向店员表达偏好?先看这句话工作的场景。”
同一种香味,有人说甜,有人说沉重,有人说想家。挑选唯一正确标签,与容纳这些差异来创作,不是同一任务。分类精度高,也不能自动让AI成为别人记忆的正当解释者。
不把直觉、第六感和灵性装进一个袋子
专家难以立刻说明理由,不代表直觉没有依据。Kahneman与Klein强调环境中可预测的规律,以及学习这些规律的机会。(I1)
我尊重匠人的“哪里不对”和侦探的疑虑,作为提出假设的入口。随后应记录失败与成功,隐藏偏见线索进行比较。侦查线索与足以定罪的证据,仍应区分。
同样,灵性体验的意义与预测未知事实的能力是两类主张。若比较后者与AI,就要事先确定目标、防止信息泄漏、统一计分并重复检验。这三则新闻并未验证这种能力的高下。
数据中心也不是判断者的名字,而是计算基础设施。什么模型、输入、目标和限制,为谁预测什么?不说明这些,就让人的直觉与一栋建筑比赛,不能算研究。
第七幕 我笔下的丑角,也可以提出有效反驳
本剧让桑塔格角色说了几句过度拔高的话。这种角色安排属于文学演出,不是在说明她的生平。这里批评的对象是文章与解释方法。
《反对阐释》批评把表象推开、执意挖出唯一隐藏意义的阅读。(SO1)若本篇也急着用一个宏大解释,将香水、国境一网打尽,那么它同样应接受这种批评。
丑角桑塔格〔创作〕:“还没闻到香水,三位哲学家就已经下班了吗?”
我:“这回说得有理。”
不喜欢的论者也可能批评得对,喜欢的论者也可能越界。发表研究,就不能丢掉这种不便。
结语 在与AI开战之前,先建立不外包判断责任的制度
AI帮助阻止人的排除,在逻辑上可以设想:发现记录矛盾,或提醒工作人员注意侵权风险。但不能因此推导出“人很愚蠢,所以机器应该审判所有人”。大规模执行人的指令,也可能使排除更高效。
与AI开战并非必然。眼前任务是决定由谁自动化什么,以及什么必须保持可质疑。人应保留纠正空间,把少数者权利与多数偏好分开,并承担被成功指标排除在外的损失。
充满希望的研究者与放大恶意的智能体,存在于同一时代。“AI是善还是恶”无法充分解释差别。必须检查目的、权限、检验、纠正与责任。
借忍者之名前,先说明保护什么;自称智能之前,先说明判断如何纠正;若说为了人类,就别擅自把任何人从人类中抹去。
后续核验
网络攻击中区分入侵、数据外流与营业损失;司法中区分征求意见、受理与实体判决;香味研究中区分商业假设与独立检验。结论随证据更新。