RezeのBlog
← 返回文章列表

人是目的这条禁令,今天卡在哪

2023.10.10读书1777 字参考 3

康德在《道德形而上学奠基》里留过一条禁令,写法很硬:要把人任何时候都同时当作目的,绝不仅仅用做手段来使用。中国社会科学网一篇谈限度的文章把这句完整引了出来,连绝不仅仅四个字都在。禁令写在十八世纪的书斋里,管的是一个人对另一个人该怎么行事。今天要问的是它落在什么装置上。

最容易写成的一句是,算法把人当成了手段。这句话省掉了中间所有环节。派单系统、评分系统、自动筛选简历的程序,各有各的目标函数,没有哪一行写着把人当手段。它们写的是响应速度、履约率、匹配度,全是能算的数。禁令要拦的东西,从来不以禁令禁止的样子出现。

得替这些系统说一句。没有谁存心把人当手段。派单要顾及等餐的人,评分要护住后来下单的人,筛选要替招聘方省下时间,每一条都能讲出正当理由。辽宁大学哲学院二〇二六年那场讲座里,韩水法把人工智能时代的追问收回人是什么与理性是什么,问的也是这一层:理性越会算,越不觉得自己在亏待谁。

你要如此行动,即无论是对自己还是对别人,在任何时候都同时当作目的,绝不仅仅用做手段来使用。

康德《道德形而上学奠基》目的公式,据中国社会科学网引文

主体先分开。写禁令的人面对的是一个有脸的对象,系统面对的是一行记录。骑手在派单页上是一个可分配的编号,求职者在筛选环节是一组可比较的字段,乘客在评分表里是一个待确认的数字。编号、字段、数字都不算错,它们是系统能运转的前提。问题在于,禁令原本要求认出的那个人,恰好不在这些形状里。

时间口径也得记。禁令写于一七八五年,装置铺开是这两年的事,中间隔着两百多年。两百多年里,做事的规模变了:一个人一天能处置的决定,从几十个变成几百万个。规模一大,逐一相认就做不到了,只能改成按规则批量处置。禁令没变,能执行它的方式变了。

空间上是另一层。书斋里的双方可以面对面,系统里的双方隔着好几层:定规则的人不跑单,跑单的人见不到定规则的人,中间还有一层负责调参数。把人当目的这件事,需要有人能看见对方的处境;三层隔开之后,每一层都只看得见自己那一格。中国社会科学网另一篇文章把工具理性扩张会侵蚀价值理性写成一种趋势,趋势就落在这些隔开的地方。

度量这一栏最要紧。目的没法验收,指标能验收。响应时间可以压到几分钟,履约率可以压到小数点后两位,匹配度可以画成一条曲线。一个组织要证明自己做事公道,拿得出手的只能是指标。禁令要求的是把对方当成不可替换的那一个,指标要求的是把这个人换成谁都能算。两套要求放在一起,能写进考核的只有后一套。

还有一层常被略过:被评分的人也在学着按指标行动。评分表怎么写,跑单的人就怎么绕路,求职的人就怎么改简历,下单的人就怎么措辞。禁令要人把对方当作一个完整的人,指标却教会了每个人把自己做成更易通过的形状。两边都在适应同一张表,谁都没有恶意,表却越收越紧。

制度上也有可查的落点。近年关于工具理性与价值理性的讨论里,技术只是手段、人才是目的这句话被反复提起,可它没有附上一条能写进系统的约束。讲道理的文章归讲道理,派单规则归派单规则,两套文本各说各的。禁令要从一套文本走到另一套,中间得有人专门做一次翻译,而这件事没有归口。

最强的一句得留给设计者。有人会说,把人当目的听着好,落到系统里没有可执行的步骤,硬写进去只会变成一句贴在墙上的口号。这话站得住一半。一条禁令本来就不负责给工程排期,它负责划出一条不许越过的线。留出余地的是另一半:不能验收,与不必理会,中间差着整整一套制度设计。

风险于是堆在翻译那一环。禁令要被系统接住,得先被翻成一条能写进规则的约束,比如留出申诉的入口、允许人拒绝一次判定、给异常情形留一个不自动处理的格。这几样都不好看,也不提高任何一项指标。它们只是让编号后面那个人,有一次被单独看见的机会。

文献里那条禁令至今没有改字。变的只是它要穿过的东西:从两个人之间的一段距离,变成一整套按指标运转的流程。今天卡住的地方,不在条文,也不在某个人身上,卡在把目的翻成规则的那一步上。翻不过去,禁令就一直停在书上。

参考