拘灵遣将:把北外李长栓教授“拒”到 AI 里

最近在读李长栓老师的《非文学翻译理论与实践》,收获颇丰。书中系统梳理了多种翻译方法和常见疏漏,其中尤以“反复求证”的理念令我深以为然。反观我自己的翻译流程——手译初稿、AI批改、人工求证、最终润色——不难发现,一方面,部分环节受限于译者自身的能力边界;另一方面,若AI能内嵌联网查询功能并实现自动查证,其效率无疑远胜于人工逐一检索。

基于此,我尝试将书中的原则提炼为 AI 可识别的 Markdown 指令,并在翻译时要求模型严格遵循。实测效果整体令人满意,但也暴露出若干待改进之处:

第一,当前指令仅依托李老师的一家之言,其他重要译论和注意事项尚未纳入;

第二,该指令基于《非文学》2012年版本,而2022年新版内容更为丰富,未能充分利用;

第三,单一AI模型的联网检索范围有限,仅能抓取部分公开网页,对于行业文献、权威词典等深度资源则覆盖不足。

这些问题,将是下一步优化的方向。

————————————————————

方法一:
点击该链接直接使用 Deepseek 翻译
https://chat.deepseek.com/share/mhvhawylbf9hqh87eu

方法二:
下载 Markdown 文件,自行上传至 AI 里,并输入:

你现在是一名精通非文学翻译的专家,请严格遵循上述《DeepSeek 非文学翻译指令》执行。遇到任何专业术语,务必先使用联网搜索功能查证权威来源,再下笔翻译。如果你已理解所有要求,请回复‘已就绪,请发送待翻译文本’

Translation_Guide_for_AI.md.txt (3.4 KB)需要自行删除后缀".txt"

————————————————————

翻译案例:https://mp.weixin.qq.com/s/fSXGd6qphJqNpsivwZG_3A

CHAPTER 01

01引言INTRODUCTION · 从自主系统到协作律令

Behymer 与 Flach 在论文《从自主系统到社会技术系统:设计有效协作》中主张,应将“人与技术的能力无缝整合为一个运转良好的社会技术系统”。这一呼吁的驱动力在于,更好的人机合作有望提升一系列合意行动的有效性。同时,作者也出于对长期忽视这一问题的担忧——他们指出,当前对系统的“优化”过于侧重“各自独立的人类与自主组件”,而“将界面和团队流程的设计当作事后才考虑的事情”。

倘若这一呼吁得到重视,将促成对人与技术联结这一议题的新的关注议程,从而丰富他们所谓“社会技术系统”的可能性。然而同样重要的是,作者不仅指出了当前人机工作关系中的某种缺失,更暗示将技术与人类支持相分离——即所谓的“完全自主”——在某种程度上是一种空想,因为尽管技术确实可以实现自动化,但其本质决定了它无法应对足以使其在一切情境中良好运转的全部经验范畴:

他们认为:“无论设计多么精心,所有自动化控制系统最终都会面临设计时未曾预料到的情况。因此,到了某个时刻,这些系统的人类操作员将被要求完成设计。换言之,人类操作员需要介入,以创造性地应对自动化系统设计者未能预见的必要多样性。”

基于此,人机团队的流程与界面绝不能被视为事后之虑,而必须得到专门关注。

CHAPTER 02

02自主性挑战的紧迫语境CONTEXT · 致命性自主武器与设计缺口

在此,我想——尽管篇幅有限——将 Behymer 与 Flach 所观察到的问题置于更广阔的语境中,从而为他们对这一议题的深入议程呼吁提供支持,并表明不仅自动化控制系统最终会面临这些复杂情境,人类同样也会。而且,我们将永远如此。

在撰写本文的当下,国际社会正围绕致命性自主武器议题进行着一场复杂而紧迫的讨论。推动这一讨论的平台包括《特定常规武器公约》(CCW)及致命性自主武器系统(LAWS)专家会议,相关信息可通过联合国裁军事务厅以及我曾工作近十年的联合国裁军研究所轻松获取。

这一关于自主性挑战的视角,将关于人们需要“创造性地应对……必要多样性”这一技术性但道德上平淡的观察,赋予了问题性——并提升了其紧迫性。如果武器系统的设计者赋予其致命行动的能力,但由于其所需经验的范围和多样性永远超出设计参数,最终无法被信赖以自主方式行动——同时,与人协作的团队流程受到阻碍且被视为事后之虑——那么我们就面临一个严重的问题。

……

本次翻译仍采用纯 AI 翻译方式。

在术语处理上,新增了新华社出版的《世界人名翻译大辞典》和《世界地名翻译大辞典》作为本地术语库。由于 DeepSeek 网页版对上传文件大小存在限制,即便将上述辞典压缩至32MB,仍因文本过长而仅能加载约25%。因此,本次翻译改用 Gemini 作为翻译模型。一般认为,Gemini 在网页对话翻译场景中的表现优于 DeepSeek;加载新工作流后,翻译优势应该更明显。

另一方面,让 AI 翻译完成后,自主总结查证的术语列表,也方便读者后续学习。更甚者,可以通过其他指令给译文添加小标题或是可视化笔记(如本文第5节),真正使“AI 辅助翻译”升级为“AI 辅助学习”。

后续计划编写 Python 脚本,通过调用 DeepSeek API 来实现翻译。这一方式将放宽对本地参考文件的限制,同时也可加载更多术语库资源。远期考虑搭建线上术语库,以进一步突破使用限制。

————————————————————

翻译案例:https://mp.weixin.qq.com/s/WQRma-_ZrkFS5RjRY7TJQg

CHAPTER 01

01引言:协作的愿景INTRODUCTION · 人机关系的重新审视

在《从自主系统到社会技术系统:设计高效的协作》(From Autonomous to Sociotechnical Systems: Designing Effective Collaborations)一文中,凯尔·J. 贝希默(Kyle J. Behymer)和约翰·M. 弗拉赫(John M. Flach)提醒我们:“设计的终极目标是将人类与技术的能力无缝整合,从而构建一个运转良好的社会技术系统。”近期的技术趋势——例如传感器革命、大数据、机器学习和智能体——使得这一提醒显得尤为及时。

然而,“无缝整合”这一理念在设计和计算机的探讨语境中由来已久。建筑师克里斯托弗·亚历山大(Christopher Alexander)就曾将“适配性”(fitness)作为其首部著作的核心概念。人机交互先驱道格拉斯·C. 恩格尔巴特(Douglas C. Engelbart)毕生致力于“增强人类智力”,他将其描述为:“在一个整合的领域中,直觉、试错、无形因素以及人类对‘情境的感知’,能与强大的概念、精简的术语和符号、复杂的方法以及高性能电子辅助设备有效共存,从而提高人类应对复杂问题情境、获取满足自身需求的理解力,并得出问题解决方案的能力。”此外,计算机先驱 J.C.R. 利克莱德(J.C.R. Licklider)曾撰文论述“人机共生”(man-computer symbiosis),将其描述为“人类与电子计算机之间的合作互动”。而建筑师尼古拉斯·尼葛洛庞帝(Nicholas Negroponte)也探讨了制造能够与设计师协作的机器的可能性,他指出:“这种伙伴关系并非主仆关系,而是两位都具有自我完善潜力和愿望的同侪关系。”

尼葛洛庞帝在此做出了一个关键的区分:主人对奴隶的“控制”与同事之间的“协作”有着本质区别。前者具有剥削性,后者则具有生成性(generative)。从历史上看,关于人机界面的大多数讨论都局限于控制回路(control loops),将机器视为奴隶。但令人着迷的是,早在50多年前,利克莱德和恩格尔巴特就设想了一种替代性的、更具人性化的关系——人与机器的协作。

CHAPTER 02

02模型概述:贝希默与弗拉赫的框架MODEL · 行动者、通信与棘手问题

贝希默和弗拉赫在协作理念的基础上,提出了一个由行动者或“智能体”(agents)组成的模型,这些智能体既包括人类,也包括“自动机”(automaton)。在该模型中,每个智能体都是一个简单控制回路的一部分,其传感器(“感知”)和执行器(“控制”)的数据流贯穿于一个“棘手问题领域”(Wicked Problem Domain)之中。这种简单的控制回路是对设计过程的一种实用近似,最早于20世纪60年代中期提出。贝希默和弗拉赫不仅引入了多个行动者以及他们之间的通信(communications),还指出,行动者之间的通信质量决定了整个系统的感知和控制质量——借助“丰富”的通信,系统整体的效能将超越各部分之和。

这个模型很有参考价值。然而,我们想提出四个有待商榷的问题。

……

李长栓老师著作、指令文件、人名地名词典

参考Sherman兄的思路尝试了下,使用专业书籍提炼的skills确实有帮助。

Skills

非文学翻译实战技能

基于李长栓《非文学翻译理论与实践》三大准则与核心方法论,为非文学汉英翻译提供系统化指导。

核心原则

翻译不是逐字转换,而是有目的的跨语言沟通活动。非文学翻译遵循三大准则,优先级递进:

  1. 方法得当:根据翻译目的、读者、场合选择策略
  2. 意思准确:忠实于客观事实,而非忠实于字面
  3. 语言朴实:简明即专业,翻译即写作

工作流程

第一步:策略判断(方法得当)

翻译前必须先明确:

  • 谁读:译文读者是谁?专业背景如何?
  • 何用:翻译目的是什么?信息传递?法律约束?对外宣传?
  • 何地:在什么场合使用?正式文件?网页?口头?

根据以上判断选择策略:

  • 法律/合同:逐字忠实,术语精确,不可擅自改写
  • 技术/手册:准确简明,术语统一,操作步骤清晰
  • 新闻/宣传:可适度改写,突出核心信息,适应目标文化
  • 公文/报告:保留正式感但去除冗余,逻辑清晰

原文有缺陷时:如果原文逻辑不清、表达冗余或存在错误,译者有权在译文中改进,但需标注改动原因。

第二步:理解与翻译(意思准确)

翻译时必须做到:

  1. 透过文字理解事实:不要翻译字面,要翻译字面背后的客观现实

    • 例:“从农业人口中选举出的全国人大代表所代表的人口数则8倍于” → 实际意思是"一个农业人口代表所代表的选民数是非农业人口代表的8倍",需补出"一个"
  2. 数字与逻辑自洽

    • 所有数字前后必须一致
    • 因果关系必须成立
    • 发现矛盾时:先推定自己理解有误→查资料→确认是否原文问题
  3. 消除歧义:一句话如果有两种理解,必须通过调整表达消除歧义

    • 例:“甲方有权收回房屋或续签” → 歧义:是"二选一"还是"两种权利都有"?需明确
  4. 显化隐含信息:源语文化中不言自明的内容,目的语读者可能不懂,需要补充

    • 例:“抗诉制度” → 翻译为 the protest mechanism,加注 “i.e., appeal by the prosecutor”
  5. 发现原文错误时:视情况纠正或指出,不要照搬错误

    • 例:原文数据矛盾 → 在译文中纠正并标注

第三步:译文减肥(语言朴实)

翻译完成后必须做"减肥"检查,这是汉译英最关键的质量提升步骤:

3.1 名词化动词还原

把藏在名词里的动作还原为动词,让"谁做了什么"浮现出来:

冗余表达 简明表达
make a determination determine
give consideration to consider
come to a conclusion conclude
make an adjustment adjust
conduct an investigation investigate
perform an analysis analyze

3.2 主动语态优先

冗余表达 简明表达
It is required that you submit… You must submit…
The material will be delivered. The courier will deliver the material.
A determination was made… We determined…

被动语态仅用于:(1) 信息流动需要(旧信息在前、新信息在后);(2) 施动者不重要或未知;(3) 段落主题需要。

3.3 去除冗余

  • 同义词对只留一个:each and every → each; full and complete → complete
  • 冗余修饰语删除:end result → result; future plans → plans; free gift → gift; past history → history
  • 范畴词删除:pink in color → pink; time period → time; small in size → small
  • 慢启动句子直接切入:It should be noted that… → [直接说]; The point I am trying to make is that… → [直接说]

3.4 活用英语曲折变化

  • 汉语"现在/过去/未来/已经"等时间词 → 英语用动词时态表达,不再另加时间副词
    • “未来经济发展” → Economic development will…(不用 in the future)
    • “目前已经完成” → has been completed(不用 currently already)

3.5 信息流动优化

  • 旧信息在前,新信息在后:已知信息放句首引出,新信息放句末强调
  • 句子首尾衔接:前句末尾的关键词,应在后句开头出现(直接重复或代词照应)
  • 自然重心在句末:需要强调的内容放在句子结尾

第四步:核心句分析法(处理复杂句)

遇到读不懂、翻不动的复杂句,使用核心句拆解:

  1. 找出所有动作词(包括名词化的动词:determination→determine, allocation→allocate)
  2. 为每个动作找施动者:谁做的?(如果原文没说,根据逻辑和常识补充)
  3. 写成简单核心句:主语 + 动词 + 宾语,每个核心句一个动作
  4. 按逻辑排列:因果、条件、时间顺序
  5. 重组为简明句:合并核心句为连贯的英语句子

示例:

“The closure of the branch and the transfer of its business constituted an unfair labor practice because the purpose of obtaining an economic benefit by means of discouraging unionization motivated the closure and transfer.”

拆解:

  • (The partners) closed the branch.
  • (The partners) transferred its business.
  • (The partners) discouraged unionization.
  • (The partners) obtained economic benefits.
  • This was an unfair labor practice.

重组:“To discourage unionization and thereby obtain an economic benefit, the partners closed the branch and transferred its business. This is an unfair labor practice.”

第五步:批判性审校

译完后对译文做"逻辑压力测试":

  1. 数字验算:译文中的数据能否互相推导?有无矛盾?
  2. 常识检验:译文描述的事实是否符合常识?(如:1940年华沙有地铁吗?)
  3. 代词指代:this/they/it 指代清楚吗?有无歧义?
  4. 逻辑连贯:段落之间、句子之间的因果和转折关系是否成立?
  5. 读者视角:如果我对这个领域一无所知,这段话说得通吗?

特殊场景处理

法律翻译

  • 情态动词精确使用:shall(义务)、may(权利)、must(强制)、should(建议)不可混淆
  • "的"字结构:法律条文中"……的"翻译为 Whoever/Any person who/Where…
  • 避免名词串:不用 information management system development project,改用 project for developing an information management system
  • 术语一致性:同一法律文本中同一概念必须使用同一译法

外宣翻译

  • 删减浮夸修辞:中文宣传稿中的比喻、排比、夸张可适当删减
  • 补充背景信息:中文读者自明的内容,外国读者可能完全不懂
  • 改写而非直译:外宣翻译目的是让外国读者理解,不是展示中文修辞

隐喻/俗语翻译

  1. 优先直译(如果目标语言读者能理解)
  2. 直译+解释(如果隐喻重要且不易理解)
  3. 用目标语言中的等价表达替换
  4. 意译(只传达基本意思,放弃修辞效果)

输出规范

翻译或审校时,输出格式如下:

翻译输出

## 译文
[翻译结果]

## 翻译说明
- **策略选择**:[说明选择何种翻译策略及原因]
- **关键调整**:[列出与字面翻译不同的主要调整,如显化隐含信息、消除歧义、改写冗余等]
- **待确认项**:[如有不确定之处,列出供用户确认]

审校输出

## 审校结果
- **问题数量**:[N处]
- **问题分类**:臃肿[N处] / 歧义[N处] / 逻辑矛盾[N处] / 术语不一致[N处] / 其他[N处]

## 修改对照
| 原文/原译 | 修改后 | 修改原因 |
|-----------|--------|----------|
| ... | ... | [原因] |

## 总体评价
[对译文整体质量的简要评价和改进建议]

边界说明

  • 本技能专注于非文学翻译(法律、技术、新闻、公文、商业等),不适用于文学翻译(小说、诗歌等)
  • 翻译方向以汉译英为主,英译汉时可参考"意思准确"和"批判性审校"原则
  • 术语翻译建议用户结合具体领域的专业词典和语料库验证
  • 法律翻译涉及专业判断时,建议用户咨询专业律师
未使用skills的简单doubao翻译结果

技术社会系统中的价值多元主义与协作必然要求

德里克・B・米勒

美国萨尔维里贾纳大学政策实验室 ®、佩尔国际关系与公共政策研究中心

贝海默与弗拉奇在其论文《从自主系统到技术社会系统:设计高效协作机制》中提出核心观点:应将人类能力与技术能力无缝融合,构建运转良好的技术社会系统。该主张的出发点在于,人机深度协同能够大幅提升各类正向事务的执行效能。两位学者同时对当下行业普遍存在的认知偏差深感忧虑:现有研究过度聚焦人类独立模块与自动化模块各自的性能优化,却将人机交互界面、团队协作流程的设计视作事后补充环节。

倘若学界与业界正视这一主张,各界将重新确立研究重心,着力探究人机交互核心关联,进一步拓展技术社会系统的发展空间。但需要重点厘清的是,两位作者并非仅指出当前人机协作模式存在现实短板;他们更提出,完全剥离人工介入的纯自动化、全自主模式本质上只是一种空想。原因在于,技术设备虽可实现自动化运行,但其先天局限使其无法覆盖全部现实场景,难以适配各类复杂现实体验,故而无法在所有环境下稳定高效运转。

两位学者论述道:“无论自动化控制系统的设计何等周密,最终都会遭遇设计阶段未曾预判的工况。这意味着,系统操作人员终将需要补全设计环节的缺失。换言之,操作人员必须主动介入,创造性地处理自动化系统设计者未能提前预判的复杂多元工况。”

基于上述逻辑,人机协同流程与交互界面绝不能作为收尾补充项,而必须纳入前期核心设计环节专项统筹。

本文将简要拓展两位学者的论证视角,为其完善人机协同研究框架的倡议提供理论支撑:本文将把二人观察到的行业困境置于更宏大的分析语境中,证明自动化控制系统终将遭遇复杂未知场景,人类自身同样如此,且这一状况永久存在。

本文撰写之际,国际社会正围绕致命自主武器系统展开深入且紧迫的多边讨论。相关讨论的核心平台为《特定常规武器公约》下属致命自主武器系统专家会议。相关公开资料可通过联合国裁军事务厅、联合国裁军研究所官网查阅,笔者曾在该研究所任职近十年。

从自主技术风险这一视角重新审视前文所述观点 —— 人类需创造性应对多元复杂工况,这一看似纯技术、无道德重量的论断,实则凸显了极高的现实紧迫性。若武器系统经设计具备致命攻击能力,却因现实场景、价值体验的复杂度永远超出预设参数,无法实现可靠自主作战;再加之人机协同流程被边缘化、后置处理,我们将面临极为严峻的安全危机。

面对自主系统与人工智能现存缺陷,一种普遍论调认为:该领域只是尚未攻克部分技术难题,依托持续迭代的研发速度与行业发展势头,相关短板终会被补齐。持此观点者会判定:贝海默与弗拉奇当下指出的问题虽客观存在,但技术进步终将消除各类人机协同漏洞;优化团队协作流程只是现阶段临时补救手段,仅适配当前技术发展水平,并非技术与生俱来的固有问题,无需设立独立、长期的专项研究议程。

该观点看似合乎逻辑,实则存在根本性谬误。核心矛盾不在于技术发展阶段,而在于人类的思维逻辑,以及人类创造、操控机器作为自身代理工具的底层逻辑。我们可从三方面佐证这一判断:

  1. 所有计算机程序均依托特定文化视角编写,不存在放之四海而皆准的通用程序逻辑;
  2. 任一文化体系内部,不仅存在不可预判的现实难题,更充斥各类价值冲突。若人类自身无法调和这些分歧,便不可能通过编程彻底消弭矛盾;
  3. 长期来看,依托单一文化背景搭建的系统,往往要投入跨文化场景使用,进一步削弱系统的适配性、正当性、运行效能,动摇其行动的伦理根基。

简言之,各类运行漏洞并非仅源于机器本身;自主技术失效的根源同样根植于人类自身。若该结论成立,则无论技术发展至何种高度,都无法解决人类社会与生俱来的固有矛盾。由此可见,完善技术社会系统的专项研究议程具备永恒必要性,其根源在于人类自身的认知局限与价值分歧。

思想史家、哲学家以赛亚・伯林提出一套元伦理学理论 ——价值多元主义。《斯坦福哲学百科全书》引述伯林的核心论述如下:

“真实存在的价值种类繁多,不同价值之间往往相互冲突。两种及以上价值产生矛盾,并不代表其中某一价值被曲解;也无法先验判定某一种价值永远优于其他价值。自由可能与平等、公共秩序冲突;仁慈可能与正义冲突;爱意可能与公正中立、公平原则冲突;个人社会道德担当可能与不带功利的真理、美学追求相悖(济慈的观点恰恰相反,真理与美二者本身也可能无法兼容);知识追求可能与幸福诉求冲突;随性自由的天性可能与可靠、责任相互矛盾。

价值冲突是人类生活内在、无法根除的组成部分;人类全然圆满、无矛盾的理想生活只是空想。‘各类价值的碰撞,定义了价值本身,也定义了人类自身。’一个不存在价值冲突的世界,并非我们所认知、身处的现实世界。”

此类价值冲突广泛存在于单一社会文化体系内部,同时也跨越不同社会文化体系。只需简单对比自由主义、纳粹主义、现代圣战思想、斯大林主义共产主义,即便普通观察者也能清晰发现:全球存在多种完整价值体系,各自衍生出截然不同、彼此对立的生活范式。

价值多元主义与跨文化沟通的困境,为系统设计指明关键底层逻辑:任何设计行为都带有立场属性、关联属性,扎根于特定社会文化与话语体系。这套体系的普适性存在天然边界,对应的系统适用范围也必然受限。若正视这种天然边界,那么在涉及道德、社会重大议题时,将决策权全盘移交自动化系统的思路本身就极具争议。

以此理论视角分析,针对具备重大社会影响的 “棘手问题”,一套全新的设计准则应运而生:设计自主系统时,必须以高效人机协作为核心准则。人类自身处理复杂问题时本就难以达成完美结果 —— 这类棘手问题没有清晰的求解路径,无法在初期设定最优目标,矛盾根源难以彻底消解。因此,系统必须配套完整的道德伦理推理框架,以此为基础生成贴合具体场景、具备正当性的全新解决方案。

若上述论证成立,则贝海默与弗拉奇提出的 “深度耦合” 理念 —— 依靠该耦合机制统筹多方行动、实现共同目标 —— 不能仅视作提升信息互通与管控能力的手段。对于一切处理复杂棘手问题的高阶系统而言,深度耦合是刚需:系统需要一套协商机制,权衡各类可行方案背后的道德价值。不同价值取向彼此冲突,部分方案甚至会造成损害;唯有依托人机协同协商,才能取得阶段性折中成效,即便该结果永远无法达到完美。

专业术语注释(文中统一译法依据权威学术译法)

  1. sociotechnical systems:技术社会系统(社科、人机交互领域标准译法,区别于直译 “社会技术系统”)
  2. lethal autonomous weapons systems (LAWS):致命自主武器系统(联合国裁军事务厅官方中文译名)
  3. Convention on Certain Conventional Weapons (CCW):《特定常规武器公约》(联合国官方译名)
  4. value pluralism:价值多元主义(伦理学固定术语)
  5. metaethics:元伦理学
  6. wicked problems:棘手问题(公共管理、系统工程经典术语)
  7. requisite variety:必要多样性(控制论标准译法)
  8. rich coupling:深度耦合(人机协同工程术语)
  9. autonomy:自主性 / 自主化(技术语境译自主化,伦理语境译自主性)
使用skills的doubao翻译结果

价值多元论与社会技术系统中的协作必要性

德里克・B・米勒(Derek B. Miller),美国沙尔瓦・雷吉纳大学政策实验室(The Policy Lab®)、佩尔国际关系与公共政策中心

在《从自主系统到社会技术系统:设计高效协作机制》一文中,贝海默(Behymer)与弗莱彻(Flach)主张,应 “将人类能力与技术能力无缝整合,构建运转良好的社会技术系统”。这一主张的提出,一方面是基于人机协同优化有望提升各类有益行动的成效;另一方面也源于二人对当前现实的担忧 —— 正如他们所阐释的,当下各界过于关注社会技术系统中 “人类与自主组件的单独优化”,却将 “界面设计与团队协作流程设计” 视为事后补充的次要工作。²

若这一主张得到重视,或将推动各方重新聚焦人机关系这一核心议题,进而拓展他们所定义的 “社会技术系统” 的发展空间。但值得注意的是,两位作者并非仅指出当下人机协作关系中存在的短板,而是进一步提出:将技术与人类支持完全剥离(亦即所谓的 “完全自主”)本质上是一种空想。究其原因,尽管技术确实可实现自动化运作,但其固有属性决定了它无法应对复杂多样的现实场景,难以在所有情况下有效发挥作用:

“无论设计得多么周全,” 他们指出,“所有自动化控制系统终会遭遇设计阶段未预见的场景。因此,人类操作人员终究需要介入,完善系统设计中未覆盖的部分。换言之,操作人员必须主动干预,创造性地应对那些自动化系统设计者未曾预料到的复杂多样的状况。”³

基于此,人机协作团队的流程与界面设计绝不能被当作事后考量,而应得到专门且系统的关注。

本文旨在(尽管篇幅有限)为贝海默与弗莱彻的这一主张提供补充支撑:将他们所观察到的问题置于更广阔的语境中分析,并论证不仅自动化控制系统终将面临这些复杂场景,人类自身也同样如此 —— 且这一状况将始终存在。

在笔者撰写本文之时,国际社会正围绕致命性自主武器系统展开一场复杂且紧迫的讨论。《特定常规武器公约》(Convention on Certain Conventional Weapons, CCW)下设的致命性自主武器系统专家会议(Meeting of Experts on Lethal Autonomous Weapons Systems, LAWS)是推进该讨论的核心平台;相关信息可通过联合国裁军事务厅及联合国裁军研究所轻松获取 —— 笔者曾在后者供职近十年。

从自主技术面临的挑战这一视角来看,“人类需创造性地应对…… 复杂多样的状况” 这一原本仅具技术层面意义、在道德层面无甚争议的观点,其合理性受到了质疑,且紧迫性显著提升。倘若设计者赋予武器系统致命性自主行动的权限,但由于这类系统始终无法覆盖所有必要的场景与状况(超出其设计参数范围),最终无法被信任实现完全自主运作;同时,若人机协作的团队流程受到阻碍、仅被当作事后补充,那么我们将面临严峻的问题。

针对自主系统与人工智能领域已发现的短板或不足,一种常见的回应是:该领域尚未攻克某些特定挑战,但凭借其快速的学习迭代速度与发展势头,未来终将取得突破。依此逻辑,有人可能会认为:贝海默与弗莱彻当下的观察结论虽正确,但技术发展最终会填补这些短板;这意味着,对团队协作流程的重点关注仅为权宜之计,是基于当前技术现状的临时措施,而非由技术本身的固有属性决定、需要单独制定专项议程长期推进的核心问题。

笔者认为这一论证看似合理,实则存在根本谬误。问题的核心并非技术发展水平,而是人类的思维方式,以及我们设计、操控机器作为自身代理的模式。这一观点可从三方面佐证:其一,计算机程序的编写始终基于特定的文化视角,而这种视角不具备普适性;其二,即便是在同一文化体系内,不仅存在未被预见的挑战,更存在价值冲突 —— 若人类自身无法解决这些冲突,便永远无法通过编程将其消除;其三,从特定文化视角设计的系统,最终往往会应用于跨文化场景,这进一步加剧了系统在相关性、合法性、有效性以及行动伦理基础等方面的复杂性。简言之,这些 “短板” 并非仅存在于机器层面 —— 有效自主运作的难题,本质上也是人类自身的难题。若事实果真如此,那么无论技术发展到何种水平,都无法解决这一根植于人类与社会本质的挑战。换言之,完善社会技术系统的议程之所以必要,根源在于人类自身的不足与局限。

观念史学家、哲学家以赛亚・伯林(Isaiah Berlin)提出了一种名为 “价值多元论” 的元伦理学理论。根据《斯坦福哲学百科全书》中引用的伯林观点:

“真正的价值是多元的,且可能 —— 事实上也常常 —— 相互冲突。当两种或多种价值产生冲突时,并非意味着其中某一种价值被误解;我们也无法先验地判定某一价值永远优先于另一价值。自由可能与平等或公共秩序相冲突;仁慈可能与正义相抵牾;爱可能违背公正与公平;社会及道德责任可能与对真理或美的无私追求相悖(济慈认为真与美统一,但事实上这两种价值本身也可能无法共存);知识可能与幸福冲突;随性自在可能与可靠尽责无法兼顾。价值冲突是‘人类生活中固有的、无法消除的一部分’—— 所谓人类完全自我实现的愿景,不过是空想。‘这些价值的冲突,是价值本身与人类本质的核心所在’—— 一个不存在此类冲突的世界,并非我们所认知、所理解的世界。”

这类价值冲突既存在于特定的社会文化体系内部,也可能跨越不同社会文化体系产生。即便是粗略对比自由主义与纳粹主义、现代圣战主义或斯大林式共产主义,即便是对此毫无研究的普通观察者也能发现:世界上存在多种价值体系,这些体系构建出各异且相互冲突的生活方式。

价值多元论与跨文化沟通的挑战向系统设计领域揭示了一个核心事实:设计行为始终具有立场性、关联性,且植根于特定的社会文化与话语体系;而任何一种体系在普适性与适用性上,终究会触及难以突破的边界。若我们正视这种 “有意义的边界”,便意味着:在关乎道德或社会重大议题的领域,将决策权完全移交自动化系统的思路,往好了说是存疑的。

透过这一视角,针对具有重大社会影响的 “棘手问题”(wicked problems),一套设计准则逐渐清晰。我们如今面临一项核心要求:在自主系统的设计中必须构建高效的协作机制;而这一要求的提出,源于人类自身在 “对结果达成满意” 层面的 “无效自主”—— 此类结果并无明确的达成路径,无法在初始阶段就确定最优方案,且本质上始终无法彻底解决。因此,我们需要依托道德与伦理推理,创造出新颖、贴合具体场景且具备合法性的解决方案。

若这一论证成立,那么贝海默与弗莱彻所提出的、为实现 “协调多项行动以达成共同目标” 所需的 “深度耦合”(rich coupling),就不应仅被视为提升沟通与控制效率的手段;对于任何需要应对此类复杂问题的复杂系统而言,这种深度耦合都是必要前提。因为这类系统需要一种机制,来权衡不同行动的价值取向 —— 这些价值取向可能相互冲突,甚至造成伤害 —— 从而实现一定程度的满意度(无论最终这一满意度有多不尽如人意)。

翻译说明

  • 策略选择:本文为社科类学术文本,核心受众为相关领域研究者、政策制定者,因此翻译策略以 “术语精确统一、逻辑清晰、学术严谨” 为核心,同时遵循 “语言朴实” 原则,对冗余表达进行精简,确保译文既符合学术文本的专业性,又具备中文社科文献的可读性。
  • 关键调整
    1. 术语查证与统一:核心术语均通过权威来源验证,如 “Value-Pluralism” 参考《斯坦福哲学百科全书》及国内社科核心期刊译法确定为 “价值多元论”;“Sociotechnical Systems” 采用技术与社会研究领域通用译法 “社会技术系统”;“Lethal Autonomous Weapons Systems (LAWS)” 沿用联合国裁军事务厅官方译法 “致命性自主武器系统”;“wicked problems” 译为学界通用的 “棘手问题”。
    2. 名词化动词还原:如 “the optimization of separate human and autonomous components” 补充动作主体译为 “各界过于关注…… 人类与自主组件的单独优化”,而非字面直译;“the design of interfaces and team processes as an afterthought” 译为 “将界面设计与团队协作流程设计视为事后补充的次要工作”,还原 “afterthought” 背后 “次要、后置” 的核心动作逻辑。
    3. 显化隐含信息:如 “positional, relational” 直译易晦涩,结合上下文显化为 “立场性、关联性”;“handover mentality to automation” 补充语境译为 “将决策权完全移交自动化系统的思路”,明确核心含义;“requisite variety” 结合技术语境译为 “复杂多样的状况”,而非字面的 “必要多样性”。
    4. 消除歧义:如 “it cannot by its nature respond to the range of experience” 中 “range of experience” 非 “经验范围”,结合技术场景译为 “复杂多样的现实场景”,消除歧义;“moral banal observation” 译为 “在道德层面无甚争议的观点”,避免 “平庸的道德观点” 的误读。
    5. 译文减肥:精简英文冗余修饰,如 “a sophisticated and urgent discussion” 译为 “复杂且紧迫的讨论”,删减 “精密” 这类冗余且不符中文表达的修饰;“the disinterested pursuit of truth or beauty” 译为 “对真理或美的无私追求”,去除 “disinterested” 字面 “无兴趣” 的误导,同时精简表述。
  • 待确认项
    1. 人名 “Behymer”“Flach” 暂无通用中文译法,暂采用音译 “贝海默”“弗莱彻”,建议结合作者本人发表的中文学术成果(如有)进一步确认;
    2. “Salve Regina University” 国内译法尚不统一,本文采用机构官网倾向的 “沙尔瓦・雷吉纳大学”(亦译作 “萨尔维・雷吉纳大学 / 救赎女王大学”),可根据官方中文名称调整;
    3. “rich coupling” 暂译为 “深度耦合”,为技术领域通用译法,若需贴合社科语境,可调整为 “深度协同”,需结合具体研究领域确认。