科技伦理是底线还是“天花板”？

 

文 ｜ 李侠（上海交通大学科学史与科学文化研究院教授）

自2022年3月20日中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》以来，科技伦理研究呈井喷式发展，相关文章和学术会议呈现出一派繁荣景象。其中需要我们考虑的一个根本性问题是，在追求科技向善的过程中，科技伦理到底是底线还是“天花板”？

客观地说，科技伦理对于科技负面效应的约束力是有限的。换言之，科技伦理不是保证科技始终向善的唯一灵丹妙药，毕竟伦理不具有强制性。

笔者曾撰文指出，科技伦理治理的最终目标是使科技风险最小化，而不是风险清零。因此，加强科技伦理要有限度，否则会事与愿违。无限降低潜在风险看上去很美，但很可能导致治理成本快速增长甚至出现极度不经济现象，阻碍科技的正常发展。就如同考试得80分比较容易，但考95分甚至100分就非常难，一味追求高分会扼杀学生的学习兴趣。基于这种常识，在科技伦理的具体治理过程中，我们应采取什么样的行动理念呢？

在伦理学上有一个非常有名的命题——捍卫伦理底线，即全社会要努力捍卫一些基本规则与规范，防止人类行为下滑到某种不可接受的水平，从而维持最起码的道德、秩序与文明。伦理教育的首要任务不是提升道德标准，而是捍卫道德底线不被各种力量所击穿，避免出现大范围社会失范现象，让全社会的行为可以预期。

科技领域是当今社会活动中最活跃的领域，新事物和新现象层出不穷，人类应对这些新事物或新现象并没有现成经验，而其中蕴含的不确定性后果并不能在短期内全部显现。

对此，人类只能在没有较多经验积累的基础上，吸取历史教训，设置出一些最基础的规则与规范，冲抵科技可能带来的不良后果，而这些基础性的新规则与规范就是科技界要捍卫的科技伦理底线。

伦理原则或规范是为人类行动划定边界的，由此人们会想当然地认为，为了让科技更好地服务人类，真正实现科技向善的目的，伦理标准越高越好，甚至可以把标准的天花板作为最高目标。追求伦理天花板听起来固然很棒，但并不具备现实可操作性。

首先，什么样的伦理标准可以称作天花板级的标准？是康德的绝对命令吗？其次，很多前沿科技完全是探索未知领域，其后果根本无法预料，再加上新领域的展开方式很多时候是被遮蔽的，没有现成经验可以借鉴，比如脑机接口技术、ChatGPT等引发的很多问题是我们从未遇见过的，即便我们想设置天花板级别的伦理标准，也很难做到。

从人类发展史看，最高的伦理标准就一定最有效吗？至今鲜有成功事例。历史的吊诡之处恰恰在于那些看似底线级别的伦理标准却发挥了最大的作用，比如西方的“摩西十诫”、儒家的“己所不欲，勿施于人”等深入人心并成为群体行为的实际指南。反之，越是高级与抽象的规范，在实践中起的作用就越小。

伦理标准的设置，还会受到很多非学术因素的影响。仅仅从思辨角度考虑，过高的伦理标准显然会遏制新技术的发展，再加上当今国际形势复杂，单方面追求伦理天花板很可能阻碍一个国家的科技发展进程，这个代价我们承受得起吗？

因此，在新生事物的起始阶段采取底线伦理与野蛮生长的组合是一个现实的选择。如果科技伦理的最终目标是追求剩余风险最小化，那么，我们应该追求的是伦理底线而不是伦理天花板。这更接近科技发展的实际，而且能获得多数人的支持。

底线伦理的优点在于它以明确的规则或规范禁止科技人员产生作恶动机，并给予科技人员FC碰碰胡老虎机法典-提高赢钱机率的下注技巧自由。重要的是，底线介入对科技活动的影响最小，有利于科研生态环境的建设。

公众可能会担忧，提倡科技伦理底线是否会让科技发展出现失控风险，从而威胁到人类的长期福祉？

笔者认为，这里存在两个误区：其一，伦理底线不是很低的标准，也并非永恒不变，它会随着整个社会认知水平的提升而逐渐上移，即向伦理天花板方向靠拢，这正是人类文明逐渐进步的体现。随着科技活动的展开以及相关经验的增多，伦理原则或规范也会进化，并且会越来越精准，从而真正促成科技向善。反之，在缺乏基础的情况下盲目追求伦理天花板，不但违背实际，还会导致欲速则不达的尴尬局面。

其二，在伦理底线与法律底线之间的确存在一个灰色空间，会导致某些科技成果出现意料之外的问题，但这些问题一旦触碰到法律底线，还会受到法律的硬约束，该风险是人类为了科技进步所必须付出的代价。毕竟，伦理只是一种硬约束，只能让剩余风险最小化而不是清零。

回到现实生活，我们要明确，科技伦理治理的目标要定位在捍卫伦理底线而不是追求天花板。学术界方兴未艾的研究与社会公众的热议恰恰是维系与提升科技伦理底线的有力支撑。