科技是一把双刃剑。在新一轮科技革命助力传统产业转型升级、驱动智能经济快速发展等的同时,当人机融合的触角深入人类生命,也可能引发一些社会风险。
受访专家谈到,相关技术一旦落地,在使用中可能伴随不公平现象,比如是否所有人都有机会平等享受数字化改造的资源,以及改造后的人类在某些领域可能具有天然优势,更易造成两极分化等。因此,人机融合的相关制度规范必须走在技术发展的前面,为社会治理保驾护航。
梁正建议,明确人机融合边界首先需要明确使用目的。当人机融合用于疾病治疗、提高个体生活质量时,通常满足四项基本医学伦理原则即可。
尧德中对此表示认同:“对一些罕见病群体,技术可能是他们获得新生的唯一渠道,要为他们敞开这扇大门。”
而当人机融合用于增强身体功能时,专家提出设置更多红线,根据使用场景具体分析,并遵循风险可知可控的原则,即对风险可控的增强技术可以适当放开,对风险不可预估或难以控制的则要严格限制。
梁正举例说,体育竞赛领域显然不能对人体进行增强改造,否则将与体育的公平宗旨背道而驰。在教育领域,提高智力的增强技术可能造成不公,未来风险也难以估计,因此需要对类似场景的使用加以限制。如果技术可以帮助人类摆脱学习中的重复性操作,这一类型的人机融合应用或许可行,但如何准确、科学地划定边界,必须严格论证。
刘瑞爽、梁正等表示,评估风险需要在人机融合的全过程引入伦理委员会审查机制,伦理委员会一般组成人员包括医学家、伦理学家、社会学家、法律专家及社区人员和普通百姓等。对于涉及重大社会利益的典型案例,甚至需要法庭介入并通过相关行政机关审批。
从某种意义上说,我们需要的或许不是一个理想的“超人”,而是一个独特自由的自己。
关键词: 科技革命 智能经济 教育领域 增强技术 基本医学伦理原则