一、引言
自从信息技术普及以来,创业者不断投入催生更多“革命性”的技术,例如人工智能、区块链、虚拟现实、数字孪生、脑机接口等,并吸引相当多的投资进行研发与推广,也不断引发法律和伦理思考。按照法学思维的一般路径,研究者会谨慎评估该种技术的应用,对技术使用过程中出现的问题尝试在现有法律框架下进行解释和解决。例如,通过设定外部技术标准、监管使用场景或通过用户协议自治的方式进行分析。这一思路容易忽视某种通用性技术带来的社会生产问题,即如果一种技术不仅是可以随意装卸分拆单一功能的物品,还可以是以通用功能构成使用者活动于其中的系统,并不断在系统中通过信息反馈而组织行为主体进行价值生产的活动,那么对于技术的监管就不能单纯集中在其本身的设计和标准上,而是涉及生产方式和生产关系等更为核心和实质的问题。
在诸多新技术不断兴起的时代,笔者意在基于经验理解法律如何一般性地回应通用性技术带来的新问题,并进行研究路径的反思。鉴于已经有大量研究围绕人工智能、区块链、虚拟现实等技术应用的规制进行了分析,
脑机接口是指在人或动物脑(或者脑细胞的培养物)与计算机或其他电子设备之间建立的不依赖常规大脑信息输出通路(外周神经和肌肉组织)的一种全新通讯和控制技术。
生产性的法律理论源于信息技术带来的新的生产方式再造,并不断影响作为上层建筑的法律与知识生产。信息技术不仅是一种专用技术性物品,还是一种服务,它通过特定媒介演化成生产组织,通过对虚拟“架构”的创设而拥有自身独立的利益主张。
二、从单一技术到生产方式变革
(一)技术原理与法律想象
脑机接口技术最初源于脑科学研究,并迅速扩展至相关交叉学科领域,被认为是21世纪充满前景的技术之一,也是国家之间技术竞争的重要面向。从2016年起我国启动“脑计划”,次年“脑科学和类脑研究”被列入《“十三五”国家基础研究专项规划》,其核心问题包括脑与认知、脑机智能和脑的健康等。美国政府在1989年提出全国性脑科学计划,
从技术原理看,脑机接口通过信号采集设备从大脑皮层采集脑电信号,经过放大、滤波、A/D转换等处理转换为可以被计算机识别的信号,然后对信号进行预处理,提取特征信号,再利用这些特征进行模式识别,最后转化为控制外部设备的具体指令,实现对外部设备的控制。典型的脑机接口系统主要包括信号采集、信号处理、控制设备和反馈四个部分。其中信号处理包括神经信息的预处理、特征提取、特征分类三个环节。
与人工智能一样,脑机接口的开发与媒介形象也经历了不同的社会想象。
一般而言,法律处理新兴技术问题的方式往往是放在现有法律框架下进行解释和延伸,以确保法律体系本身的完整性(例如将虚拟物品解释为财产,将网约车解释为出租车),但也会受到一般社会大众想象的影响,作出不符合当下认知和法律规则的判断(例如,将人工智能体解释为法律主体,进而拥有各类拟制权利)。类似地,早期脑机接口可能停留在纯粹医学和健康领域,无法影响大众的普遍认知,而一旦和现有各类虚拟服务相结合大规模推广至社会,就会重新以增强用户控制力和体验、去中心化服务或宣称创设一个更美好的虚拟世界等名义出现。互联网兴起的经验告诉我们,以信息自由流通名义出现的信息技术创设出的虚拟“架构”往往在微观上对用户行为形成更加深入地控制。
目前,我国法律并没有特别针对此类技术进行规范,重要的法律理论问题是:法律在多大程度上能够准确回应技术及商业应用想要什么,如何通过不同的法律关系掩盖或揭示其背后的价值生产过程。首先,脑机接口看起来是一种单一的医疗康复技术,更接近于一般的医疗器械和健康监测终端,它可以从神经层面触发和修正人脑特定功能的运作,从而潜在地取代其他人类器官的交流辅助功能。
由此看来,表面上单一的技术可能本质上是生产组织,进而为通过此类技术进行的行为承担不同类型的责任。如果说以往的法律研究更倾向将技术看成是可以独立存在并交由用户进行自主使用的物品,那么当人们一旦认识到技术本身通过商业模式可以包装成服务,并以低成本获取使用服务的信息,逐渐引导和动员用户进行更有效率的价值生产活动,并最终通过商品化过程获利,形成一个有效信息闭环时,那就可以说通用型技术是一种生产方式和组织形式,能够有效地动员生产、调配生产要素。通常我们强调技术创新仅仅局限于特定种类的工具性发明创造,而技术背后的模式创新则将具体技术嵌入到无处不在的服务过程中。
(二)理论框架:生产性的法律
鉴于我们对人脑的认识仍在不断深化,脑机接口何时能否成为一种通用型技术,笔者尚无法预测。从法律视角而言,最好避免对某种无法预料的指数型技术创新进行过早判断(例如,何时从弱人工智能实现强人工智能,到达“奇点”),而是关注当下的实际问题。事实上,法律并不特别关注单一功能的特定技术的外部性问题,它们可以在风险评估基础上事前设定技术和质量标准、事后进行侵权损害赔偿救济得到解决。
当一种新型生产方式兴起的时候,就会涉及谁在生产、生产什么、如何生产、如何分配等基础问题,法律必须对这些问题作出回应,否则该种生产方式可能处于“非法”状态,无法稳定,并会持续给社会和市场秩序带来影响。互联网的早期历史表明,“非法兴起”对低成本获取生产要素以便形成新商业模式至关重要,
生产性的法律理论认为,法律对系统性技术变革回应的方式往往通过两个方面展开:(1)确认新兴技术合法性;(2)协调新旧生产组织利益冲突。这一过程包含对新型生产方式、生产工具、生产过程和生产关系等问题的全面审视。应该认识到,对于特定技术而言,生产方式视角意味着超越使用者—工具的关系,而是看到使用者如何被一种外在权力机制纳入一整套系统中,系统权力通过微观机制展示出来并影响人的行为。一旦确立了合法性,体现新生产方式和内容的法律体系才会逐渐扩展趋于稳定。
法律在确认这一过程合法性的时候,逐渐形成和保护“架构”这种主要通过技术和商业模式建构起来的利益形态。
(三)脑机接口架构想要什么
从历史上看,任何一种生产性的系统技术都会依托于现有商业模式进行迅速扩张,但其基本原理没有显著变化,即试图对社会主体进行认证,创制出新型生产空间,并以低成本组织他们进行生产活动。空间的创制是系统技术的精髓,依赖于使用对用户持续而低成本追踪的技术,也便利了生产要素的流动性。一旦架构开始形成,就需要通过技术、商业模式和法律不断保护其逐渐扩张但封闭的边界。实际上,架构本身也要求在确立自身地位的同时改变某些法律关系的适用,主张自己是反映旧生产关系法律规则的“例外”,一旦这一非法兴起过程完成,这些例外就迅速变成常态和默认设置,新的规则和生产秩序会逐渐稳定。
基于过去二十余年的历史经验总结,生产性系统技术形成的架构从以下几个方面不断要求法律进行相应调整,以维护架构本身的权益,但法律内容本身并没有明显改变:
按照这些主张,我们也可以根据脑机接口技术的特殊性合乎逻辑地推导出脑机接口架构需要法律进行何种改变以确保其生产性权益:
需要再次强调,笔者无法设计脑机接口服务场景及具体的用户协议内容,但基于已有的生产性架构实践,完全可以合理推断出脑机接口架构会延续已有法律对平台经济合法性的确认需求。只有先解决了生产行为的合法性,才可能进一步讨论更为具体的稳定状态下的法律问题。
三、脑机接口架构的微观机制
本部分将进一步讨论脑机接口架构中的微观控制和生产机制,试图理解围绕这种新型技术的法律结构如何展开。这一新型架构起作用的方式会延续以往互联网宏观架构的构成,并继续通过“账户-算法-数据”的微观结构对使用者发生作用,最终通过其他配套的信息基础设施进行扩展。
(一)通过账户的认证
在虚拟空间中实现对使用者的身份认证已经成为网络治理的重要环节。
从历史上看,账户的法律演进原理在于将赛博空间中的账户和物理世界中的用户(及其数字身份)在法律上尽可能分离,即强调账户是一种属于平台的服务,用户对产生在账户中的有价值的数据不拥有财产性权利,这意味着平台企业使用用户数据的一切分析挖掘试验都只会关联到账户,而不会直接关联到物理世界中的本人,产生的价值也与用户在分配意义上无关。在既有生产关系下,法律关系的松散反而有利于平台对用户价值的获取。直接的结果便是,匿名或去标识化的数据分析仍然可以对用户产生影响,持续地进行监控,并通过账户将其纳入生产体系。
脑机接口在实现人脑与机器交换信息的过程中,实际上也为用户开启了一个账户。这一账户的特点是:首先,算法通过识别不同用户的脑波,可以为其创设一个独一无二的基于生物信息的标识符,使用起来会比传统的身份证件更加便利,也可以避免像人脸这类标识符的社会争议,因此也将成为身份法律制度的一部分,但其推广使用有赖于国家制定统一的技术标准。其次,这一账户需要通过特殊的硬件和软件才能登陆访问,从而进一步确保了该账户密切的人身属性,无法转让,这在技术上确保了用户协议规定的账户只能向唯一用户提供服务的要求,但也会产生账户内积累数据的转移和继承问题。最后,脑机接口服务提供者对账户的管理形式可能不会发生较大变化,仍然会开发出一整套管理用户的行为(如封号、禁言等),也会通过展示经验等方式为这一在线身份赋予声誉价值,进而实现劳动管理和交易匹配。
(二)算法与黑箱
脑机接口技术及其服务的算法实际上存在三类功能,一是上述识别到特定大脑信号进行身份认证;二是将大脑信号转化为机器识别的信息并发出操作指令;三是通过身份识别创设多元虚拟身份并进行自动化服务推送和决策。这三重算法功能紧密结合在一起,更为有效地组织生产,将用户纳入价值生产活动。
这里可能存在的问题是:第二阶段的算法模型在多大程度上能够反映用户大脑真实的活动和意志,进而影响用户意思表示的准确程度。实际上对脑机接口服务提供者而言,用户的意志是否独立真实作为一个科学问题并不重要,就像人工智能究竟是否真的有“意识”的哲学问题一样,法律完全可以设定外在标准加以确认。重要的是平台算法会确立一套计算机语言进行转译,用户要做的只是接受用户协议并按照算法给出的功能一一确认使用,最终转化为可以生产价值的操作行为即可,如果发生了认知错误或非入侵脑机接口情况下解析颗粒度较低等情况,还可以不断调整算法予以修正,但不会影响正常服务流程。
随着算法监管越来越倾向将算法视为平台经济运转中的重要环节,越来越多的资源也已经投入到针对各领域的算法功能与外部性上,如内容审查
(三)开发神经数据推动生产
类似于人脸数据,经过脑机接口转化过的神经数据也是一种新型生物信息,除了生物伦理争议外,也会引发更进一步的数据权属问题。个人信息从来都依托于特定技术的开发,只有当脑机接口终端变得更加普及,经由此类技术开发出的神经数据才可能逐渐变得敏感。鉴于脑机接口已经十分接近人的大脑,可以预见会有社会利益群体主张用户必然应当有权控制其神经数据,要求创设一系列新型民事权利或消费者权利。而在脑机接口服务提供者看来,大脑信号只有通过专门硬件和软件的生产和解读才能成为有意义的信息,平台投入了资本和劳动,仍然希望按照用户协议规定免费收集此类新型生产要素,形成稳定的集合性数据资源池,进而开发出更加符合人脑真实运作的算法模型,其财产性价值与用户个人无关。由于脑机接口操作需要大量脑波信息,由此产生的生物信息在处理过程中势必更加敏感。为避免可能的麻烦和纠纷,脑机接口服务提供者会大力开发个人数据的去标识化处理,或者主张自己有能力证明去标识化技术手段使得重标识风险较低,不具备识别特定自然人的能力,那么一旦用户通过身份认证,脑波数据被算法转化为操作信息后就接受去标识化处理,使其仅仅能够关联到账户而非个人,从而在个人和架构之间架设起适当的防火墙。
四、反思技术规制的研究路径
(一)法律如何规制技术
笔者对脑机接口技术讨论的前提是:假定脑机接口技术未来能够成为一种通用的系统性技术,才能够广泛的应用,这需要新的基础设施进行配套并进行生产方式变革,而且其演进路径也可能需要长时间与其他技术应用的融合,甚至冲突。如果这一假定成立,那么脑机接口会逐渐嫁接在现有的平台经济模式当中,在嵌入过程中进一步调整和加社会成员和互联网的生产关系;因此该技术不仅不是宣称的革命性的,反而是借助创新之名对现有生产方式的强化,而非偏离。与此同时,在此过程中,会出现利用该种技术非法兴起形成的新平台,和既有平台一起推动脑机接口应用的合法化,并通过各类意识形态和话术要求法律进行调整。法律在形式上仍然会保持稳定性和连续性,但背后反映的生产过程和方式则不断发生激烈地变化。从这个意义上说,笔者并不特别关注脑机接口本身的特殊性问题(这需要时间观察并通过实践来解决),而是关注其反映的法律与技术关系的普遍性问题。
传统法律处理法律与技术的关系这一议题时往往倾向将技术视为可以独立存在的人造物,在法律上体现为某种客体。但最近二十余年的网络法发展经验告诉我们,将技术看成孤立物品的视角在21世纪无法持续,也不反映真实世界,特别是在物联网时代,任何小型的边际上的技术设计或终端都可能被嵌入一个芯片向中心服务器传输数据,从而和一个更大的信息网络与系统连在一起。因此,需要以一个更加广泛的角度看待技术系统,即不论技术本身,还是技术的开发者、控制者、使用者,都共同存在于一个不断形成的系统中,在生产经济价值过程中具有不同的分工。技术系统通过对“空间”的拟制和想象,重新塑造新的空间和价值增长点,并主导形成平台,进行生产。这可能是脑机接口带来的真正法律问题的核心,即是否允许该种技术以扩展性的方式存在,以及一旦扩展,会在生产过程中如何扩展其权力,如何在与竞争对手的关系中、与用户的关系中体现出来,等等。这些问题要比诸如赛博格一类的科幻问题更有社会价值。
无人驾驶技术规制的研究历史已经表明,将技术事物本身仅仅视为孤立存在和运作的物品无法把握系统性技术的核心。早期法律研究者对无人驾驶汽车的想象仅停留在智能汽车会单独卖给消费者随意上路,由此出现关于交通事故责任认定的讨论,这说明研究者实际上无法预测某种新兴技术的使用场景和商业模式,而且往往是错的。其错误在于未能看到智能汽车实际上是一个生产平台的入口(后来改称为“智能网联车”),车体本身被转化为一个不断生产汇集数据的新型架构空间,通过网络不断与云端联系,并进行车路协同,从而带动新型基础设施的翻新改造;而且从长期看更有效的方式是按照共享单车模式分时出租而非个人购买,既便于管理也降低了社会成本。因此,笔者没有就事论事地讨论脑机接口具体法律问题,例如技术标准、风险与安全、侵权责任等,而是基于过去技术发展和应用模式进行分析。
法律与科技的关系是法学中持久的话题。如前所述,传统法律大部分时候应对的是单一功能的技术,因此需要事前设定技术和质量标准,并在事后通过落实侵权责任进行损害赔偿救济,或者保护特定专利的使用。但法律在应对系统性技术时往往无能为力,“只见树木,不见森林”,这主要是因为系统性技术改变了生产方式和生产性资源的组织方式,加速了经济循环和生产效率,必然要求法律加以确认而非抵制。因此,针对单一功能技术创造的法律规范对系统性技术和生产组织主体并不适用,也是无效的,后者反而要求对这些规则进行例外适用。如果脑机接口仅仅是一个普通的专用型技术,那么和其他神经医学上改进人的神经心理健康的技术和药品就没有区别,也会使笔者的研究变成一个单纯的医事法研究。而一旦看到脑机接口成为可以开展人机协作与互动的媒介和入口,就会发现相较以往的技术环境,其具有更强的组织力和控制力,也会重新塑造关于模式同意、认知行为的问题。
本着历史唯物主义的研究思路,笔者将技术视为一个不断演化的系统和组织形态,法律作为另一套相对独立的系统如何介入其运作过程将是十分持久的问题。法律究竟需要以反对不正当竞争的名义维护既得利益群体的生产方式及其相关利益,还是以保护创新的名义维护新兴创业者的生产方式及其相关利益,难以一概而论。我们已经看到,任何创造性破坏的技术本质上都是系统性技术,最终帮助确立有效组织生产的数字基础设施。互联网的非法兴起过程表明,法律需要认识到系统性技术的公共性维度,即数字基础设施建设和对流动性资源的集合性使用,如果新兴技术及其调配的生产要素无法在现有基础设施之上开展生产活动,法律就需要为该种技术保留一定的灰色空间,允许双方进行(某种“不正当”)竞争,对其商业模式应当保持谦抑态度。
如果生产性的法律理论具有解释力,笔者就可以据此尝试总结出法律在面对新型技术时的一般性规制模式,并对我们过去的研究路径进行反思,还可以对脑机接口所处阶段进行预判。该模式事实上是一个历史和动态的过程。第一阶段可以观察某种新兴技术和服务在初始阶段的变化与发展,特别是它如何在现有新型经济模式下得到开发,以及如何与新兴商业模式加以融合,法律在这一过程中保持开放审慎态度(例如,无人驾驶技术)。第二阶段需要区分单一功能的技术和通用功能的技术,从而较早跟踪观察该种技术如何进一步扩展为平台经济模式,并在此过程中解决与既有经济利益之间发生的冲突与不正当竞争问题,如果出现通过网络扩散急速扩大的风险,则需要及时限制叫停(例如,虚拟币引发的非法集资)。第三阶段是逐步确认平台模式下的新兴技术的合法性,通过对现行法律的重新解释、修改或制订新的单行法律法规的方式加以确认,并推动新型基础设施的建立和完善。最后阶段则是在确认生产方式的基础上加强更细致的监管,包括制定技术标准、审查用户协议、推动日常监管等,充分利用其生产性优势,推动集合性经济价值在社会范围内的公平分配。而法律系统也正是在这一过程中发生变化,既在形式上保持既有的原则和规则,又会逐渐更新内容,适应新技术的特殊性。不难发现,笔者正是按照这四个阶段对脑机接口的开发与应用轨迹,以及可能的法律影响进行讨论。这一框架也可以用来分析其他具有潜在平台经济系统能力的技术,从而更好地帮助我们规划与评估不同类型技术的开发。
(二)增强技术的公共性
从早期互联网到人工智能到脑机接口,我们见证了一种新型生产方式的不断形成与扩展,并在既有基础设施的基础上开发调动新的生产要素,但同时也看到消费者权利的削弱、用户自主空间的压缩以及更为抽象意义上更加自动化的过程对人主体性和自由意志的影响。在面对此类问题时,有必要识别和避免几类常见的理论性偏差:第一类是在哲学上讨论在人通过机器进行调适和改进过程中,人的主体性在不断丧失(例如,人工智能的自动化决策机制会让人降低判断力,或者脑机接口可能会允许机器过度介入人脑而最终取代人自身的判断和决策),这类讨论抽象而言似乎有道理,但如果放在具体时空条件下审视则会发现实际上社会看待技术的方式本身也在不断调整变化,有了技术辅助,人们实际上可以作出更好的决策。有必要看到,人的主体性问题在相当程度上需要放置在社会经济生活的生产关系中理解,即因为生产资料占有的不平等,人们的社会主体地位也持续保持了某种不平等状态,机器的出现反而加剧了这种情况。第二类是按照传统法学分析,简单以赋权的方式设定新型权利以反对歧视等问题,如数据权利、算法权利、神经权利等,
如前所述,目前法律已经开始形成较为稳定应对系统性技术的分步骤思路,而且在每一种新型技术出现之后,都会重复提出上一种系统技术带来的治理问题。按照目前的经验,在技术发展过程中需要继续思考改进如下核心问题:(1)如何持续推动生产要素的跨平台流动,抑制平台企业的垄断效应;(2)如何推动数字基础设施的建立,并加强互联互通;(3)如何强化对用户协议在边际上的司法审查,保护消费者权利;(4)如何以低成本推动个人信息逐渐转化为公共信息,鼓励基于公共数据的创新与开源;(5)如何加强劳动者权益保护,设计适应流动性的社会保障制度。笔者认为,未来关于脑机接口的讨论也应当遵循上述思路,既看到该技术存在的问题,也需要在发展中不断探索改进,并通过大众媒体与教育过程逐渐达成关于技术使用的共识,避免数字鸿沟。特别是,我们不仅要看到新兴技术的循环开发模式和生产面向,也需要更加关注价值的分配面向。每一次系统性技术兴起的过程仅仅解决了生产要素的创制和流通问题,但对劳动价值的社会化分配的关注不足(或者认为市场环境下的流通本身就解决了分配)。类似地,在市场主导下的平台经济过程中,承认脑机接口场景中带来的碎片化数字劳动,推动多元获取收入和报酬的机制十分关键。但仅仅依靠市场仍然会出现富者愈富的情形,因此有必要在现有灵活用工政策的基础上采取一系列措施,包括推动流动性、允许用户个人积累数据性生产资料,推动建立一个更加具有公共性的平台,及时跟进和发现因脑机接口带来的新型工伤与劳动保障问题等。
结语
生产性的法律理论认为,作为上层建筑的法律需要对新型生产方式进行回应,并确保生产资料与新生产关系的合法性。在此过程中,经济和社会价值被不断生产和再生产出来,通过以生产资料财产权利为核心的法律制度加以确认;同时,以技术为表现形态的生产系统逐渐嵌入市场与社会,成为我们日常生活的默认设置,直至下一次经由新的“破坏式创新”技术出现,不断以非法兴起的方式对既有稳定系统发起挑战。在每次挑战过程中,新型技术的特殊性被作为普遍性写入法律规范,自互联网以来的核心法律问题也会一直延伸,涉及身份认证、数据权属、算法黑箱、竞争政策、数字基础设施以及价值分配机制等,它们构成了我们所处信息时代的独有法律问题。历史带给我们的教训是,越来越需要在每种生产性技术开发之初就从深层次上对这些问题进行综合评估考量,思索能否在现有治理实践基础上进行政策和法律上的调整改进,推动新旧系统融合改造,从而在确保代表先进生产力的新生产方式得以快速兴起的同时,降低对市场秩序、消费者与劳动者权益的影响。
(为方便阅读,省略注释。如需引用,参阅原文)
来源:《东方法学》 2021,(04),38-48