当大脑控制机器出了问题时,谁来负责?

2017-07-03 11:04:10 来源:AI Lab 热度:

科学家们担心未来会出现对大脑植入的恶意控制如果脑机接口出错,谁应该负责?像埃隆马斯克的神经网络一样,随着生物技术和脑机接口研究的进步,可能会让我们的大脑和电脑连接在一起。但我们如何防止攻击者侵入这个设备,以免伤害他人或自己呢?那么另一个问题就是责任。
 
正如总部位于日内瓦的怀斯生物与神经工程中心的科学家们所言:“如果一个由大脑控制的机器人会产下一个婴儿,谁该负责呢?虽然脑机接口研究(BMI)目前被用来帮助与瘫痪的人交流,但科学家们担心身体健全的人会用BMI增强自己的能力。他们在科学杂志上发表了一篇论文,题为“帮助、希望和炒作:神经假肢的伦理维度”,呼吁制定新的指导方针,以确保大脑和机器的相互作用是安全的。JohnDonoghue教授是该论文的作家,同时身为日内瓦中心的主任,他表示:“我们不想夸大风险,也不想给那些可能从神经技术中获益的人制造虚假的希望。我们的目标是确保适当的立法与这个快速发展的领域保持同步。”
 
随着自动驾驶汽车和人工智能等技术的发展,他们围绕着责任、隐私和安全因素对身体质量指数(BMI)和半自动机器人的未来提出了伦理道德问题。他们认为,有必要对半自动机器人设置控制身体质量指数的关闭开关。他们认为,如果一个半自动机器人没有可靠的控制或覆盖机制,人们用它来接孩子,而不是进行其他风险较低的活动,他们可能就会产生意外。人们担心大脑输出数据的安全,这些数据应该受到加密保护,他们也会担心“恶意控制大脑植入”或对大脑植入物恶意操控的可能性。
 
对拥有权力或宝贵知识产权的人来说,面临读脑的攻击风险更大。牛津大学纳菲尔德学院(Nuffield)的博士生劳里皮罗夫特(LauriePycroft)在最近发表的一篇论文中提出了对脑部植入物的担忧。研究发现,攻击者可能会将植入电池植入大脑,或者用它们来诱发疼痛,破坏情绪,造成组织损伤。怀斯中心研究员尼尔斯伯鲍默教授指出身体质量指数(BMI)被用于瘫痪患者,其中包含敏感的神经元数据,如对个人问题的反应。“严格的数据保护必须适用于所有相关人员,这包括保护在问题中提出的个人信息以及神经数据,以确保设备正常运行。”

责任编辑:黄焱林