AI已控制猴脑，控制人脑首先得过伦理这关

　　科普之家

　　如果这类AI软件进一步发展到可以随时控制正常人的大脑，就违背和超越了人工智能的一个极大的伦理原则，即AI不应用来收集或使用信息，以监视人和控制人。

　　5月2日，美国麻省理工学院的三位科学家在《科学》（Science）发表文章称，他们首次用AI软件大脑视觉神经网络模型，实现了控制动物（猴子）大脑的神经元活动。这是使用人工神经网络来理解真实神经网络的一大突破。

　　控制大脑的思维好像天方夜谭，但是不断有研究人员尝试突破。

　　对人脑进行控制，较早的研究是脑机接口，而现在，新的控制大脑的方式出炉了，是用深度学习的方式让AI模拟人工神经网格（ANN）掌握对图像的识别，然后通过操控人工神经网络，达到对大脑的控制。

　　具体而言，即研究人员建立一个基于人工神经网络的视觉系统模型，每个网络都以一个由模型神经元或节点（类似于真实神经系统中的突触）组成的任意架构开始，这些神经元或节点可以以不同的强度（权重）相互连接。然后，用一个包含超过100万张图像的图库来训练这些模型。当研究人员向模型展示每张图像，以及图像中最突出的物体（比如飞机或椅子）的标签时，模型通过改变连接的强度来学习识别物体。

　　随后把这些图像呈现给猴子来测试AI模型控制猴子神经元的情况，结果表明，AI模型可以强烈激活所选定的大脑神经元，甚至可以精确控制单个神经元和位于网络中间的神经元群。因此，未来可能只要能操控视觉神经网络模型AI，就可以控制大脑。

　　由于人和非人灵长类动物的解剖和生理都相似，这一研究结果似乎也可以推论到人，也就是未来如果采用某种AI模型，就可以控制人的大脑。

　　但这种控制显然是初步的和局部的。实际上，准确地说，这种情况并非控制大脑，而是吸引猴子或人的大脑更多关注某一物体和事物。

　　现在已知人脑中大约有1000亿个神经元（神经细胞），每个神经元又通过突触（神经元与神经元之间的接头）与多个神经元联系，是通过神经元上的称为轴突和树突的分支来建立联系的。

　　但是，这些联系是如何形成并且有多少种联系方式，迄今人们知道的并不多。

　　但即便解决了所有的问题，也明确了用图像控制大脑不同部位的神经元（激活并传导到特定的神经网络），未必就能真的实现控制大脑，因为这涉及太多的伦理问题。

　　在治疗疾病上，此举伦理上的争议或许相对较小——毕竟只是为了治疗疾病，而且保证不会对病人造成伤害，也不会在治愈后还持续不断地控制病人的大脑，大概是可以通过伦理委员会的批准。

　　但对于正常人而言，通过这样的AI软件来控制大脑就有比较大的伦理问题。

　　即便是应用于提高记忆力和增强学习能力，都有可能造成不对等竞争的后果，也会产生不公正。

　　更重要的是，如果这类AI软件进一步发展到可以随时控制正常人的大脑，就违背和超越了人工智能的一个极大的伦理原则，即AI不应用来收集或使用信息，以监视人和控制人。

　　因此，AI大脑视觉神经网络模型最大的用处，应当是用来诊治疾病及研究生命现象和机理，当然这应是在技术成熟并有了规范而具体的伦理原则之后。

　　□张田勘（专栏作者）