严望佳对话南方都会报 | 泛论人工智能清静提防、伦理准则、自力清静运营等问题
宣布时间 2019-03-18
天下政协委员、耀世娱乐首席执行官严望佳接受南方都会报采访，泛论人工智能清静提防、伦理准则、自力清静运营等问题 。以下为文章原文：
今年两会上，“人工智能伦理”成为高频词 �；祷崆雷呷说姆雇肼�？机械会不会危险人？从会场到民间，人们讨论最多的话题，莫过于如那里置人和机械的关系 。
在天下政协委员、耀世娱乐首席执行官严望佳看来，新的手艺正在改变我们的时代，并且这种改变是“开弓没有转头箭”，没有转头路走的 。若是一项新手艺应用得太快，我们可能来缺乏看清晰其中的危害，以后真的回不了头时就很贫困，以是要及早研究，关注人工智能清静 。
若是数据自己已经成为资产，带来了权力和大宗的财产，那么通俗人作为数据的主体，也应该加入分派 。只有通过立法，才华明确数据权属，�；ねㄋ兹说氖萑ㄒ� 。
关乎人类生命的事情，最终的决议权应该交给人类自身，而绝不可完全交给缺乏弹性的人工智能 。
自力的网络清静运营部分，着实就像网络上的大楼监控室 。通过统一的羁系和协调，实时发明各个部分、系统中的清静态势、预警情报，更好地施展网络清静包管的作用 。
南都：为什么今年特殊关注到人工智能清静？
严望佳：做清静的人着实有一种头脑惯性，面临任何新的手艺，都会首先思量危害问题 。不但是人工智能，大数据、移动互联网、工业互联网这些新兴领域，危害把控都是蛮主要的 。
缘故原由在哪？新的手艺正在改变我们的时代，并且这种改变是“开弓没有转头箭”，没有转头路走的 。就好比通讯软件，现在你想要完全不必，基本上是不可能的事情 。
人工智能对未来社会的影响，现在尚有许多不确定因素 。我们中国人很智慧，有许多做立异研究和开发应用的人，能够特殊快地进入新的领域 。但若是一项新手艺应用得太快，我们可能来缺乏看清晰其中的危害，以后真的回不了头时就很贫困 。以是要及早研究 。
南都：现在来看，人工智能应用，可能有哪些潜在危害？
严望佳：从网络清静的角度，程序员编码误差、数据样本误差等因素，都可能导致人工智能现实应用中泛起决议过失或歧视问题 。若是问题爆发在涉及国计民生的主要领域，好比自动驾驶、医疗、金融，会带来严重的危害 。
从更宏观的层面看，人工智能应用带来两方面的危害，一个是人和机械的关系，一个是人和人的关系 。关于前者，现在有许多讨论，未来是人控制机械？照旧机械控制人？机械人会不会危险人类？但我更担心的着实是后者 。
南都：为什么？
严望佳：有未来学家提出，随着人工智能的生长，财产和权力会日益集中在拥有数据和算法的少少数精英手中，造成亘古未有的社会不一律 。我很认同这一看法 。
未来可能只有两种人，一种是控制人工智能的人，一种是被人工智能控制的人 。若是尚有第三种人，他们或许是隐居在深山，不跟社会爆发任何联系 。
南都：控制了数据和算法的人，会有这么大的权力吗？
严望佳：算法推荐就是很好的例子 。平台一连地网络你的数据，理由是要相识你喜欢什么，为你做更精准的推送 。但反过来想，知晓了你的喜欢，是不是就可以逐步指导你，让你喜欢它希望你喜欢的工具？不知不觉间，你被控制了 。
1%的人所使用的数据，着实泉源于每一小我私家 。若是数据自己已经成为资产，带来了权力和大宗的财产，那么通俗人作为数据的主体，也应该加入分派 。以是我今年的另一个提案是关于大数据立法，只有通过立法，才华明确数据权属，�；ねㄋ兹说氖萑ㄒ� 。
南都：前面说的问题着实属于伦理领域 。我们也注重到，许多代表委员今年都在建议增强人工智能伦理的研究 。
严望佳：由于手艺上的危害，相对更好解决 。伦理问题很重大，各人首先要告竣共识，哪些领域可以去生长应用，哪些领域不可 。
举个例子，2017年有外国研究者推出了“AI杀人蜂”，是一种比人的手掌还小的无人机，能够实时捕获和识别人脸，对目的人物举行精准猎杀 。听说还很自制，2500美元就可以买到一个 。这样的人工智能应用，可能会导致战争冲突的升级，想想照旧挺恐怖的 。我以为，人工智能只能应用在对人类有益的领域，杀伤性武器方面的应用必需榨取 。
南都：现在生长较快的无人驾驶领域，已经面临许多很是详细的伦理问题 。
严望佳：有一个著名的伦理难题，电车难题 。一辆刹车坏了的有轨电车，即将撞上前方轨道上的五小我私家，而旁边的备用轨道上只有一小我私家 。你手边有一个按钮，按下按钮，车会驶入备用轨道，只撞死一小我私家 。是否应该牺牲这一小我私家的生命去拯救另外五小我私家？
在人都很难判断的紧迫情形下，无人车该怎样决议？若是无人车马上要爆发车祸，它是�；ぢ每驼站杀；ぢ啡�？一定会撞到路人的话，去撞谁？伦理原则，现实上决议着手艺的生长偏向 。
2017年，德国已经出台了无人驾驶品德准则，明确人的生命高于任何工业 。在爆发不可阻止的事故时，严禁将人群属性作为评判标准，好近年岁、性别、身体及精神状态等 。
在一个新的领域，立法总是会滞后于现实应用，以是需要先告竣伦理上的共识，确定一些准则 。关乎人类生命的事情，最终的决议权应该交给人类自身，而绝不可完全交给缺乏弹性的人工智能 。
南都：你今年尚有一个提案，强调要把网络清静放在与信息化一律的职位 。详细怎么明确？
严望佳：现在国家提出“网络清静与信息化生长并重”，但在现实事情中，下层部分对网络清静的重视水平普遍还不敷高 。很常见的一种情形是，一个单位让信息化建设承包商同时认真网络清静建设，现实运营时泛起“清静舞弊”征象 。
南都：什么叫清静舞弊？
严望佳：网络清静建设既然隶属于信息化建设，那么信息化部分完全可以设计一些“后门”让网络清静部分看不到，或者出了问题以后悄悄掩饰 。相当于信息化部分既做运发动，又做评判员 。但网络清静部分着实应该是第三方的自力部分，这样才华起到真正的清静监视作用，推动清静步伐去落实 。
另外，现在的信息系统变得越来越重大，一直地举行研发迭代，清静挑战更大，使命更重 。简朴的反病毒或者反黑客的产品，已经不可知足清静需要 。以是也需要自力的网络清静运营部分，去强化网络清静的包管效果 。
南都：一个自力的网络清静运营部分，有什么优势？
严望佳：好比说一个大楼，保安会有专门的监控室 。大楼入口、焦点资产客栈等所有主要的地方，都装了摄像头 。保安使用摄像头举行24小时的监控，那里泛起可疑情形都能实时发明 。
自力的网络清静运营部分，着实就像网络上的大楼监控室 。通过统一的羁系和协调，实时发明各个部分、系统中的清静态势、预警情报，更好地施展网络清静包管的作用 。
人工智能执法尚未出台
需伦理准则规范
今年两会上，“人工智能伦理”成为高频词 �；祷崆雷呷说姆雇肼�？机械会不会危险人？从会场到民间，人们讨论最多的话题，莫过于如那里置人和机械的关系 。
在天下政协委员、耀世娱乐首席执行官严望佳看来，新的手艺正在改变我们的时代，并且这种改变是“开弓没有转头箭”，没有转头路走的 。若是一项新手艺应用得太快，我们可能来缺乏看清晰其中的危害，以后真的回不了头时就很贫困，以是要及早研究，关注人工智能清静 。
看法
若是数据自己已经成为资产，带来了权力和大宗的财产，那么通俗人作为数据的主体，也应该加入分派 。只有通过立法，才华明确数据权属，�；ねㄋ兹说氖萑ㄒ� 。
关乎人类生命的事情，最终的决议权应该交给人类自身，而绝不可完全交给缺乏弹性的人工智能 。
自力的网络清静运营部分，着实就像网络上的大楼监控室 。通过统一的羁系和协调，实时发明各个部分、系统中的清静态势、预警情报，更好地施展网络清静包管的作用 。
谈人工智能清静
人工智能带来的社会不一律，可能更需要小心
南都：为什么今年特殊关注到人工智能清静？
严望佳：做清静的人着实有一种头脑惯性，面临任何新的手艺，都会首先思量危害问题 。不但是人工智能，大数据、移动互联网、工业互联网这些新兴领域，危害把控都是蛮主要的 。
缘故原由在哪？新的手艺正在改变我们的时代，并且这种改变是“开弓没有转头箭”，没有转头路走的 。就好比通讯软件，现在你想要完全不必，基本上是不可能的事情 。
人工智能对未来社会的影响，现在尚有许多不确定因素 。我们中国人很智慧，有许多做立异研究和开发应用的人，能够特殊快地进入新的领域 。但若是一项新手艺应用得太快，我们可能来缺乏看清晰其中的危害，以后真的回不了头时就很贫困 。以是要及早研究 。
南都：现在来看，人工智能应用，可能有哪些潜在危害？
严望佳：从网络清静的角度，程序员编码误差、数据样本误差等因素，都可能导致人工智能现实应用中泛起决议过失或歧视问题 。若是问题爆发在涉及国计民生的主要领域，好比自动驾驶、医疗、金融，会带来严重的危害 。
从更宏观的层面看，人工智能应用带来两方面的危害，一个是人和机械的关系，一个是人和人的关系 。关于前者，现在有许多讨论，未来是人控制机械？照旧机械控制人？机械人会不会危险人类？但我更担心的着实是后者 。
南都：为什么？
严望佳：有未来学家提出，随着人工智能的生长，财产和权力会日益集中在拥有数据和算法的少少数精英手中，造成亘古未有的社会不一律 。我很认同这一看法 。
未来可能只有两种人，一种是控制人工智能的人，一种是被人工智能控制的人 。若是尚有第三种人，他们或许是隐居在深山，不跟社会爆发任何联系 。
南都：控制了数据和算法的人，会有这么大的权力吗？
严望佳：算法推荐就是很好的例子 。平台一连地网络你的数据，理由是要相识你喜欢什么，为你做更精准的推送 。但反过来想，知晓了你的喜欢，是不是就可以逐步指导你，让你喜欢它希望你喜欢的工具？不知不觉间，你被控制了 。
1%的人所使用的数据，着实泉源于每一小我私家 。若是数据自己已经成为资产，带来了权力和大宗的财产，那么通俗人作为数据的主体，也应该加入分派 。以是我今年的另一个提案是关于大数据立法，只有通过立法，才华明确数据权属，�；ねㄋ兹说氖萑ㄒ� 。
谈人工智能伦理
执法尚未出台时，需要用伦理准则规范应用生长
严望佳：由于手艺上的危害，相对更好解决 。伦理问题很重大，各人首先要告竣共识，哪些领域可以去生长应用，哪些领域不可 。
举个例子，2017年有外国研究者推出了“AI杀人蜂”，是一种比人的手掌还小的无人机，能够实时捕获和识别人脸，对目的人物举行精准猎杀 。听说还很自制，2500美元就可以买到一个 。这样的人工智能应用，可能会导致战争冲突的升级，想想照旧挺恐怖的 。我以为，人工智能只能应用在对人类有益的领域，杀伤性武器方面的应用必需榨取 。
南都：现在生长较快的无人驾驶领域，已经面临许多很是详细的伦理问题 。
严望佳：有一个著名的伦理难题，电车难题 。一辆刹车坏了的有轨电车，即将撞上前方轨道上的五小我私家，而旁边的备用轨道上只有一小我私家 。你手边有一个按钮，按下按钮，车会驶入备用轨道，只撞死一小我私家 。是否应该牺牲这一小我私家的生命去拯救另外五小我私家？
在人都很难判断的紧迫情形下，无人车该怎样决议？若是无人车马上要爆发车祸，它是�；ぢ每驼站杀；ぢ啡�？一定会撞到路人的话，去撞谁？伦理原则，现实上决议着手艺的生长偏向 。
2017年，德国已经出台了无人驾驶品德准则，明确人的生命高于任何工业 。在爆发不可阻止的事故时，严禁将人群属性作为评判标准，好近年岁、性别、身体及精神状态等 。
在一个新的领域，立法总是会滞后于现实应用，以是需要先告竣伦理上的共识，确定一些准则 。关乎人类生命的事情，最终的决议权应该交给人类自身，而绝不可完全交给缺乏弹性的人工智能 。
谈网络清静运营
需要自力的网络清静运营部分，去强化包管效果
严望佳：现在国家提出“网络清静与信息化生长并重”，但在现实事情中，下层部分对网络清静的重视水平普遍还不敷高 。很常见的一种情形是，一个单位让信息化建设承包商同时认真网络清静建设，现实运营时泛起“清静舞弊”征象 。
南都：什么叫清静舞弊？
严望佳：网络清静建设既然隶属于信息化建设，那么信息化部分完全可以设计一些“后门”让网络清静部分看不到，或者出了问题以后悄悄掩饰 。相当于信息化部分既做运发动，又做评判员 。但网络清静部分着实应该是第三方的自力部分，这样才华起到真正的清静监视作用，推动清静步伐去落实 。
另外，现在的信息系统变得越来越重大，一直地举行研发迭代，清静挑战更大，使命更重 。简朴的反病毒或者反黑客的产品，已经不可知足清静需要 。以是也需要自力的网络清静运营部分，去强化网络清静的包管效果 。
南都：一个自力的网络清静运营部分，有什么优势？
严望佳：好比说一个大楼，保安会有专门的监控室 。大楼入口、焦点资产客栈等所有主要的地方，都装了摄像头 。保安使用摄像头举行24小时的监控，那里泛起可疑情形都能实时发明 。
自力的网络清静运营部分，着实就像网络上的大楼监控室 。通过统一的羁系和协调，实时发明各个部分、系统中的清静态势、预警情报，更好地施展网络清静包管的作用 。
（泉源：南方都会报）
京公网安备11010802024551号