SMU 活动丨新加坡人工智能监管模式框架深度解读——新加坡管理大学 MITB-AI 线上说明会即将到来

2019-08-09 06:06

当今时代,人工智能已无处不在,正在潜移默化的改变我们生活的方方面面——从定向广告投放到基于 GPS 的导航 APP,再到高度个性化服务。这些创新应用背后所带来的用户信息和海量数据浪潮,促使各个国家政府机构想要迫切成为驾驭人工智能领域的“掌舵者”。

哈佛大学伯克曼•克莱因互联网与社会研究中心执行主任 Urs Gasser 对于人工智能的现状提出三类典型现状。在美国,自由政策促使优先考虑创新,所以只有在出现问题时立法者才会进行干预。在欧盟,政府于2018年5月启动了《通用数据保护条例》——该条例的预防性原则将公民保护、道德规范和责任管理置于技术创新之上;在中国,将人工智能对于当今社会、政治和经济关系所产生的影响视为重要议题。

广告

面对人工智能所引发的全球热度,新加坡给出了自己的应对回应。新加坡前总检察长/新加坡人工智能及数据使用标准咨询委员会主席 V.K. Rajah 表示,目前在新加坡缺少的是如何实施原则,并获得监管机构、行业和消费者的支持。

2019年1月,新加坡发布了人工智能监管模式框架(简称模式框架),作为企业在使用人工智能时需要解决关于道德和伦理问题的指南。“新加坡力求将创新与管理风险之间取得平衡。” Gasser 说道。

实用机制

从互联网的出现再到人工智能和大数据的普及,立法进程在历史上一直落后于新技术的崛起。发起模式框架的新加坡信息通信媒体发展管理局(I.M.D.A.)负责数据创新和保护的执行长助力 Zee Kin Yeong 表示:“在模式框架中最重要的就是落实。”该框架框架主要从内部监管、人工智能抉择的风险管理、营运管理,消费者关系管理四个方面拟定对企业的指导原则及措施。

1

用户至上

由于新技术的出现可能会导致对于人类造成威胁或者隐患,因此公司企业应该遵循以下两条指导原则,一是协助企业确保以人工智能做出的抉择能有合乎解释的依据、具透明度,并且对消费者公平;二是确保人工智能的使用做到以人为本。

广告

新加坡管理大学人工智能与数据治理中心主任 Yihan Goh 教授说“ A.I 应该被用来增强人类的能力和保护人类的利益。A.I 的设计、开发和部署的首要考虑因素应是对于人类的稳定与安全。”企业开放的人工智能的动机是实存在的。来自 ViSenze(人工智能初创公司)的创始人 Oliver Tan 表示,“我们的 A.I 技术成功地为客户提供了他们想要的结果,这也是客户选择我们的核心原因。”信任生态系统为 A.I 创造了一个良性循环,接受过良好教育的客户更容易接受新技术,进而提升了采用率和产生更多有用信息,公司可以在这些信息基础上构建并调整技术。

2

构建成功人工智能

模式框架同样支持适当的管理结构,ViSenze 在使用人工智部署工作时,将明确的责任分配到每个人。ViSenze 重点强调角色和责任的定义——无论是算法工程师还是业务人员,都应各司其职,分工合理。他表示,“我们在所有流程中映射出了相互依赖的关系,因此我们需要准确地知道上游/下游的每个流程所遵循的原则是什么,以便更好地配合工作。”

广告

波士顿初创公司 DataRobot(主要工作就是帮助企业建立预测模型)已成功为美国联合航空公司和 Adobe 提供 A.I 技术的运营。但公司创始人 Jeremy Achin 敏锐地意识到企业结构中可能存在的缺陷,“如果执行发起人无法区分炒作和实际业务需求,业务专家没有使用专业的算法来优化错误,可能会导致 A.I 项目的失败。”

3

人类在 A.I 决策中的作用

人工智能做出错误选择的可能性有多大?会带来很严重的后果吗?根据模式框架,这些问题的答案会影响到决策过程中所需的人力参与程度。如果在决策中造成了严重的危害,应该有更多的人为参与和保障措施。例如,在生死攸关的情况下始终需要人类来做最后的决定。

数据集和模型中的不准确性以及偏差可能会导致意想不到的后果。研究人员发现,人工智能算法在处理以西方为中主的数据集时,往往无法进行跨文化的识别。更严重的情况接连发生,由于数据集所形成的刻板印象和偏见在面对由美国总统组成的数据集时,人工智能可能无法理解女总统这一概念。Goh 说:“企业应该在安全措施和部署策略中努力解决这个问题,通过构建更多样化、更具有代表性的数据集,或者调整算法使它们更具包容性,从而降低企业使用人工智能的风险,最终受益于终端用户。”

广告

新加坡星展银行成立数据使用委员会,负责分析人工智能生成的财务模型。“如果这是一个低风险模型,那么我们将对其进行开发,并定期审查,”执行长Piyush Gupta 说。“如果这是一个存在负面后果,具有风险的新模型,那么它就必须转交给我们的理事会,由理事会决定能否创建这种新模型。”

4

数据模型责任化

数据是人工智能的命脉,因此数据管理是模式框架的先决条件。这意味着要获取数据的源头,掌握如何在企业内收集、管理和移动数据,保持数据的准确性。Rajah 说:“拥有良好的数据问责机制,可以减少数据集和人工智能模型中固有偏见的风险,有助于企业实现使用人工智能的预期效果,并降低意外风险。”

另一方面是应用数据的算法和模型,例如微软这样的国际公司已经同意遵守以上模式框架,对话型A.I.的开发人员必须遵守“确保机器人尊重用户隐私”和“确保机器人安全处理数据”等内部规则。尽管一些科技公司呼吁减少规定,因为他们认为这些规定会在一定程度扼杀创新力,但微软提出了相反的立场,微软全球国家技术官员兼顾问委员会成员 Andreas Ebert 表示:“我们认为,针对人工智能,需要有公开、公平、明确的指导方针,这样将更有助于鼓励可持续创新发展。“

广告

全球反响

新加坡发布了人工智能监管模式框架在国际社会中产生了热烈反响。迪拜在其《人工智能指南》中引用了新加坡关于人工智能和个人数据的论据,新加坡还因其在人工智能道德治理方面的成就,在信息社会世界峰会上获得了奖项。

新加坡还受邀加入了欧盟人工智能高级小组(A.I. H.L.E.G.)和经济合作与发展组织(O.E.C.D. )人工智能小组,就“全球范围内人工智能的道德最低标准“进行持续讨论。越来越多的国家意识到有必要为人工智能制定自己的伦理框架,以欧盟和新加坡为例,人工智能应该以人为本,让社会的不同组织机构参与进来,包括工业、学术界和公民社会组织。

尽管模式框架受到了热烈的欢迎,但是我们仍然有很多工作要做。Rajah 说:“在后期阶段,模式框架将针对不同的行业进行实施措施的细化。”新加坡还将与世界经济论坛的第四次工业革命中心合作中进一步发展模式框架。” Yeong 说:“我们希望将其推广至全球。”

人工智能的浪潮引起了全球的热议,越来越多的国家提升了对于人工智能的关注度,从而引发了人工智能人才的迫切需求。作为新加坡及东南亚首个专注于人工智能学的专业研究生课程,新加坡管理大学信息系统学院 MITB-AI 课程课程涵盖完善的 AI 知识体系、技术能力和管理策略等,培养能够构建 AI 工具并运用算法的学生来解决业务问题,满足当今市场需求,为企业带来更多的优秀人才。

广告

7月17日(星期三),新加坡管理大学商业信息技术硕士 (人工智能)课程学术总监戴冰天教授将举办本年度第二次线上说明会,为同学们深度解读人工智能课程,错过上一次的同学抓紧本次机会,扫描下方二维码,添加小新,小新将在活动开始前建群哦~