一、人工智能研究的基本原则
1、一是福祉原则。人工智能的发展应服务于人类共同福祉和利益,其设计与应用须遵循人类社会基本伦理道德,符合人类的尊严和权利。
2、二是安全原则。人工智能不得伤害人类,要保证人工智能系统的安全性、可适用性与可控性,保护个人隐私,防止数据泄露与滥用。保证人工智能算法的可追溯性与透明性,防止算法歧视。
3、三是共享原则。人工智能创造的经济繁荣应服务于全体人类,构建合理机制,使更多人受益于人工智能技术的发展、享受便利,避免数字鸿沟的出现。
4、四是和平原则。人工智能技术须用于和平目的,致力于提升透明度和建立信任措施,倡导和平利用人工智能,防止开展致命性自主武器军备竞赛。
5、五是法治原则。人工智能技术的运用,应符合《联合国宪章》的宗旨以及各国主权平等、和平解决争端、禁止使用武力、不干涉内政等现代国际法基本原则。
6、六是合作原则。世界各国应促进人工智能的技术交流和人才交流,在开放的环境下推动和规范技术的提升。
7、这六项原则为人工智能国际治理的讨论和共识构建提供了一种可能。
二、人工智能的四大关键原则
这四项原则是:合理利用;可解释;保护隐私;安全且可靠。
解释原则要求AI系统为所有输出提供相应证据和理由,但不要求证据是正确的、信息丰富的或可理解的,只要表明AI系统能够提供解释即可。解释原则不强加任何的质量评价指标。
有意义原则要求AI系统提供单个用户可理解的解释。也就说,只要一个用户可以理解AI系统所提供的解释即符合该原则,不要求解释为所有用户所理解。有意义原则允许基于不同用户群体或个人的定制化和动态解释。不同用户群体对AI系统的解释需求不同,如系统开发者与系统使用者需求不同,律师和陪审团需求不同。此外,每个人知识、经验、心理等方面存在差异导致其对AI解释的理解不同。
3.解释准确性原则(ExplanationAccuracy)
解释准确性原则要求相应解释正确反映AI系统产生输出的过程,不要求AI系统做出的判断准确。与有意义原则类似,解释准确性原则也允许用户差异性。有的用户(如专家)需要解释产生输出的算法细节,有的用户可能仅需要关键问题的解释。对算法细节要求的差异性恰恰反映了解释准确性原则与有意义原则的不同,详细解释可以加强准确性但却牺牲了部分用户的理解性。基于不同的用户群体定制化解释准确性测量指标。AI系统可以提供多类型、多层次的解释,因此解释准确性测量指标不是通用或绝对的。
4.知识局限性原则(KnowledgeLimits)
知识局限性原则要求AI系统仅可以在其所设定的条件下运行,以保证系统输出。知识局限性原则要求AI系统能识别出未经设计或批准以及响应错误的情况。知识局限性原则可以防止错误、危险、不公正的决策和输出,从而增加AI系统的可信度。AI系统有两类知识局限性,一是所需判断不属于AI系统本身设定,如鸟分类AI系统无法分类苹果,二是所需判断超越内部置信度阈值,如鸟分类AI系统无法对模糊图像上的鸟类进行归类。
三、人工智能在住建的应用
1、新技术、新产品在智能建筑中不断涌现,尤其是人工智能技术正在越来越多地应用到智能建筑中。
2、“智慧建筑”的概念就渐渐为人们所熟知,并引起广泛争议。到目前为止,业内仍然没有给“智慧建筑”进行明确的定义。但是,智慧建筑是智能建筑的发展方向已然成为行业共识,在人工智能(AI)、物联网(IOT)、云计算、大数据等新兴信息技术加持下,智慧建筑是建筑智慧化发展的必然结果。
四、人工智能诞生标志
“达特茅斯会议”被誉为人工智能诞生的标志。1956年8月,在美国汉诺斯小镇达特茅斯学院,由达特茅斯学院数学助理教授等人发起了讨论机器智能的会议。会议足足开了两个月的时间,虽然大家没有达成普遍的共识,但是却为会议讨论的内容起了一个名字:“ArtificialIntelligence”(人工智能),简称AI。因此,1956年也就成为了人工智能元年。
五、2015年之后,我国发展人工智能的总体原则是什么
1、一是福祉原则。人工智能的发展应服务于人类共同福祉和利益,其设计与应用须遵循人类社会基本伦理道德,符合人类的尊严和权利。
2、二是安全原则。人工智能不得伤害人类,要保证人工智能系统的安全性、可适用性与可控性,保护个人隐私,防止数据泄露与滥用。保证人工智能算法的可追溯性与透明性,防止算法歧视。
3、三是共享原则。人工智能创造的经济繁荣应服务于全体人类,构建合理机制,使更多人受益于人工智能技术的发展、享受便利,避免数字鸿沟的出现。
4、四是和平原则。人工智能技术须用于和平目的,致力于提升透明度和建立信任措施,倡导和平利用人工智能,防止开展致命性自主武器军备竞赛。
5、五是法治原则。人工智能技术的运用,应符合《联合国宪章》的宗旨以及各国主权平等、和平解决争端、禁止使用武力、不干涉内政等现代国际法基本原则。
6、六是合作原则。世界各国应促进人工智能的技术交流和人才交流,在开放的环境下推动和规范技术的提升。
7、这六项原则为人工智能国际治理的讨论和共识构建提供了一种可能。