机器人能否伤害人类？
科幻小说作家艾萨克·阿西莫夫（IsaacAsimov）写了关于用机器人三条定律控制智能机器的文章：
机器人可能不会伤害人，或者通过不作为让人受伤
机器人必须服从人类给予的命令，除非这些命令与第一法律相冲突
只要这种保护不与第一或第二定律相冲突，机器人就必须保护自己的存在
情况经常是这样，科幻小说已经成为科学事实。英国皇家学会和英国学院发布的一份报告表明，我们不久将同时生活的智能机器不应该有三个，而只有一个总体原则：“人类应该蓬勃发展。”
根据英国皇家学会科学正策咨询组的共同主系DameOttolineLeyser教授的说法，人类繁荣应该是智能系统治理的关键。
图片标题IsaacAsimov为机器人制定了一些法规
“这是一个真正囊括我们想说的话的术语，”她告诉BBC新闻。
“人们和社区的蓬勃发展需要首先考虑，我们认为阿西莫夫的原则可以纳入其中。”
该报告呼吁建立一个新的机构，以确保智能机器为人们服务而不是控制它们。
它说，民主监督制度对于规范自学系统的发展至关重要。
报告称，如果没有它，它们有可能造成很大的伤害。
这不是机器奴役人性的警告，至少现在还没有。
不过，当家庭和各种商业和公共服务使用独立学习和做出决策的系统时，就会有很多不好的事情发生。
图片标题在阿西莫夫的“石窟之谜”中，人类与机器人紧密地生活在一起
该报告呼吁采取保障措施，优先考虑人类对机器的利益。
这种系统的开发不能仅由技术标准来管理。根据游说组TechUK副总裁兼报告作者的另一位副总裁安东尼沃克的说法，他们也必须充满道德和民主价值。
他说：“这些技术将带来许多好处，但公众必须相信和信任这些系统正在被正确地思考和管理。”
阿西莫夫的年龄
该报告呼吁采用全新的方法。它表明专家和有关方面的“管理机构”应该为人工智能技术的发展建立一个道德框架。
它建议四项高级原则促进人类繁荣：
保护个人和集体拳益
确保透明度，问责制和包容性
找出最佳实践并从成功和失败中吸取教训
加强现有的民主治理
迫切需要一种新的方式来管理机器。阿西莫夫的年龄已经在这里。
例如，自动驾驶汽车的发展引发了人类安全应该如何优先考虑的问题。
在机器必须在车辆安全与行人之间进行选择的情况下会发生什么情况？
如果发生事故，还有确定责任的问题。是车主还是机器的错？
另一个例子是个性化学费智能系统的出现。
这些确定了学生的长处和短处，并据此进行教学。
图像版拳GETTYIMAGES图片说明几家公司正在测试无人驾驶汽车
这样的自学系统是否能够在没有适当的指导下进行教学？
我们如何确保我们对机器指导孩子的方式感到满意，就像我们担心导师教孩子的方式一样？
这些问题不适用于开发系统的技术公司，它们适用于我们所有人。
正因为如此，报告认为，智能系统的细节不能因商业原因而被保密。
他们必须是阔开的，以便如果事情出现问题，可以发现并把它放在正确的位置。
目前的法规主要关注个人数据。
但他们没有任何关于我们通过跟踪我们的手机，我们的购买偏好，电力智能电表和在线“喜欢”的方式给出的数据。
有些系统可以将这些公共数据拼凑起来，建立一个可能被保险公司用来设定保险费的个性特征，或由雇主评估某些工作的适用性。
这样的系统可以带来巨大的收益，但如果不加以控制，我们可以发现我们的机会决定了我们的人生机会。
根据Leyser教授的说法，关键在于监管必须根据具体情况进行。
她告诉英国广播公司说：“预测在亚马逊上应该推荐哪些书籍的算法与使用算法在医疗环境中诊断您的疾病是非常不同的。
“因此，将算法作为一个整体进行管理，而不考虑它被用于什么是不明智的。”
保守檔在其宣言中承诺制定数字宪章，并建立数据使用和道德操守（委）员会。
虽然部长们的大部分言论都是镭于阻止互联网被用来煽动恐怖主义和暴力，但一些人认为，宪章和（委）员会也可能采纳数据治理报告中提出的一些观点。
英国数字部长马特汉考克告诉英国广播公司，对于如何将数据作为一个社会来使用规则是很“关键”的。
“数据治理以及数据的有效和道德使用对于我们的经济和社会的未来至关重要，”他说。
“我们承诺继续与业界密切合作，以实现这一目标。”
从根本上说，智能系统只有在人们相信他们以及他们是如何监管的情况下才会起作用。
没有这些，这些系统对人类繁荣的巨大潜力将永远无法完全实现。