人工智能设备出现错误是谁的责任

当你每天开车上下班的时候,你需要依靠应用程序和路标来显示实时路况。应用程序和迹象表示,路面是在+ 5°C。

但是当你沿着这条路开车的时候,突然你的车开始滑到一层冰上,失去控制,你猛撞到另一辆车。实际温度在路上接近—5°C(23°F)。

人工智能设备出现错误是谁的责任

人工智能物联网

这是谁的责任?

很幸运你没有受伤,但那天晚上你想知道谁是罪魁祸首。是这个应用程序吗?传感器的制造商?提供软件的第三方?给你发数据的电信运营商?或者你仅仅是过于依赖科技而不是更加小心?

对于没有连接到internet的设备(即“愚蠢”设备),产品责任通常不那么复杂。当你购买一款产品,比如一辆玩具车时,你会希望它是安全的和实用的。最重要的是,你希望它不会给你造成伤害。

产品的制造商在法律上必须确保产品没有缺陷。遵守法规,如欧盟低压指令,就是一个强有力的证明,表明产品不会有缺陷。

如果产品对用户有害,则由受害方证明损害与缺陷产品之间的因果关系。如果产品不能提供消费者有权享有的安全性,则可以认为产品有缺陷。这需要考虑产品的合理使用及其提示(包括说明或警告)。

从这个意义上说,在伤害和有缺陷的产品之间找到一种关系是绝对有可能的。然而,在目前的市场责任指导下,应用程序和非嵌入式软件是否被视为产品还不清楚。对于人工智能来说,这也是一个问题,特别是在智能物体或传感器方面。

人工智能设备出现错误是谁的责任

人工智能物联网

人类已经无法完全控制了

在上面的场景中,智能设备(路面温度传感器)发送了不准确的信息。这一点很清楚。

但是,错误的信息和由此产生的事故负责,几乎是不可能确定的。也许第三方软件出现了故障,也许这款应用程序功能不正常,可能是传感器的数据有错误。

随着人工智能和物联网设备的问世,以及我们对软件的日益依赖,人类已经无法完全控制。从产品制造商到多个参与者都有责任转移。当超过“两辆车”卷入一场事故时,决定谁为汽车支付赔偿金变得棘手。

目前,如果产品有缺陷,停止工作,或发送错误信息,在几乎所有情况下制造商都有责任。但正如所提到的,目前负责处理的监管框架已经过时了。

道路表面传感器的情况只是众多例子中的一个,它揭示了从制造商到多方的责任转移。

最近,欧盟开始了一项调查程序,来弄清楚我们应该如何处理那些因安装在他们身上的软件是有缺陷的产品。其目的是起草一个更加新的框架,考虑设备与责任之间的连接性。最终,在用户、制造商、软件提供商和其他参与者之间,将责任完全分开。

最终,消费者需要得到保护。

这一切会被解决吗?很有可能,但目前的监管将滞后。

据估计,到2020年,将有500亿台人工智能联网设备。对一个切实可行的减少负债的解决方案的需求正变得越来越迫切。与此同时,我们看到新的人工智能技术驱动多个应用程序远远领先于标准。

那么,制造商现在能做些什么呢?

答案相对简单:只要认证负责的测试,即使没有最新的标准、法规或指令。确保你的产品是安全的,具有内在的安全保障,确保你的产品符合最新的、最先进的领域的发展,并尽一切可能来减少风险。

最终,消费者是需要得到保护的。因此,在开发一个安全可靠的产品时,从早期的绘制阶段到最终的进入市场,制造商需要找到他们所有需要考虑的问题。

未经允许不得转载:新闻 » 人工智能设备出现错误是谁的责任