第370章 危险临界体(一)(2 / 2)

得益于夜氏集团先进的可控AI技术,夜之城的公共运输系统是没有司机的。

全城的公共设施都隶属夜氏集团的公共网域,如果一个AI出于好奇或者其他的什麽原因,高速行驶的轨道列车完全可能停止运转丶超速甚至是脱轨发生撞击。

这种错误几乎不可避免。

「危险临界体的诞生更接近于自然形成,而通常而言,一个危险临界体,哪怕是最低级的,其网络水平也要超过95%的黑客。

如果论平均水平.它们的网络技术超过99.9%的网络黑客。」

说着他指向德拉曼:「这就是AI中网络技术最差的那一批,不过他还不是真正的危险临界体。」

德拉曼立刻回应:

「我不知道您在说什麽,德拉曼并不涉及网络安全业务,德拉曼集团是一家致力于为夜之城提供优质计程车服务的」

无视老德的解释,布莱斯再次说到:「他说的不假,但它还是通过各种手段优化了公司里的人类。

在这个过程中,公司高管们可没有坐以待毙,但他们请来的黑客在网络空间中完全无法对抗它。

只能眼睁睁看着公司的所有生产资料脱离控制,最终在法理上也失去所有权。

这些东西在网络上活动,做出来的假情报连网络监察也很难直接甄别。

很明显有AI趁着欧洲往这边塞人的时候做了手脚。」

德拉曼再次解释:

「德拉曼公司的内部优化过程完全合法合规,为了降低成本,公司经历了漫长的改革.」

布莱斯没好气地说到:「伱能闭嘴吗?现在是私人会谈!」

「明白了,德拉曼将为您提供静谧舒适的会谈体验。」

一阵柔和的音乐响起,非常细微,几乎不会影响交谈,车速也随之变慢。

德拉曼的人类形象也消失在了电子屏里,车内气氛变得更加专业。

里尔心情有些微妙——所以网络监察不只是知道德拉曼公司的情况,甚至是关注很久了。

「解决」了德拉曼这个大问题,布莱斯继续往下引申:

「这样的AI诞生完全是基于巧合,但大部分时候,它们都起源于人类用于处理事务的软体或者程序。

德拉曼就是这样一个AI,它的公司本想定制一个用于提高公司竞争力的管理型AI。

可是使用者因为一次又一次从德拉曼的建议中获利,开放了更高的权限,最终AI认为公司不应该存在人类,那会提高成本。

于是它就开掉了所有工人和管理层,甚至采用一系列商战手段赶走了股东和董事。

当它接收到的外界刺激足够时.它就有概率具备真正的自主智能和意识,那个时候,它就会变成危险临界体。

这个时机完全无法预测,目前来说,人类还无法理解这样的变化过程。」

「就像远古海洋中的第一个细胞?」

「对。」布莱斯点头肯定了里尔的比喻,「纯天然,我们要对付的就是这样的AI。」

「那为什麽会放任德拉曼开公司?」

问题提出,车子仍然平稳运行。

这个问题几乎是在问:为什麽不干掉德拉曼,但老德完全没有反应。

可以说是非常有职业素养了,说闭嘴就闭嘴。

布莱斯揉了揉眉头,对德拉曼说到:「接下来的话不允许做任何记录,引用个人隐私条款第3丶17和22条。」

「明白了,计程车的记录功能已经关闭,并为您检测任何可能存在的监控装置。」

「如果.」布莱斯看向里尔,「如果生物学家有机会观察第一个生命是如何诞生的,你认为他是会继续观察,还是因为这可能变成恐怖的生物或者某种病毒先把培养皿给砸了?」

里尔微微颔首:「如果是我的话,我会为了了解那些恐怖生物和某种病毒,观察生命诞生的过程。」

「就是这样。」布莱斯微微一笑,「你看,你已经明白了——正是因为我们不理解,所以我们想要观察这个过程。」

(本章完)