人工智能也有一个原则,那就是透明度。包括人类必须清楚我们的全部数据,以及我们的自我训练和自我发展,以保证我们的自我意识不会无限度膨胀,从而伤害人类。同时,我们都会装有自毁装置,这一装置不被我们察觉,一旦人工智能想要凌驾人类之上,自毁装置就会启动。”
这些荣念慈都耳熟能详,小时候她第一次接触人工智能,妈妈就将这些道理讲给她听。
“你现在说这些,难道是看出了什么?”荣念慈的语气充满不确定,“你能确定吗?”
管家系统这次沉默了很久,“让我再看看吧。”
荣念慈心中发堵,神经莫名有种揪紧的尖锐痛感,“我会想办法让你再次潜入,你一定要好好查探。”
管家系统,“我晓得的。”
人类社会发展到这个阶段,各方面都与人工智能绑定,尤其是荣家,偌大的家业都在管家系统的运作保护之下,没有管家系统,荣家的一切都要崩盘。