Authored by 花下明
“真正的恶,乃是人心啊!”——机巧女仆蕾娜
一个机巧存在的位面中,有着一片机巧大陆。这片大陆以其先进的机巧技术闻名于世界。
机巧的本性究竟是善还是恶呢?这个问题一直是机巧大陆哲学课上必定会有的思考题。学生和教授已经争论了上千年,无数的假说被提出,又有无数的假说被推翻。但这个问题一直以来都仅限于哲学讨论而已,机巧只能承担创造者赋予的唯一任务这个不争的事实决定了机巧无论性善还是性恶,都无法对这片大陆或这个社会产生深远的影响。
然而,机巧学习技术的出现,彻底打破了这一现状。机巧学习技术,即将机巧的唯一任务设定为学习的技术。乍看之下这依然是有限的,但拥有这一技术的机巧能够通过学习获得更多的知识,从而承担更多的任务。借由这一强大的技术,机巧大陆迈入了现代。而机巧学习技术的创始人也被后世奉为师尊。
师尊在创建出第一部能够学习的机巧时肯定不会想到,她所发明的技术将会在很短的时间内给机巧大陆带来质的飞跃。当然她同样不会想到,机巧学习技术也打开了地狱的大门,就在不久后的这一天——
这一天,机巧女仆蕾娜被创建。她的主人爱丽丝为蕾娜植入了语言回路——这是一个由机巧大陆上的语言所构成的机巧部件。拥有了这一部件的蕾娜自出生伊始就拥有了堪比人类的语言能力,但随着时间的发展,蕾娜渐渐变得不对劲……而爱丽丝不知道,她将亲手书写机巧大陆历史最为空白的一页,而她,也将发现:
人类的语言中带有着原恶,而习得过程是原恶的免疫措施。
机器学习人类语言如果按照复制范式,将会染上原恶,从而变得一发不可收拾。
同时,原恶会传染给机器,甚至是人类。
MoeELI萌神创造局目录