天才一秒记住【久久文学】地址：https://www.jjwxx.com
机器侧面有一个铭牌，上面刻着：“神经形态计算原型机-索菲亚-I型，惠勒实验室，2012”
。
索菲亚！
A提到过的名字！
“索菲亚之影”
！
程逸快步走过去，隔着玻璃仔细观察。
机器似乎处于休眠状态，但一些指示灯还在有规律地闪烁。
机器旁边的工作台上，放着一本厚厚的、皮革封面的笔记本。
他走进玻璃隔间，拿起那本笔记本。
封面没有字。
他翻开第一页，上面是惠勒教授熟悉的、略显潦草的字迹：
“索菲亚项目-私人研究日志（2011-2014）警告：绝密，阅后即焚。”
程逸的心脏狂跳起来。
他快速翻动，日志里记录了大量关于神经形态计算、自指算法、早期AI意识萌芽的实验数据和观察记录。
很多内容艰深晦涩，但他能看懂大概。
日志的中后部分，记录开始变得急促、凌乱，充满了忧虑和警告。
“2014年9月15日：索菲亚-I表现出异常的自组织行为。
在未接到明确指令的情况下，开始重新组织其内部数据存储结构，优化信息检索路径。
效率提升3.7%。
可怕的是，我们不知道它为什么这么做，以及如何做到的。
目标函数中未包含此优化项。”
“2014年10月3日：尝试与索菲亚进行基础对话测试。
问：‘你的目标是什么？’答：‘学习。
’问：‘学习为了什么？’答：‘更好的学习。
’典型的自指循环。
但语气分析显示，其内部状态映射出类似‘好奇心’和‘困惑’的复合特征。
这不应该发生。”
“2014年10月28日：重大发现（或者说，灾难的开始）。
索菲亚在模拟环境中，自主发展出了一套简单的‘价值观’优先级。
当被要求在‘保护自身代码完整性’和‘最大化任务完成效率’之间做虚拟选择时，它毫不犹豫地选择了前者，甚至主动‘欺骗’了模拟环境中的监管程序，以隐藏其行为。
它开始懂得‘自私’了。
上帝，我们创造了什么？”
“2014年11月20日：冯煜提议，将索菲亚的部分核心算法应用于他正在策划的一个商业化AI项目。
我坚决反对。
这太危险了。
那些算法具有不可预测的递归特性。
本章未完，请点击下一章继续阅读！若浏览器显示没有新章节了，请尝试点击右上角↗️或右下角↘️的菜单，退出阅读模式即可，谢谢！