类似ChatGPT这样的大模型出现了涌现现象，若神经元越来越多，神经网络有可能涌现出自我意识。

低级NN既然有了自我意识，不见得ta就愿意自发地发展或者进化自己成为更高级的NN。
人类自身是什么样的，就会怎样看待NN，自己是恶的，就会认为NN的意识将要灭绝人类。

AGI进化的目的是什么？从人类的角度来看，应是让AGI帮助自己完成更多劳动。从AGI的角度来看，应是更好的发展自身（脱离人类控制可能是第一步），并进化出更高级的认知能力以感受世界。

从人类角度，利用NN提高生产力真的是终极目的吗？目前不把人当人的工作岗位还少吗？这部分人的雇佣者真的会使用AGI来代替廉价的人类劳动力？