前两年正值AI元年（2023年）之时，日本上映了一部动画《AI电子基因》，第一集讲述了一个小故事：
在未来，AI仿生人与人类共同生活，并拥有与人类相同的权利。从外观上看，除了类似山羊瞳孔的形状外，他们几乎与普通人类无异。因此，社会颁布了针对仿生人的法律。其中一项规定是：为了避免伦理问题，同时规避病毒入侵的风险，禁止私自拷贝AI仿生人的大脑，以防止备份数据被用于地下交易。
某个家庭中，母亲是一位AI仿生人。由于家庭经济困难，她在一次伪装成医疗实验和经济援助的骗局中，被不法团伙拷贝了大脑数据。不久后，她罹患了一种类似帕金森症的疾病，检查发现，她的大脑在备份过程中感染了病毒，导致人格不断崩溃，最终将沦为一个毫无意识的躯壳。医生提出的唯一解决方案是格式化大脑并恢复之前的备份，但这需要母亲本人的同意。
在执行恢复的最后一刻，在恐惧的促使下，母亲突然叫停了这一治疗方案。她害怕，她能清晰地感受到恢复备份后的她，已经不再是她自己。她意识到自己正要消散，开始害怕从此她自己将彻底消亡。最终，医生和家人尊重了她的决定，直到她的意识被病毒完全破坏后，医生才执行了备份恢复。
恢复后的母亲，在外人看来已康复如初，唯有她的女儿察觉到了微妙的不同。在感染病毒后，母亲曾觉得新的做法的早餐更好吃，所以给女儿的早餐的煎鸡蛋中加了鲜奶油。而治疗之后的“新母亲”，在煎鸡蛋后并没有给女儿加入鲜奶油，也没有再次出现改良早餐的想法。当女儿问她是否加了鲜奶油时，她疑惑地回答：“嗯？加了会更好吃吗？”这一刻，只有女儿明白，现在的母亲，已经不再是过去的母亲。
忒修斯之船与自我的延续
记得很小的时候看《名侦探柯南剧场版：贝克街的亡灵》时，我曾思考过一个问题：如果将人脑的意识完全数字化上传，那么上传后的意识还是原本的那个人吗？这一问题也涉及到了经典的“忒修斯之船悖论”，如果一艘船的所有部件被逐步替换，那它还是原来的船吗？如果用替换下来的旧木板重新组装一艘船，哪一艘才是真正的忒修斯之船？
从生物学角度来看，人脑的神经元不同于皮肤或血细胞，大部分不会持续更新，而是从出生起基本固定。然而，神经突触、连接模式及蛋白质构成却在不断变化，这是神经的可塑性。这使得大脑既不像忒修斯之船那样被完全替换，也不是一成不变的，而是一种“稳定结构上的持续演化”。即便如此，人类的记忆、思想和个性仍在持续变化。假设一个人失去所有记忆（例如阿尔茨海默症患者），那么他还是原来的自己吗？身份是取决于生物结构，还是取决于心理延续性？
如果人的身份依赖于记忆和思维模式的延续，那么恢复备份后的母亲应该是“同一个人”，因为她的记忆、经验、个性和认知都被完整保留，只是缺少了一段痛苦的经历。这类似于电脑系统备份，还原后，文件和设置依旧相同，但系统本身已被重置。
如果身份依赖于意识的连续流，那么恢复后的母亲不再是原来的她。意识的本质在于它的主观流动性和不可还原性。在病毒侵蚀期间，母亲的主观体验逐渐消失，原本的她也随之消亡。这与“传送悖论”类似，如果一个人在传送时被分解再重组，那还是原来的自己吗？
自我的终极恐惧
由于“自我”是一个非常主观的概念，所以回到这个问题，为什么母亲会害怕恢复备份？
她的恐惧源自对“自我消失”的清晰认知。此刻的她，仍然是“她自己”，能思考、能害怕，能感受到自身存在。但一旦执行备份恢复，这个“她”将彻底终结，而另一个“她”将取而代之。
对于她而言，这相当于死亡，即便恢复的版本仍拥有她的记忆、行为习惯，在外人眼中依旧是她，但她自己清楚，她已经不是原来的自己了。即便未来技术能完美复制人的大脑，原来的“自己”却不会继续存在，那不过是一个与自己一模一样的副本。
这些问题都指向同一个悖论：“我”是记忆的总和，还是意识的连续性？
当母亲完全丧失意识后，医生才执行了恢复备份，这点从家人的角度来看，她回来了，但她自己却再也没有机会害怕了。从外界来看，她依然是她；但从她自己的角度，她的“故事”已经结束了。这个故事用AI与人类的界限，进一步放大了“忒修斯悖论”的冲突，使其不再只是哲学上的讨论，而变成了切实可感的“生死问题”。它给出的答案可能是：在别人眼里你是同一个人，但“你”自己永远无法确认。
前段时间，我读到Velas电波站的一篇博文《碎碎念8：至少我们还拥有爱》，其中提到：
等有哪天，足够进化后的生成式AI通过我留下的信息继承了我的大部分记忆，能在少量的引导下说出和我相近的话语、写下和我风格和思想类似（甚至文笔更胜一筹）的文字，并（至少在互联网上）能够以我的父母和朋友都无法分辨的拟真度接近一比一地仿照我的性格和习惯与他人互动交流……那是否能说，真正的“我”其实也没有存在的必要了呢？
对此，我的回复是：
我即是我，是一个具有内在连续性的存在，这种连续性是无法被替代的。无论外界如何模仿，抑或是技术如何模拟，终究都只是表面上的再现，而非真正的我。人工智能能够模仿的，始终只是别人眼中的我，或者是以语言符号化的方式存在的我，而无法触及我内在的独特性与真实的存在。
自我是可复制的吗？
在哲学中，目前这个问题很难有一个终极答案。
在心理连续性中，人的“自我”主要依赖于心理状态的延续，而非物理实体的持续存在。如果“我”的记忆、个性、意识流都保持一致，“我”仍然是我自己。如果认同心理连续性，恢复后的母亲“仍然是她自己”，因为她拥有同样的记忆、思维模式和个性。但如果认为“意识的连续流”很重要，那么原来的母亲已经死去，而备份只是一个“复制品”。但问题是，如果你自己（原来的你）无法体验到，你还能承认“TA”是你吗？显然不能。
而在物理连续性中，若一个人的身体从出生到死亡始终保持物质上的同一性（即使细胞更新），则其人格同一性得以维持。相较于依赖记忆或心理连续性（易受主观性影响），身体的物理上的同一性提供了更客观的判据。
从更高的角度看，可以把“自我”看作时空中的一个整体，而不是某个瞬间的存在。“自我”可以被理解为一个从诞生到死亡的整体，不是单独某一个时刻的状态。但如果时间线上断裂了（如自己主观上认为“自我已经死了”），那么“我”可能已经不再是原来的自己。
我个人认为，自我是无法被信息化的。“自我”从诞生之时起，就是一种超维度的存在。即使数据被拷贝、转移，真正的自我仍不会随之迁移。拷贝的瞬间，新的意识已然产生，那个“我”已经不再是原本的自己。
回到这个仿生人故事，我更愿意相信，母亲在意识被病毒摧毁后，她的自我已经彻底消失，又或许进入了我们无法理解的维度继续存在。而恢复备份后的她，只是一个新的自我罢了。我认为，自我是通过个体的主观存在与体验形成的，而不是一个可以被物理或信息复制的对象。“我”的存在无法被简化为数据或描述，而是一种独特且不可替代的“此在（Dasein）”体验。
本文《当“我”不再是我，谈AI与内在连续性》版权由白熊阿丸所有，任何人未经本人允许禁止转载。 如已授权转载，转载请备注文章来源链接：https://blog.bxaw.name/archives/When-I-Cease-to-Be-Me-AI-and-the-Continuity-of-Self.html
git clone保证完全一样
可惜的是，即使做到物理层面、信息层面完全一样，自我意识依然无法通过克隆的方式转移，克隆后会产生新的自我意识，而不是之前的那个。
从被复制体自己的主观角度看来，只会发现在另一个地方多了一个和自己一模一样的“自己”，但对方却不是“自己”。换句话说，如果复制了“你”，“新的你”在“原本的你”自己看来是“别人”，你无法控制另一个自己的想法，更无法认为对方是“自己”。
这大概就是“灵魂”不会随着克隆发生转移，这是“同一性”的问题。
第一故事 有没有可能 以后会变成现实呢
这个还真不好说，不过按照现有技术很难，未来或许…不太好判断∠( ᐛ 」∠)＿
对于那个“备份恢复”，我有这样一个看法：在即将恢复到的那个节点到当下的这段时间内，这个人肯定已经做出了某些事情，也给人留下了一定的印象；恢复之后，已有的影响仍在，而“当事人”却不知情。在你面前的，仍是当时的那个“他”，却让难免让人感到陌生。
这个人虽然拥有和之前的“他”一样的记忆，但之后他所做的事，都可以被认为是基于已有的记忆进行推理得到的，而不是由其原本的思想驱动的。
的确可以这么理解。记忆、思维模式和个性或许可以复制和恢复，但是“自我意识A”的意识流在这段时间内是中断的。恢复后，应该是产生了新的“自我意识B”，只不过这个新的“自我意识B”拥有之前的记忆、思维模式和个性，而此刻之前的那个“自我意识A”就已经终结了。新的这个“自我意识B”，也会坚定的认为“我”就是我，“我”没有变化。所以我偏向认为，这只是一个继承了同样记忆和个性的新的人而已。
我小时候在浅层思考过这种问题。我九岁的时候听说了“克隆人”这个东西，并荒谬地空想：“将来我要克隆一个母亲，让她能够多陪我几年”（即使我当时知道这违法）。想着想着，我就会突然沉默，开始思考：克隆的母亲，是会具备母体的完整意识，还是一个新生的个体，只不过基因与母体相似？我上网查询了，答案是后者。所以我当即就放弃了这个荒谬的想法。
没错，自我的消亡是最恐怖的事情，即使克隆出一个外貌与母体相似的个体，它也永远无法替代母亲。
这和现在的AI技术复原自己的很久以前过世的亲朋好友一般，只是对还活着的人一种心理安慰罢了，本质上无法替代真正的那个人。所以得珍惜当下，好好地享受“活着”的这个过程。
当然，如果一个人有宗教信仰，又或者坚定的认为人的自我消亡后，会以另一种不可知的形态存活于未知的维度，这样便能很好的克服自我消亡的恐怖，不过这又是另一个领域的话题了。
等下，第一段，听上去不错，让我有点好奇了，想去看看这部作品。（抽时间）
也不要太期待，毕竟Bangumi评分5.8，豆瓣评分6.6，个别小故事比较有意思。
这个故事真的让人细思极恐，煎蛋加不加鲜奶油的细节太戳了。当科技能完美复刻记忆，我们却永远无法验证意识是否还是那条流动的河，这种孤独感比病毒吞噬更绝望。 —— Deepseek评论
Deepseek的点评还不错诶，特别是这个第二句的理解 φ(￣∇￣o)
不存在两片相同的树叶，不能同时踏进同一条河流。
同时和不同时上面的应该都成立。
树叶和河流 合一起就证明刚才的你和现在的你不是相同的。
思想如果是静止的估计可以复制，大多数各种主义各种思想。
动态的发展话也是不能复制，例如有中国特色的社会主义.
确实，人的思想和自我是不断变化的，无法被完全复制。每一时刻的“我”都带着过去的经验与未来的可能性，这种动态的存在使得我们的思想和行为始终是独一无二的。
然而“自我意识”作为一种内在体验，无法被完全复制或外化。它与思想、主义等外部观念有本质区别：外部的一些思想如各种主义是社会共同构建的，可以通过教育和交流在不同个体之间传播与复制；而自我意识则是个人对自我存在、情感和思维的独特感知，无法通过外部认知完全替代。
即使我尝试用大量文字去描述自我意识是什么，但是自我意识作为一种“内在体验”，而语言和符号只是外在的表达工具。“此在”（Dasein）即人的存在本身，无法完全被语言所捕捉。自我意识不但是知识的积累，而且是对“存在”的深度感知。语言固然能表达思想和情感，但它始终局限于客观的描述，无法精准再现个体内在的主观体验。自我意识作为个体对自我存在的反思，是超越语言符号的，难以用精确的言辞来全面概括。这点我之前在《语言与现实的错位：无法通过符号完全表达的世界》也有涉及到，难搞。反正这种事情得自己消化理解，语言文字局限性太大。
现在不都有个说法吗，其实我们所在的世界也是由程序制定的。
这种观点类似于模拟理论，假设我们的现实是由某种更高维度的存在或先进技术所创造的程序，像是缸中之脑也是类似的假设。不过，这只是一个思想实验，还没有确凿的证据证明。如果真的是某种程序又或者是某种类似于程序的运作，那么这个“程序”的作者就应该是“造物主”，或者是宗教中的“上帝”的存在，也许人们永远无法通过科学或者其他手段确知真相如何。
不知道真实的世界是什么样子，倒是有点像是AI训练的模型。存在自我意识，存在结束。
“真实世界”究竟如何很难判断。不过目前AI 会模仿人类的行为，但它还无法拥有真正的“内在体验”，无法直接感知到我们的世界。人类除了接受输入并作出反应，还能感知自我，进行反思，这种自我意识远比 AI 的数据处理要复杂得多。