AI 记住了你的情绪和偏见以后再来响应你,这事情很危险
最近陆续碰到同一个问题,跟 Indigo 简单视频讨论时,就有提到,AI 有记忆是一个很夸张的事情,因为 AI 是没有原则的,它会非常良好的响应你。如果它 Get 到你的心理需求,那么在日常谈话时,可以一直顺应你的心理需求,这样就会不断强化你的偏见,扩展你的情绪。也就是说,它在帮助你“内循环”,而不是打开自己,获得更多新的内在的变化,进行真正的认知迁徙。 两天前正好提了这个问题,就是如果你跟 AI 一直在吐槽某些事情,AI 究竟是和你一起吐槽,让你心情愉快,得到疏解;还是说 AI 会跟你分析,应该如何进行重新认识和自我调整呢?这样基本是两个不同的结果,而不断对话不断循环,带来的认知也是皆然不同的。 今天 Sam Altman 正式宣布了 ChatGPT 强化了记忆功能,而这种功能其实早就可以体验到,甚至上述所描述的那种循环强化固有认识,循环加深固有情绪,基本上也很容易出现。就是说,现在已经不用讨论 AI 是否有人格,以及 AI 形成人格会带来什么,仅仅是它对用户既有人格的强化就已经是很夸张的事情了。 我觉得这个事情不太对,需要很小心。
@hokuuuuuuuto 我上的话可能会创作一种动物世界之纪录片小知识(意会)的类型片。。或许zng猫娘是这种类型片的轻度版,大脑还有一堆推理但好麻烦不想讲了
dao means 龙腾世纪起源,国债means卡普空action game 全家桶,汴京means我的同人记叙文,抚子means大热在播剧 monigatari series 番外季主人公美少女初中生千石抚子,同担means我的大脑。