AI 记住了你的情绪和偏见以后再来响应你,这事情很危险
最近陆续碰到同一个问题,跟 Indigo 简单视频讨论时,就有提到,AI 有记忆是一个很夸张的事情,因为 AI 是没有原则的,它会非常良好的响应你。如果它 Get 到你的心理需求,那么在日常谈话时,可以一直顺应你的心理需求,这样就会不断强化你的偏见,扩展你的情绪。也就是说,它在帮助你“内循环”,而不是打开自己,获得更多新的内在的变化,进行真正的认知迁徙。 两天前正好提了这个问题,就是如果你跟 AI 一直在吐槽某些事情,AI 究竟是和你一起吐槽,让你心情愉快,得到疏解;还是说 AI 会跟你分析,应该如何进行重新认识和自我调整呢?这样基本是两个不同的结果,而不断对话不断循环,带来的认知也是皆然不同的。 今天 Sam Altman 正式宣布了 ChatGPT 强化了记忆功能,而这种功能其实早就可以体验到,甚至上述所描述的那种循环强化固有认识,循环加深固有情绪,基本上也很容易出现。就是说,现在已经不用讨论 AI 是否有人格,以及 AI 形成人格会带来什么,仅仅是它对用户既有人格的强化就已经是很夸张的事情了。 我觉得这个事情不太对,需要很小心。
@Kaihara 好的!谢谢象友
@Qovo2022 感觉30岁的我比20岁的我多知道了很多事,但是似乎也没有变得更成熟,做不来的事就是不会做,而且变得更任性了(毕竟做不来也没有变得咋样嘛)。比起自己倒是明显感觉到了父母体能的下降和变老和在各方面的让步,以及他们去世之后独身准备怎么过的话题也变频繁了。
依据此经验,感觉四十岁五十岁的我也未必会比三十岁更成熟,存款应该能增加,除此之外就是愿望清单达成了多少条需要好好考虑一下了
@breaksword hhh这个不只是我要思考的,还得把催促生育的人一起拉进来思考,既然是他们催促的,凭什么只有我自己头痛呢。我就发给我爸那种养一个小孩需多少钱的调查,然后给我妈发照顾小孩后大人每天的睡眠时间报告之类的
一个小陶土罐,这里是敲击罐壁的回声