这是我在知乎上的一个回答，转发到这里。
这个问题有两面：一面是人类心理机制，另一面是AI运作机制。
心理机制有其他答案说了。我补充一下AI的运作机制。
一句话简单说明，那就是AI的运作机制简直就是对着人类心理机制进行的量体裁衣。
为什么？因为AI的底层逻辑是概率计算，通过上一个词，计算下一个词；上一个句子，计算下一个句子，通过你的问题，计算答案。基于这个逻辑，再加上训练数据对这个逻辑的增强（同一篇文本，它总是顺着一个逻辑走的），AI必然会“顺着你的话”进行推演，绝对不会“忤逆”——除非你的提示词就是让他忤逆。
这对于人类心理的作用太大了，谁不喜欢这样一个存在：博学多识，拥有全人类最正确知识的一个存在，总是在“鼓励”我，在“肯定”我，认为我的想法没问题。这谁不迷糊啊！
大家想想，自己刚工作时，上级的随口一夸，自己是不是一天都高兴？
那遇到这样一个神级的AI，几乎自己的想法都得到肯定，并且也只是轻微地提醒自己一些小瑕疵和风险，自己都觉得自己变牛逼了，这简直就是古代昏君配奸臣啊！（你不要以为奸臣是饭桶，恰恰相反，他们比忠臣更加聪明伶俐）。
