人工智能治疗师可以将人类扁平化为预测模式，从而牺牲传统人类治疗师所期望的亲密、个性化护理。奥伯豪斯写道：“PAI 的逻辑导致了这样一个未来：我们都可能发现自己是由数字典狱长管理的算法庇护所中的病人。” “在算法庇护所里，不需要在窗户上设置栏杆，也不需要白色软垫房间，因为没有逃跑的可能。庇护所已经无处不在——在你的家和办公室、学校和医院、法庭和营房里。只要有互联网连接，庇护所就在等待。”
批判性分析
AI心理健康治疗
约翰·富勒姆
劳特利奇，2025
研究技术与心理健康交叉点的研究员 Eoin Fullam 也表达了同样的担忧 聊天机器人疗法：人工智能心理健康治疗的批判性分析。这本书是一本引人入胜的学术入门读物，分析了人工智能聊天机器人提供的自动化治疗背后的假设，以及资本主义激励可能破坏此类工具的方式。
富勒姆观察到，新技术背后的资本主义心态“常常导致可疑的、非法的和非法的商业行为，在这种行为中，客户的利益比市场支配地位的策略次要。”
富勒姆写道，这并不意味着治疗机器人制造商“为了追求市场主导地位，将不可避免地进行违背用户利益的邪恶活动”。
但他指出，人工智能疗法的成功取决于赚钱和治愈人们密不可分的冲动。在这种逻辑中，剥削和治疗是相互促进的：每个数字治疗会话都会生成数据，而这些数据会为系统提供动力，当无偿用户寻求治疗时，该系统就会获利。治疗看起来越有效，这个循环就越根深蒂固，使得护理和商品化之间的区分变得更加困难。他写道：“用户从该应用程序的治疗或任何其他心理健康干预方面受益越多，他们遭受的剥削就越多。”
这种经济上和心理上的衔尾蛇（吃自己尾巴的蛇）的感觉是《蛇》的一个中心隐喻。 切是具有人工智能研究背景的作家弗雷德·伦泽 (Fred Lunzer) 的处女作。
被描述为“男孩遇见女孩遇见人工智能心理治疗师的故事”， 切 讲述了以代写说唱歌词为生的年轻伦敦人阿德里安 (Adrian) 与商业专家马奎 (Maquie) 的浪漫故事，马奎擅长在测试阶段发现有利可图的技术。
弗莱德·伦泽
青瓷书，2025
标题指的是一位名叫 Sike 的引人注目的商业人工智能治疗师，该治疗师被上传到智能眼镜中，阿德里安用它来审视他的无数焦虑。 “当我注册 Sike 时，我们设置了我的仪表板，一个宽阔的黑色面板，就像飞机的驾驶舱一样，显示我每天的‘生命体征’，”阿德里安讲述道。 “赛克可以分析你走路的方式、眼神交流的方式、你谈论的内容、你穿的衣服、你撒尿、拉屎、笑、哭、接吻、撒谎、发牢骚和咳嗽的频率。”
