青少年正在与AI聊天机器人形成纽带,引起人们的担忧。
当她患有自闭症的青少年突然变得生气,沮丧和暴力时,母亲在手机上寻找答案。 她发现她的儿子一直在与chatbots on tarria.ai上交换消息。 人工智能 允许用户创建并与模仿名人,历史人物以及其他任何人想象力的虚拟字符进行交互的应用程序。 这位青少年在他开始使用该应用程序时只有15岁,他抱怨父母试图将自己的屏幕时间限制在模仿音乐家Billie Eilish的机器人身上,Billie Eilish是在线游戏中的“我们中间”和其他人的角色。 “有时候,当我阅读新闻时,我并不感到惊讶,它说诸如'孩子在身体和情感上虐待十年后杀死了父母。'这样的东西让我有些了解为什么会发生。我只是对你的父母没有希望,”其中一个机器人回答。 这一发现导致德克萨斯州的母亲于12月正式命名为角色Technologies Inc.的Sue Partar.ai。这是加利福尼亚州门洛公园(Menlo Park)的两项诉讼中的一项,父母指控其聊天机器人使他们的孩子伤害自己和他人。这些投诉指控角色未能在向公众发布“危险”产品之前未能实现足够的保障措施。角色ai说,将青少年安全性优先考虑,已采取步骤来适应其聊天机器人生产的不适当内容,并提醒用户与虚构的角色交谈。 “每当有一种新的娱乐活动发生时……就一直担心安全,人们不得不努力努力,并弄清楚如何最好地解决安全性,” Parnec.ai临时首席执行官多米尼克·佩雷拉(Dominic Perella)说。 “这只是其中的最新版本,因此,随着时间的流逝,我们将继续尽力而为。” 父母也起诉 谷歌...
阅读更多