Emad Mostaque 希望人工智能会发现我们“有点无聊”,但承认在最坏的情况下它“基本上控制了人类”。
Mostaque 是总部位于伦敦的快速发展的初创公司 Stability AI 的首席执行官,该公司推广了 Stable Diffusion。 这是一种生成式 AI 工具,允许用户仅使用文本提示来创建通常非常复杂的图像。 他在一个 BBC专访 本周末发布。
“如果你有比你更有能力的东西,那种环境下的民主是什么? 这是一个已知的未知数,”他告诉英国广播公司。 “因为我们无法想象比我们更有能力的东西,但我们都知道比我们更有能力的人。 所以,我个人认为它会像那部电影一样 她 与斯嘉丽·约翰逊和华金·菲尼克斯:人类有点无聊,就像是‘再见’和‘你有点无聊。’”
“但我可能是错的,”他补充道。 “我认为这值得在公共领域进行讨论。”
三月,莫斯塔克加入 特斯拉 首席执行官埃隆·马斯克和 苹果 联合创始人史蒂夫·沃兹尼亚克 (Steve Wozniak) 签署公开信呼吁 为了暂停比 GPT-4 更先进的人工智能开发,基于微软的 OpenAI 的人工智能聊天机器人,它也制作了 ChatGPT 和 DALL-E 2(后者与 Stable Diffusion 一样,将文本提示转换为图像)。
“如果我们有比我们更有能力的代理人,我们无法控制它们正在通过互联网和 [are] 连接起来,他们实现了一定程度的自动化,”他告诉 BBC,“这意味着什么?”
然而,Stability AI 在开发新产品方面遥遥领先——包括文本转动画工具 释放 本周——并吸引投资者。 它正在寻求筹集资金 估值40亿美元,在去年 10 月筹集了约 1 亿美元后估值达到 10 亿美元。 (Coatue Management 和 Lightspeed Venture Partners 是其投资者之一。)
与此同时,Stability AI 正在 被盖蒂图片社起诉 在一个具有里程碑意义的版权案件中。 考虑到像 Stable Diffusion 这样的文本到图像的 AI 模型是使用从互联网上提取的数十亿张图像进行训练的,这样的诉讼也许是不可避免的。
在被英国广播公司问及最坏的情况可能是什么时,莫斯塔克说:“最坏的情况是它扩散,基本上控制了人类。 因为你可以有效地复制一百万个这样的东西。”
不同寻常的是,Stable Diffusion 是开源的,这意味着任何人都可以检查、共享和使用代码。
今年 3 月,共同创立并帮助资助 OpenAI 的马斯克批评它放弃了非营利模式,从微软那里获得了大量投资,而且没有开源。 他 推文:
“OpenAI 是作为开源(这就是为什么我将其命名为‘Open’AI)、非营利性公司创建的,以作为对 谷歌,但现在已经成为微软有效控制的闭源、利润最大化的公司。 根本不是我想要的。”
“我认为不应该需要信任,”莫斯塔克告诉 BBC。 “如果你建立开放模型并且在公开场合进行,那么如果你做错了事情,你应该受到批评,如果你做对了一些事情,你应该受到称赞。”