Emad Mostaque 希望人工智能会发现我们“有点无聊”，但承认在最坏的情况下它“基本上控制了人类”。
Mostaque 是总部位于伦敦的快速发展的初创公司 Stability AI 的首席执行官，该公司推广了 Stable Diffusion。 这是一种生成式 AI 工具，允许用户仅使用文本提示来创建通常非常复杂的图像。 他在一个 BBC专访 本周末发布。
“如果你有比你更有能力的东西，那种环境下的民主是什么？ 这是一个已知的未知数，”他告诉英国广播公司。 “因为我们无法想象比我们更有能力的东西，但我们都知道比我们更有能力的人。 所以，我个人认为它会像那部电影一样 她 与斯嘉丽·约翰逊和华金·菲尼克斯：人类有点无聊，就像是‘再见’和‘你有点无聊。’”
“但我可能是错的，”他补充道。 “我认为这值得在公共领域进行讨论。”
三月，莫斯塔克加入 特斯拉 首席执行官埃隆·马斯克和 苹果 联合创始人史蒂夫·沃兹尼亚克 (Steve Wozniak) 签署公开信呼吁 为了暂停比 GPT-4 更先进的人工智能开发，基于微软的 OpenAI 的人工智能聊天机器人，它也制作了 ChatGPT 和 DALL-E 2（后者与 Stable Diffusion 一样，将文本提示转换为图像）。
“如果我们有比我们更有能力的代理人，我们无法控制它们正在通过互联网和 [are] 连接起来，他们实现了一定程度的自动化，”他告诉 BBC，“这意味着什么？”
然而，Stability AI 在开发新产品方面遥遥领先——包括文本转动画工具 释放 本周——并吸引投资者。 它正在寻求筹集资金 估值40亿美元，在去年 10 月筹集了约 1 亿美元后估值达到 10 亿美元。 （Coatue Management 和 Lightspeed Venture Partners 是其投资者之一。）
与此同时，Stability AI 正在 被盖蒂图片社起诉 在一个具有里程碑意义的版权案件中。 考虑到像 Stable Diffusion 这样的文本到图像的 AI 模型是使用从互联网上提取的数十亿张图像进行训练的，这样的诉讼也许是不可避免的。
在被英国广播公司问及最坏的情况可能是什么时，莫斯塔克说：“最坏的情况是它扩散，基本上控制了人类。 因为你可以有效地复制一百万个这样的东西。”
不同寻常的是，Stable Diffusion 是开源的，这意味着任何人都可以检查、共享和使用代码。
今年 3 月，共同创立并帮助资助 OpenAI 的马斯克批评它放弃了非营利模式，从微软那里获得了大量投资，而且没有开源。 他 推文:
“OpenAI 是作为开源（这就是为什么我将其命名为‘Open’AI）、非营利性公司创建的，以作为对 谷歌，但现在已经成为微软有效控制的闭源、利润最大化的公司。 根本不是我想要的。”
“我认为不应该需要信任，”莫斯塔克告诉 BBC。 “如果你建立开放模型并且在公开场合进行，那么如果你做错了事情，你应该受到批评，如果你做对了一些事情，你应该受到称赞。”
