本文是翻译文章,原文是 Wired 在今年 7 月份的封面采访报道。在今天 OpenAI 突发解雇现任 CEO 山姆·阿尔特曼(Sam Altman)之后,我们有必要了解一下其继任者。

Wired 原文链接:https://www.wired.com/story/openai-new-ceo-who-is-mira-murati/

在 OpenAI 联合创始人兼首席执行官山姆·阿尔特曼(Sam Altman)于本周五戏剧性地离职之前,米拉·穆拉提(Mira Murati)是 OpenAI 的首席技术官–但你也可以称她为 “真相部长”。除了领导开发 ChatGPT 和 Dall-E 等工具的团队外,她的工作还包括确保这些产品不会误导人们、出现偏见或完全扼杀人性。

本访谈于 2023 年 7 月为 WIRED 关于 OpenAI 的封面故事 进行。在萨姆-奥特曼突然离职之后,我们今天发表这篇访谈,让大家了解这家强大的人工智能公司新老板的想法。

史蒂文-列维:你是如何加入 OpenAI 的?

米拉-穆拉提: 我的背景是工程学,曾在航空航天、汽车、VR 和 AR 领域工作过。在特斯拉(她在那里主导了 Model X 的开发)和一家 VR 公司(Leap Motion)工作期间,我从事的都是人工智能在现实世界中的应用。我很快就认识到,AGI 将是我们打造的最后一项也是最重要的一项重大技术,我想参与到核心工作中。OpenAI 是当时唯一一个有动力去研究人工智能技术能力并确保其顺利进行的组织。2018 年加入后,我开始负责我们的超级计算战略,并管理几个研究团队。

在您任职期间,有哪些重要的里程碑时刻让您印象深刻?

有很多重要时刻,很难记住全部。我们生活在未来,每天都能看到疯狂的事情。但我确实记得 GPT-3 能够翻译的时刻。我会说意大利语、阿尔巴尼亚语和英语。我记得我只是创建了英语和意大利语的配对提示。突然之间,它能翻译的相当好,尽管我们从未训练过它翻译意大利语。

你很早就加入了OpenAI,当OpenAI从一个纯粹的非营利组织转变为组织内部包含一个营利实体时。你对此有何感想?

这不是一个轻易做出的决定。要想真正了解如何使我们的模型更好、更安全,就需要大规模部署。这需要大量资金。这需要你有一个商业计划,因为慷慨的非营利捐赠者不会像投资者那样捐出数十亿美元。据我所知,目前还没有其他类似的架构。关键是要保护非营利组织的使命。

由于你们与一家大型科技公司的合作如此深入,这可能会很棘手。你觉得你们的使命与微软的使命一致吗?

他们认为这是我们的使命。

但这不是他们的使命。

不,那不是他们的使命。但重要的是,投资者要真正相信那是我们的使命。

**你在2018年加入时,OpenAI主要是一个研究实验室。虽然你们仍在做研究,但现在你们在很大程度上是一家产品公司。这是否改变了公司文化?

公司肯定发生了很大变化。我觉得几乎每年都会发生一些范式转变,我们必须重新考虑如何做事。这就像是进化。现在对每个人来说更明显的是,我们需要不断适应社会,以负责任的方式帮助将这项技术带给世界,并帮助社会适应这种变化。

五年前,当我们还只是在实验室里做实验时,这一点还不一定很明显。但是,将 GPT-3 通过 API 开放,在与客户和开发人员的合作中,帮助我们建立了对这项技术在现实世界中改变事物的潜力的理解能力,而改变的方式往往与我们的预期不同。

你参与了 Dall-E 项目。因为它输出的是图像,你们必须考虑与文字模型不同的事情,包括谁拥有模型所借鉴图片的版权方。你当时有哪些担心,以及你认为自己有多成功?

很明显,我们做了大量的重新设计工作。我记得那是快乐、轻松和有趣的源泉。大家想出了很多有创意的提示词。我们决定在实验室里实现它们,作为人们与技术互动和了解技术的一种简单方式。此外,我们还考虑了政策影响,以及 Dall-E 如何影响产品、社交媒体或其他事物。

我们还与创意人员进行了大量合作,一直在征求他们的意见,因为我们内部认为它是一种真正能提高创造力的工具,而不是取代创造力的工具。起初有人猜测,人工智能首先会将大量工作自动化,而创造力是我们人类垄断的领域。但我们看到,这些人工智能模型实际上具有真正发挥创造力的潜力。当艺术家们使用 Dall-E 进行创作后,他们产生的作品真的非常棒。

自OpenAI发布其产品以来,人们一直在质疑其对版权、剽窃和就业等问题的直接影响。将GPT-4这样的产品公之于众,几乎就像是在强迫公众去面对这些问题。这是有意为之吗?

当然是。事实上,如何以一种安全、负责任的方式将它推广开来,并帮助人们将其融入工作流程,这一点非常重要。它将改变整个行业;人们把它比作电力或印刷机。因此,将其真正融入社会的各个层面,并考虑版权法、隐私、治理和监管等问题,是非常重要的。我们必须确保人们真正亲身体验到这项技术的能力,而不是从新闻稿中了解到它,尤其是在技术进步如此迅速的今天。抵制是徒劳的。我认为,重要的是要拥抱它,并弄清楚它将如何顺利发展。

你确信这是推动我们迈向人工智能的最佳方式吗?

我还没有想到比迭代部署更好的方法,来找出如何让这种持续的适应性和来自真实终端的反馈反馈到技术中,使其更加强大,以适应这些用例。现在就做这件事非常重要,因为现在风险还不大。随着我们越来越接近 AGI,它很可能会再次进化,而我们的部署策略也会随之改变。