OpenAI联合创始人,首席科学家伊利亚10月17日TED演讲视频观点:人们将开始出于自身利益,以前所未有的协作方式采取行动,
随着人工智能的不断进步,随着技术的进步,[…]我认为将会发生的是,人们将开始出于自身利益以前所未有的协作方式采取行动。现在已经发生了。
你会看到领先的 AGI 公司开始合作,例如 Frontiers 模型论坛。我们预计公司,甚至竞争对手,将共享技术信息以确保他们的人工智能安全。我们甚至可能会看到政府这样做。
另一个例子是,在 OpenAI,我们确实相信 AGI 将会有多么引人注目。所以,我们的经营理念之一,并且已经在我们的网站上写了 5 年了,就是,当技术发展到我们非常接近 AGI、比人类更聪明的计算机时,如果其他公司距离我们还很远的话。在我们前面,那么我们不会与他们竞争,而是会帮助他们,在某种意义上加入他们。
为什么要这样做?因为我们意识到 AGI 将会带来多么令人难以置信的戏剧性。我的主张是,随着每一代能力的进步,随着人工智能变得更好,随着所有人都体验到人工智能的能力,运行人工智能工作和通用人工智能工作的人们以及从事这些工作的人们也会体验到这一点,将改变我们看待人工智能和通用人工智能的方式。这将改变集体行为。这就是为什么我希望尽管这项技术带来了巨大的挑战,但我们能够克服它们的一个重要原因。