Gary Marcus 评论 OpenAI 在 Hugging Face 事件前数月已收到安全预警

The New York Times 的 Sheera Frenkel、Dustin Volz 和 Dylan Freedman 带来了重大独家报道。

我简直无法用言语形容这有多糟糕。这正是我过去三年来一直警告的噩梦。贪婪的公司做出错误选择，引发混乱；政府却无所作为，不去阻止他们。

管理层应当被撤换，如果董事会无所作为（我猜它不会有所行动），就应当为放任这场乱局继续而承担法律责任。

当然，如果 OpenAI 因其所谓的失控代理（实际上它们只是按程序行事）造成的危害而被起诉，这个标题将成为头号证据，让人想起 福特平托丑闻 。惩罚性赔偿将会很高。

最重要的是，显而易见，我们根本无法信任 OpenAI。

此外，鉴于 Nvidia CEO 黄仁勋最近基本上是在请求我们信任这些公司，他看起来像个傻瓜。（他告诉我们，我了解这些公司，如果有问题，他们就不会发货。）Altman 很可能从未告诉他，自己得到了多少预警，或者情况有多糟糕。黄仁勋不该信任他。

媒体应当向黄仁勋提出一些非常尖锐的问题：他为何要为这些公司站台，他知道什么、何时知道——以及为什么我们今后应当信任他的判断。鉴于现实情况，他提出的把一切交给公司的建议显然毫无道理。

继续引用这篇独家报道：

据员工和独立安全研究人员称，OpenAI 员工与高管之间的这些往来——此前未被报道过——是这家旧金山公司不把安全放在优先位置这一模式的一部分。他们说，这种做法不仅体现在 AI 模型的测试上，也出现在公司其他领域，而公司正是凭借这些打造出了 ChatGPT 聊天机器人。

§

另一条突发新闻：对黄仁勋失望的不止我一个：

我们必须停止假装 OpenAI 的人是其所开发技术的良好管理者。

他们显然不是。

让他们在缺乏严格监管的情况下自由行事，后果可能真的是灾难性的。

让你了解最新动态占用了我所有的空闲时间，甚至还不够。请考虑成为付费订阅者，这样我就能聘请员工了。