Yummy 😋

十三名前 OpenAI 员工在一封公开信中表示，人工智能公司对那些提出安全问题的人进行了报复。

几位前 OpenAI 员工在一封公开信中警告说，像 OpenAI 这样的先进 AI 公司压制批评和监督，特别是在过去几个月对 AI 安全的担忧增加的情况下。

这封公开信由 13 名前 OpenAI 员工签署（其中六人选择匿名），并得到前谷歌“人工智能之父”Geoffrey Hinton 的支持。信中表示，在缺乏有效的政府监管的情况下，人工智能公司应该承诺遵守公开批评原则。这些原则包括避免制定和执行禁止贬损条款，提供一个“可验证”的匿名举报问题的渠道，允许现任和前任员工向公众提出担忧，并且不对举报人进行报复。

信中说，尽管他们相信人工智能有潜力造福社会，但也看到了风险，比如加剧不平等、操纵和误导信息，以及人类灭绝的可能性。虽然人们对可能接管地球的机器有重要的担忧，但当今的生成式人工智能有更实际的问题，比如侵犯版权、无意中分享有问题和非法的图像，以及它可以模仿人们的样貌并误导公众的担忧。

信件的签署者声称，现有的举报人保护措施“是不足的”，因为它们侧重于非法行为，而不是他们所说的大多数未受监管的问题。劳工部表示，举报工资、歧视、安全、欺诈和扣留休假时间等违规行为的工人受举报人保护法的保护，这意味着雇主不能解雇、裁员、减少工时或降职举报人。信中写道：“鉴于行业内此类案件的历史，我们中的一些人合理地担心各种形式的报复。我们不是第一个遇到或谈论这些问题的人。”

最近，几位 OpenAI 的研究人员在公司解散了专注于解决人工智能长期风险的“超级对齐”团队后辞职，同时联合创始人Ilya Sutskever也离开了公司，他一直在公司内倡导安全。一位前研究员 Jan Leike 表示，在 OpenAI，"安全文化和流程已经让位于光鲜亮丽的产品"。

OpenAI 确实有一个新的安全团队，由 CEO 山姆·奥特曼领导。

🗒 标签: #OpenAI #匿名
📢 频道: @GodlyNews1
🤖 投稿: @GodlyNewsBot