📰 本频道不定期推送科技数码类新资讯，欢迎关注！ ©️ 发布的内容不代表本频道立场，和你意见不一样的话欢迎在评论区留言表达，但请注意言辞，面斥不雅。 ‼️ 关联群组定期清理不活跃成员和僵尸号，误封请联系管理员。🔗 博客: https://yummy.best 💬 群组: @GodlyGroup 📬 投稿: @GodlyNewsBot 🪧 广告合作： @yummybest_bot.https://broadcastchannel-1zj.pages.devhttps://broadcastchannel-1zj.pages.dev/posts/10672https://broadcastchannel-1zj.pages.dev/posts/10672Mon, 28 Oct 2024 04:19:19 GMT<div> <img src="/static/https://cdn5.telesco.pe/file/mg0-0uvdEDZixoqYpP2s2nvhxk_8mkSElS5PCiK3AeYT77waRd9ny11sUF12y9XGv9NIuLdLJRNJrNbhH3OGb3fk7cL_1FqysAfXHcHA2VLf0jPMn90y9iVIfnqTen1x5utFDugUZpC4X55bHxNOaMm7bjQktCwDjkmzbbiRJmwWAc0nI4DcYiibH8St274f6XhQJXQssIEEsRoy7U9Aqa2zivotgue1DYlh3RMFs69aF2Qeata1cdiJzj7xfyRQmocwJH84FTUzgdafIUId6usD_UKwThrJBK2lcOY0_SLoqZ_su-dWug9DL7Tiqp6rnko6m-0Il83xc5MtQCmpeA.jpg" alt="医院机构正在使用的转录工具 由易产生幻觉的 OpenAI 模型驱动研究人员发现，当呈现出短暂的静默时，Whisper 经常会凭空编造出整段文字" loading="lazy" /> <img src="/static/https://cdn5.telesco.pe/file/izo0eYrCl3bdfE58hcQMwBna74bHNRCDE1cgTE0xnsw67f_W6ZOfWmlEciTsZ-LJ3uYeEtZ0AxTSqqWYyh4WRDECFc5Ab_ZL33G1Xj9sV5xEmrdkMCZk7-XxLjIuFaDcAyg20jOf3MwBBGwKDYj_bEptRReSsJmZbAcbiYqeK2s9xCrDTF8CnInlhbN_EcT5rZqjKLgJQCEl7ivg0_E0A_CcTQlcKOLjiXPk6Uymkttg-FtmbyQWsw_ULV6OHBbo9AS9A3btvJxwYELfkw_LGsbdojtjLRhuYoiGuTm5hJcueGyT3I1ziAsQ6cZ_sv1JvCMwOKxqaClhWRuetGS5Xw.jpg" alt="医院机构正在使用的转录工具 由易产生幻觉的 OpenAI 模型驱动研究人员发现，当呈现出短暂的静默时，Whisper 经常会凭空编造出整段文字" loading="lazy" /> </div><a href="https://www.theverge.com/2024/10/27/24281170/open-ai-whisper-hospitals-transcription-hallucinations-studies" target="_blank"><b>医院机构正在使用的转录工具 由易产生幻觉的 OpenAI 模型驱动<br /></b></a><br /><blockquote>研究人员发现，当呈现出短暂的静默时，<mark>Whisper</mark> 经常会凭空编造出整段文字。</blockquote><br /><br />ABC News引用的研究人员发现，OpenAI 的 <mark>Whisper</mark> 并不总是这么可靠，这个工具被许多医院使用——有时候它会完全胡编乱造。<br /><br />根据ABC News的报道，一家名为<a href="https://www.nabla.com/" target="_blank"> Nabla</a> 的公司使用 <mark>Whisper</mark> 作为一个医疗转录工具，据估计它已转录了 700 万次医疗对话。该报道写道，<b>超过 3 万名临床医生和 40 个健康系统在使用它。</b>据称，Nabla 意识到 <mark>Whisper</mark> 会出现幻觉，并正在“解决这个问题”<br /><br />来自康奈尔大学、华盛顿大学等机构的一组研究人员<a href="https://facctconference.org/static/papers24/facct24-111.pdf" target="_blank">在一项研究中发现</a>，<mark>Whisper</mark> 在大约 1%的转录中产生了幻觉，<b>在录音的静音部分编造完整的句子，有时还带有暴力情绪或无意义的短语。</b>研究人员从 TalkBank 的 AphasiaBank 中收集了音频样本作为研究的一部分，他们指出，<b>当一个患有失语症（一种语言障碍）的人说话时，静音是特别常见的。</b><br /><br />其中一位研究人员，康奈尔大学的艾莉森·科恩克（Allison Koenecke），在关于该研究的<a href="https://x.com/allisonkoe/status/1797662873675800843" target="_blank">帖子</a>中发布了如封面图的例子。<br /><br />研究人员发现，<b>幻觉还包括一些虚构的医疗状况或短语</b>，比如：你可能在 YouTube 视频中听到的“谢谢收看！”（据报道，OpenAI 曾转录超过一百万小时的 YouTube视频来训练 GPT-4。）<br /><br />这项研究是在巴西召开的计算机协会 FAccT 会议上<a href="https://facctconference.org/2024/acceptedpapers" target="_blank">于六月发布的</a>。目前还不清楚是否经过同行评审。<br /><br /><b>OpenAI 发言人塔亚·克里斯蒂安森给The Verge:发送了一份声明：<br /></b><blockquote>我们非常重视这个问题，并持续努力改进，包括减少幻觉。<br /><br />在我们的 API 平台上使用 <mark>Whisper</mark> 时，我们的使用政策<b>禁止在某些高风险决策场景中使用，针对开源使用的模型卡中也包括建议，不要在高风险领域使用。</b>我们感谢研究人员分享他们的研究成果。</blockquote><br /><br /><i><b>🗒</b></i> 标签: <a href="/search/%23OpenAI">#OpenAI</a> <a href="/search/%23Whisper">#Whisper</a> <a href="/search/%23AI">#AI</a> <br /><i><b>📢</b></i> 频道: <a href="https://t.me/GodlyNews1" target="_blank">@GodlyNews1</a><br /><i><b>🤖</b></i> 投稿: <a href="https://t.me/GodlyNewsBot" target="_blank">@GodlyNewsBot</a>