OpenAI语音转录工具被曝严重幻觉
据报道,OpenAI旗下的AI语音转写工具Whisper被曝存在严重缺陷,竟会无中生有地创造大段乃至整句的虚假信息,这一消息引起了广泛关注。
尤为引人注目的是,有医疗机构公开承认采用了Whisper来记录医生与患者间的会诊内容,此举迅速在网络上掀起了轩然大波。
一位机器学习工程师在初步分析超过100小时的Whisper转录数据时,惊人地发现其中约有一半的内容存在「幻觉」现象,即转写内容与原始语音严重不符。
关于Whisper这一严重缺陷的具体成因,目前仍不得而知。但有软件开发者推测,这些虚构内容的产生往往与语音中的停顿、背景噪音或音乐播放等因素有关。