OpenAI的Whisper AI語音轉錄出現嚴重幻覺，專家警告風險極高

科技巨頭 OpenAI 開發的 AI 語音轉錄工具 Whisper AI 聲稱擁有接近「人類水準的準確性」，然而，近期有多位專家指出，Whisper 存在嚴重的「AI幻覺」問題。它會自動生成虛構的文字內容，這些錯誤內容包含種族言論、暴力訊息，甚至虛構的醫療建議，對使用者的風險極高。

Whisper AI是什麼？

Whisper AI 是由 OpenAI 開發的人工智慧語音轉錄工具，能將語音音頻轉換為文字。目前被廣泛應用於各種場景，例如影音字幕、即時語音翻譯及語音助理等，為使用者提供語音轉錄解決方案。

研究人員發現，Whisper 的轉錄結果中常出現未被說過的文字內容，錯誤率高達 40%。

目前已有多家醫療機構將 Whisper 用於記錄醫師與病人的對話，藉此減少醫生手寫紀錄的時間。然而，若無法核對原始音檔，這些捏造的內容可能造成誤診風險，甚至引發醫療糾紛。

研究人員發現一段錄音中，講者只有提及：「兩位女生和一位女士」，Whisper 卻錯誤轉錄成：「她們都是黑人」的種族評論。還有一段轉錄內容將一句簡單的對話虛構成「持刀殺人」，顯示出 AI 錯誤的嚴重性影響甚大。

為了解決這些潛在問題，許多專家和前 OpenAI 員工呼籲政府考慮 AI 的相關法規管制，並強調 OpenAI 必須立即對 Whisper 的幻覺現象進行改良，同時也呼籲對 AI 行業的透明度和安全性，必須有更高的監管要求。

OpenAI 的發言人則回應表示，公司持續對模型進行改良，會將研究結果納入新版本中。

AI大語言模型在分析或生成內容時，它會根據訓練數據的模式和關聯進行上下文的預測，由於AI目前仍無法分辨事實與虛構內容，可能就會生成不真實或未存在的內容，這些就被稱作是「AI幻覺」。