Apple AI failure? Writing tool struggles with profanity, "strike" on sensitive topics

本文作者：李丹

來源：硬 AI

上週蘋果的個人智能化系統 Apple Intelligence 通過 iOS 18.1 的開發者測試版首次落地 iPhone 等蘋果設備。IPhone 人工智能（AI）的首批功能之一——寫作工具 Writing Tools 才亮相一週就引發爭議，遭到網友吐槽。

據蘋果介紹，Writing Tools 讓用户能在幾乎任何場景下對文本進行改寫、校對和摘要，包括郵件（Mail）、備忘錄（Notes）、Pages 文稿和各類第三方 App。曾有網友展示，該工具可以把對話中語氣生硬的話修改得更加委婉。

但有媒體指出，當用户處理某些主題時，該工具會向用户展示，AI 生成的建議內容可能質量不高。

具體來説，當用户需要重新調整文本時，幾乎可以在新 iOS 系統的任何地方調用 Apple Intelligence，但如果嘗試改寫包含髒話的段落或者句子，就會看到一條系統警告，告知用户：“Writing Tools 不是為處理這種類型的內容而設計的。” 系統通過這種文本警告用户，AI 重寫的內容質量可能會和原文有所不同。

在社交媒體 X，有用户發佈了以下短視頻展示用 Apple Intelligence 改寫短信 “Let’s fxxx daddy” 這句話，AI 生成的結果 “不忍直視”，完全是字對字翻譯。

這個帖子下面，有網友熱評稱 AI 改寫內容 “有毒”，有人稱很尬，有人諷刺説，蘋果這是添加了什麼街頭 AI 來嘲諷 Siri 嗎。還有網友稱，想象下，你真把改寫的這話發出去會怎樣。

改寫髒話不是唯一會讓 iOS 系統發出警告的情況。如果用户的內容提及毒品、殺人或謀殺也會出現這類警告，比如媒體展示的以下截圖警告。

有媒體稱，當用户使用未經訓練的單詞或短語時，Apple Intelligence 也會顯示句子建議警告。其提到，有一次在試用 AI 寫作工具時，該媒體的人士將 “sh***y” 一詞用 “crappy” 替換，想通過這種方法讓 AI 警告消失，但 AI 工具返回的建議警告與未替換前完全相同。對此，該媒體已要求蘋果提供更多信息，説明寫作工具沒有接受哪些主題的訓練。

媒體認為，蘋果可能會通過禁止 AI 在重寫句子時處理某些單詞、主題和語調來避免任何爭議。無論如何，Apple Intelligence 驅動的寫作工具並不適用於從頭開始生成新內容。蘋果希望當 AI 正在查看原文詞語時向用户發出警告。

除了被曝引起爭議的寫作工具，蘋果上週還發布了一些 AI 功能，包括：Siri 的新功能，讓 Siri 能在文本和語音間任意切換，能回答如何使用 iPhone 等蘋果設備的數千問題；郵件的新功能，郵件有緊急電郵區、提供郵件全文摘要；照片的新功能，用户可用日常語言查找照片、輸入文本後 AI 可利用照片製作影片，以及語音可轉錄為文本並生成摘要。

還有不少蘋果在今年 6 月全球開發者大會（WWDC）上介紹的 AI 功能未上線，蘋果稱將在明年上線，包括圖像創作功能 Image Playground、創建應景 Genmoji、通知功能 Priority Notifications、具有屏幕感知功能的更強大 Siri，同時，蘋果還未將 Chat GPT 接入 iPhone 和 iPad 的 AI。而且，目前的 iPhone AI 只有註冊開發者能體驗。明年如果蘋果上線更多 AI 功能，並面向更多用户，可能會有更多吐槽。