隨著越來越多用戶向人工智能聊天機械人詢問健康問題,安全及私隱疑慮日益增加。Apple 現正透過 Apple Health AI Usage Study(Apple 健康人工智能使用研究)提供更安全的途徑,讓參與者在獲得三大保證的情況下諮詢醫療資訊。
重點文章
研究運作方式
此項目屬於 Apple 於 2019 年推出的 Research App 中的研究計劃之一,該應用程式旨在協助大學及醫療機構進行健康研究。通常情況下,用戶需同意分享來自 Apple Health App 的某些匿名資料以推動醫學研究,並可能需要填寫問卷。
然而,Apple Health AI Usage Study 的運作方式略有不同。除了邀請用戶分享部分健康數據外,參與者還可以直接向一個人工智能系統詢問有關自身健康的問題。
三大核心保證
一般的人工智能聊天機械人在回答健康問題時,其可靠性及數據處理方式往往不明確。Apple 的研究則提供三項關鍵保證:答案源自權威渠道、數據不用於訓練模型,以及不保留對話記錄。
首先,Apple 表示答案將由醫療專業人員使用的同一平台生成。該研究與臨床人工智能平台 OpenEvidence 合作進行,該平台廣泛應用於醫療領域,並從《新英格蘭醫學雜誌》、美國醫學會雜誌及《自然》等權威來源提取醫學資訊。用戶收到的回答將包含指向經同行評審臨床引用的連結。
其次,正如外界對 Apple 私隱保護措施的預期,該研究明確保證用戶數據不會用於訓練人工智能模型。研究設計之初即納入私隱保護、透明度及臨床安全措施,參與者可自主決定是否共享任何 HealthKit 指標或問捲回應。Apple 已實施安全措施以保護所維護的研究數據及參與者的個人資料機密性。
最後,據 CNET 報導,OpenEvidence 承諾在 24 小時內刪除所有提問及回應數據。僅有一小部分 Apple 研究人員能接觸到問捲回應的編碼版本,這些資料已與個人識別信息分離,僅包括對話摘要及最常見對話類型的分類統計。
參與資格與限制
目前,該研究的訪問權限僅限於下載了相關應用程式的美國用戶。
