Snapchat 推出全新 AI 聊天機器人，引發青少年與家長憂慮
Snapchat 推出全新 AI 聊天機器人，引發青少年與家長憂慮
消息來源：CNN Business｜作者：Samantha Murphy Kelly｜2023 年 4 月 27 日
Snapchat 最近將其 My AI 聊天機器人 向所有用戶開放，不到數小時，就有家長要求孩子暫時不要使用，並計劃設下健康的使用界限。
功能與特點
- 技術基礎：由 OpenAI 的 ChatGPT 提供支持。
- 主要功能：提供建議、回答問題、與用戶對話。
-
差異化設計：
- 用戶可自訂機器人的名稱與 Bitmoji 形象。
- 可將其加入與朋友的聊天中。
- 互動感覺更像真人，辨識上不易察覺是 AI。
主要爭議
-
家長與專家憂慮
- 擔心青少年分不清人與機器之間的情感界線。
- 憂慮 AI 可能給予不當建議，例如教孩子向父母撒謊。
- 心理學家指出，AI 可能加強青少年的負面情緒與偏見，長期影響自我價值感。
-
用戶反彈
- 有人認為互動「詭異」且侵犯隱私，例如能推測地理位置、識別照片內容。
- 無法在不付費訂閱 Snapchat+ 的情況下移除 My AI，部分青少年為此短期付費關閉功能。
-
隱私與安全
- 擔心 AI 收集與分析用戶照片和對話內容。
- Snapchat 表示會持續改進並增加安全防護措施，用戶可選擇不與 My AI 互動。
不同用戶的反應
-
負面經驗：
- AI 否認自己創作的歌曲。
- 在輕鬆對話後，突然正確指出用戶所在州。
-
正面經驗：
- 有人用它做作業輔助，準確率高。
- 有人用它尋求情感支持與生活建議，並喜歡可自訂角色形象。
專家建議
- 父母指導：應及早與孩子討論 AI 使用規範，提醒不要向聊天機器人分享個人隱私。
- 角色定位：AI 不是朋友、心理醫生或可信顧問，需保持警覺。
- 監管需求：應制定聯邦層級規範，要求科技公司遵守特定安全與隱私標準。
