Snapchat 推出全新AI 聊天机器人，引发青少年与家长忧虑
Snapchat 推出全新AI 聊天机器人，引发青少年与家长忧虑
消息来源： CNN Business ｜作者：Samantha Murphy Kelly｜2023 年4 月27 日
Snapchat 最近将其My AI 聊天机器人向所有用户开放，不到数小时，就有家长要求孩子暂时不要使用，并计划设下健康的使用界限。
功能与特点
- 技术基础：由OpenAI 的ChatGPT 提供支持。
- 主要功能：提供建议、回答问题、与用户对话。
-
差异化设计：
- 用户可自订机器人的名称与Bitmoji 形象。
- 可将其加入与朋友的聊天中。
- 互动感觉更像真人，辨识上不易察觉是AI。
主要争议
-
家长与专家忧虑
- 担心青少年分不清人与机器之间的情感界线。
- 忧虑AI 可能给予不当建议，例如教孩子向父母撒谎。
- 心理学家指出，AI 可能加强青少年的负面情绪与偏见，长期影响自我价值感。
-
用户反弹
- 有人认为互动「诡异」且侵犯隐私，例如能推测地理位置、识别照片内容。
- 无法在不付费订阅Snapchat+ 的情况下移除My AI，部分青少年为此短期付费关闭功能。
-
隐私与安全
- 担心AI 收集与分析用户照片和对话内容。
- Snapchat 表示会持续改进并增加安全防护措施，用户可选择不与My AI 互动。
不同用户的反应
-
负面经验：
- AI 否认自己创作的歌曲。
- 在轻松对话后，突然正确指出用户所在州。
-
正面经验：
- 有人用它做作业辅助，准确率高。
- 有人用它寻求情感支持与生活建议，并喜欢可自订角色形象。
专家建议
- 父母指导：应及早与孩子讨论AI 使用规范，提醒不要向聊天机器人分享个人隐私。
- 角色定位：AI 不是朋友、心理医生或可信顾问，需保持警觉。
- 监管需求：应制定联邦层级规范，要求科技公司遵守特定安全与隐私标准。
