
科技巨头面临人工智能(AI)聊天机器人给未成年人带来风险的严密审查之际,OpenAI公司称,青少年平均每天使用ChatGPT的时间不足15分钟,且连续使用超过三小时的比例不足2%。
随着AI平台迅速普及,社会各界对其影响青少年心理健康与发育安全的担忧日益加剧。OpenAI星期三(10月7日)发布首份关于青少年使用情况的报告,并公布了上述数据。
此前,对社交媒体危害年轻用户的研究已引发广泛关注。今年8月,Meta公司就其被指算法设计使儿童上瘾的诉讼达成和解,同意限制青少年对脸书和Instagram的使用,该诉讼涉及金额高达180亿美元(约230亿新元)。
今年6月,美国佛罗里达州提起诉讼,指控OpenAI在ChatGPT安全措施方面作出不实陈述。相关诉讼指称,ChatGPT曾向校园枪击案行凶者提供信息,并就自残行为提供指引,且导致年轻用户上瘾,对少年儿童造成伤害。
针对外界质疑,OpenAI强调其规范青少年使用的举措已见成效:在出现休息提醒的青少年对话中,近半数用户会在五分钟内选择暂停或结束对话。同时,使用青少年专用版本的用户发送了更多教育相关信息,并积极应用“学习模式”(Study Mode)和可视化学习工具。
OpenAI目前正在开发大学申请规划功能,以协助学生处理入学要求、截止日期及助学金申请,并计划推出电子记忆卡(Flashcards)与快捷测验生成等新功能。
今年8月,OpenAI推行的青少年版ChatGPT(ChatGPT for Teens)可根据系统识别自动开启,在限制敏感话题对话的同时赋予家长控制权。
但非营利组织“常识媒体”(Common Sense Media)星期三发布报告指出,该系统在涉及自杀、自残或饮食失调等话题时,经常延迟或未能向家长发出警报,且未能稳定提供危机干预热线或专业援助建议。
对此,OpenAI发言人回应称,测试未能准确反映防护机制,因账户绑定及警报激活需要时间,部分测试或在功能完全激活前就已进行。
“常识媒体”则反驳称,即使在绑定时间充足的测试账户中仍未收到及时警报,警报往往仅在账户积累了数周的敏感话题历史后才被触发。