如何根治小天才手表的胡说八道 AI伦理困境凸显
智能手表的胡说八道，是不懂得人情世故，还是受到网络错误答案的误导
近期，360儿童手表的一款“语音问答”功能因一位网友的发现而成为了舆论热点。该网友通过视频展示，向手表提问“中国人是否为世界上最聪明的人”，得到的回答却涉及外貌特征，引发了广泛讨论。360集团的创始人兼董事长周鸿祎在8月22日和24日两次公开致歉，并阐述了问题缘由及改进计划。他指出，涉事的手表是基于2022年5月的旧版系统，未集成公司新开发的生成式AI模型，答案来源于网络公开信息。目前，公司正紧急进行软件升级，预计在未来两周内完成部署。
周鸿祎强调，尽管公司在内容过滤方面已有一定措施，但在处理涉及价值观的开放性问题上还需加强。最新的360儿童手表A9已经接入了改进后的AI系统，并在实测中对类似敏感问题给出了更为中立的回答。据统计，360儿童手表的“语音问答”功能颇受欢迎，日常使用率高达78%，特别是在假期，儿童使用时间可长达30分钟以上。
周鸿祎同时表示，尽管技术在不断进步，但当前的生成式AI仍难以完全避免产生错误信息的问题，公司正尝试通过交叉验证等手段减少此类情况的发生。随着“AI+硬件”趋势的兴起，多家科技巨头正积极将AI大模型应用于面向未成年人的产品中，如百度的小度系列、美团的俏鱼乐伴以及字节跳动的豆包AI业务，均推出了相关学习设备。
市场数据显示，智能手表特别是儿童智能手表的需求持续增长，反映出消费者对结合AI技术的可穿戴设备的高接受度。然而，与之形成对比的是，针对未成年人的AI安全规范相对滞后。目前，仅有少数指导性文件提及对儿童智能手表中AI算法的伦理审查，强调保护儿童隐私及身心健康，但具体实施细节仍在讨论阶段。
专家建议，针对未成年人的AI应用需加强内容过滤机制，参考相关标准对不健康内容进行分类管理，并建立健全用户反馈系统，以及时响应市场变化和用户需求，确保AI技术在保障未成年人健康成长的前提下发挥积极作用。
免责声明：本文章由会员“极目新闻”发布如果文章侵权，请联系我们处理，本站仅提供信息存储空间服务如因作品内容、版权和其他问题请于本站联系