独立开发者征询儿童故事安全方案

一名独立开发者正在开发一款 iOS 应用，为3至9岁儿童每晚自动生成并朗读连载睡前故事，不设人工审核，因此模型生成内容会直接讲给孩子听。他称，目前以系统提示词禁止暴力、惊吓结局和成人主题，再由较便宜的模型复审并输出“ok”或“rewrite”，同时设置短黑名单。 现有方案尚难识别“角色走失”“家长离场”等隐性不适合情节，也未确定检查失败时的兜底方式。开发者已向同行征询：应信任分类器还是进一步约束生成、如何评估“情绪上不对劲”的内容，以及来不及重新生成时如何处理。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。