AGI Hunt· anshulkundaje·· 2 小时前AI 评分36
研究者呼吁开展开源模型训练数据归因:LLM 已被证实记住 Cas9 等序列
研究者呼吁开源模型训练数据归因:LLM 已被证实记住 Cas9 等序列
AI 导读
生物信息学研究者 Anshul Kundaje 呼吁对开源模型开展训练数据归因,以厘清训练数据与模型记忆之间的对应关系。已有证据表明,LLM 能记住 Cas9、GFP 等蛋白质以及 Alu、Shine-Dalgarno 等 DNA 序列,引发对模型记忆、泛化机制和数据来源透明度的研究兴趣。
来源:AGI Hunt · agihunt.info