第四范式戴文渊：“三俗”非AI所愿，而是因人为设定导致
发布时间：2024-05-31 17:21:40来源：
格隆汇5月31日｜第四范式公司创始人、CEO戴文渊做客格隆汇高端访谈《格隆博士会客厅》。戴文渊表示，即便数据量或算力再增加几个数量级，AI的行为目标仍然是人设定的。所以我觉得，相比于所谓“硅基和碳基的替代关系”，我们可能更需要关注“人设定的这个目标”。从理论上看，硅基生命其实并不知道什么叫贪婪，什么叫欲望——他如果做出在我们看来叫做贪婪的选择，那是因为选择贪婪可以让预测的准确率提升。所以归到源头，其实是我们人设定了一个什么样的目标。如果AI被设定错误目标，它一定会产生负面的影响。就好像现在推荐引擎会产生很多“三俗”内容，这些三俗内容并不是AI觉得你喜欢三俗，而是因为AI被设定目标，这个目标叫做让网民看APP的时长尽可能地长，然后AI给你推三俗的内容。
第四范式 3%
文章转载自：互联网，非本站原创
免责声明：本答案或内容为用户上传，不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。 如遇侵权请及时联系本站删除。
