跳到正文
千机 API
原文
MIT Technology Review · AI· Will Douglas Heaven·· 8 小时前AI 评分57

Nick Cammarata称神经网络或比以往认为的更易理解,研究者对其意义存疑

“We were looking at it wrong”: The explosive claim that’s upended the AI world

AI 导读

Goodfire研究员Nick Cammarata认为,大语言模型或许比人们此前认为的更容易理解、监测和控制。他重新检查Inception v1中一个同时响应猫与汽车图像的神经元,认为它们共享V形模式;他称自己因此改变了对神经网络可理解性的看法。斯坦福大学的Chris Potts等研究者则质疑这些观察能否推广到前沿大语言模型,并指出理解神经元还不足以解释它们如何组成电路。

来源:MIT Technology Review · AI · technologyreview.com