9.8 小于 9.11?真相居然与圣经相关~
2024-11-1 05:20:0 Author: mp.weixin.qq.com(查看原文) 阅读量:12 收藏

大模型时代,我估计大模型追在意的还是大模型“幻觉”问题,但是前面(2024.9.17)看到一个研究的结论是:"数学上证明,幻觉是不可避免地,也是不可能消除的"。

https://arxiv.org/abs/2409.05746

其实我一开始就不太在意“幻觉”的,甚至我觉得可能“幻觉”才是走向AGI核心关键点,毕竟“一本正经胡说八道”是成为高等级人类的基本功! 最早看到利用幻觉的是一个研究媒体传播学的教授,真是利用了大模型的幻觉来模拟谣言的传播方式,非常有意思的研究。另外一个层面,我觉得“幻觉”可能是帮助大家研究科研等领域的“灵感”来源,用概率来开辟一条新的思路~~

所以其实在大家使用大模型的时候在意的不是“幻觉”,而是“不可解释性” 

不过随着OpenAI o1模型的发布,推出了以时间换空间的慢思考,在某个角度上讲在一定程度上解决了“不可解释性” 

不过这个是推理正确情况下的“解释”,这个解释的层面还是相对比较高的,算是“逻辑”层面的解释,没办法确定在数据层面的解释,比如前面很火的,基本让大模型团灭的:“9.11 与 9.8 哪个大”的经典问题,在之前大家都只是推测,没有给出比较靠谱的解释,在前几天(2024.10.23)看到一篇研究项目的报告,最后揭示这个问题的真相居然与圣经相关~

详细报告:https://transluce.org/observability-interface

所以我觉得这种项目在大模型“不可解释性”等问题上是非常有意义的...

上一篇文章推荐的腾讯这个ima.copilot这个场景其实还是非常不错的,腾讯的人做产品还是可以的,比如这种场景人家都是写个Chrome插件就交差了,而鹅厂的产品经理会说:"用啥插件!用啥插件!直接给他整个浏览器他不香吗?" 不过好像没开Sandbox ...

对了,不知道啥原因,最近几篇文章的阅读量都非常低,所以这里再link下,如果没看的可以点过去看看:

聊聊《技术的本质》

是的!“仁者见仁、智者见智”才是真正的“赋予数据灵魂”

谈谈网络空间测绘在国家级断电断网事件上的应用


文章来源: https://mp.weixin.qq.com/s?__biz=Mzg5OTU1NTEwMg==&mid=2247484251&idx=1&sn=a400a33e89fa35d094ec14b79800e2e7&chksm=c050c92af727403c95ba6b04bbc02aee87181c3dd0677879917a0033fed77758dc5016500b02&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh