Rocky说：未来10年AI到底会发生什么样的变化？

从GPT4——AGI时代(通用人工智能)——ASI时代(超级人工智能)的思考！

最近被前OpenAi员工Leopold Aschenbrenner撰写的论文《SITUATIONAL AWARENESS—The Decade Ahead》整的我大为震撼，好几个夜晚不能入眠，而且还做一些奇奇怪怪的后ASI时代的噩梦(目前论文我们已经用AI翻译成中英双语版本，需要的伙伴，可以添加我简介首页的TG，做一个小任务，免费获取)

这篇论文到底讲了什么，未来10年AI到底会发生什么样的变化？

这篇论文翻译成中文，应该叫《情境感知：未来10年》，探讨了在未来十年内通用人工智能（AGI）的预期进展和影响。到 2025/26 年，机器预计将超越人类认知能力，预计到本十年结束时将实现真正的超级人工智能(ASI)。

ASI时代大概的样子是：超智能国家绝大多数人将会失业，真正的工作岗位平均工作时长也不会超过10个小时一周，更多的工作将被AI+人行机器人所取代。如同我们看到的萝卜快跑，以及未来AI律师，24小时AI医生，AI教师将会逐渐盛行等等，专业知识和专业技能，将越来越不值钱，而且趋向于免费，而创意却是无价之宝。这个就会涉及到我们的教育体系，这个展开说可以写一篇万字的论文，因为这一块我们做了大量研究，以后建议大家，千万别给自己的孩子卷知识，以后知识一点用没有，更好的培养孩子健康体魄，运动能力，学习知识的能力，看待问题的能力，以及创造力，艺术审美等等，将会至关重要。

并且各个国家将会把国家资源集中在能源和算力投入，实现各项强有力的竞争，未来的智能血液是能源，智能骨架是算力，智能心脏是模型算法。全球社会将出现两个极端，一个是初阶的社会主义社会，全民UBI计划，免费发钱。一个是超级贫富差距的社会，裹头垄断算力的企业，将实现马太效应，成为超级托拉斯。而贫富差距的社会，将会引发一些暴力现象，个体情绪崩溃，以及社会不安全的隐患，最近我们已经看到不少。

所以人工智能技术的快速进步将会显著影响国家安全、经济主导地位和人类社会结构，主权国家对AI的大力投入，现在仅仅只是一个开始，从投资角度来看，未来算力和能源，是一个很好的投资方向，至少英伟达和台积电我会牢牢持有。

报告中还深入探讨了人工智能模型训练技术的进展，例如来自人类反馈的强化学习（RLHF）和思维链（CoT）提示，这些技术将会极大地提升了人工智能的能力。未来有一天，人类数据的喂养将会终结，ASI时代，将实现AI自我的升级和迭代，已经不需要人类的数据养料，因为完全满足不了AI的发展和学习的速度。

然而如何有效控制ASI时代AI的越狱以及更好的服务人类，仍然是一个比较棘手的难题，将超级人工智能与人类价值观和目标保持一致的挑战仍未解决，如果不得到妥善处理，将带来重大风险。报告中呼吁，在不断研究和迭代AI技术的时候，要提供足够的监管框架和有效的安全措施。以确保超级人工智能的开发和部署与人类利益和安全保持一致。

报告中强调的一个关键问题是人工智能实验室安全性的不足，有比较多的漏洞，使其容易受到工业间谍活动的威胁。保护算法秘密和加强网络安全措施被强调是AGI 竞赛中保持竞争优势的关键步骤。

最后还重点提及了中美之间AI在能源和算力领域的竞争，以及美国正在大力动员和积极投资计算资源和能源基础设施以支持人工智能发展，AI在美国经济和军事领域，将影响深远，这将决定下一个100年，美国及其盟友，是否牢牢的站在世界军事科技的前沿。而军事力量，直接决定了世界霸主的地位。

总结，该报告全面概述了通用人工智能的发展轨迹，突出了其给人类社会带来的机遇和挑战，并呼吁采取积极措施，发挥其潜力同时减轻风险。

从这份报告中，我总结10点我们普通人的启发和建议：