进入每周十亿数量级token消耗时代之后,我与AI Native的CS同学的交流心得

前两天,我和新认识的cs小班课老师新招的研究生蒋学长约了一次饭,同时也展开了一次有关agent时代,ai native的同学是如何与ai cowork,在这个时代,我们这些agent native的学生应该如何对待ai的谈话。听到了许多有意思的新奇观点,是我在其他老师与非cs科班出身的人交流里面听不到的,在这里分享给大家。

1.判断你是否真正理解自己做的项目,要看你是否能通过网页版chatbot实现agent做出来的效果

虽然现在已经可以通过coding agent来实现半自动程序实现,但是使用者是否了解业务的全流程,懂里面的技术细节,决定了你通过harness engineering 做出来的产品,是玩具还是真正能投入生产,改进效率的工具。是否能通过网页版 ai 分模块实现你的想法,正是这一点的生动体现。关于是否真正了解业务流程对产品质量的影响,我可算是深有感悟(后面有时间了写写这个有趣的经历)。

2.AI时代,最好的学习方法是自顶向下学习,先了解每个知识领域是怎么被定义的,再向自己研究的具体领域做知识延伸

ai对于知识面的广度是我们普通人无法超越的,但是对于某个领域的深度,仍然在很多前沿领域被人类稳压一头。所以在ai时代,学习知识的最好方式不是广撒网,而是自顶向下,从一个领域的最根源,最权威的地方开始,沿着一个一个细小的分支,最终抵达你所需要的特定领域的知识。在知识学习的深度上,让自己拥有在协作时与ai互补的知识深度,这样才能更好让ai服务于自己的研究和工作。

3.做好文档管理,你的agent拥有的context,才是让其与chatbot区分开的地方

在开展项目的时候,每逢新的项目进展和走了弯路之后,及时对新的项目经验做好归档。现在在大多数通用任务上面,ai已经具备了很强的工程实现能力,限制ai能力的一大因素已经从模型的智力,转变为了模型的context容量。只有将项目里面的关键细节落实为文档,才可以避免在一轮轮context window的压缩里面,让agent丢失关键信息。