1.1 大模型入门
本档案记录了学习生活中的点滴。水流的目标是成为一个知识库,分享有价值的内容。
1.1 大模型入门
摘要
本节课是「新生启航计划」AI 入门的第一讲,主题是第一次与大模型协作。课程先用一条「中国 2024 年完成载人登月」的假消息说明大模型为什么会产生幻觉、以及为什么必须核验,再依次讲清 AI、大模型、AI 产品、Agent 四个概念的分层,拆解「文字接龙」式的生成原理与 Token、上下文、温度等基础概念。第二部分给出「先看任务、再看榜单」的选型方法,盘点国内主流工具,并用三道场景练习巩固。第三部分进入提示词工程:用四个模型、两份提示词产出的八份结果做横向对比,演示 Markdown 语法,给出「定位 + 指正 + 限制」的追问公式与核验方法。最后从维特根斯坦的逻辑空间出发讨论 AI 的能力边界与人的不可替代性,并布置了个人简历网页的作业。
核心要点
- AI 说得像不等于真的:大模型擅长生成像答案的文字,没有天然的事实核验器;日期、数字、引用、重要名词、重大结论都不能盲信。
- 四个概念的分层:AI 是基座,大模型像大脑,AI 产品是给大模型套上工具能力的界面,Agent 是有手有脚、能围绕目标调用工具持续工作的大模型。
- 文字接龙:模型把提示词切成一个个 token,基于上下文不断预测概率最高的下一个 token;本质是概率模型,句子合理但不保证事实正确。
- 能力边界与安全底线:适合起草、改写、归纳、头脑风暴和处理重复步骤;不上传隐私、不盲信答案、不让它直接执行高风险操作,坚持 Human in the Loop。
- 选型四问:输出什么、输入什么、是否需要长期知识积累、风险有多大;先按任务类型定类别,再挑顺手的产品。
- 工具矩阵:DeepSeek 偏中文问答与搜索,通义千问强在多模态,豆包适合日常问答与生图,Kimi K3 冲上榜单头部,元宝绑定腾讯生态,智谱 GLM-5.2 强在代码,腾讯 ima 做知识库,可灵/即梦/通义万相/海螺做图与视频。
- 联网与引用:网页版 DeepSeek 会调用浏览器搜索,并逐条标出参考了哪个网页,引用清晰、便于查证。
- 好提示词的四要素:对象、格式、限制、任务;把要求写清楚,模型才不用猜。
- 温度:控制输出随机性,越高越随机,越低越确定;最低时永远只取概率最高的 token。
- 幻觉:模型会生成自认为正确、实际却没满足要求的回复,输入太多或理解偏差都会触发,且无法彻底避免。
- Markdown 是提示词的结构:标题、列表、分割线、加粗、行内代码、代码块、引用块,都能让模型读得更准。
- 追问三件套:定位问题、指正方向、限制改动范围;核心不是重来,而是让模型只改错的地方。
- 核验方法:让模型标注「来自第几段」「材料未说明」,再用原始来源加第二个来源交叉验证。
- 提示词界定逻辑空间:模糊提示词让可能性分叉以 2 的 N 次方膨胀,推理压力剧增;清晰提示词把模型收进有限空间里穷举。
- 人的不可替代性:AI 擅长可言说、可定义、可推理的部分,共享语境、默会知识、价值判断与共情仍在人这一侧;AI 是犁和锄头,要学会用它。
课后任务
- 填写「项目准备卡」:写明静态页面的读者是谁、希望读者看完后知道哪些内容模块、准备放哪几个模块;写出不同任务场景下你选择的模型工具类别与理由;列出哪些事实不能直接相信模型、哪些个人信息不能上传。
- 结合本节课所学,用大模型生成一个包含个人信息、大学规划与经历的静态 HTML 页面(
.html文件),做出网页版个人简历的第一版。 - 提前准备入营前的简历与规划表;作业问题在 QQ 大群提问,没看懂可以回看录播。
讲稿
开场:第一次与大模型协作
沐子学长:大家早上好,欢迎来到电子科技大学与卓才教育科技合办的新生启航计划。本次课程面向大一新生,以线上直播和录播相结合的形式,开展为期四天的新生启航计划,希望大家能从这里开始扬帆起航。
沐子学长:下面是我们的首节课程「第一次与大模型协作」。本次课程由一个课时的讲解和一个课时的上手实践组成,实践环节学长学姐会在群内提供答疑和支持,下面开始讲解环节。
吕老师(录音):各位同学大家好,欢迎来到 AI 入门的第一讲,我是卓才教育的吕老师。我曾就职于国内某大厂,深度参与过有关 Agent 落地的一些项目,经验比较丰富;自己也参加过不少与 Web Coding 有关的编程比赛,也就是我们行话里的黑客松,算是国内比较早接触 AI 辅助开发的从业者。很高兴能和大家一起度过接下来关于 Agent 的四个课时。
一、AI 说得像,就一定是真的吗
吕老师(录音):第一课作为 AI 入门的第一讲,我会带着大家一起展开第一次与大模型的协作:认识大模型,学会挑选合适的模型,并完成一次网页对话。
首先看一个问题:AI 说得像,就一定是真的吗?
假设 AI 在回复里说了这么一句话:「中国已经在 2024 年完成首次载人登月,并在月球建立了长期科研基地。该任务由天宫 10 号执行,共有 6 名航天员参加。」你看到这条回复,会不会先质疑这句话的真实性?会质疑哪几处?
很明显的首先是 2024 年这个日期——2024 年真的发生了中国完成首次载人登月的事吗?首次载人登月是不是应该有权威背书、这个信息是不是可考证的?「天宫 10 号」这个名称是否存在、是否匹配?「6 名航天员」,是不是真的有 6 名,数字会不会是编造的?
所以在面对模型的回复时,我们要清楚:大模型擅长的是生成像答案的文字,它没有天然的事实核验器。它表现出来的流畅与自信,并不代表它说的信息是真实的。面对模型给出的内容,我们需要核验相关信息是否真实。这里给大家一个核验的优先级:日期、数字、引用、重要名词、重大结论,这些都是我们不应该盲信的信息。
吕老师(录音):今天这门课主要分成三个部分。第一部分认识大模型的基础概念,分清大模型和产品、大模型和 AI 产品之间有什么区别;第二部分讲国内国外这么多模型该怎么选,特定的任务场景下该用什么模型;第三部分介绍一个跟模型对话、让模型替我们完成任务时比较核心的原则,就是提问、追问、核验三步走。
二、四个容易混淆的词:AI、大模型、AI 产品、Agent
吕老师(录音):在模型学习当中有四个比较容易混淆的词,我一个个介绍。
第一个是 AI,也就是 artificial intelligence。在这一整个 AI 浪潮下,它属于比较基座、比较基础性的地位。AI 其实经历了很多年的发展,从 20 世纪中期开始发展,一直到今天,它的核心目的都是通过人工让机器表现出智能的行为,也就是像人类一样的行为、人类能够做的这些事情。
其次是大模型。它类似一个大脑,像人类的大脑一样,能够学习人类思考、推理的方式,来完成自己的思考和推理;它能够从人类有关的大量数据当中学习到自然语言的规律,并生成相关的内容。
其次是 AI 产品。我们现在用的、后面会给大家介绍的一些常见 AI 产品,是在模型之外增加了一些能力,比方说网页、访问浏览器,或者说上网、读写文件。大模型外套一层能力,就形成了一个 AI 产品。
其次是 Agent,也就是我们这一课的核心。Agent 是什么?它像一个人:大脑是大模型,大模型能够思考、能够推理,但是没有办法做出行动。所以 Agent 就像一个有了身体的大模型,它有手有脚,能够基于这些手脚、或者说基于一些工具去帮助人类完成指定的任务;它可以围绕目标进行规划,然后调用工具并持续地工作下去。
吕老师(录音):介绍一下国内一些主流的 AI 产品,也就是大模型外套了一层工具、套了一层能力的东西,比方说大家比较熟悉的豆包、千问、DeepSeek 以及元宝等等。不同的 AI 产品有不同的功能定位:豆包、千问、元宝被定位成 AI 综合助手,DeepSeek 更偏向一个搜索引擎,本质上来说它是一个推理模型。
这里跟大家辨析两个概念:大模型不等于 AI 产品。大模型就像一个大脑,负责理解上下文,也就是我们传给它的这些内容,并基于此进行预测、生成回复;AI 产品则在大模型之外新增了一些工具能力,比如上网、访问浏览器、读写文件、绘图、生成视频等等,把模型通过外面这层工具能力包装成一个可以使用的界面与工作流。
三、大模型是怎么生成回复的:文字接龙与 Token
吕老师(录音):接下来讲模型在生成回复过程中的原理。用一个比较形象的类比来说,它是一个文字接龙的高手。
第一步是提示词。提示词是什么?模型在给我们回复的时候,需要基于一些内容,它不能凭空开始回复。它所基于的内容,我们统称为提示词,也就是我们发给它的一些指示——每次对话当中我们发给它的这些东西,都叫提示词。说白了,提示词是给模型的一种任务说明。
模型会把这些提示词切成一个个 token。Token 是什么?用比较简单的话解释,它是模型在思考、推理或者处理任务时的最小的语言文字单位。它会把我们输入给它的所有内容、所有提示词,按照一定的规律、一定的方法拆分成一个个 token。
然后,基于可能存在的对话历史、或者它自己训练数据,也就是所谓的上下文,它会基于当前上下文去预测下一个最有可能的 token 是什么。这本质上有点像文字接龙:先有一个字,基于这个字推理下一个,再基于现在这两个字推理下一个,它是一个文字接龙的高手。它本质是一个概率模型,在不断选取出现在下一个位置概率最高的 token,循环往复这个过程,最后生成一个比较流畅的回答。
因为大模型本质是一个概率模型,是基于概率来运作的,所以它能够生成合理的句子——这是因为它基于人类的语料训练,人类怎么说、怎么写,它就是基于这些数据训练出来的。但它是概率模型,不会自动保证事实正确。
四、能力边界与安全底线
吕老师(录音):所以使用 AI 时,有一些需要注意的能力边界。
我们可以让 AI 去做它适合做的事情:AI 擅长起草、改写、归纳、头脑风暴等等;它比较擅长处理重复步骤,也比较擅长从你提供的材料当中提炼东西出来。但因为它生成的内容不一定正确,就需要我们来把关。
其次,因为这个模型是比较开放的、数据是开放的,使用过程当中有三条底线:第一,不能上传隐私;第二,不能盲信盲从,不能盲信模型给的答案;第三,不要直接执行比较高风险的建议。
模型在一些使用场景下,是具有操控、读写、甚至增删你电脑文件的权限的。如果在某些特定任务场景下它误删了你的重要文件,会造成比较严重的后果,所以不能让它直接执行高风险的这些建议。在这个过程当中,人参与到模型工作里,我们的行话叫 human in the loop,你需要在过程当中去执行一些关键决策。
五、怎么选模型:先看任务,再看榜单
吕老师(录音):接下来介绍我们选工具的一个准则:先看任务,而不是先看榜单。因为国内国外的模型产品很多,我们应该先根据「需要模型帮我们完成什么任务、是什么类型」,在这个类型当中去选一个自己顺手的;而不是去看模型榜单,哪个模型在榜单最靠前就用哪一个。
一般我们思考的方向有四个。
第一,我要输出什么。输出文章、输出代码、输出图片、输出视频,都需要用不同的模型。包括输入:如果我们只是跟模型进行自然语言对话,选普通的模型就行;如果我们要输入图片,甚至输入视频,就需要模型有读写文件、理解图片、理解视频的能力。
第二,这个任务需不需要我们进行长期的积累。如果是一次性的普通对话,你可以选择很多模型;如果我们需要模型记住我们之前跟它说过的一些知识,形成一个自己持续的知识库,就需要挑选特定的模型工具。
第三,当然要考虑使用模型的风险。我们发给它的信息当中,是否包含我们自己的隐私、一些关键事实;它会不会擅自去执行一些高风险的建议。
吕老师(录音):一句话总结:先按任务类型去选择具体类别的模型工具,再在同类当中挑选一个比较顺手的产品来使用。我们与 AI 交互的任务场景差不多有六类:文章、代码、生图、视频、知识库和综合。
六、国内主流工具盘点
吕老师(录音):先来看国内比较常见的产品工具。
DeepSeek:在我自己的使用过程当中,因为它是完全基于中文语料库训练的,所以比较擅长中文问答。
阿里的通义千问:比较突出的能力就是多模态。多模态的意思是,它除了能够理解自然语言、我们跟它通过文字交流之外,还能够理解图片、能够理解视频。
豆包:因为它比较方便,自己的算力也比较充足,所以在日常问答这个方向上比较突出。
Kimi:需要补充一下,最近 Kimi 新推出的企业模型 Kimi K3,在国内国外的数据榜单上都属于最顶尖的那一批模型。Kimi K3 的推出可以视为开源模型追上闭源模型的一个里程碑。
腾讯元宝:主要优势是跟腾讯的生态,微信也好、QQ 也好,有深度的绑定。
智谱:背靠清华,最新推出的模型 GLM-5.2 在代码生成这一方面也追赶上了国外一些顶尖的闭源模型。
吕老师(录音):接下来再介绍一些特殊的模型工具。
比方说腾讯 ima。就像刚刚提到的,如果你有积累知识的需求,就需要去选择以知识库为基础的 AI 产品。腾讯 ima 官方对它的定义就是「以知识库为基础的 AI 知识管家」,提供搜、读、写的一站式体验。
如果你有文生视频、图生视频或者文生图这些生图生视频的需求,也需要去挑选相应的 AI 产品,因为有一些模型比如 DeepSeek 是不具备生图能力的。这里比较推荐可灵 AI、即梦 AI、通义万相、海螺等等。海螺现在改名了,现在是 MiniMax 的 H3,它在最近国际上的表现也非常亮眼,大家感兴趣可以自己去感受一下。
吕老师(录音):我们的综合原则是:不是每次都去选榜单上最强的模型,而是选哪个更适合这次任务。现在国内国外模型生态蓬勃发展,绝大部分头部厂商的模型都是综合性的,比如 ChatGPT、Claude Code 以及国内的智谱,都是多模态的、综合性的,大家的选择空间非常大。
七、三个场景练习
吕老师(录音):这里有三个简单的小习题:在这三个特定场景下,你会选择什么模型工具?
第一,阅读 10 份社团介绍并回答问题。如果你的 10 份社团介绍是纯文字的,可以选择任意一个支持自然语言问答的模型;如果它是文件,就要选择支持读写、或者说支持读文件资料的模型。我给的参考答案是 DeepSeek,你也可以选择一些综合性产品。在这个过程中要注意材料的引用,以及有没有比较遗漏的地方。
第二,做一张社团开放日的海报。你有生图的需求,就要去选择相应的生图模型,我会选择豆包,因为豆包的 C dance 生图能力还是非常不错的;也可以选择多模态模型,因为一般多模态的模型除了能够理解图片,也能够生成图片。这里要注意,如果你生成出来的图片需要商用,或者要向公众公开,就需要注意文字版权以及肖像权等等。
第三,生成一个 5 秒的宣传视频。你有生成视频的需求,就要去选择特定的视频模型,比方说即梦 AI。这里需要注意人物一致性,以及一些有关视频生产条款符不符合法律要求等等。
八、网页版 DeepSeek 演示:联网与引用
吕老师(录音):接下来介绍一下,通过网页去访问 AI、使用网页对话框大概是什么样的。这里我以 DeepSeek 为例,主要是想让大家感受一下模型的联网功能,以及它的来源和引用,它是怎么搜索这些东西的。
我以网页版的 DeepSeek 为例,问它一个问题:「帮我查询一下电子科技大学软件工程专业 2026 届的招生人数。」我们能看到它的推理过程,然后能看到它调用了浏览器这样一个搜索工具:它从我给它的提示词当中提取了一些关键字,然后像人一样真实地去浏览器当中,根据这些关键字搜索了一些网页。这里能看到它参考了哪些网页,然后结合所有这些网页信息,给出了一个回复。所以我们能看到,前面也提到,DeepSeek 的定位是一个 AI 搜索引擎,搜索能力是比较强大的。
吕老师(录音):为什么选择 DeepSeek 作为展示工具?因为它在信息展示过程当中,引用做得比较显眼:我点进来就能看到,比方说这条信息「软件工程全日制公开招考多少人」,它参考了哪个网页,一点进来就很直观。想给大家展示的,就是网页版 AI 所具备的上网以及搜索的能力。
九、什么是好的提示词
吕老师(录音):接下来用一些比较直观的例子,带大家看看我们发给模型的内容,也就是所谓的提示词,效果有好和不好的分别。
第一个例子,我让模型帮我介绍一下人工智能。你现在用模型,也能够得到比较满意的答复,但是你没有侧重点,没有对它做限制,或者说你自己根本没有想清楚想让 AI 告诉你什么。用「介绍一下人工智能」这一句话,首先对象不明——它不知道你是有经验的还是零基础的,这就会影响回答的深度;其次范围太大,人工智能有这么多范畴,你更希望它侧重介绍什么;你希望它给出的回复格式也是不明确的,比方说你想让它生成一份类似报告式的分析报告,还是就想让它用一句话简单概括一下。这一切你都没有说,模型只能去猜。
那么一个好的提示词是怎么样的?
比方说用比较简短的几句话,把对象、格式、限制、任务都说清楚:「对象:刚高中毕业、零基础的学生。格式:不超过 200 字。限制:用三个生活类比。任务:最后给出一道判断题,做一个小测验。」
吕老师(录音):接下来给大家展示两份不同的提示词。
第一份是比较差的提示词,我就说了一句话:「生成一个 .html 文件」——.html 文件你可以理解成一个静态的页面,就是你在浏览器里看到的页面——「演示大模型生成答案的原理,就是我们之前讲的像文字接龙高手一样,根据已有的上下文不断生成下一个 token 的过程,我希望它通过静态页面渲染动画的形式,给我展示一下这个内容。」
那么好的提示词是怎么样的?这里我列出了格式,限制了我的教学目标,也说明了我的对象、我的限制,然后要求它有哪些展示、哪些流程、视觉风格是怎样的。
这里相当于是两份提示词,然后针对国内比较主流的四个不同的 AI 模型,产出了 8 个答案,我们来横向和纵向地比较一下,这些答案有什么不同。
十、四个模型、两份提示词的八份答案
吕老师(录音):首先是在比较差的提示词下,DeepSeek 生成的静态网页。这里是豆包,这是智谱,这个是元宝。我们能够看到这四个网页,在一句比较简单的提示词下,生成的四个页面风格完全不一样,不同功能的侧重点也不一样。
比方说 DeepSeek,它其实补充了有关模型生成的一些基本参数。这里给大家补充一下温度:温度决定了模型在回复过程当中的随机性——温度越高,模型的回复就越随机;温度越低,模型的回复就越确定。我们之前说模型推理本质是一个概率预测模型,温度在最低的情况下,它就永远只会选择下一个 token 当中概率最高的那一个作为回复。
这里我们能看到 DeepSeek 补充了四个参数,豆包只提供了三个参数。而智谱,它其实有讲解核心原理是什么,甚至没有提供参数,它的背景还有一点动态的效果。元宝的页面风格在我看来是最丑的,它在不同模型里的页面布局也不太一致:DeepSeek 和智谱是左右横版的,而豆包和元宝是纵向的。在一个比较简略、或者说比较差的提示词下,生成的效果就是这样子。
吕老师(录音):那么在我们给出一些比较明确的限制、把任务场景限定得比较死的时候,模型生成的效果是怎样的?
来看 DeepSeek 基于第二个提示词生成的页面,这是豆包,这是智谱,这是元宝。我们能够看到,除了智谱以外,其他三个——DeepSeek、豆包和元宝——生成的静态网页的页面布局以及色彩风格是不是很接近?这就是我们做了限制的结果。
而智谱为什么还是选择藏青色?我们给它的限制没有生效。这就涉及到模型存在的一个幻觉问题:模型生成的一些知识不一定正确,可能因为输入的内容太多了,或者它的理解出错了,会生成一些它自认为正确、但其实是错误的、没有满足你要求的回复。我们把这种情况称为幻觉。
吕老师(录音):这里也给大家用一个比较直观形象的方式来演示,大模型生成文字的原理是什么。
我调了一个比较稳定的温度,展示它生成内容的随机性就没那么高。首先当前上下文是什么,它会基于这些上下文选取概率最高的 token,然后逐步生成答案。我们能看到它每一步都是基于之前所有的上下文来生成下一个词。可能还没有那么直观,我们再来看 Gemma 生成的:其他基础功能大家都差不多,但是 Gemma 没有满足我们一开始对它做的色彩风格的限制,这样大家能够比较直观地感受到它生成的步骤——读取已有的上下文,基于上下文预测概率,选择它认为概率最高或者最正确的 token,把这个 token 加入到已有的上下文当中去更新上下文,不断循环往复这个过程。
这就是一份不好的提示词和一份好的提示词,产出的任务效果的差别。
十一、Markdown:给提示词一个清晰的格式
吕老师(录音):还要给大家补充一下,你能看到一份好的提示词里,我的「格式」是什么?它其实有一个专业的文件格式,叫做 Markdown,它也有一些相关的语法,语法比较简单,这里给大家比较直观地演示一下。
比方说,我通过短横线生成了无序列表;一个数字加一个点加空格,它生成的是有序列表;如果有三个短横线,它就会变成一个分割线——不是下划线,是分割线;如果你用两个星号把字体包裹起来,它就变成了加粗;如果你用一个反引号把一些字词包裹起来,它就会变成一段行内代码,就是我们演示代码的时候用的那个地方;如果是三个反引号,以及加上它对应的编程语言的名字,它会生成一个整片的代码块。
井号的话,一个井号是一级标题,两个井号是二级标题,三个井号是三级标题;还有大于符号,它会作为引用块。
吕老师(录音):我们刚刚基于 Markdown 语法写的这份任务说明书,能看到两个井号的二级标题、三个井号的三级标题等等,然后这里用了一些无序列表。
为什么需要用这样一个格式?因为我们在后续跟模型交互时,会让它处理一些比较复杂的任务。处理复杂任务的过程当中,提示词里包含了很多部分,你就需要一个比较清晰的格式。其实我们人类也是这样:格式比较清晰的情况下,我们看得比较舒服;对于模型也是一样的,在这种情况下,它也会理解得比较清楚。
十二、追问:定位 + 指正 + 限制
吕老师(录音):接下来进入下一个内容。因为模型,包括像刚刚的智谱,很多时候没办法一次就达到我们预期的效果,所以我们要学会追问。追问的一个核心原则,它不是重来,而是指出模型哪里要改。
比方说模型给了我们三个生活化的类比,我们让它替我们讲解一个知识点,其中第二个类比过于抽象,我不太理解,就可以继续说:「第二个类比太抽象,换成外卖或者导航这种我比较容易理解的场景。」
追问差不多由三部分组成,它的一个公式就是「定位 + 指正 + 限制」。
这里以刚刚的智谱为例。我们一开始有限制页面的色彩风格,是柔和的蓝色、紫色和白色,那就可以问它:「为什么你生成的页面是暗色调的藏蓝色风格?」我给它指出问题,你能看到它的思考过程——它误解了我的配色要求,重新生成的页面就是这样子的。跟它之前生成的页面相比,大体上包括字体类型都没有改变,但它把色彩风格整个调整到了我们所预期的,逻辑也是没有变化的。
吕老师(录音):所以说追问的公式是:定位,先跟模型说清楚它做得不好、或者说问题在哪里;指正,我希望你怎么改,我需要告诉他;然后是比较重要的限制。因为有些模型在改的过程当中,比方说在改这一块的过程当中,它有可能把之前我们已经确定、或者说我们认为是正确的东西一并改掉,我们可以对它进行限制,告诉它不修改现有功能,只是把我给你指定的错误改了。
十三、让模型标注来源,再做交叉核验
吕老师(录音):在与模型交互的过程当中,还有一个需要注意的地方:上传一些公开材料之后,我们在与模型交互时只使用公开或者虚构的材料,不要上传隐私或者说未授权的东西。
或者说我们上传一些附件、一些文件资料,想让它依据文件资料给出相应的回复,可以这么写提示词:「只依据文件提炼三个要点,每一点注明来自哪一段,不确定就写『材料未说明』。」
为什么这么写?它方便我们去考证模型是不是真的参考了我们给它提供的文件资料,也明确告诉它不要自己去猜,尽可能减小我们刚提到的幻觉给模型回复带来的影响。
我们一般核验它的回复是不是可信,方法是:基于我们给它的文件资料,选一个我们可以查证的事实,打开我们的原始来源,并用第二个来源来进行交叉验证。
所以说 DeepSeek 做得好的地方也在这里。大家还记不记得我们展示 DeepSeek 网页版的时候,它的回复就很明确地给出了每一条信息参考了哪个网页、从哪个网页提取出来的信息,标注比较清晰,就比较方便我们自己去查证材料的真实性。
十四、提示词界定的是逻辑空间
吕老师(录音):之后,因为大家是第一次接触 AI 或者 Agent 有关的课程,我还想从逻辑哲学的角度给大家讲一下:提示词之于大模型、之于 AI,到底是一个怎样的存在?为什么我们一定要强调提示词?我们刚刚展示了很多比较直观的、不好的提示词和好的提示词,它们之间的区别、任务效果是怎样的,为什么要强调提示词这个东西?
一句话总结:提示词界定的是逻辑空间的大小。
什么是逻辑空间?我认为,你能够穷举的、能够在逻辑当中推理的范围,就是逻辑空间;你能够在逻辑空间内把所有的可能性都穷举完,就是所谓的逻辑空间。因为我们知道,大模型是基于推理的概率生成模型,它根据已有的上下文去不断预测下一个 token 的概率是什么,所以它本质是一个概率模型。在这种情况下,它也是在不断地做逻辑的穷举、逻辑的推理。
吕老师(录音):我们给的提示词不明确、不清晰、范围很大,也就是一个比较差的提示词,就会导致模型面对一个非常巨大的逻辑空间,因为你给的提示词边界是很模糊的。在这种情况下,你每一个字词,模型如果去预测下一个,它就会得到非常多的可能性分叉。举个例子,一个逻辑分叉、可能性分叉,它每一个可能分叉都有两种可能,需要推理的可能性就以 2 的 N 次方倍在增长;实际情况往往远远不止两种可能性,可能有 10 种、有 100 种甚至更多。在这种情况下,提示不好,模型就会面临非常高的推理压力,就会导致它的回复可能不满足你的需求,或者说它自己推理有问题,给出的答案也是错误的。
但是,如果我们给它的是一个比较清晰准确的提示词,它就能够按照它训练的既定方法论——先去理解问题,然后分析有哪些要点,然后在一个有限的逻辑空间当中去进行逻辑推理,也就是穷举这个逻辑空间当中所有的可能性,得出一个结论。这一整条路径下来是非常清晰的,模型的推理状态也是非常稳定的。
十五、人类真的会被 AI 取代吗
吕老师(录音):最后,我想给大家介绍几个现在大家比较关心的问题,第一个就是:人类真的会被 AI 取代吗?这可能是绝大部分人、大家马上上大学都会有的焦虑。
这里我想结合维特根斯坦《逻辑哲学论》当中的一句话来讲解:「What we cannot speak about we must pass over in silence.」——凡是不能说的,必须在沉默当中传递。
维特根斯坦认为,我们所有能说出来的、能写出来的,就是逻辑;而推理逻辑,就是在特定的逻辑空间下穷举它所有的可能性,这恰恰就是 AI 比较擅长的。AI 擅长的就是可言说、可定义、可推理的这一部分任务。
吕老师(录音):它有一个比较既定的方法论:我定义一些概念,给它一些属性,然后它自己进行逻辑推理,得到一个它认为正确的结论。
比方说我告诉它 A 等于 3、B 等于 4,然后让它推理 A 乘 B 等于多少,它能够很轻易地得到答案是 12;但为什么 A 等于 3、为什么 B 等于 4,它是不知道的。就好比我告诉它苹果是红的、这个水果不红,它也能够推理出来「所以它不是苹果」。这两个例子都属于规则比较清晰、边界比较明确,能够通过一种比较高效的计算方式得到的,因为逻辑空间很小、可能性很少,它能够以很快的速度完成推理。
但是,如果我们人类去判断,比方说我问你「什么是苹果」,难道你会告诉我「苹果是指蔷薇科苹果属的植物果实,是全球消费量最大的水果之一」吗?不对。你可能就会帮我在网上搜苹果的照片,直接拿出来一个苹果,指着它告诉我说「这就是一个苹果」。
吕老师(录音):这一部分我们能够发现,有些内容是没有办法说出来的。你给我解释什么是苹果,你没有办法说出来。你当然也可以用一种比较科学的解释,就像我刚刚说的「苹果是蔷薇科苹果属的植物果实」,但这句话解释过后,我当然可以继续发问:什么是蔷薇科?什么是植物?什么是果实?在这种情况下,你解释一个概念会引入更多的新概念,你是说不清楚的——什么是苹果?
我们人类因为有共同的文化背景,我们学习同样的一种语言,我们面对许多共同的情景,在这种情况下形成了一些共享语境;然后我们结合自己的生活经验、自己的价值观、价值判断,心照不宣地都知道,我们一眼就能看到这个东西就是一个苹果。
在这种情况下,在模型能够推理的逻辑之外、我们不能够说出来的、或者说必须在沉默当中传递的这一部分,恰恰是我所认为的人类不可替代的那一部分。AI 确实会替代一部分可形式化的任务,指一些逻辑空间有限、能够穷举出所有可能性的任务,但它难以完全取代人类在语境、在默会知识、在价值判断与共情当中的作用。
吕老师(录音):所以在当今 AI 浪潮下,一个正确的态度是什么?我们要理解 AI 可以处理可言说的逻辑,但人类有它擅长的部分,就是处理不可言说的理解。然后我们把 AI 看成是一个工具,它就像犁、锄头、锤子一般,它只是一个工具,我们应该去学会怎么使用它。几千年里人类去学怎么使用犁、怎么使用锄头、怎么使用锤子,现在要去学习怎么使用 AI,而不是去焦虑 AI 是不是会替代我们人类。
大家后续在网上又看到类似传播 AI 焦虑的言论,你大可以去反驳他,或者你自己有一个比较直观的认知:AI 在一些方面是绝对、甚至根本没有任何可能——我严谨点说,现在这个模式,现在基于自然语言、基于海量语料库数据训练出来的 AI,它是没有办法取代人类的,因为它受限于它本质是一个逻辑推理、概率预测模型。
十六、概念回顾
吕老师(录音):我们用一句话回顾一下今天接触到的一些新概念。
第一个是 token。Token 是自然语言处理中文本被分割后的最小处理单元,是大模型处理信息的最小信息单元,可以是单词、字词或者字符。但这句话说得也不是那么严谨,因为我们知道还有多模态的模型,它能够理解图片、能够理解视频,在这种情况下,可能图片的一帧、一个像素点也可以被理解成一个 token,所以说 token 翻译成「词元」是不那么准确的。
第二个概念是 prompt,就是我们刚刚一直在提的提示词。提示词是用户提供给大语言模型、以获取特定响应的输入文本,它可以是一个问题、一段指令或者描述。当然这里说得也不是那么严谨,现在大家只需要知道:我发给模型的这些内容,它就是提示词就好。
第三个概念是 context,上下文。它就是大语言模型在生成响应时所能参考和看到的全部信息总和,包括当前的一些提示、对话历史、系统指令等等。它基于所有这些内容、所有信息来对我们做出回复。需要注意的一点是,上下文是有限的,上下文是一个比较宝贵的资源,我们在后续的课程讲解当中会提到许多怎么去节省、怎么去利用上下文这种资源的方法。
第四个是 temperature,它控制这个模型输出的随机性。温度越高,模型输出的随机性就越高;温度越低,模型输出就相对越稳定。
最后一个概念是幻觉。幻觉指的是大模型生成一些看似合理且语法正确,但事实上不准确、凭空捏造,或者说与所提供的上下文不符的内容。我们把这样一种现象称为大模型的幻觉。它也是没有办法被彻底避免的,因为它与模型训练的一些底层逻辑、底层基础是相关的。
十七、课后作业
吕老师(录音):最后,我想给大家展示一下,我们在第一节课「第一次与大模型协作」、第二节课「提示词工程」之后,两次课后的作业效果是怎样的。
我们会生成一个我们刚刚提到的 .html 文件,它也就是一个静态的页面文件。我们能看到它会结合我们一些基础的个人信息,然后我们大学四年的准备路线是怎样的,开学四周我有什么规划,我的行动清单是什么,以及我的一些经历,然后来做成静态页面,类似一个网页版的个人简历,这就是我们两次课后会形成的效果。
吕老师(录音):那么第一次课希望大家去做什么?
我们需要准备的资料,一个是入营前的简历以及规划表,最后我们会产出这么一个「项目准备卡」。大家下来需要根据这个表格——后续我会发给大家——根据项目准备卡去填写这些问题:
我们要写的静态页面,读者是什么?也就是我们所谓的对象,谁会来看这一页?我们希望读者看完后知道什么内容模块?比如说像刚刚我们提到的一些个人信息、一些规划,然后一些参与的活动等等,我们准备放哪几个内容模块。
然后结合我们这节课所学的知识,我们在一些不同的任务场景下要选哪类模型工具,写出你选这个模型工具类别的理由。
最后,我们需要注意:必须要核验模型产出的内容的真实性,哪些事实是不能够直接相信模型的,哪些个人的隐私信息是不能够上传给模型的,有哪些不能够上传?
吕老师(录音):好,我们第一节课就到这里,谢谢大家。
沐子学长:各位同学,我们第一节的课程到这里就结束了。作业要求大家如果有什么问题,都可以在我们的 QQ 大群里面去聊;如果有同学没有看懂,可以下来之后再看一下我们的录播回放,再学习一下。有任何的问题都可以在群内去问,下午有课的同学可以在 QQ 群里面看一下我们的课程排班表。作业我们也会在群里面发的。
沐子学长:上午的课程是 45 分钟的课程加 45 分钟的实操环节,现在就到大家把上午学的东西付诸实践的时候了。拜拜!
校对存疑
- 原文「豆包的 C dance 生图能力」,疑为「Seedance」,待确认。
- 原文「海螺……现在是 minimax 改成 h3」,疑指 MiniMax 旗下海螺(Hailuo)产品线,具体型号名称待确认。