WEBVTT

1
00:00:00.000 --> 00:00:04.465
大家好，欢迎来到第五课，AI怎样查资料。

2
00:00:04.465 --> 00:00:13.395
假设单位刚更新了报销制度，你问AI，现在坐出
租车能不能报销，它很快给出一段条理清

3
00:00:13.395 --> 00:00:14.512
楚的回答。

4
00:00:14.512 --> 00:00:23.442
你最想知道的，大概不是它写得快不快，而是它究
竟查了哪一份制度，看到的条款是不是新

5
00:00:23.442 --> 00:00:26.344
版本，回答有没有漏掉条件。

6
00:00:26.344 --> 00:00:33.935
今天我们就沿着这几个问题，认识知识库、检索增
强生成，以及向量和嵌入。

7
00:00:33.935 --> 00:00:39.963
我们用三个熟悉的场景来讲，资料柜、开卷考试和
书架分类。

8
00:00:39.963 --> 00:00:48.893
它们分别帮助我们理解，资料放在哪里，回答之前
怎样找依据，以及说法不同的内容怎样可

9
00:00:48.893 --> 00:00:50.456
能被匹配起来。

10
00:00:50.456 --> 00:00:58.046
学完后，即使你不负责搭建系统，也能更具体地检
查一份有来源的AI回答。

11
00:00:58.046 --> 00:01:06.976
你会知道，资料已经上传、系统已经搜索、答案带
着引用，这三句话分别说明了什么，又留

12
00:01:06.976 --> 00:01:08.986
下了什么需要确认。

13
00:01:08.986 --> 00:01:17.916
我们的目标是让依据可以追溯，让不确定能够被看
见，而不是把有资料支持当成一句无需再

14
00:01:17.916 --> 00:01:19.032
问的保证。

15
00:01:19.632 --> 00:01:21.668
这一课有两个目标。

16
00:01:21.668 --> 00:01:25.288
第一，分清资料存储、检索与回答。

17
00:01:25.288 --> 00:01:29.361
第二，理解为什么查过资料仍然要核对。

18
00:01:29.361 --> 00:01:38.410
这三个环节可以用一句很普通的话串起来：柜子里
有文件，找到相关那一页，再根据那一页

19
00:01:38.410 --> 00:01:39.542
解释问题。

20
00:01:39.542 --> 00:01:42.483
柜子里有，不代表一定找到；

21
00:01:42.483 --> 00:01:45.876
找到了，也不代表一定解释正确。

22
00:01:45.876 --> 00:01:51.759
比如资料中同时有旧版和新版制度，系统可能先找
到旧版；

23
00:01:51.759 --> 00:01:58.093
即使找到新版，也可能只读到允许报销，遗漏后面
的审批条件。

24
00:01:58.093 --> 00:02:07.143
再比如你问的是外地出差，找到的却是市内办事规
定，主题都涉及交通费用，但适用范围不

25
00:02:07.143 --> 00:02:07.596
同。

26
00:02:07.596 --> 00:02:14.609
等会儿听到知识库、RAG和嵌入时，可以把它们
放回这条链上理解。

27
00:02:14.609 --> 00:02:23.659
我们还要特别留意权限：一个员工可以查什么资料
，应当在检索环节受到限制，不能等资料

28
00:02:23.659 --> 00:02:28.410
都交给模型以后，再只靠一句不要泄露来保护。

29
00:02:28.410 --> 00:02:37.460
你不必记住实现细节，只要学会追问四件事，来源
是什么，版本对不对，条款是否相关，自

30
00:02:37.460 --> 00:02:39.270
己是否有权访问。

31
00:02:39.270 --> 00:02:41.532
现在先从资料柜开始。

32
00:02:42.132 --> 00:02:49.288
公司前台有一个资料柜，里面分开放着报销规则、
产品手册和办事指南。

33
00:02:49.288 --> 00:02:58.232
新同事问交通费怎样报销，前台不会把整个柜子搬
给他，而是找出对应制度，翻到交通费用

34
00:02:58.232 --> 00:02:59.127
那一节。

35
00:02:59.127 --> 00:03:08.072
资料柜有用，靠的并不只是容量，还包括文件是否
有清楚名称、日期、适用部门和更新记录

36
00:03:08.072 --> 00:03:08.295
。

37
00:03:08.295 --> 00:03:15.451
假如新旧两份制度混在一起，封面都写报销管理办
法，前台也容易拿错。

38
00:03:15.451 --> 00:03:23.725
再假设柜子里有一份人事材料，即使它和某个问题
有关，也不代表每个人都能取阅。

39
00:03:23.725 --> 00:03:29.986
这个例子里，存放、查找和访问资格，是三个不同
的管理问题。

40
00:03:29.986 --> 00:03:38.931
做个小练习：你负责整理三份公开的活动指南，一
份是去年的，一份是今年的正式版，还有

41
00:03:38.931 --> 00:03:40.496
一份没有日期。

42
00:03:40.496 --> 00:03:44.521
有人问今年报名要求，你会优先查哪份？

43
00:03:44.521 --> 00:03:49.217
应该优先确认今年正式版，同时查看适用范围；

44
00:03:49.217 --> 00:03:53.689
没有日期的不能因为排在最前面就当作最新。

45
00:03:53.689 --> 00:03:58.385
把这些文件组织好，才为后面的查询打下基础。

46
00:03:58.385 --> 00:04:03.081
AI应用中的知识库，也需要这样的资料治理。

47
00:04:03.081 --> 00:04:08.001
接下来我们把生活里的柜子，换成更准确的概念。

48
00:04:08.601 --> 00:04:14.446
知识库，是围绕某个领域组织、供查询和使用的信
息集合。

49
00:04:14.446 --> 00:04:23.439
AI应用里，它可以包含文档、网页或记录，常与
检索系统结合，让模型在回答时参考外部

50
00:04:23.439 --> 00:04:24.114
材料。

51
00:04:24.114 --> 00:04:33.107
把资料放进知识库，不等于模型已经永久记住里面
的一切，也不等于每次提问都能找到正确

52
00:04:33.107 --> 00:04:33.782
段落。

53
00:04:33.782 --> 00:04:37.828
我们可以从三件具体事情理解维护工作。

54
00:04:37.828 --> 00:04:44.124
首先确认来源，一份正式制度和一段转发消息，依
据分量不同。

55
00:04:44.124 --> 00:04:52.892
其次标清版本和日期，更新后要确认系统查到的是
有效内容，而不仅仅是文件上传成功。

56
00:04:52.892 --> 00:04:58.962
还有访问权限，检索结果必须符合提问者的身份和
授权范围。

57
00:04:58.962 --> 00:05:04.133
不能因为文件进了同一个库，就让所有人都能查到
。

58
00:05:04.133 --> 00:05:13.126
你可以先用三份不敏感的公开文档做练习，记录标
题、来源、日期和适用范围，再提一个文

59
00:05:13.126 --> 00:05:17.848
档里有答案的问题，以及一个没有答案的问题。

60
00:05:17.848 --> 00:05:25.941
后者特别重要：系统应该能够说明没有找到依据，
不能把缺失资料补成确定规定。

61
00:05:25.941 --> 00:05:32.461
如果回答错了，先确认库里有没有可靠材料，再看
是否检索到了。

62
00:05:32.461 --> 00:05:36.284
这样排查比笼统说AI不懂更有帮助。

63
00:05:36.284 --> 00:05:41.230
下面我们来看，找到资料后，怎样把它用于回答。

64
00:05:41.830 --> 00:05:43.910
想象一次开卷考试。

65
00:05:43.910 --> 00:05:53.154
题目问某项活动的报名条件，你先翻教材和笔记，
找到有关段落，再按题目组织答案，并注

66
00:05:53.154 --> 00:05:54.079
明出处。

67
00:05:54.079 --> 00:05:59.163
你不会因为手边有一本书，就声称答案一定正确。

68
00:05:59.163 --> 00:06:05.865
翻错章节、看漏限定条件、引用已经废止的规定，
都会影响答案。

69
00:06:05.865 --> 00:06:09.563
AI查资料的过程也可以这样理解。

70
00:06:09.563 --> 00:06:17.883
用户先提出问题，系统寻找相关片段，再把这些片
段作为参考交给模型生成回答。

71
00:06:17.883 --> 00:06:26.434
这里的片段很关键，系统往往不是把整套资料的每
一页都完整读一遍，再作出判断。

72
00:06:26.434 --> 00:06:33.830
做个练习：资料写着，活动免费，但需提前报名，
现场名额视余量开放。

73
00:06:33.830 --> 00:06:41.226
问是否可以直接到场，若回答完全免费，欢迎参加
，算不算回答了问题？

74
00:06:41.226 --> 00:06:45.848
不算，它绕开了提前报名和余量这两个限制。

75
00:06:45.848 --> 00:06:50.932
即使末尾挂上正确文件名，也不能弥补结论缺失。

76
00:06:50.932 --> 00:06:54.861
开卷的价值，是提供可以查证的依据；

77
00:06:54.861 --> 00:06:58.559
答题者仍需要读对、用对和讲清楚。

78
00:06:58.559 --> 00:07:06.417
当你检查AI时，也要问引用原文究竟支持哪句话
，而不是只数有几个出处。

79
00:07:06.417 --> 00:07:12.888
这个把查资料与生成回答组合起来的方法，就叫检
索增强生成。

80
00:07:13.488 --> 00:07:22.747
检索增强生成，常简称RAG，是先检索相关资料
，再让模型结合检索结果生成答案的方法

81
00:07:22.747 --> 00:07:22.979
。

82
00:07:22.979 --> 00:07:29.460
它可以帮助模型使用新的或内部的信息，但不是正
确性的保证。

83
00:07:29.460 --> 00:07:32.933
我们按过程看三个可能的失败点。

84
00:07:32.933 --> 00:07:38.025
第一，资料本身没有更新，找到的依据已经过期。

85
00:07:38.025 --> 00:07:45.664
第二，检索出了相似却不适用的内容，例如把差旅
交通规定用在日常通勤。

86
00:07:45.664 --> 00:07:52.377
第三，资料找对了，模型却省略限制，或者加上原
文没有的解释。

87
00:07:52.377 --> 00:07:56.776
所以查到资料与回答正确，中间还有距离。

88
00:07:56.776 --> 00:08:03.720
一个实用提问方式是，请只根据这份公开制度回答
，指出对应条款；

89
00:08:03.720 --> 00:08:08.581
没有找到的内容请说明，不要补充为制度规定。

90
00:08:08.581 --> 00:08:14.137
但提示语仍然需要配合结果核对，不能把它当成保
证。

91
00:08:14.137 --> 00:08:23.397
检查引用时，打开原文，看标题、日期、上下文，
尤其是如果、仅限、除外、须经批准等词

92
00:08:23.397 --> 00:08:23.628
。

93
00:08:23.628 --> 00:08:31.267
引用链接存在，不表示引用支持这句话，也不表示
来源内容本身真实有效。

94
00:08:31.267 --> 00:08:37.980
权限同样应当在检索时限制，让系统只取出用户有
权查看的资料。

95
00:08:37.980 --> 00:08:44.693
把未授权内容先交给模型，再指望回答时隐藏，是
不可靠的边界。

96
00:08:44.693 --> 00:08:53.258
现在我们已经知道先找再答，接下来看看，系统怎
样在不同说法之间寻找相关内容。

97
00:08:53.858 --> 00:09:02.644
整理书架时，你可能把家常菜谱和烘焙书放在同一
片区域，把城市旅行指南放到另一边。

98
00:09:02.644 --> 00:09:08.276
标题完全不同的两本书，可能因为主题相关而位置
接近。

99
00:09:08.276 --> 00:09:17.062
这有助于理解嵌入的直觉：内容可以得到某种特征
位置，系统据此比较它们的相似程度。

100
00:09:17.062 --> 00:09:26.073
比如你问怎么报销车费，文件标题却写交通费用报
销规则，只按完全相同的字词查找，可能

101
00:09:26.073 --> 00:09:27.650
漏掉这份资料；

102
00:09:27.650 --> 00:09:30.804
比较内容特征，就可能找到它。

103
00:09:30.804 --> 00:09:35.310
我们再试两个说法，休假申请与请假的手续。

104
00:09:35.310 --> 00:09:38.914
虽然字面不同，表达的需求有联系。

105
00:09:38.914 --> 00:09:45.447
但如果旁边还有销假手续，主题也很接近，具体办
事方向却不同。

106
00:09:45.447 --> 00:09:50.403
所以接近只是候选线索，不能直接当成适用结论。

107
00:09:50.403 --> 00:09:59.414
小练习是想一想，申请休假和取消休假，是否应该
因为都有休假两个字，就给出同一套步骤

108
00:09:59.414 --> 00:09:59.640
？

109
00:09:59.640 --> 00:10:03.695
答案是不能，需要继续确认动作和条件。

110
00:10:03.695 --> 00:10:12.706
书架的比喻帮我们理解相关内容可以靠近，但真正
的数值表示不是把所有知识摆在一张现实

111
00:10:12.706 --> 00:10:13.607
书架上。

112
00:10:13.607 --> 00:10:17.211
下一页我们再把向量和嵌入分清楚。

113
00:10:17.811 --> 00:10:21.003
向量可以简单理解为一组数字。

114
00:10:21.003 --> 00:10:29.667
嵌入则是把文字或其他信息转换成数值向量的表示
方法，常用来比较内容的相似程度。

115
00:10:29.667 --> 00:10:38.787
系统可以把问题和文档片段分别转换成向量，再计
算它们在这种表示下的接近程度，帮助挑

116
00:10:38.787 --> 00:10:40.155
出候选资料。

117
00:10:40.155 --> 00:10:49.275
我们不需要手算这些数字，但要知道，特征地图通
常有很多维度，并不是一张真实的二维地

118
00:10:49.275 --> 00:10:49.731
图。

119
00:10:49.731 --> 00:10:53.151
更要记住，相似度不是事实评分。

120
00:10:53.151 --> 00:11:00.902
某政策允许报销与某政策不允许报销，谈论的主题
可能很接近，结论却相反；

121
00:11:00.902 --> 00:11:08.426
两份不同年份的制度，也可能高度相似，却只有其
中一份对当前情境有效。

122
00:11:08.426 --> 00:11:13.898
不能因为排在最前面，就认定它最新、真实或者适
用。

123
00:11:13.898 --> 00:11:20.054
嵌入帮助找材料，日期、适用范围和明确条款还要
另外检查。

124
00:11:20.054 --> 00:11:27.122
再做个小判断：搜到一段和问题非常相似的文字，
能否省掉来源核对？

125
00:11:27.122 --> 00:11:32.594
不能，它可能是旧版本，也可能是在描述另一类人
员。

126
00:11:32.594 --> 00:11:41.713
我们把流程再接起来：知识库准备材料，检索借助
相似性等线索找候选，模型结合材料组织

127
00:11:41.713 --> 00:11:45.361
答案，最后检查证据是否支持结论。

128
00:11:45.361 --> 00:11:51.289
下面用制度更新的问题，检验一下这条链有没有真
正理解。

129
00:11:51.889 --> 00:12:00.278
现在的问题是，报销制度更新了，想让AI根据新
制度回答，应该先检查哪些环节？

130
00:12:00.278 --> 00:12:06.627
可以先想一个最容易遗漏的地方，再把答案连成一
条完整过程。

131
00:12:06.627 --> 00:12:15.696
参考答案是，先检查知识库是否包含有效的新制度
，旧版本是否被正确处理，文件日期和适

132
00:12:15.696 --> 00:12:17.510
用范围是否明确；

133
00:12:17.510 --> 00:12:21.818
再检查检索有没有真正找到相关的新条款；

134
00:12:21.818 --> 00:12:28.167
最后检查回答是否忠实保留条款的条件，引用能不
能支持结论。

135
00:12:28.167 --> 00:12:32.928
同时要确认提问者只能检索到有权查看的资料。

136
00:12:32.928 --> 00:12:38.823
举个例子，新制度要求事先审批，答案仍说可以直
接报销。

137
00:12:38.823 --> 00:12:42.678
若引用来自旧版，重点查资料和检索；

138
00:12:42.678 --> 00:12:49.480
若引用已经是新版，却漏了事先审批，就要查回答
怎样使用了证据。

139
00:12:49.480 --> 00:12:56.509
不能只对系统重复说一次，请使用最新规定，就认
为整个问题解决了。

140
00:12:56.509 --> 00:13:04.898
还有一个常见混淆，把新文件提供给检索系统，与
通过微调改变模型，是不同方法；

141
00:13:04.898 --> 00:13:08.979
制度更新并不意味着必须重新训练模型。

142
00:13:08.979 --> 00:13:18.049
如果你能沿着资料、检索、回答三个环节逐个说明
，并补上权限检查，就已经抓住了本课要

143
00:13:18.049 --> 00:13:18.502
点。

144
00:13:26.502 --> 00:13:30.904
这一课，我们用三个场景理解AI查资料。

145
00:13:30.904 --> 00:13:38.317
资料柜对应知识库，重点是可靠来源、清楚版本、
持续更新和访问权限。

146
00:13:38.317 --> 00:13:44.572
开卷考试对应RAG，先找相关内容，再结合内容
生成回答。

147
00:13:44.572 --> 00:13:52.449
书架分类帮助理解嵌入，把信息表示成数值向量，
用相似程度提供检索线索。

148
00:13:52.449 --> 00:14:00.557
请特别留下最后一句：资料过期、检索错位和生成
错误，都可能让答案出问题。

149
00:14:00.557 --> 00:14:05.885
相似不代表真实，引用也不等于结论已经得到证实
。

150
00:14:05.885 --> 00:14:15.152
今天可以做一个小实验，用一份公开办事指南，分
别询问一个里面明确写了的问题，和一个

151
00:14:15.152 --> 00:14:16.774
没有写的问题。

152
00:14:16.774 --> 00:14:21.407
让AI标出相关段落，再自己打开原文检查。

153
00:14:21.407 --> 00:14:29.978
对于没有依据的提问，看看它能否承认没有找到，
而不是补出听起来像规定的内容。

154
00:14:29.978 --> 00:14:36.928
这个练习不需要很大的知识库，只需要认真比较问
题、证据和回答。

155
00:14:36.928 --> 00:14:46.195
以后遇到有来源的AI答案，你就可以从容地问，
来源是否有效，检索是否相关，解释是否

156
00:14:46.195 --> 00:14:48.512
忠实，访问是否授权。

157
00:14:48.512 --> 00:14:57.778
下一课，我们把回答扩展到行动，认识智能体与工
具，继续看看AI怎样从整理信息，走向

158
00:14:57.778 --> 00:14:59.400
执行具体任务。