人工智能知识点总结

人工智能知识点总结题型第1章 绪论复习要点: 人工智能的定义、图灵测试、三大流派及其主要思想、AI学科诞生等第2章 知识表示及确定性推理复习要点:命题符号化、命题公式的计算及分类、命题公式的关系,谓词逻辑,传统推理的理论基础、三大组成部分、推理树第3章 不确定性推理复习要点:可信度及其取值含义、不确定性的传递算法及合成、带加权因子的可信度推理第4章 模糊推理复习要点:模糊集合的表示及其各种运算,贴近度,简单模糊推理的计算第5章 非单调推理复习要点:缺省理论及其分类、表示形式,TMS系统原理第6章 主观Bayes推理复习要点:LS和LN的讨论、证据确定时的推理计算、证据不确定时的推理计算第7章 机器学习复习要点:机器学习模型、决策树学习的计算(熵、最佳属性、决策树画图)、ID3算法,概念学习的相关计算(实例空间和假设空间的计算、偏序关系、FIND-S算法、树的绘制)第8章 遗传算法复习要点:遗传算法及其涉及的基本概念,了解算法步骤第9章 神经网络复习要点: 人工神经网络定义及分类、生物神经元组成部分、多层神经网络、二输入的感知器设计、三输入的感知器判断、BP网络及其学习算法、Hopfield网络分类、卷积神经网络、深度学习的模型分类、GAN对抗训练机制及其问题等

题型

 

第1章 绪论

复习要点: 人工智能的定义、图灵测试、三大流派及其主要思想、AI学科诞生等

 

  1. 人工智能的定义

    用人工的方法在机器(计算机)上实现的智能;或者说是人们使机器具有类似于人的智能。

    • 强人工智能:机器真正具有人的感知、思维和意识

    • 弱人工智能:机器只能部分模仿和实现人的智能

  2. 图灵测试:

    1950年图灵发表的《计算机与智能》中设计了一个测试,用以说明人工智能的概念。

    • 采用“问”与“答”模式,即观察者通过控制打字机向两个测试对象通话

    • 其中一个是人,另一个是机器。要求观察者不断提出各种问题,从而辨别观察者是人还是机器

       

  3. 三大流派及其主要思想:

    1. 符号主义(逻辑主义,心理学派,计算机学派)

      • 功能模拟、符号推演

        • 人类认知的基本元素是符号,认知的过程就是符号处理的过程。

        • 是人工智能研究中最早使用也是现在还在使用的主要方法。这种方法一般是利用显式的知识和逻辑推理来解决问题的。

    2. 连接主义(仿生学派,生理学派)

      • 结构模拟、神经计算

        • 结构模拟就是模拟人脑的生理结构和工作机理,实现计算机的智能。

        • 人脑是一个动态的、开放的、高度复杂的庞大信息系统。一时还不能对它做到真正和完全模拟,只是对它的局部或近似模拟。

      • 结构模拟法是基于人脑的生理模型,采用数值计算的方法,从微观上模拟人脑,实现机器智能

        • 使用人工神经网络作为信息和知识的载体

        • 神经计算的方法实现学习、联想、识别和推理等功能

        • 从而来模拟人脑的智能行为,使计算机表现出某种智能

    3. 行为主义(进化主义)

      • 行为模拟、控制进化

        • 行为模拟法基于感知-行为模型,模拟人在控制过程中的智能活动和行为特性,如自寻优、自适应、自学习、自组织等来研究和实现人工智能。

      • 行为主义强调智能系统与环境的交互,认为智能取决于感知和行动,人的智能、机器智能可以逐步进化,但只能在现实世界中与周围环境的交互中体现出来。

      • 智能只能放在环境中才是真正的智能,智能的高低主要表现在对环境的适应性上。

  4. 人工智能的历史回顾

    1. 神经元网络时代

    2. 通用方法时代

    3. 知识工程时代

    4. 神经网络时代

    5. 数据与网络时代

第2章 知识表示及确定性推理

复习要点:命题符号化、命题公式的计算及分类、命题公式的关系,谓词逻辑,传统推理的理论基础、三大组成部分、推理树

  1. 命题符号化 将(复合)命题用命题标识符和联结词等符号表示

  2. 命题公式的计算及分类:

    1. 命题公式:由有限个命题常量,命题变量,联结词,括号等组成的字符串。精确定义如下:

      1. 0,1是命题公式

      2. 如果A,B是命题公式,那么¬A,AB,AB,AB,AB都是命题公式

      3. C为命题公式当且仅当C为有限次使用(1)和(2)所产生的字符串

    2. 重言式、矛盾式、可满足式

      • 重言式(永真式):命题公式A(a1,a2,...,an)在任何一组真值指派下的真值都为1

      • 矛盾式(永假式):命题公式A(a1,a2,...,an)在任何一组真值指派下的真值都为0

      • 可满足式:命题公式A(a1,a2,...,an)在至少一组真值指派下的真值都为1

  3. 命题公式的关系

    • 等价 AB : 即AB是重言式

    • 蕴含 AB:即AB是重言式

  4. 谓词逻辑 谓词逻辑表示法

    e.g. Friends(ZhangSan,x)

    • 优点:

      • 自然性

      • 准确性

      • 严密性

      • 容易实现

    • 缺点

      • 不能表示不确定的知识

      • 组合爆炸

      • 效率低

    • 应用

      • 自动问答系统

      • 机器人行动规划系统

      • 机器博弈系统

      • 问题求解系统

  5. 传统推理的理论基础

    • 推理是从已知事实(证据)出发,运用相关知识(或规则),逐步推导出结论的思维过程。

    • 基于传统逻辑的推理:

      • 原始证据是确定

      • 推理规则是确定

      • 所以结论也是确定的,又称确定性推理

    • 人类简单推理的过程是基于传统的命题逻辑和谓词逻辑

      • 假言推理:

        ((AB)A)B

      • 假言三段论:

        ((AB)(BC))(AC)

      • 推理链式规则:

        P1(P1P2)(P2P3)(PnPn+1)Pn+1

  6. 三大组成部分:

    传统推理技术三大组成部分)

    • 知识库:包含一系列的规则

    • 综合数据库:包含已知的命题

    • 推理机:采用链式规则推理

  7. 推理树:

    • 任何一个推理过程都可用一棵推理树表示

    • 树节点分为:与节点或节点

      与节点:

       

      或节点:

       

    • 综合数据库

      • 原始证据

        • 对应于推理树的叶节点

        • 只能由用户提供

        • 不能推理得到

      • 中间结论

        • 对应于推理树的中间节点

      • 最后结论

        • 对应于推理树的根节点

 

以下复习要点没有,但感觉还是可以粗浅看一下

产生式表示法

e.g.

确定性规则: IFPTHENQ, PQ

不确定性规则: IFPTHENQ()PQ()

框架表示法

一种结构化的知识表示方法

e.g.

 

第3章 不确定性推理

复习要点:可信度及其取值含义、不确定性的传递算法及合成、带加权因子的可信度推理

 

  1. 可信度及其取值含义

    • 信任增长度 MB

      • MB(h,e):在证据e下对结论h信任度增加量

        MB(h,e)={1, P(h)=1max[P(h|e),P(h)]P(h)max[1,0]P(h), 

    • 不信任增长度 MD

      • MD(h,e):在证据e下对结论h不信任度增加量

        MD(h,e)={1, P(h)=0min[P(h|e),P(h)]P(h)min[1,0]P(h), 

    • MBMD的互斥性:

      • MB>0时,MD=0

      • MD>0时,MB=0

      • 结论:当证据e存在时,不可能同时提高结论h的可信度增加量和不可信度增加量

         

    • 可信度定义:CF(h,e)表示在证据e出现的前提下,结论h为真的概率变化程度

      CF(h,e)=MB(h,e)MD(h,e)

      CF(h,e)={1, P(h)=1MB(h,e), P(h|e)>P(h)0, P(h|e)=P(h)MD(h,e),P(h|e)<P(h)1,P(h)=0

      • CF(h,e)本身不是概率,可以为负数

  2. 不确定性的传递算法及合成

    • 可信度因子CF(E)

      • 表示证据的不确定程度

      • 取值范围[1,1];证据观察的结果为真或假的程度

      • E=E1ANDE2ANDANDEn

        CF(E)=min{CF(E1),CF(E2),,CF(En)}

      • E=E1ORE2OROREn

        CF(E)=max{CF(E1),CF(E2),,CF(En)}

    • 不确定性的传递算法

      • CF(H)=CF(H,E)×max{0,CF(E)}

    • 结论不确定性的合成算法

      • IFE1THENH(CF(H,E1))

      • IFE2THENH(CF(H,E2))

      • 利用每一条规则,分别计算

        • CF1(H)=CF(H,E1)×max{0,CF(E1)}

        • CF2(H)=CF(H,E2)×max{0,CF(E2)}

          Note

          此处不同于 IF(E1ORE2)THENH

        • 则两条规则下的结论可信度合成公式

          CF1,2(H)={CF1(H)+CF2(H)CF1(H)×CF2(H), CF1(H),CF2(H)0CF1(H)+CF2(H)+CF1(H)×CF2(H), CF1(H),CF2(H)<0CF1(H)+CF2(H)1min{|CF1(H)|,|CF2(H)|}, CF1(H)CF2(H)

  3. 带加权因子的可信度推理

    • IFE1(ω1)ANDE2(ω2)ANDEn(ωn)THENH(CF(H,E)),其中0ωi1,i=1,2,,ni=1nωi=1

E=E1(ω1)ANDE2(ω2)ANDEn(ωn)时,可信度计算公式为:

CF(E)=i=1nωi×CF(Ei)CF(E)=1i=1nωii=1nωi×CF(Ei)

第一条公式在已经归一化的条件的条件下成立

第4章 模糊推理

复习要点:模糊集合的表示及其各种运算,贴近度,简单模糊推理的计算

 

  1. 模糊集合的表示及其各种运算

    • UA(x):U[0,1]UAA(x)AxA

    • 当映射A(x)只取0或1时,模糊子集A就是经典子集

    • 模糊集合的表示:

      • 形式一

        A=μ1x1+μ2x2++μnxn

      • 形式二

        A=uUμA(u)u

        1. 一个有限论域上可以对应无限个模糊子集,而经典子集是有限的

        2. 一个模糊子集的隶属函数的确定方法是主观

    • 模糊集合运算:

      • 相等:设有两个模糊集合ABA=B当且仅当它们的隶属函数在论域U上恒等,即

        xU,μA(x)=μB(x)

      • 包含:A包含于B当且仅当对于论域U

        xU,μA(x)μB(x)

      • xU,(AB)(x)=max{μA(x),μB(x)}

      • xU,(AB)(x)=min{μA(x),μB(x)}

      • 补集

        xU,¬A(x)=1A(x)

      • A×B=U×V(μA(ui)μB(vj))(ui,vj)

        • 其中AB分别是论域UV​上的模糊集合

    答案

     

     

    • 模糊关系

      • UV是论域,从UV上的模糊关系R是指U×V上的一个模糊集合,由隶属函数μR(x,y)表示(x,y)之间的关系

      • 当论域UV是有限集时,模糊关系R常采用矩阵来表示,此时它又称为模糊关系矩阵

      • 模糊关系矩阵的乘法(合成)

        • RU×V上的模糊关系矩阵,SV×W上的模糊关系矩阵

        • U×V上的模糊关系矩阵T=RS:

          • Rm×n阶矩阵,Sn×k阶矩阵,则Tm×k 阶矩阵,且运算公式为:

            Tij=k=1(rikskj),其中分别代表取极大和极小值运算;k=1代表连续取极大值

      • 贴近度

        AB分别是论域U={u1,u2,,un}上的模糊集合,它们的贴近度定义为:

        (A,B)=12[AB+(1AB)],其中:AB=U(μA(ui)μB(ui))AB=U(μA(ui)μB(ui))

        表示取极小,表示取极大

        Caution

        注意:ABAB的区别

        例: 设论域U={a,b,c,d,e}U上定义的模糊集

        A=0.6a+0.8b+1c+0.8d+0.6eB=0.4a+0.6b+0.8c+1d+0.8e

        求贴近度(A,B)?

        解:AB=(0.60.4)(0.80.6)(10.8)(0.81)(0.60.8)=0.40.60.80.80.6=0.8

        AB=(0.60.4)(0.80.6)(10.8)(0.81)(0.60.8)=0.60.8110.8=0.6

        (A,B)=12[0.8+(10.6)]=0.6

         

        • 模糊推理及模糊决策的计算

          • 简单模糊推理

            • 规则的前提E是单一条件

            • 结论R不含CF

          • 知识表示形式

            • IFxisATHENyisB(λ)

          • 推理方法及步骤

            • 首先计算AB之间的模糊关系R

            • 通过R与前提的合成求出结论

              • 如果已知证据是 xisA(A,A)λ,则有结论 yisB,其中 B=AR

              • 计算R

                1. 极大极小原则计算Rm

                2. 算数原则计算Ra

                A=UμA(u)u,B=VμA(v)v,则

                • Rm=(A×B)(¬A×V)=U×V(μA(u)μB(v))(1μA(u))/(u,v)

                  Rm(i,j)=(μA(ui)μB(vj))(1μA(ui))

                • Ra=(¬A×V)(U×B)=U×V1(1μA(u)+μB(v))/(u,v)

                  Ra(i,j)=1(1μA(ui)+μB(vj))

                  其中AB=min{1,μA(u)+μB(v)}

              • 对于模糊假言推理,已知证据为xisA(A,A)>λ,则可由RmRa计算得到BmBa

                Bm=ARm=A[(A×B)(¬A×V)]

                Ba=ARa=A[(¬A×V)(U×B)]

            e.g.

            U=V={1,2,3,4,5}, A=1/1+0.5/2B=0.4/3+0.6/4+1/5

            模糊规则为 IFxisATHENyisB(λ)

            证据为 xisA, A=1/1+0.4/2+0.2/3

            且有(A,A)>λ, 求Bm, Ba

        解答

        • 模糊决策

          1. 最大隶属度法

          2. 加权平均判决法

            U=i=1nμ(ui)uii=1nμ(ui)

          3. 中位数法

第5章 非单调推理

复习要点:缺省理论及其分类、表示形式,TMS系统原理

 

  1. 缺省理论及其分类、表示形式

    • 规范缺省

      • 默认条件与结论相同,由先决条件可以直接推理出结论

      • 形式:A(x):MB(x)B(x)

    • 半规范缺省

      • 默认条件:B(x)=C(x)¬D(x)

      • 规则形式:A(x):M(C(x)¬D(x))C(x)

      • 含义:除D(x)外,由先决条件A(x)的成立,可以推导出结论C(x)的成立

    • 不规范缺省

  2. 正确性维持系统(Truth Maintenance System,TMS)的原理

    • TMS在程序所产生的各个命题中,保持命题间的相容性

      • 一旦发现命题出现不相容(矛盾),TMS就调用推理机制,回溯找到不相容的根源

      • 修正由这一根源以前推理得到的所有命题,从而消除不相容,维持系统的正确性

    • 在TMS中,每个命题或规则称为节点

      • 节点的状态包括:

        • IN: 该命题被认为是真

        • OUT: 该命题不被认为是真

      • 每个节点可以带有一个证实表(也可没有),证实表包括两种形式

        • 支持表

          • (SL(IN)(OUT))

          • 只有当“IN节点表”中所有节点的当前状态为IN, 且“OUT节点表”中所有节点的当前状态为OUT,它所证实的节点是IN状态,有效

          • IN表和OUT表均为空的节点为原始证据节点,所证实的节点是IN

        • 条件证明

          • (CP()(IN)(OUT))

          • 只有当“IN假设”中所有节点的当前状态为IN, 且“OUT假设”中所有节点的当前状态为OUT结论节点为IN状态,这时条件证实有效

    • 当推理程序得到了新证据,而且这个新证据与某个节点发生矛盾时,程序就会自动产生一个矛盾节点:矛盾 SL(()()), 且状态置为IN, 然后调用TMS

 

第6章 主观Bayes推理

复习要点:LS和LN的讨论、证据确定时的推理计算、证据不确定时的推理计算

 

  1. 产生式规则

    IFETHEN(LS,LN)R(P(R))

    • 其中

      • LS:充分性量度

        • LS=P(E|R)P(E|¬R)

      • LN:必要性量度

        • LN=1P(E|R)1P(E|¬R)

      • P(R)R​的先验概率

      P(R|E)=LSP(R)(LS1)P(R)+1P(R|¬E)=LNP(R)(LN1)P(R)+1

    假设S是对E的观察

    P(R|S)=P(R|E)×P(E|S)+P(R|¬E)×P(¬E|S)

    P(R|S)={P(R|¬E)+(P(R)P(R|¬E)×(15C(E|S)+1)),C(E|S)0P(R)+(P(R|E)P(R))×15C(E|S),C(E|S)>0

    O(R|S1,S2,,Sn)=O(R|S1)O(R)×O(R|S2)O(R)××O(R|Sn)O(R)×O(R)

    e.g.

    解答

     

  2. 基本算法

    • 证据E有3种情形

      1. 肯定存在,即P(E)=1

      2. 肯定不存在,即P(E)=0

      3. 不确定,0<P(E)<1

       

第7章 机器学习

复习要点:机器学习模型、决策树学习的计算(熵、最佳属性、决策树画图)、ID3算法,概念学习的相关计算(实例空间和假设空间的计算、偏序关系、FIND-S算法、树的绘制)

 

决策树绘画:

解答

 

ID3算法通过自顶向下构造决策树进行学习

 

 

熵的计算:

Entropy(S)=i=1n(pilog2pi)

EA(S)=VValues(A)|SV||S|Entropy(SV)

Gain(S,A)=Entropy(S)EA(S)

 

e.g.

题目跟决策树一样

 

FIND-S算法:

FIND-S

 

搜索空间:

实例空间: X=i=1nmi

假设空间: H=1+j=1n(mij+1)

 

第8章 遗传算法

复习要点:遗传算法及其涉及的基本概念,了解算法步骤

 

 

第9章 神经网络

复习要点: 人工神经网络定义及分类、生物神经元组成部分、多层神经网络、二输入的感知器设计、三输入的感知器判断、BP网络及其学习算法、Hopfield网络分类、卷积神经网络、深度学习的模型分类、GAN对抗训练机制及其问题等