提问人:Teddy K 提问时间:6/5/2023 更新时间:6/5/2023 访问量:47
线性激活感知器网络可以模拟非线性函数吗?
Can a network of linear activation perceptrons model non-linear functions?
问:
我对线性激活感知器网络是否可以模拟非线性函数感到困惑。
根据我正在读的书(Mitchell),每个布尔函数都可以由一些基于感知器的互连单元网络来表示。这意味着非线性的异或可以用它来表示。
然而,在本书的后面,作者指出“多层级联线性单元仍然只产生线性函数”,并以此为动力引入 Sigmoid 激活函数。
这是怎么回事?
我想知道问题是否在于如何定义隐藏层。我的理解是,如果第一个感知器的输出是 ∑wi*习 + b,然后是第二个感知器的输入,那么得到的输出仍然是线性的,因为线性变换的线性变换仍然是线性的。但是基于阈值,感知器的输出是 0/1。
我在网络上找到了一个使用线性激活网络对异或进行建模的例子。
这个问题以前被问过,但是,答案并不彻底或具体。
答:
0赞
Kevin Spaghetti
6/5/2023
#1
我认为他在书中的意思是,具有非线性激活函数的感知器网络可以求解异或。
否则,你可以将网络中的所有线性运算折叠在一个矩阵中,你将拥有一个能够解决异或问题的感知器。
评论
0赞
Teddy K
6/5/2023
我不是在问/建议没有激活函数的单层感知器可以表示 XOR 函数。相反,我引用了我正在阅读的书的作者的话,即“每个布尔函数都可以由一些基于感知器的互连单元网络来表示”。我提供了一个链接,指向通过感知器网络构建 XOR 的位置。
0赞
Kevin Spaghetti
6/5/2023
因此,如果我理解正确,您对网络能够表示线性函数但其输出为 0/1 感到困惑?
0赞
Teddy K
6/5/2023
不。我对书中相互矛盾的论点感到困惑。一方面,作者说可以构建一个感知器网络来正确地模拟异或。匪夷所思。但异或是非线性的。如果它是非线性的,那么感知器网络可以用来构建非线性的东西。好吧,这与他后面所说的背道而驰,即一堆线性单元只输出一个线性单元。
评论